Nogmaals hallo, en welkom terug bij Snel bedrijf‘S Aangesloten.
Een blogpost op 9 februari over AIgerechtigd “Er gebeurt iets groots”, schoot deze week over het internet op een manier die me deed denken aan de gouden eeuw van de blogosfeer. Allemaal samen leek erover te praten – ook al werd het, zoals toen vaak het geval was, gevoed door een krachtige cocktail van aanbidding en spot. De reacties varieerden van ‘Stuur dit naar iedereen waar je om geeft’ tot ‘Ik koop het helemaal niet’.
De auteur, Matt Shumer (die zijn bericht X de volgende dag deelde), is de CEO van een startup genaamd OthersideAI. Hij legde uit dat hij het had gericht aan “mijn familie, mijn vrienden, de mensen om wie ik geef, die me blijven vragen: ‘Wat is er aan de hand met AI?’ en een antwoord krijgen dat geen recht doet aan wat er feitelijk gebeurt.”
Volgens Shumer is de deal met AI dat de nieuwste modellen – met name OpenAI’s GPT-5.3 Codex en Anthropic’s Claude Opus 4.6 – radicale verbeteringen zijn van alles wat eraan voorafging. En dat AI plotseling zo bekwaam is in het schrijven van code dat de hele software-engineering een nieuw tijdperk is binnengegaan. En dat AI binnenkort beter zal zijn dan mensen in het kernwerk in een aantal andere beroepen: “Rechten, financiën, geneeskunde, boekhouding, advies, schrijven, ontwerp, analyse, klantenservice.”
Aan het einde van de post, met een ademhaling die me eraan herinnerde De Y2K-fouten van 1999Shumer adviseert lezers om spaargeld op te bouwen, schulden te minimaliseren en hun kinderen misschien aan te moedigen om AI-tovenaars te worden in plaats van zich te concentreren op de universiteit in de verwachting dat dit tot een solide carrière zal leiden. Hij suggereert dat iedereen die de komende zes maanden de AI niet voorloopt, op weg kan zijn naar irrelevantie.
Het stuk – zoals Shumer verteld New York’s Benjamin Hart, schreef hij met ruime hulp van AI – is niet zonder punten. Sommige mensen die op dit moment blasé zijn over AI zullen de komende jaren zeker verrast zijn door de impact ervan op werk en leven. Daarom ondersteun ik van harte de aanbeveling van Shumer dat iedereen de technologie beter leert kennen door er een uur per dag aan te sleutelen. Veel slimme mensen in Silicon Valley delen het ontzag van Shumer voor de recente enorme sprongen voorwaarts op het gebied van codeermogelijkheden van AI. schreef over afgelopen week. Je afvragen wat er zal gebeuren als het op andere gebieden wordt herhaald, is een volkomen redelijke mentale oefening.
Uiteindelijk zou Shumer echter een veel betere zaak hebben gehad als hij 70% minder over de top was geweest. (Ik moet opmerken dat de laatste keer dat hij in het nieuws was, het was omdat hij beweringen deed over de benchmarkprestaties van een AI-model waarbij hij betrokken was. bleek niet waar te zijn.) Zijn bericht lijdt aan een tekortkoming die veel voorkomt in het gesprek over AI: het is zo verbaasd over de technologie dat het weigert de ernstige beperkingen te erkennen die het nog steeds heeft.
Shumer suggereert bijvoorbeeld dat hallucinatie – AI die reeksen woorden aan elkaar rijgt die feitelijk klinken maar dat niet zijn – een opgelost probleem is. Hij schrijft dat ChatGPT een paar jaar geleden “zeker dingen zei die onzin waren” en dat “in het tijdperk van AI dat oude geschiedenis is.”
Het is waar dat de nieuwste modellen niet hallucineren met zoiets als het verlaten van hun voorgangers. Maar ze verzinnen nog steeds dingen. En in tegenstelling tot eerdere modellen klinken hun hallucinaties eerder plausibel dan ronduit belachelijk, wat een stap in de verkeerde richting is.
Op dezelfde dag dat ik het stuk van Shumer las, praatte ik met Claude Opus 4.6 over cartoons in kranten – een onderwerp dat ik vaak gebruik om AI te beoordelen omdat ik er genoeg van weet om de antwoorden meteen te kunnen beoordelen – en het was vreselijk over het verbinden van cartoonisten met de strips waaraan ze daadwerkelijk hebben gewerkt. Hoe meer we praatten, hoe minder accuraat het werd. Het blonk in ieder geval uit in het onderkennen van de tekortkomingen: toen ik er één opmerkte, zei het tegen mij: “Dus eigenlijk had ik fragmenten van echte informatie door elkaar gemengd en gepresenteerd met vals vertrouwen. Niet geweldig.”
Nadat hij nog een van mijn stripgerelateerde vragen had afgewezen, zei Claude: “Ik begeef me hier eigenlijk op een wankel terrein en haal wat details door elkaar”, en vroeg me om te helpen het in de goede richting te sturen. Het is een intrigerende glimp van zelfbewustzijn over iemands eigen neiging tot fantaseren en een soort vooruitgang. Maar totdat AI stopt met confabuleren, is het dwaas om het te omschrijven als ‘slimmer dan de meeste PhD’s’, zoals Shumer doet. (Dat geloof ik nog steeds menselijke capaciteit is geen goede maatstaf voor kunstmatige intelligentiedie in sommige dingen al beter zijn dan wij en in andere misschien wel permanent achterblijven.)
Shumer loopt ook voorop in zijn veronderstellingen over waar AI zich op de korte termijn zou kunnen bevinden als het gaat om het competent kunnen vervangen van menselijk denken en werken. Schrijvend over de soorten complexe taken die hij aanbeveelt om AI als experiment te gebruiken, zegt hij: “Als dat al zo is vriendelijk vandaag de dag werkt, kun je er vrijwel zeker van zijn dat het over zes maanden vrijwel perfect zal zijn.” Dat lijkt buitengewoon onwaarschijnlijk, aangezien alle vormen van generatieve AI vastzitten in “vriendelijk-of-works”-tijdperk al jaren. Een goede vuistregel: geloof niet dat AI iets goeds zal kunnen doen totdat het dat ook daadwerkelijk doet.
Uiteindelijk is de conclusie uit de post van Shumer die ik me het meest zal herinneren niets wat hij heeft geschreven. In de geest van AI-experimenten gaf ik zijn post aan ChatGPT, Gemini en Claude met de prompt “Geef me een analyse/kritiek op dit essay. Vertel me of het overdreven voorzichtig is, niet voorzichtig genoeg, wat je eigen standpunt is over de besproken onderwerpen, enz.” Ik was erop voorbereid dat ze allemaal zouden reageren met iets lichts maar oppervlakkigs, meer een korte samenvatting dan iets anders. ChatGPT en Gemini maakten deze verwachtingen waar.
Maar Claude’s draai aan het onderwerp – zoals het binnen enkele seconden verscheen, en dat kan lees hier volledig– ik schrok ervan. Het was een probleem met een aantal van dezelfde dingen in het stuk dat me stoorde, maar ook andere zwakke punten naar voren bracht waar ik nog niet aan had gedacht. Ik voelde me slimmer nadat ik het had gelezen, wat nog steeds niet is wat ik van AI-proza verwacht.
Een paar nuggets:
Codering is een bijzonder gunstig domein voor kunstmatige intelligentie: de resultaten zijn verifieerbaar, de feedbackloops zijn nauw, de trainingsgegevens zijn overvloedig aanwezig en de omgeving is volledig digitaal. Recht, geneeskunde en management brengen ambiguïteit, institutionele context, menselijke relaties, verantwoordelijkheid op het gebied van de regelgeving en tegenstrijdige dynamieken met zich mee die kwalitatief verschillend zijn. Hij herkent deze kaart en zwaait hem vervolgens weg.
….
Ja, veel mensen hebben GPT-3.5 geprobeerd en het hele veld afgeschreven. Het is een echt probleem. Maar veel serieuze, huidige gebruikers – waaronder mensen die voor de beste modellen betalen – worden nog steeds geconfronteerd met aanzienlijke beperkingen: hallucinaties (verminderd maar niet geëlimineerd), broosheid bij het aangaan van nieuwe problemen, het onvermogen om een samenhangende context over hele lange projecten te behouden, een slechte afstemming van de eigen onzekerheid, en moeite met taken die verankering in de echte wereld vereisen. Shumer beschouwt alle scepticisme als achterhaald, wat intellectueel oneerlijk is.
….
Ook houdt hij zich niet serieus bezig met de mogelijkheid dat de economische prikkels niet zo soepel zullen verlopen als “AI het werk kan doen, en daarom zal het werk verdwijnen.” Adoptiewrijving is reëel. Aansprakelijkheidsproblemen zijn reëel. Organisatorische inertie is reëel. De geschiedenis van de technologie suggereert dat zelfs transformatieve instrumenten er veel langer over doen om industrieën te herstructureren dan de tijdlijn van pure capaciteiten doet vermoeden. Het kostte elektriciteit tientallen jaren om de productie opnieuw vorm te geven, ook al was elektriciteit duidelijk superieur aan stoom.
…
Ik denk dat het onderliggende signaal waar Shumer op wijst reëel is. De mogelijkheden van AI verbeteren sneller dan de meeste mensen buiten de sector zich realiseren, en de kloof tussen de publieke perceptie en de huidige realiteit is erg groot. Hij heeft gelijk als hij zegt dat de meeste mensen deze hulpmiddelen serieuzer zouden moeten gebruiken dan ze al doen.
Maar ik denk dat het essay iets doet wat heel gebruikelijk is in Silicon Valley: het verkeerd doen potentieel laan voor onvermijdelijk traject en compressie van tijdlijnen op basis van vibraties en extrapolatie in plaats van serieus te worstelen met de vele fricties in de echte wereld die de adoptie vertragen. Het stuk klinkt alsof het is geschreven in de onmiddellijke emotionele kiel van de indruk van een nieuwe modelrelease – en die momenten hebben de neiging om overmoed over het tempo te creëren.
Om samen te vatten: op dezelfde dag dat ik Claude Opus 4.6 iets zag schrijven over het stuk van Shumer dat niet alleen coherent maar ook inzichtelijk was, veranderde het ook in een hallucinogene aanval. Dat is hoe AI tegenwoordig is: geweldig en verschrikkelijk tegelijk. Op de een of andere manier is die realiteit voor veel waarnemers moeilijk te accepteren. Maar elke analyse die dit negeert, riskeert een verkeerde inschatting te maken van wat er daarna komt.
Je hebt gelezen Verbonden, snel bedrijf’s wekelijkse technische nieuwsbrief van mij, mondiaal technologieredacteur Harry McCracken. Als een vriend of collega dit probleem naar u heeft doorgestuurd, of als u het leest op fastcompany.com, kunt u dat doen bekijk eerdere uitgaven en meld u aan om het zelf te krijgen elke vrijdagochtend. Ik hoor graag van je: Ping me hmccracken@fastcompany.com met uw feedback en ideeën voor toekomstige nieuwsbrieven. Ik doe ook mee Blauwe lucht, MastodontEn Draaden dat kan volgen Aangesloten op flipboard.
Meer toptechverhalen van Fast Company
Ontwikkelaars wegen nog steeds de voor- en nadelen van AI-coderingstools af
De tools blijven moeite hebben met het rekening houden met grote hoeveelheden context in complexe projecten. Lees meer →
AI-expert voorspelde dat AI in 2027 een einde zal maken aan de mensheid – nu verandert hij zijn tijdlijn
De voormalige OpenAI-medewerker heeft het einde van de wereld verplaatst. Lees meer →
Discord vraagt om je identiteitsbewijs. De reactie gaat over meer dan alleen privacy
Critici zeggen dat verplichte leeftijdsverificatie een diepere verschuiving weerspiegelt in de richting van routinematige identiteitscontroles en digitale surveillance. Lees meer →
Een medeoprichter van Palantir steunt een groep die Alex Bores aanvalt vanwege zijn werk met . . . Palantir
Huidige en voormalige medewerkers vertellen Fast Company dat de advertentiecampagne wordt gevoed door verzet tegen de steun van de Democratische hoopvolle partij voor AI-regulering. Lees meer →
De nieuwe profielanimatiefunctie van Facebook is Boomerang voor het AI-tijdperk
De functie maakt deel uit van een bredere drang naar AI-inhoud in meta-apps. Lees meer →
Het zakenimperium van MrBeast reikt veel verder dan virale YouTube-video’s
Bankapps, snacks, streaminghits en datatools maken allemaal deel uit van Jimmy Donaldsons groeiende portefeuille van $ 5 miljard onder Beast Industries. Lees meer →
