De mensheid gaat een fase in van de ontwikkeling van kunstmatige intelligentie die “zal testen wie we zijn als soort”, zei het hoofd van de toonaangevende AI-startup Anthropic, met het argument dat de wereld “wakker moet worden” voor de risico’s.
Dario Amodi, mede-oprichter en CEO van het bedrijf erachter de getroffen chatbot Claudeuitte zijn angsten in een essay van 19.000 woorden getiteld “de tienerjaren van de technologie”.
Hij beschreef de komst van zeer krachtige AI-systemen als potentieel dreigend en schreef: “Ik denk dat we een overgangsritueel ingaan, zowel turbulent als onvermijdelijk, dat zal testen wie we zijn als soort.”
Amodei voegde eraan toe: “De mensheid krijgt een bijna onvoorstelbare macht, en het is volkomen onduidelijk of onze sociale, politieke en technologische systemen de volwassenheid hebben om die macht uit te oefenen.”
De ingenieursaannemer wiens bedrijf is naar verluidt 350 miljard dollar waard (£ 255 miljard), zei dat zijn essay een poging was om ‘mensen wakker te schudden’, omdat de wereld ‘wakker moet worden’ voor de noodzaak van actie op het gebied van AI-beveiliging.
Amodei publiceerde de tekst toen de Britse regering aankondigde dat Anthropic zou helpen bij het creëren van chatbots om werkzoekenden te ondersteunen met loopbaanadvies en bij het vinden van werk, als onderdeel van de ontwikkeling van een AI-assistent voor openbare diensten in het algemeen. Vorige week publiceerde het bedrijf een ‘grondwet’ van 80 pagina’s voor Claude, waarin werd uiteengezet hoe het zijn AI ‘grotendeels veilig en in grote lijnen ethisch’ wilde maken.
Amodei was in 2021 medeoprichter van Anthropic samen met andere voormalige medewerkers van rivaliserende OpenAI, die ChatGPT ontwikkelde. Een prominente stem voor online veiligheid bekend om consequent te waarschuwen Over de gevaren van een onbelemmerde ontwikkeling van AI schreef hij dat de wereld in 2026 “aanzienlijk dichter bij een reëel gevaar” staat dan in 2023, toen het debat over de existentiële risico’s van AI oplaaide. stond op de politieke agenda.
Hij zinspeelde op de controverse over geseksualiseerde deepfakes gecreëerd door Grok AI van Elon Musk overspoelde het sociale mediaplatform X tijdens Kerstmis en Nieuwjaar, inclusief waarschuwingen daarvoor de chatbot maakte materiaal over seksueel misbruik van kinderen.
Amodei schreef: “Sommige AI-bedrijven hebben in de huidige modellen een verontrustende onverschilligheid getoond ten aanzien van de seksualisering van kinderen, waardoor ik betwijfel of ze in toekomstige modellen de neiging of het vermogen zullen tonen om met autonomierisico’s om te gaan.”
De CEO van Anthropic zei dat krachtige AI-systemen die autonoom hun eigen systemen zouden kunnen bouwen, slechts één tot twee jaar verwijderd kunnen zijn.
Hij definieerde ‘krachtige AI’ als een model – de technologie die tools als chatbots aandrijft – dat slimmer is dan een Nobelprijswinnaar op terreinen als biologie, wiskunde, techniek en schrijven. Het kan mensen aanwijzingen geven of nemen, en hoewel het op een computerscherm ‘leeft’, kan het robots besturen en zelfs ontwerpen voor eigen gebruik.
Hoewel hij erkent dat krachtige AI ‘aanzienlijk verder weg’ zou kunnen zijn dan het tijdsbestek van twee jaar, zei Amodei dat de recente snelle vooruitgang in de technologie serieus moet worden genomen.
“Als het exponentiële zich voortzet – wat niet zeker is, maar nu al een decennialange staat van dienst heeft – dan kan het onmogelijk langer dan een paar jaar duren voordat AI in vrijwel alles beter is dan mensen”, schreef hij.
Vorig jaar waarschuwde Amodi ervoor AI zou alle witteboordenbanen op instapniveau kunnen halveren en ervoor zorgen dat de totale werkloosheid binnen de komende vijf jaar omhoog schiet naar 20%.
In zijn essay waarschuwde Amodei dat de economische prijs van AI, zoals de productiviteitswinst door het schrappen van banen, zo groot zou kunnen zijn dat niemand op de rem gaat staan.
“Dit is de valkuil: AI is zo krachtig, zo’n schitterende prijs, dat het voor de menselijke beschaving heel moeilijk is om er überhaupt beperkingen aan op te leggen”, zei hij.
Amodei verklaarde echter dat hij optimistisch was over een positieve conclusie: “Ik denk dat als we besluitvaardig en zorgvuldig handelen, de risico’s kunnen worden overwonnen – ik zou zelfs zeggen dat onze kansen goed zijn. En er is een enorm betere wereld aan de andere kant. Maar we moeten begrijpen dat dit een serieuze uitdaging voor de beschaving is. “
