Blijf op de hoogte met gratis updates
U hoeft zich alleen maar te registreren Kunstmatige intelligentie myFT Digest – rechtstreeks in uw inbox afgeleverd.
De mensheid “moet wakker worden” voor de potentieel catastrofale risico’s die krachtige AI-systemen de komende jaren met zich meebrengen, aldus Anthropic-baas Dario Amodi, wiens bedrijf tot degenen behoort die de grenzen van de technologie verleggen.
In een essay van bijna 20.000 woorden dat maandag werd gepubliceerd, schetste Amodei de risico’s die zouden kunnen ontstaan als de technologie zich ongecontroleerd ontwikkelt – van grootschalig banenverlies tot bioterrorisme.
“De mensheid krijgt een bijna onvoorstelbare macht in handen, en het is zeer onduidelijk of onze sociale, politieke en technologische systemen de volwassenheid bezitten om die macht uit te oefenen”, schreef Amodi.
Het essay markeerde een scherpe waarschuwing van een van de machtigste ondernemers in de AI-industrie dat de waarborgen rond AI ontoereikend zijn.
Amodei schetst de risico’s die zouden kunnen voortvloeien uit de opkomst van wat hij “krachtige AI” noemt – systemen die “veel capabeler zouden zijn dan welke Nobelprijswinnaar, staatsman of technoloog dan ook” – waarvan hij voorspelt dat dit de komende “paar jaar” waarschijnlijk zal gebeuren.
Een van deze risico’s is het potentieel voor individuen om biologische wapens te ontwikkelen die miljoenen mensen kunnen doden of “in het slechtste geval zelfs al het leven op aarde kunnen vernietigen”.
“Een gestoorde eenling (die) een schietpartij op een school kan plegen, maar waarschijnlijk geen kernwapen kan bouwen of een plaag kan vrijgeven … zal nu worden verheven tot het capaciteitsniveau van de promovendus-viroloog”, schreef Amodei.
Hij benadrukt ook het potentieel van AI om “schurkenstaten te zijn en de mensheid te overmeesteren” of om autoritairen en andere slechte actoren macht te geven, wat kan leiden tot “een mondiale totalitaire dictatuur”.
Amodi, wiens bedrijf Antropisch is de belangrijkste concurrent van ChatGPT-maker OpenAI, en is in botsing gekomen met David Sacks, de AI en crypto-tsaar van president Donald Trump, over de richting van de Amerikaanse regelgeving.
Hij heeft ook de plannen van de regering om geavanceerde AI-chips aan China te verkopen vergeleken met de verkoop van kernwapens aan Noord-Korea.
Trump ondertekende vorige maand een uitvoerend bevel om de inspanningen op staatsniveau om AI-bedrijven te reguleren aan banden te leggen, en bracht vorig jaar een AI-actieplan uit waarin plannen worden uiteengezet om de Amerikaanse innovatie te versnellen.
IN het essayAmodei waarschuwde voor wijdverbreid banenverlies en een ‘concentratie van economische macht’ en rijkdom in Silicon Valley als gevolg van kunstmatige intelligentie.
“Dit is de valkuil: AI is zo krachtig, zo’n schitterende prijs, dat het voor de menselijke beschaving heel moeilijk is om er überhaupt beperkingen aan op te leggen”, voegde hij eraan toe.
In een verhulde verwijzing naar controverse over de Grok AI van Elon Musk schreef Amodei dat “sommige AI-bedrijven een verontrustende onverschilligheid hebben getoond ten aanzien van de seksualisering van kinderen in de huidige modellen, wat mij doet twijfelen of ze in toekomstige modellen de neiging of het vermogen zullen tonen om met autonomierisico’s om te gaan”.
AI-veiligheidskwesties zoals biowapens, autonome wapens en kwaadwillige statelijke actoren waren in 2023 prominent aanwezig in het publieke debat, deels gedreven door waarschuwingen van leiders als Amodei.
Dat jaar organiseerde de Britse regering een AI-veiligheidstop in Bletchley Park, waar landen en laboratoria overeenkwamen samen te werken om dergelijke risico’s aan te pakken. In februari zal in India een vervolgbijeenkomst plaatsvinden.
Maar beleidsbeslissingen rond AI worden volgens Amodei steeds meer ingegeven door de wens om de kansen van de nieuwe technologie te benutten in plaats van de risico’s ervan te beperken.
“Deze aarzeling is ongelukkig omdat de technologie zelf zich niets aantrekt van wat in de mode is, en we in 2026 aanzienlijk dichter bij het echte gevaar staan dan in 2023”, schreef hij.
Amodei was een vroege medewerker van OpenAI, maar vertrok in 2020 om Anthropic mede op te richten nadat hij met Sam Altman in botsing was gekomen over de leiding van OpenAI en de AI-waarborgen.
Anthropic is in gesprek met groepen als Microsoft en Nvidia en investeerders, waaronder het Singaporese staatsinvesteringsfonds GIC, Coatue en Sequoia Capital voor een financieringsronde van $25 miljard. of meer, waardoor het bedrijf wordt gewaardeerd op $ 350 miljard.
