Een routekaart voor AI, als iemand wil luisteren

Terwijl de breuk van Washington met Anthropic het complete gebrek aan coherente regels voor kunstmatige intelligentie aan het licht bracht, heeft een tweeledige coalitie van denkers iets bijeengebracht dat de regering tot nu toe heeft geweigerd te produceren: een raamwerk voor hoe verantwoorde AI-ontwikkeling er eigenlijk uit zou moeten zien.

De Pro-menselijke verklaring werd voltooid vóór de antropische patstelling tussen het Pentagon en het Pentagon van vorige week, maar de botsing tussen de twee gebeurtenissen ging voor geen enkele betrokkene verloren.

“Er is iets heel opmerkelijks gebeurd in Amerika de afgelopen vier maanden”, zegt Max Tegmark, een MIT-fysicus en AI-onderzoeker die hielp bij het organiseren van de inspanning. in gesprek met deze redacteur. “Uit de peiling blijkt plotseling dat 95% van alle Amerikanen tegen een ongereguleerde race om superintelligentie is.”

Het onlangs gepubliceerde document, ondertekend door honderden experts, voormalige functionarissen en publieke figuren, begint met de no-nonsense observatie dat de mensheid op een kruispunt staat. Eén pad, dat in de verklaring de ‘race om te vervangen’ wordt genoemd, leidt ertoe dat mensen eerst worden verdrongen als werknemers en vervolgens als besluitvormers, terwijl de macht in handen komt van instellingen en hun machines die geen verantwoording hoeven af ​​te leggen. De andere leidt tot AI die het menselijk potentieel enorm vergroot.

Dit laatste scenario steunt op vijf belangrijke pijlers: mensen verantwoordelijk houden, machtsconcentratie vermijden, de menselijke ervaring beschermen, individuele vrijheid behouden en AI-bedrijven juridisch aansprakelijk stellen. Tot de krachtigste bepalingen behoort een regelrecht verbod op de ontwikkeling van superintelligentie totdat er wetenschappelijke consensus bestaat dat dit veilig kan worden gedaan en er sprake is van een echte democratische buy-in; verplichte uitschakelaars op krachtige systemen; en een verbod op architecturen die in staat zijn tot zelfreplicatie, autonome zelfverbetering of het afsluiten van weerstand.

De publicatie van de verklaring valt samen met een periode die het veel gemakkelijker maakt om de urgentie te begrijpen. Afgelopen vrijdag in februari bestempelde minister van Defensie Pete Hegseth Anthropic – waarvan de AI al op geheime militaire platforms draait – als een “toeleveringsketenrisico” nadat het bedrijf weigerde het Pentagon onbeperkt gebruik te geven van zijn technologie, een label dat doorgaans is voorbehouden aan bedrijven die banden hebben met China. Uren later voltooide OpenAI zijn eigen overeenkomst met het ministerie van Defensie, een overeenkomst die volgens juridische experts moeilijk op een zinvolle manier af te dwingen zal zijn. Wat het allemaal blootlegde, is hoe duur de passiviteit van het Congres op het gebied van AI is geworden.

Zoals Dean Ball, senior fellow bij de Foundation for American Innovation, vertelde The New York Times na afloop: “Dit is niet zomaar een dispuut over een contract. Dit is het eerste gesprek dat we als land hebben gehad over controle over AI-systemen.”

Tegmark greep naar een analogie die de meeste mensen kunnen begrijpen als we spraken. “Je hoeft je nooit zorgen te maken dat een farmaceutisch bedrijf een ander medicijn op de markt gaat brengen dat enorme schade aanricht voordat mensen erachter komen hoe ze het veilig kunnen maken,” zei hij, “omdat de FDA niet zal toestaan ​​dat ze iets vrijgeven totdat het veilig genoeg is.”

Oorlogen in Washington genereren zelden het soort publieke druk dat wetten verandert. In plaats daarvan beschouwt Tegmark de veiligheid van kinderen als het drukpunt dat de huidige impasse waarschijnlijk zal doorbreken. In feite roept de verklaring op tot het verplicht testen van AI-producten voordat ze worden ingezet – met name chatbots en begeleidende apps gericht op jongere gebruikers – die risico’s dekken, waaronder toegenomen zelfmoordgedachten, verslechterende geestelijke gezondheidsproblemen en emotionele manipulatie.

“Als een griezelige oude man een 11-jarige sms’t die zich voordoet als een jong meisje en deze jongen probeert over te halen zelfmoord te plegen, kan de man daarvoor de gevangenis in gaan”, zei Tegmark. “We hebben al wetten. Het is illegaal. Dus waarom is het anders als een machine het doet?”

Hij is van mening dat zodra het principe van pre-release-testen voor kinderproducten is ingevoerd, de reikwijdte vrijwel onvermijdelijk zal worden uitgebreid. “Mensen zullen komen en zeggen: laten we nog een paar andere vereisten toevoegen. Misschien moeten we ook testen of dit terroristen niet kan helpen biowapens te maken. Misschien moeten we testen om er zeker van te zijn dat superintelligentie niet het vermogen heeft om de Amerikaanse regering omver te werpen.”

Het is geen kleinigheid dat voormalig Trump-adviseur Steve Bannon en Susan Rice, de nationale veiligheidsadviseur van president Obama, hetzelfde document hebben ondertekend – samen met voormalig Joint Chiefs-voorzitter Mike Mullen en progressieve geloofsleiders.

“Waar ze het natuurlijk over eens zijn, is dat ze allemaal mensen zijn”, zegt Tegmark. “Als het erop aankomt of we een toekomst voor mensen of een toekomst voor machines willen, staan ​​ze natuurlijk op dezelfde pagina.”