Top Biden-adviseur op het gebied van AI en autoritarisme

Er ontstaan ​​eindelijk kampen in de grote strijd over de vraag of en hoe te reguleren AI. President Donald Trump verklaarde eerder deze week dat hij lokale functionarissen die de technologie proberen te reguleren, zou blokkeren; Volgens een ontwerp van uitvoerend bevel dat woensdag is uitgelekt, zal de regering staten die dat proberen, straffen. Staatswetgevers en leden van het Congres – waaronder de Republikeinse vertegenwoordiger van Georgië, Marjorie Taylor Greene – gaan nu met pensioen.

Dit heeft lang geduurd. Leden van het Congres hebben talloze voorstellen gedaan om kunstmatige intelligentie te reguleren, maar er is geen significant wetgevingspakket tot stand gekomen. De regering-Biden heeft een groot uitvoerend bevel uitgevaardigd over de technologie, maar de regering-Trump heeft aanzienlijk kapitaal uitgegeven aan de aanval daarop, waardoor uiteindelijk een groot deel van de maatregel is ingetrokken.

“De federale regering heeft zelfs geen minimale actie ondernomen, ondanks vrij brede steun van beide partijen, bijvoorbeeld bij het aanpakken van risico’s en schade voor kinderen. Als er één ding is waar we het allemaal over eens kunnen zijn, dan is het dat”, zegt Arati Prabhakar, voormalig directeur van het Defense Advanced Research Projects Agency (DARPA) onder de regering-Obama en hoofd van het Office of Technology and Science Administration Policy onder Biden. Snel bedrijf. “Zeggen dat de staten iets niet zouden moeten doen omdat de federale overheid het zou moeten doen – en zich dan verzetten tegen elke actie op federaal niveau – slaat gewoon nergens op.”

Snel bedrijf senior schrijfster Rebeccah Heilweil sprak met Prabhakar – die dat ook heeft gedaan een grotere opdracht ingediend het verdedigen van het vermogen van het Congres om wetenschappelijk onderzoek te ondersteunen te midden van federale financieringsdruk – over waar we vandaag staan ​​met AI-regulering en wat de voortdurende vooruitgang van de technologie zou kunnen betekenen voor de toekomst van de Amerikaanse democratie, bestuur en welzijn. Dit interview is aangepast voor duidelijkheid en lengte.

De regering heeft duidelijk gemaakt dat zij niet gelooft dat er sprake zou moeten zijn van AI-regulering op staatsniveau, en blijft dit ter regulering doorverwijzen naar de federale overheid. Dit is uiteraard in het belang van sommige AI-bedrijven. Wat vind je ervan?

Staten zijn zeer actief geweest. Elke staat heeft vaak meerdere wetsvoorstellen overwogen. Maar collectief gezien zijn de meeste van wat er is aangenomen transparantiemaatregelen. Het is een begin, maar het is een vrij klein begin.

Ik denk dat we nog lang niet met deze technologie in discussie kunnen gaan en deze niet op de goede weg kunnen brengen. Het is belachelijk om te doen alsof de federale overheid dat zonder de staten zal bereiken.

De regering-Trump heeft het grote uitvoerende bevel van Biden inzake kunstmatige intelligentie ingetrokken. Wat is de impact daarvan geweest? (Noot van de redactie: het uitvoerend besluit van Biden over kunstmatige intelligentie, dat was ondertekend in oktober 2023 gaven federale agentschappen een aantal nieuwe verantwoordelijkheden met betrekking tot de technologie, evenals richtlijnen voor het gebruik ervan.)

De acties die deze regering op vele fronten heeft ondernomen, zijn zeer verontrustend. Ze hebben het land in een nationale crisis gebracht. Het AI-front is er een waar het niet zo dramatisch is geweest. Het wordt gepositioneerd als een grote, dramatische verschuiving, maar een groot deel van de implementatie van dat uitvoerend bevel onder president Biden had al plaatsgevonden. Ik heb zelfs gevallen gezien waarin ze de eer opeisen voor dingen die afdelingen en agentschappen beter deden vanwege hun goede gebruik van AI.

Het grotere probleem is eigenlijk dat deze regering er niet in slaagt de twee dingen aan te pakken die we als land moeten doen om de kunstmatige intelligentie volledig op het goede spoor te krijgen. De markt doet alle experimenten om erachter te komen waar het bedrijf staat productiviteit toepassingen wel, maar er zijn twee publieke rollen die momenteel in deze regering niet echt aan de orde komen. De ene is het omgaan met risico’s en schade, en de andere is alleen maar actief bezig met het nastreven van AI voor publieke doeleinden.

Dit is waar wij tekortschieten. In een tijd waarin de krachtigste technologie van onze tijd net in opkomst is, gaat deze regering niet omhoog.

Hoe bezorgd bent u over het feit dat mensen zeer psychologische – zelfs zeer romantische of zelfs seksuele – relaties ontwikkelen met chatbots?

Voor mij maakt het deel uit van deze vervorming van de werkelijkheid die begon in het tijdperk van de sociale media – wat trouwens ook AI was, toch? Het was de AI achter de schermen die bepaalde wat je te eten kreeg. Nu wordt het nog verergerd door kunstmatige intelligentie die je recht in het gezicht slaat met chatbots of beeldgeneratoren. Ik vind dit zeer zorgwekkend.

Het is een heel spectrum – van de polarisatie die is aangewakkerd door desinformatie en desinformatie, helemaal tot aan deze parasociale relaties. Er zijn een aantal werkelijk tragische gevallen geweest, zelfs zelfmoorden, die het resultaat waren van een dialoog die iemand die zich in een werkelijk gevaarlijke, kwetsbare toestand bevond, op een verschrikkelijke manier aan het einde bracht.

AI leidt tot gesprekken over cognitieve ontlading. We citeren vaak de rekenmachine waarbij we in ons hoofd niet zo goed zijn in wiskunde. Maar over het algemeen is het automatiseren van berekeningen netto goed geweest voor onze algehele intelligentie. Maar veel mensen zijn geïntimideerd door het vooruitzicht van outsourcing denken naar deze platforms.

Ik denk veel na over het rekenvoorbeeld. Er is een verschil tussen vertrouwen op een rekenmachine om berekeningen uit te voeren – wat we allemaal doen – en niet begrijpen wat een breuk betekent. Je moet begrijpen wat een breuk betekent om gewoon met de wereld om te kunnen gaan. Ik denk dat dit de sortering is die moet gebeuren met grote taalmodellen.

Ik zag Gallup deden een aantal peilingen waarin ze onder meer met studenten spraken over hun houding ten opzichte van AI. Ik was echt verrast toen ik ontdekte hoe angstig middelbare scholieren bijvoorbeeld zijn over AI. Een deel van hun angst is het gebrek aan duidelijkheid over wanneer ze het wel en niet op school kunnen gebruiken. Maar een deel van hun angst is ook hun bezorgdheid over hun kritische denkvermogen. Ik vind het geweldig dat ze voldoende kritisch denkvermogen hadden om zich er zorgen over te maken.

Bestaat het risico dat een te grote focus op de AI-race met China ons ervan zal weerhouden om in de VS met betere regelgeving voor de technologie te komen?

Dat argument wordt gebruikt om regulering te omzeilen. Maar ik denk dat we heel duidelijk moeten zijn dat wat er nu gebeurt, is dat alle landen over de hele wereld racen om kunstmatige intelligentie te gebruiken als instrument om een ​​toekomst op te bouwen die hun waarden weerspiegelt.

Ik wil niet leven in een toekomst die wordt bepaald door de waarden van deze Chinese autoritaire regering. Als je kijkt naar hun mensenrechtenschendingen, de manier waarop ze AI hebben gebruikt om een ​​diepgaande surveillancestaat te creëren. . . als je kijkt naar hun militaire agressie en het potentieel om AI op agressieve manieren te gebruiken in een militaire context. . . Het is niet een wereld waarin de meeste mensen volgens mij willen leven.

Het is zeker niet een land dat al lang bestaande Amerikaanse waarden weerspiegelt. Het is natuurlijk zeer verontrustend dat we zien dat sommige van deze tactieken hier door ons ministerie van Binnenlandse Veiligheid worden overgenomen. Dat is een grote rode vlag over wat er aan de hand is met deze autoritaire impuls in onze regering.

Maar nogmaals, de kernvraag is: hoe brengen we AI tot leven om mensen te dienen en om het soort toekomst op te bouwen dat de waarden weerspiegelt die we hebben – gericht op mensen en hun creativiteit en ons vermogen om voor onszelf een koers uit te stippelen, in plaats van deze te laten sturen door een koning of een dictator? Dat is waar ik AI voor wil gebruiken.

Het valt mij op dat de regering-Biden en de regering-Trump allebei in ieder geval hebben gezegd dat ze zich echt zorgen maken over het gebruik van kunstmatige intelligentie door de regering. Maar tegelijkertijd zegt u dat er zorgen bestaan ​​dat de federale overheid dit instrument gebruikt om meer in de richting van autoritaire benaderingen te evolueren.

Het gaat erom hoe je het gebruikt. In de regering-Biden stroopte het ministerie van Binnenlandse Veiligheid de mouwen op en deed het werk. met gebruik gezichtsherkenning bij TSA PreCheck of voor Global Entry. Dit zijn plaatsen waar sprake is van een zeer nauw gedefinieerde functie en u een nieuw camerabeeld vergelijkt met een database waarvoor u een legitieme reden heeft. En als u TSA PreCheck of Global Entry heeft doorlopen, kunt u zien hoe het op de juiste en respectvolle wijze gebruiken van technologie deze processen heeft versneld en veel beter heeft gemaakt.

Dit staat in schril contrast met de horrorverhalen van politiekorpsen in het hele land die kant-en-klare gezichtsherkenningstechnologie gebruiken en doen alsof ze matches maken op basis van korrelige videobeelden, bijvoorbeeld bij een supermarkt die werd opgehouden. Echt slecht, volkomen ongepast gebruik van gebrekkige gezichtsherkenningstechnologie leidde tot onrechtmatige arrestaties van zwarte mannen één zaak voor een misdrijf gepleegd in een staat waarin deze man nog nooit een voet had gezet. Het is volkomen onaanvaardbaar.

Dus het verschil tussen het verstandig en gepast gebruiken van deze technologieën en met respect voor onze kernwaarden, en het vervolgens gewoon openlijk gebruiken zonder echt na te denken over wat het betekent voor de samenleving waarin we willen leven – dat is het hele verschil in de wereld.

Ik vraag me af wat u vindt van de opkomst van bedrijven als Anduril en Palantir die echt geïnteresseerd zijn in het verkopen van kunstmatige intelligentie en geautomatiseerde platforms voor gebruik op het slagveld en voor defensiedoeleinden. Hoe moeten we erover nadenken?

Ik zou uw vraag willen uitbreiden door te zeggen dat het niet alleen op een slagveld is. Dit zijn technologieën die thuis tegen Amerikanen worden gebruikt. Het is dus een ongelooflijk belangrijke vraag. En de kernvragen zijn: hebben we democratische controle over hoe de technologie wordt gebruikt? Deze technologieën kunnen op hun beurt, als ze worden misbruikt, op gevaarlijke en gruwelijke manieren inbreuk maken op de privacy van Amerikanen.

We zien het nu bij sommige dingen die gebeuren. En dat is gewoon onaanvaardbaar. En bedrijven hebben de neiging om de houding aan te nemen van “Ik lever alleen maar de technologie.” Maar de implementaties die ze maken dragen bij aan dit werkelijk gevaarlijke misbruik. Het is een voorbeeld van het verlies van de democratische controle over deze zeer krachtige nieuwe capaciteiten.

We horen veel over de AI-race. Ik denk aan de ruimterace. Er was een race om iemand de kamer in te krijgen. Dan was er de race om iemand in een baan om de aarde te krijgen. En dan was er nog de race om iemand naar de maan te krijgen. En nu is het de bedoeling dat mensen op de maan gaan wonen. Wanneer eindigt de AI-race? Als we zeggen dat we de eerste moeten zijn in de AI-race, denk ik: eerst waarop?

Het is het hele balspel – eerst waarvoor?

Waar ik aan blijf denken, en waar we volgens mij echt op moeten focussen, is wat AI kan doen voor de dingen die de levens van mensen fundamenteel veranderen. We hielden een conferentie genaamd “AI Aspirations” in 2024 toen ik nog in het Witte Huis was, en we benadrukten zeven verschillende grote ambities voor AI. Ze varieerden van het dichten van onderwijskloven voor onze kinderen tot het sneller verkrijgen van betere medicijnen, tot betere weersvoorspellingen, tot nieuwe materialen voor de geavanceerde generaties halfgeleidertechnologie, tot het veranderen van de transportinfrastructuur om deze veel veiliger te maken.

Op dit moment gaat het gesprek over AI eigenlijk alleen over LLM’s en misschien over beeldgeneratoren. Maar waar we het over hebben is de meer algemene kracht van het trainen van AI-modellen op zeer verschillende soorten gegevens. We leven in een wereld die rijk is aan data, dus het is niet alleen maar taal. Het zijn sensorgegevens, wetenschappelijke gegevens, administratieve gegevens, financiële gegevens. Het zijn al alle gegevens die u genereert wanneer u op internet klikt of navigeert.

Het andere belangrijke punt voor mij is dat dit niet alleen gebeurt door bedrijven die producten op de markt brengen. Er is diepgaand onderzoek nodig. Er zijn datasets die nodig zijn om de weermodellen of de transportmodellen te bouwen die we nodig hebben. Het is publieke verantwoordelijkheid. Uiteindelijk hebben we vooruitgang op het gebied van de regelgeving nodig, zodat we niet alleen dingen sneller kunnen uitvinden, maar ons regelgevingsproces kan uitvinden wat veilig en effectief is – voor medicijnen bijvoorbeeld.

We bevinden ons op een punt waarop deze krachtige technologie losbarst. Er is geen belangrijker moment voor onze federale regering om op te treden. En in plaats daarvan trekt het zich terug van zoveel andere dingen die zullen bepalen wie echt succes zal hebben met AI.