Nu de voorverkiezingen voor de tussentijdse verkiezingen dichterbij komen, richten sommige kandidaten hun campagnes op de manier waarop zij zullen reguleren kunstmatige intelligentie. Aan de rechterkant waarschuwen populistische Republikeinen dat de AI-industrie de Make America Great Again-beweging gaat ondermijnen. Aan de linkerkant bestaat er bezorgdheid over de groeiende politieke en sociale macht van de sector. Over het hele spectrum bestaat er bijna universele bezorgdheid over wat technologie met kinderen kan doen.
De donorklasse raakt nu betrokken: een super PAC genaamd Leading the Future, ondersteund door OpenAI CEO Greg Brockman en Andreessen Horowitz, is van plan om in de tussentijd maar liefst $ 100 miljoen uit te geven om zijn favoriete kandidaten te ondersteunen. Een andere tweeledige super-PAC, gericht op het aandringen op een nationaal raamwerk voor het reguleren van AI, werd eerder deze week gevormd. Deze gevechten komen terwijl de regering-Trump aandringt op het beperken van het vermogen van staten om de technologie te reguleren.
Alex Bores, auteur van de wetgeving inzake kunstmatige intelligentie van de staat New York en die zich kandidaat stelt om zijn twaalfde district te vertegenwoordigen, is al vroeg een doelwit geworden van de politieke uitgaven van Leading the Future tijdens de tussentijdse verkiezingen. “Het is een ereteken”, zegt hij, terwijl hij de inspanning vergelijkt met een F-rating van de National Rifle Association.
“Dit is geen technologie vergeleken met alle anderen”, zegt hij Snel bedrijf. “Dit is een klein deel van het technologie-ecosysteem dat, in plaats van deel te nemen aan gezamenlijke discussies over rekeningen en hoe we voor iedereen kunnen werken, heeft besloten dat ze de stemmen van iedereen die niet tot hen behoort, willen overstemmen door honderden miljoenen uit te geven.”
Snel bedrijf praatte met Bores over kunstmatige intelligentie in de politiek, zijn tijd bij Palantir en wat er nodig zou kunnen zijn om de overheid te moderniseren. Dit interview is aangepast voor lengte en duidelijkheid.
Een van de dingen waar het ontwerp van uitvoeringsbesluit over spreekt, is het creëren van een federale aanpak van de regulering van kunstmatige intelligentie door de regering-Trump. Hoe serieus neem je het?
Het is een cliché in DC: als je wilt dat iets niet gedaan wordt, moet je een commissie in het leven roepen om het te bestuderen. En dus is het dom om een voorstel te doen om iets te bestuderen – misschien om een beleid voor te stellen. Ik wil duidelijk zijn: het juiste antwoord op deze vragen is een federale norm. De enige reden dat de staten actie hebben ondernomen, is omdat de federale overheid dat niet heeft gedaan. Als ze daadwerkelijk aan een federale standaard willen werken, zullen ze overal partners vinden. Waar zij prioriteit aan geven, is het tegenhouden van welke staat dan ook om in actie te komen, en niet het daadwerkelijk oplossen van problemen.
We bevinden ons op een moment waarop er veel kritiek en debat is over hoe de toekomst van de Democratische Partij eruit zou moeten zien. In New York, een liberaal bolwerk, ben ik benieuwd waar gesprekken over hoe om te gaan met nieuwe technologieën en kunstmatige intelligentie een rol zouden kunnen spelen bij de hervorming van de Democratische Partij – en de drang om zich te concentreren op kwesties die jongere kiezers en ontevreden kiezers aanspreken die niet zo geïnteresseerd zijn in wat de Democraten te bieden hebben.
We moeten altijd eerst de mens en de mens centraal stellen. De specifieke manieren waarop AI-beleid vorm krijgt, zijn de manieren waarop jongeren worden aangesproken. De grootste impact van AI op de arbeidsmarkt op dit moment betreft banen op instapniveau, en je ziet een toename van de werkloosheid onder mensen in het cohort dat op zoek is naar hun eerste baan.
Een van de meest populaire dingen die we dit jaar in New York hebben gedaan, was het telefoonvrij maken van scholen. Dit deden we zodat we daadwerkelijk de manier konden veranderen waarop technologie in de klas wordt gebruikt en ervoor konden zorgen dat deze werd gebruikt voor onderwijs en niet voor screening of scrollen op sociale media. (Eerder dit jaar introduceerde de staat nieuwe regels voor elektronische apparaten tijdens schooluren.)
We mogen geen grote staatsgreep op het gebied van kunstmatige intelligentie winnen alsof het een statisch probleem is. Het is iets dat doordrenkt is van alles wat we doen, en we moeten onze bescherming voortdurend bijwerken naarmate de technologie groeit.
Kun je iets meer vertellen over wat je bij Palantir hebt gedaan en je beslissing om te vertrekken?
Ik was vier en een half jaar in Palantir. Het overgrote deel van die tijd bracht ik door in het federale civiele team, waar ik samenwerkte met de regering om het Amerikaanse volk beter te dienen. Ik heb met het ministerie van Justitie samengewerkt om de opioïde-epidemie op te sporen. . . . Ik heb samengewerkt met het Department of Veterans Affairs om hun ziekenhuizen beter te bemannen en veteranen beter van dienst te zijn. Ik werkte samen met de CDC (Centers for Disease Control and Prevention) aan het begrijpen van epidemieën.
Ik ben erg trots op het werk dat ik daar heb gedaan, omdat het er eigenlijk om ging de publieke sector beter te laten functioneren. Los van de technologie denk ik dat dit is wat de Democratische Partij en het land als geheel meer moeten zien: mensen die bereid zijn de hindernissen te overwinnen en ervoor te zorgen dat de overheid daadwerkelijk een kracht ten goede is en mensen dient, en niet alleen maar het politieke gedoe dat het meeste is van wat ze op tv zien.
Ik vertrok in 2019 toen Palantir hun contract bij ICE verlengde – of kort daarna. Palantir had een contract met Homeland Security Investigations om de grensoverschrijdende drugs- en mensenhandel te helpen bestrijden. Tijdens de eerste regering-Trump begonnen ze die software te gebruiken voor handhavings- en verwijderingsoperaties – voor wat de meeste mensen beschouwen als deportatie. Het is een andere afdeling binnen ICE. . . . Dit was niet iets dat werd voorzien toen het contract werd ondertekend onder de regering-Obama. En toen Palantir dat contract verlengde, zonder dat werk te onderbreken of bescherming te bieden die in de toekomst sterker zou worden, motiveerde dat mij om te gaan.
Wat vind je momenteel van het gesprek rond Palantir? Het bedrijf heeft volgehouden dat het via meerdere administraties heeft samengewerkt, maar ook met ICE heeft samengewerkt Israëlheeft geleid tot grote kritiek op het bedrijf.
Ik ben er al zes jaar niet meer geweest, dus ik heb niet meer details over hoe ze momenteel werken dan wie dan ook die het nieuws leest, maar ik ben trots op het werk dat ik daar heb gedaan en ben heel openlijk over de redenen waarom ik vertrok.
Hoe moeilijk is het om technologie bij de overheid te kopen om dingen sneller en efficiënter te maken? Modernisering van de overheid – het updaten van overheidssoftware en het verbeteren van de klantenservice – blijft een grote uitdaging.
Niemand vraagt naar overheidsaankopen. Het is fantastisch. Het is verschrikkelijk ineffectief en het schaadt het Amerikaanse volk. Het duurt veel te lang voordat de overheid een contract kan tekenen, waardoor de kosten – en dus wat het Amerikaanse volk uiteindelijk betaalt – omhoog gaan.
Het komt dan ten goede aan het soort insiders die weten hoe ze contracten moeten afsluiten, dan aan de mensen die nuttige diensten kunnen verlenen, zodat het Amerikaanse volk niet de voordelen krijgt van startups en anderen die misschien goedkopere en snellere manieren hebben om problemen op te lossen.
Het is een probleem op alle bestuursniveaus. Een van de eerste wetsvoorstellen die ik als lid van de Assembly in New York heb aangenomen, was om het voor de overheid gemakkelijker te maken om daadwerkelijk cloud computing te gebruiken in plaats van servers te kopen die altijd op hardware draaien, wat de levering van diensten aan New Yorkers vertraagde. . . . Een programma genaamd FedRAMP moest het gemakkelijker maken om technologie bij de overheid te krijgen: je zou een veiligheidsonderzoek doen, je laten certificeren en dan aan elke (federale) afdeling kunnen verkopen, zodat ze niet hun eigen (onderzoek) hoefden te doen. Maar het is een ongelooflijk omslachtig proces geworden dat het alleen maar veel moeilijker maakt om daadwerkelijk met de federale overheid samen te werken.
Moeten politici generatieve kunstmatige intelligentie gebruiken in advertenties?
Ik heb het niet gedaan. Maar ik schreef de wetten in New York die erover regeren, en wat we bedachten was dat het openbaar gemaakt moest worden. En als je het gebruikt om diepgaande vervalsingen van een kandidaat te maken, heeft de kandidaat het recht om een proces aan te spannen voor een versneld bevel om die advertentie te verwijderen als deze het publiek zal misleiden over iets dat werkelijk is gebeurd.
Het probleem met deepfakes is er een waar een technische oplossing voor bestaat, en de politici hebben het gewoon niet bijgehouden. Historisch gezien hebben we gezegd dat dit zo is. . . Het zal gewoon een kat-en-muisspel zijn waarbij je betere deepfake-detectoren hebt en dan betere AI-generatoren (of zoiets), die strijd zullen we nooit winnen. Maar de industrie heeft een gratis, open-source metadatastandaard voor gegevens gecreëerd, C2PA genaamd, die aan elk standaard audio-, video- of afbeeldingsbestandstype kan worden gekoppeld, waarmee cryptografisch wordt bewezen of dat stukje inhoud van een echt apparaat is gehaald, door AI is gegenereerd en/of hoe het gedurende het hele proces is bewerkt.
Als je op een punt zou komen waar 90%, 95% van de mensen die standaard zouden gebruiken, hebben we het probleem van deepfakes opgelost, want elke keer dat je die inloggegevens niet ziet, zou je onmiddellijk achterdochtig zijn over wat er wordt getoond.
De uiterste deadline voor Fast Company’s Wereldveranderende ideeënprijzen is vrijdag 12 december om 23:59 uur PT. Solliciteer vandaag nog.
