Tde snelheid waarmee AI ons leven transformeert is duizelingwekkend. In tegenstelling tot eerdere technologische revoluties – radio, kernsplijting of internet – zijn regeringen geen leiders. We weten dat kunstmatige intelligentie gevaarlijk kan zijn; Chatbots adviseren tieners over zelfmoord en kunnen daar binnenkort mogelijk instructies over geven hoe biologische wapens te maken. Toch bestaat er geen equivalent van de Federal Drug Administration, die nieuwe modellen op veiligheid test voordat ze publiekelijk worden vrijgegeven. Anders dan in de nucleaire industrie doen bedrijven dat vaak hoeven geen gevaarlijke inbreuken of ongelukken aan het licht te brengen. De lobbykracht van de technologie-industrie, de verlammende polarisatie van Washington en de enorme complexiteit van zo’n krachtige, snel evoluerende technologie hebben federale regelgeving op afstand gehouden. Europese functionarissen worden geconfronteerd met het terugdraaien van regels die volgens sommigen de concurrentiekracht van het continent belemmeren. Hoewel verschillende Amerikaanse staten AI-wetten uitproberen, opereren ze in een voorzichtige lappendeken Donald Trump heeft het geprobeerd om ze ongeldig te maken.
Leiders van AI-platforms zoals ChatGPT van OpenAI en Gemini van Google zeggen dat ze zich zorgen maken over de beveiliging. Maar het bezitten van de toekomst van kunstmatige intelligentie betekent dat we miljarden moeten steken in modellen die zelfs de makers ervan niet volledig begrijpen, en dat we keuzes moeten maken zoals het toevoegen van advertenties – en de mogelijkheden die het Pentagon biedt. zoekt nu vanuit Anthropic – wat het risico vergroot. Anthropic, dat zichzelf bestempelt als het meest gewetensvolle AI-bedrijf op het gebied van grensverleggende technologie, zegt zijn model zijn getraind om ‘zich voor te stellen hoe een bedachtzame senior antropische medewerker’ behulpzaamheid zou afwegen tegen mogelijke schade. De richtlijn weerspiegelt de kritiek die jaren geleden werd geuit op bedrijven in Silicon Valley die vanuit geïsoleerde directiekamers de levens van gebruikers over de hele wereld vormgaven. Consumenten geloven niet dat ze in goede handen zijn. Maar liefst 77% van de Amerikanen respondenten van vorig jaar zijn van mening dat kunstmatige intelligentie een bedreiging kan vormen voor de mensheid.
We zitten niet vast tussen de ongrijpbare hoop op robuuste overheidsregulering en het feit dat de machtigste bedrijven uit de geschiedenis zelf politie hebben. In ieder geval totdat wetgevers actie ondernemen, biedt onafhankelijk toezicht de mogelijkheid om te oordelen tussen het potentieel en de gevaren ervan. Door onafhankelijk toezicht te omarmen kunnen AI-bedrijven aantonen dat ze het vertrouwen van het publiek serieus genoeg nemen om ervoor te willen vechten.
De logica achter onafhankelijk toezicht is eenvoudig. Ongeacht de goede bedoelingen van bedrijfsleiders bepalen hun plichten jegens aandeelhouders en investeerders hoe zij omgaan met de afweging tussen kosten en veiligheid, die inkomsten en winsten stimuleert. Hoewel langetermijnoverwegingen met betrekking tot de bedrijfsreputatie, klantloyaliteit en ethiek als verkeersdrempels kunnen fungeren, vereist het winnen van de AI-race risicobereidheid. Late verhalen over hoe sociale media moord kunnen aanwakkeren, verkiezingen kunnen manipuleren en de geestelijke gezondheid van jongeren kunnen ondermijnen, illustreren hoe de bedwelmende kracht van technologie flitsende waarschuwingssignalen kan verdoezelen.
Onafhankelijk toezicht op kunstmatige intelligentie biedt de mogelijkheid om de risico’s ervan aan het licht te brengen, te analyseren en aan te pakken, waardoor belangenbehartigers en gemeenschappen iets meer controle krijgen over de manier waarop deze technologieën de samenleving hervormen. Sociale media zijn hiervan een voorbeeld. In 2020, voorgesteld door beschuldigingen dat het hielp bij het tanken De Rohingya-crisis in Myanmar, Meta (toen Facebook) een raad van toezicht ingesteldin de hoop het bedrijf van de troon te stoten. Begin het jaar daarop stelde het bedrijf een beleid vast verbindt zich ertoe de Human Rights Act te volgen. Hoewel het bestuur, nu vijf jaar oud, niet voldoet aan wat sommige mensen hoopten te kunnen dienen als ‘Facebook’s Hooggerechtshof’, biedt zijn staat van dienst belangrijke lessen over de vooruitzichten voor effectief onafhankelijk toezicht op AI en waarom dit ertoe doet.
Toezicht vereist verschillende perspectieven. Net als andere grensoverschrijdende AI-bedrijven heeft Meta gebruikers op elk bevolkt continent. Beslissen wat ze wel en niet konden posten vanuit de veiligheid van een Menlo Park-campus zorgde voor blinde vlekken en leidde tot woede. De 21 leden van de Raad van Toezicht brengen brede culturele en professionele expertise mee om gevoelige kwesties op het gebied van inhoudsmoderatie te beoordelen (zoals de vraag of een gewelddadige video als nieuws moet worden gedeeld of moet worden verwijderd omdat dit een schending is van de waardigheid van het slachtoffer). Het bestuur, met leden die dat hebben woonde in meer dan 27 landenomvat conservatieven en liberalen, journalisten, rechtsgeleerden, een voormalige premier van Denemarken en een winnaar van de Nobelprijs voor de Vrede.
De beoordelingsraad gebruikt Meta’s eigen ‘gemeenschapsnormen’ om te beoordelen of berichten in strijd zijn met regels, waaronder een verbod op pesten of het steunen van terroristen. Het bestuur houdt stand Meta aan haar belofte om de internationale mensenrechtenwetgeving te handhaven, waaronder artikel 19 van het Internationaal Verdrag inzake burgerrechten en politieke rechten, waarin de vrijheid van meningsuiting is vastgelegd. AI-bedrijven moeten dezelfde belofte doen en toezicht houden om hen daaraan te houden. In tegenstelling tot het Eerste Amendement in de VS of het ‘recht om vergeten te worden’ van de EU op internet, biedt de mensenrechtenwetgeving een gemeenschappelijke munt over de grenzen heen. De normen bieden redeneringsmethoden om beslissingen over AI te sturen, zoals de vraag of de weigering van een bot om een vraag te beantwoorden op ongerechtvaardigde wijze het recht van een gebruiker op informatie ontzegt, of dat het hergebruik van gebruikersgegevens de privacy schendt.
Toegankelijkheid, overleg en transparantie zijn sleutelwoorden. De toezichtsraad aanvaardt oproepen van het publiek, maakt de zaken bekend die zij wil beoordelen, nodigt publiek commentaar uit en belegt bijeenkomsten met deskundigen en relevante gemeenschappen. Het heeft meer dan 200 beslissingen genomenP in gedetailleerde schriftelijke adviezen die door rechtbanken over de hele wereld zijn aangehaald.
Een vrijwillig toezichthoudend orgaan is slechts zo sterk als de bevoegdheden die het moederbedrijf eraan geeft. Hoewel de toezichtsraad graag bredere bevoegdheden zou willen, heeft het Meta de eer gegeven dat het veel verder gaat dan de lichte adviesraden die andere technologiespelers periodiek hebben bijeengeroepen en ontbonden. De Raad van Moderators van de Meta heeft jurisdictie om te beslissen of een bepaald stuk inhoud omhoog of omlaag blijft, hoewel het uitoefenen van die autoriteit over individuele berichten kan aanvoelen als het bestrijden van een lopend vuurtje door sintels uit te blazen. De meer consequente impact ervan ligt in het selecteren van emblematische gevallen van onjuiste inhoud, het bieden van publieke rechtvaardigingen voor beslissingen en het doen van aanbevelingen waarop Meta kan reageren. Meta heeft 75% van de meer dan 300 aanbevelingen van het bestuur geïmplementeerd, zoals gerapporteerd in decemberDit leidt tot aanzienlijke veranderingen voor miljarden gebruikers.
Deze omvatten het verstrekken van mededelingen over welk beleid een gebruiker zou hebben geschonden wanneer de inhoud verdwijnt, het garanderen dat retorische beschimpingen en satire niet als bedreigingen worden verwijderd, en het garanderen dat zijn bedrijf de middelen vergroot bij crises zoals natuurrampen en gewapende conflicten. Het bestuur brengt ook gedetailleerde adviezen uit over grotere beleidskwesties, zoals Meta’s uitbreiding van clementie voor beleidsschendingen door spraakmakende posters, of hoeveel Covid-gerelateerde desinformatie moet worden verwijderd naarmate de pandemie is uitgedoofd. Hoewel het bestuur onafhankelijk opereert bij het nemen van beslissingen en aanbevelingen, vertrouwt het op Meta voor cruciale informatie, zoals of specifieke inhoudsbepalingen door mensen of door automatisering zijn gedaan, en wat er precies misging toen inhoud per ongeluk werd verwijderd. AI-bedrijven zullen minstens evenveel zichtbaarheid moeten bieden, wil toezicht enige betekenis hebben.
Zoals altijd betekent geld. Meta stopt periodiek de financiering van het toezicht in een trust, zodat deze niet van de ene op de andere dag kan worden stopgezet. Maar meer gediversifieerde en beveiligde middelen zouden de onafhankelijkheid van het bestuur vergroten. Toezicht op de allernieuwste technologie kost geld. Er is financiering nodig voor deskundig personeel ter ondersteuning van de analyse en besluitvorming, en voor adviseurs die specifieke culturele en taalkundige expertise inbrengen. Gezien de honderden miljarden die in kunstmatige intelligentie worden geïnvesteerd, zijn de kosten van zelfs robuuste monitoring echter verwaarloosbaar.
AI neemt onze klaslokalen, hogescholen en bedrijven over. Onafhankelijk toezicht is het minste dat AI-bedrijven kunnen doen om ervoor te zorgen dat zij, bewust of onbewust, niet ook onze rechten overnemen.
