Ontgrendel Editor’s Digest gratis
Roula Khalaf, redacteur van de FT, kiest haar favoriete verhalen in deze wekelijkse nieuwsbrief.
Stel je een auto voor die de bestuurder niet de snelheidslimiet laat overschrijden. Het klinkt eenvoudig genoeg, maar toch is er niet veel vraag naar een machine die morele beslissingen van de gebruiker overneemt. Zelfs Tesla’s snelheidsbeperkende “Sloth” -model is optioneel; gebruikers van zijn zelfrijdende auto’s kunnen ook voluit “Mad Max” gaan.
In de wereld van AI zijn sommige bedrijven van mening dat klanten de voorkeur geven aan producten met een vooraf geïnstalleerde moraal. Neem Anthropic als Claude chatbot is getraind om “goede waarden te hebben”. Dit maakt Anthropic in sommige kringen impopulair. Het Amerikaanse ministerie van Defensie heeft bezwaar gemaakt tegen beperkingen die autonome dodelijke aanvallen of massale surveillance van burgers zouden verbieden – een geschil dat vrijdag werd op weg naar een gespannen impasse.
Rivalen proberen intussen eerst de veiligheid van Anthropic te ondermijnen, die het tentoonspreidt via een ‘grondwet’ die Claude vertelt prioriteit te geven aan veiligheid, ethiek en behulpzaamheid, in die volgorde. OpenAI’s Sam Altman heeft het bedrijf gebrandmerkt “autoritair”. Elon Musk, oprichter van xAI en Grok-chatbot, noemde het “misantropisch” want wat hij beweert is vooroordeel jegens andere blanke mannen.
Maakt het klanten uit? De echte groeimotor van Anthropic, die ongeveer 80 procent van de omzet voor zijn rekening neemt, is immers de verkoop van tools aan zakelijke gebruikers die vooral gericht zijn op efficiëntie en winst. Of AI op de nucleaire knop zou drukken, zoals onderzoekers van King’s College suggereren dat zou soms zo zijn is voor dergelijke klanten van weinig direct belang.
Beleggers zijn zeker niet van mening dat de ethische stijl van Anthropic een belemmering vormt. Het bedrijf heeft zojuist geld ingezameld tot een waardering van DKK 350 miljard en zal wellicht later dit jaar gepubliceerd worden. De efficiëntie van Claude Code, de programmeerassistent, heeft dit jaar ertoe bijgedragen dat de totale waarde van de S&P 500-softwareaandelen $1 biljoen daalde. De bewering van Anthropic dat Claude kan coderen in COBOL, een onhandige taal die wordt gebruikt in IT-mainframes, heeft $30 miljard geschrapt. van de marktkapitalisatie van IBM in één dag.
Er is één gebied waar de integriteit van een bot tegenwoordig van belang is: hallucinaties. Peter Gostev van AI-evaluatie-outfit Arena.ai heeft een “bullshit benchmark” gepubliceerd dat test of modellen onzinnige vragen uitdagen of simpelweg met meer onzin reageren. Anthropic scoorde het beste; sommige OpenAI’s behoorden tot de ergste. Zelfs dan kan het meer te maken hebben met de analysekwaliteit van een model dan met de inherente kijk op waarheidsgetrouwheid ervan.
De verschuiving naar agent AI – bots die niet alleen helpen, maar ook daadwerkelijk taken uitvoeren en oordeelsvermogen uitoefenen – zal de inzet verhogen. Naarmate AI menselijker wordt en haar rol in de onderneming belangrijker wordt, zal de manier waarop zij reageert op complexe uitdagingen en conflicten steeds belangrijker worden. Wanneer is het beter om een commando te negeren? Wanneer kan het nastreven van een kortetermijndoel tot problemen op de lange termijn leiden? Wanneer is het oké om de baas te vragen ‘erop te duwen’?
Ten goede of ten kwade: het is eigenlijk niet anders dan wat bedrijven zoeken in hun werknemers. Voor minder kritische en meer procesgestuurde banen zoeken werkgevers werknemers die zich aan de regels houden. Op hogere niveaus, waar de acties van één persoon de waarde van het hele bedrijf kunnen beïnvloeden, wordt een goed beoordelingsvermogen in ongebruikelijke situaties waardevol en vereist dit een hoger loon.
Of de basisopvatting van een bedrijf over ‘ethisch’ overeenkomt met die van Anthropic staat uiteraard ter discussie. Op een dag zal een agent gevraagd worden iets te doen dat slecht is voor de wereld, maar goed voor de winst van een bedrijf. Een model dat goed gedrag hoog in het vaandel draagt, zou waardevoller moeten zijn; in de echte zakenwereld zou iemand die aandeelhouderswaarde nog meer waardeert, ongetwijfeld opruimen.
