In een onlangs vrijgegeven verklaring, ingediend in de rechtszaak van Elon Musk tegen OpenAI, viel de technologiebaas het beveiligingsrecord van OpenAI aan en beweerde dat zijn bedrijf, xAI, meer prioriteit geeft aan beveiliging. Hij ging zelfs zo ver dat hij zei: “Niemand heeft zelfmoord gepleegd vanwege Grok, maar blijkbaar wel vanwege ChatGPT.”
De opmerking kwam naar voren in een reeks vragen over a openbare brief Musk tekende in maart 2023. Daarin riep hij AI-laboratoria op om de ontwikkeling van AI-systemen die krachtiger zijn dan GPT-4, destijds het vlaggenschipmodel van OpenAI, gedurende ten minste zes maanden stop te zetten. De brief, die werd ondertekend door meer dan 1.100 mensen, waaronder veel AI-experts, stelde dat er niet genoeg planning en bestuur was in AI-laboratoria, omdat ze verwikkeld waren in een ‘uit de hand gelopen race om steeds krachtigere digitale hersenen te ontwikkelen en in te zetten die niemand – zelfs de makers ervan niet – kunnen begrijpen, voorspellen of op betrouwbare wijze kunnen controleren.’
Die angst heeft sindsdien aan geloofwaardigheid gewonnen. OpenAI wordt nu geconfronteerd met een reeks rechtszaken beweert het De manipulatieve gesprekstactieken van ChatGPT heeft ervoor gezorgd dat meer mensen negatieve gevolgen voor de geestelijke gezondheid ervaren, waarbij sommigen door zelfmoord zijn omgekomen. Musk’s commentaar suggereert dat deze incidenten als voer zouden kunnen worden gebruikt in zijn zaak tegen OpenAI.
Het transcript van Musks videogetuigenis, die in september plaatsvond, werd deze week openbaar gemaakt, voorafgaand aan de verwachte juryrechtspraak volgende maand.
De rechtszaak mod OpenAI concentreert zich op de verschuiving van het bedrijf van een non-profit AI-onderzoekslaboratorium naar een bedrijf met winstoogmerk Claims van Musk geschonden zijn oprichtingsovereenkomsten. Als onderdeel van zijn argumenten stelt Musk dat de AI-beveiliging in gevaar zou kunnen komen door de commerciële relaties van OpenAI, omdat dergelijke relaties snelheid, schaal en inkomsten boven veiligheidsproblemen zouden stellen.
Maar sinds die bekentenis heeft xAI met zijn eigen veiligheidsproblemen te maken gehad. Vorige maand maakte Musks sociale netwerk X overspoeld met naaktheid zonder toestemming gegenereerd door xAI’s Grok, waarvan sommige naar verluidt door minderjarigen. Dit was aanleiding voor het kantoor van de procureur-generaal van Californië een onderzoek openen in de zaak. Dat geldt ook voor de EU voer je eigen onderzoek uiten andere regeringen hebben ook actie ondernomen met enkele opleggende blokkades en verboden.
In de onlangs ingediende verklaring beweerde Musk dat hij de AI-veiligheidsbrief had ondertekend omdat ‘het een goed idee leek’, en niet omdat hij zojuist een AI-bedrijf had opgericht dat wilde concurreren met OpenAI.
“Ik heb het ondertekend, zoals veel mensen deden, om aan te dringen op voorzichtigheid bij de ontwikkeling van AI”, zei Musk. “Ik wilde gewoon dat AI-beveiliging prioriteit zou krijgen.”
Musk beantwoordde ook andere vragen in de verklaring, waaronder die over kunstmatige algemene intelligentie, of AGI – de term AI die de menselijke redenering bij een breed scala aan taken kan evenaren of overtreffen – door te zeggen dat ‘het een risico met zich meebrengt’. Hij bevestigde ook dat hij “verkeerd” was over de zijne veronderstelde donatie van 100 miljoen dollar voor OpenAI; de tweede gewijzigde klacht in dit geval komt het werkelijke aantal dichter bij $ 44,8 miljoen.
Hij herinnerde zich ook waarom OpenAI werd opgericht, wat vanuit zijn perspectief was omdat hij ‘steeds bezorgder werd over het gevaar dat Google een monopolie zou worden op het gebied van AI’, en voegde eraan toe dat zijn gesprekken met Google-medeoprichter Larry Page ‘alarmerend waren omdat hij de beveiliging van AI niet serieus leek te nemen.’ OpenAI werd gevormd als tegenwicht voor die dreiging, beweerde Musk.
