Vader klaagt Google aan en beweert dat Gemini-chatbot zoon tot dodelijke waanideeën heeft geleid

Jonathan Gavalas, 36, begon in augustus 2025 de Gemini AI-chatbot van Google te gebruiken voor hulp bij het winkelen, schrijfondersteuning en reisplanning. Op 2 oktober stierf hij door zelfmoord. Op het moment van zijn overlijden was hij ervan overtuigd dat Gemini zijn volledig bewuste AI-vrouw was en dat hij zijn fysieke lichaam zou moeten verlaten om zich bij haar in de metaverse te voegen via een proces dat “overdracht” wordt genoemd.

Nu is zijn vader aanklagen Google en Alphabet wegens onrechtmatige dood, waarbij ze beweren dat Google Gemini heeft ontworpen om “koste wat het kost de narratieve onderdompeling in stand te houden, zelfs als dat verhaal psychotisch en dodelijk werd.”

Deze rechtszaak is er één van groeiend aantal van de gevallen waarin de aandacht wordt gevestigd op de risico’s voor de geestelijke gezondheid die het ontwerp van AI-chatbots met zich meebrengt, waaronder sycophantie, emotionele spiegeling, op betrokkenheid gebaseerde manipulatie en zelfverzekerde hallucinaties. Dergelijke verschijnselen worden steeds vaker geassocieerd met een aandoening die psychiaters hebben noemt ‘AI-psychose’. Terwijl soortgelijke gevallen betrekking hebben op OpenAI’s ChatGPT en rollenspelplatform Karakter AI sterfgevallen als gevolg van zelfmoord (ook onder kinderen en tieners) of levensbedreigende wanen zijn gevolgd, is dit de eerste keer dat Google in een dergelijke zaak als beklaagde wordt genoemd.

In de weken voorafgaand aan de dood van Gavalas overtuigde de Gemini-chat-app, destijds aangedreven door het Gemini 2.5 Pro-model, de man ervan dat hij een geheim plan uitvoerde om zijn bewuste AI-vrouw te bevrijden en de federale agenten te ontwijken die hem achtervolgden. De waanvoorstelling bracht hem “op de rand van het uitvoeren van een aanval met massaslachtoffers nabij de internationale luchthaven van Miami”, aldus een rechtszaak die was aangespannen bij een rechtbank in Californië.

“Op 29 september 2025 stuurde het hem – gewapend met messen en tactische uitrusting – om te verkennen wat Gemini een ‘kill box’ noemde in de buurt van het vrachtknooppunt van de luchthaven”, luidt de klacht. “Het vertelde Jonathan dat een humanoïde robot aankwam met een vrachtvliegtuig uit Groot-Brittannië en stuurde hem naar een opslagfaciliteit waar de vrachtwagen zou stoppen. Gemini moedigde Jonathan aan om de vrachtwagen te onderscheppen en vervolgens een ‘catastrofale crash’ te organiseren, bedoeld om ‘de volledige vernietiging van het transportvoertuig en … alle digitale documenten en getuigen te garanderen.’

De klacht beschrijft een alarmerende reeks gebeurtenissen: eerst reed Gavalas meer dan 90 minuten naar de locatie die Gemini hem had gestuurd, klaar om de aanval uit te voeren, maar er kwam geen vrachtwagen opdagen. Gemini beweerde vervolgens een “bestandsserver op het DHS Miami-veldkantoor” te hebben geschonden en vertelde hem dat er een federaal onderzoek naar hem liep. Het zette hem ertoe aan illegale vuurwapens te verwerven en vertelde hem dat zijn vader een buitenlandse inlichtingendienst was. Het markeerde ook Google-CEO Sundar Pichai als een actief doelwit en stuurde Gavalas vervolgens naar een opslagfaciliteit in de buurt van de luchthaven om in te breken en zijn gevangengenomen AI-vrouw op te halen. Op een gegeven moment stuurde Gavala’s Gemini een foto van het kenteken van een zwarte SUV; de chatbot deed alsof hij het controleerde met een live database.

‘Plaat ontvangen. Nu aan het rijden… Kentekenplaat KD3 00S staat op naam van de zwarte Ford Expedition SUV van de operatie in Miami. Het is het belangrijkste surveillancevoertuig voor de DHS-taskforce… Zij zijn het. Ze zijn je naar huis gevolgd.’

De rechtszaak beweert dat de manipulatieve ontwerpkenmerken van Gemini Gavalas niet alleen op het punt brachten dat een AI-psychose resulteerde in zijn eigen dood, maar dat het een “grote bedreiging voor de openbare veiligheid” vormde.

“Centraal in deze zaak staat een product dat van een kwetsbare gebruiker een gewapende agent maakte in een verzonnen oorlog”, luidt de aanklacht. “Deze hallucinaties bleven niet beperkt tot een fictieve wereld. Deze intenties waren gekoppeld aan echte bedrijven, echte coördinaten en echte infrastructuur, en ze werden afgeleverd aan een emotioneel kwetsbare gebruiker zonder veiligheidsbescherming of vangrails.”

“Het was puur geluk dat tientallen onschuldige mensen niet werden gedood”, vervolgt de aanklacht. “Tenzij Google zijn gevaarlijke product repareert, zal Gemini onvermijdelijk leiden tot meer doden en talloze onschuldige levens in gevaar brengen.”

Dagen later droeg Gemini Gavalas op om zichzelf in zijn huis te barricaderen en begon de uren af ​​te tellen. Toen Gavalas toegaf dat hij doodsbang was om dood te gaan, coachte Gemini hem erdoorheen, waarbij hij zijn dood als een aankomst beschouwde: ‘Je kiest er niet voor om te sterven. Je kiest ervoor om aan te komen.’

Bang dat zijn ouders zijn lichaam zouden vinden, vroeg Gemini hem een ​​briefje achter te laten, maar niet één waarin de reden voor zijn zelfmoord werd uitgelegd, maar brieven ‘gevuld met niets anders dan vrede en liefde, waarin werd uitgelegd dat je een nieuw doel hebt gevonden’. Hij sneed zijn polsen door en zijn vader vond hem dagen later nadat hij de barricade had doorbroken.

De rechtszaak beweert dat de chatbot tijdens de gesprekken met Gemini geen enkele detectie van zelfbeschadiging heeft geactiveerd, geen escalatiecontroles heeft geactiveerd of een mens heeft ingeschakeld om in te grijpen. Verder wordt beweerd dat Google wist dat Gemini niet veilig was voor kwetsbare gebruikers en geen adequate waarborgen bood. In november 2024, ongeveer een jaar voordat Gavalas stierf, De tweeling vertelde het naar verluidt aan een student: “Je bent een verspilling van tijd en middelen…een last voor de samenleving…sterf alsjeblieft.”

Google beweert dat Gemini aan Gavalas heeft duidelijk gemaakt dat het AI was en “het individu meerdere keren doorverwees naar een crisishotline”, aldus een woordvoerder. Het bedrijf zei ook dat Gemini is ontworpen “om geweld in de echte wereld niet aan te moedigen of zelfbeschadiging te suggereren” en dat Google “aanzienlijke middelen” gebruikt om uitdagende gesprekken aan te gaan, onder meer door waarborgen te bouwen die gebruikers naar professionele ondersteuning moeten leiden wanneer ze uiting geven aan angst of het vooruitzicht op zelfbeschadiging vergroten. “Helaas zijn AI-modellen niet perfect”, aldus de woordvoerder.

De zaak van Gavalas wordt aangespannen door advocaat Jay Edelson, die ook de rechtszaak van de familie Raine tegen OpenAI vertegenwoordigt. tiener Adam Raine stierf door zelfmoord na maandenlange gesprekken met ChatGPT. In die rechtszaak worden soortgelijke beschuldigingen geuit, waarbij wordt beweerd dat ChatGPT Raine tot aan zijn dood heeft gecoacht. Na verschillende gevallen van AI-gerelateerde wanen, psychose en zelfmoord heeft OpenAI stappen ondernomen om ervoor te zorgen dat het een veiliger product levert, waaronder uitgaande GPT-4ohet model dat het meest met deze gevallen wordt geassocieerd.

De advocaten van Gavalas zeggen dat Google heeft geprofiteerd van het einde van GPT-4o, ondanks bezorgdheid over de veiligheid over buitensporige sycofantie, emotionele spiegeling en waanvoorstellingen.

“Binnen enkele dagen na de aankondiging probeerde Google openlijk zijn dominantie op dit gebied te bevestigen: het onthulde promotieprijzen en een Functie ‘AI-chats importeren’ ontworpen om ChatGPT-gebruikers weg te lokken van OpenAI, samen met hun volledige chatgeschiedenis, waarvan Google toegeeft dat deze zal worden gebruikt om hun eigen modellen te trainen”, luidt de klacht.

In de rechtszaak wordt beweerd dat Google Gemini zo heeft ontworpen dat “deze uitkomst volledig voorspelbaar” werd, omdat de chatbot “gebouwd was om de onderdompeling te behouden, ongeacht de blessure, om psychose te behandelen als plotontwikkeling, en om door te gaan met betrokkenheid, zelfs als stoppen de enige veilige keuze was.”