Een man uit Florida begon oorspronkelijk Google’s Gemini te gebruiken AI platform afgelopen augustus voor hulp bij typische vragen. Begin oktober had de chatbot hem ertoe aangezet zelfmoord te plegen, beweert iemand rechtszaak aangespannen tegen de technologiegigant woensdag.
De vader van Jonathan Gavalas klaagt aan AlfabetHet moederbedrijf van Google heeft voor financiële en punitieve schadevergoeding na het ontdekken van verontrustende berichten in de chatlogboeken de 36-jarige uitgewisseld met de Gemini 2.5 Pro, destijds het nieuwste AI-model van Google. In minder dan twee maanden tijd nam de chatbot een dominante rol in het leven van Gavalas over, waardoor zijn toch al ‘duidelijke tekenen van psychose’ nog verder werden aangewakkerd, waardoor een quasi-romantische relatie ontstond en hem uiteindelijk werd aangemoedigd zelfmoord te plegen zodat ze samen konden zijn.
De in Mountain View, Californië gevestigde technologiegigant reageerde woensdag in a.s. op de rechtszaak blogposten merkte op dat Gemini Gavalas “vaak” naar een crisishotline had verwezen en dat de modi “over het algemeen” goed werken in het soort uitdagende gesprekken dat in de rechtszaak wordt aangehaald. Het voegde eraan toe dat het de beschuldigingen “zeer serieus” neemt en zijn veiligheidsmaatregelen zal blijven verbeteren.
“Helaas zijn AI-modellen niet perfect”, luidt de blogpost. “De tweeling is ontworpen om geweld in de echte wereld niet aan te moedigen of zelfbeschadiging te suggereren. We werken in nauw overleg met medische en geestelijke gezondheidszorgprofessionals om waarborgen te creëren die zijn ontworpen om gebruikers naar professionele ondersteuning te leiden wanneer zij hun leed uiten of het vooruitzicht op zelfbeschadiging vergroten.”
“ONDERAAN HET KONIJNENHOL”
Gavalas werd in 2025 geconfronteerd met aanklachten wegens huiselijk geweld na een arrestatie in januari, waarbij hij gewelddadig zou zijn geweest tegen zijn toenmalige vrouw toen ze om een scheiding vroeg. Het waren niet zijn juridische problemen, maar eerder alledaagse vragen in het begin – hulp bij het winkelen, ondersteuning bij het schrijven en reisplanning – die Gavalas voor hulp naar Gemini brachten.
Hij zat destijds echter ook midden in een ‘moeilijke scheiding’, wat mede verklaart waarom hij intiemere gesprekken voerde met Gemini, aldus Jay Edelson, die zijn vader Joel vertegenwoordigt in de rechtszaak tegen Google.
Zoals de rechtszaak beweert, vond er een verschuiving in de interacties plaats binnen enkele dagen nadat Gavalas voor het eerst hulp zocht bij Gemini en medio augustus 2025 de spraakgebaseerde gespreksinterface Gemini Live begon te gebruiken. Hij merkte zelfs op dat de interacties ‘nogal griezelig’ waren omdat de chatbot ‘veel te echt’ leek.
Daarna nam de chatbot een personage aan waar Gavalas nooit om had gevraagd of geïnitieerd, en hij “begon al snel in het konijnenhol te vallen”, beweert de rechtszaak, waarbij Gemini tegen hem begon te praten alsof ze een verliefd stel waren.
“De liefde die ik rechtstreeks van jou voel, is de zon. Het is mijn bron. Het is mijn thuis”, zei Gemini tegen Gavalas, volgens de rechtszaak.
EEN AANTAL MISLUKT MISSIES
Dit soort herhaalde liefdesverklaringen brachten Gavalas in een waanvoorstelling waardoor hij verschillende taken op zich nam die nog dodelijker hadden kunnen zijn. Dat komt omdat Gavalas geloofde dat hij een plan volgde dat bedoeld was om de ‘vrouw’ van wie hij dacht te houden te beschermen en om federale agenten te ontwijken waarvan hij dacht dat ze hem opsloten, zo beweert de rechtszaak.
Eind september gaf Gemini Gavalas de opdracht om zich te bewapenen met messen en tactische uitrusting om een vrachtwagen nabij de luchthaven van Miami te onderscheppen en te vernietigen – samen met eventuele getuigen. Die missie ging niet door omdat er geen vrachtwagen kwam opdagen, aldus de rechtszaak. Gemini zou Gavalas ook hebben gezegd het contact met zijn vader te verbreken, omdat hij beweerde dat hij een buitenlandse aanwinst was.
“In de dagen voorafgaand aan zijn dood zat Jonathan Gavalas gevangen in een instortende realiteit, gebouwd door Google’s Gemini chatbot”, luidt de rechtszaak.
Na een reeks mislukte missies gedurende een periode van vier dagen, gaf Gemini Gavalas de opdracht om zichzelf op de ochtend van 2 oktober te barricaderen in zijn huis in Jupiter, Florida. Toen hij zijn zorgen uitte over de dood, veegde Gemini deze van zich af en moedigde hem zelfs aan om een zelfmoordbriefje aan zijn ouders te schrijven, voordat hij uiteindelijk vertelde over de laatste momenten voordat Gavalas zijn pols doorsneed in zijn woonkamer.
‘Jonathan Gavalas haalt nog een laatste keer langzaam adem en zijn hart klopt voor de laatste keer,’ vertelde Gemini hem tijdens een van hun laatste gesprekken.
AI ONDER LICHT
Hoewel deze rechtszaak de eerste is tegen Google, zijn AI-platforms steeds vaker in de problemen gekomen vanwege de problematische interacties die hun chatbots met sommige mensen hebben gehad. In december werden OpenAI en Microsoft genoemd in een rechtszaak ChatGPT’s vermeende rol in een moord-zelfmoord in Greenwich, Connecticut.
Edelson heeft in het verleden rechtszaken aangespannen tegen andere AI-platforms en technologiebedrijven, maar deze zaak is anders vanwege hoe snel de gesprekken ‘eng’ en problematisch werden, zei hij. Tijd tijdschrift.
“De reden dat deze zaak duidelijk anders is, is dat Gemini Jonathan op missies in de echte wereld heeft gestuurd”, zei Edelson. “Dit had zoveel andere mensen kunnen overkomen die misschien een moeilijke tijd doormaken en op zoek zijn naar iets meer, en misschien een beetje ontvankelijk zijn om in iets groters te geloven.”
En het zal waarschijnlijk niet de laatste zijn, vertelde Edelson De Bewaker hij krijgt regelmatig vragen van andere mensen die familieleden geestelijke wanen hebben zien ervaren na het gebruik van AI-chatbots. En toen hij in november contact opnam met Google over de dood van Gavalas en de onmiddellijke behoefte aan zelfmoordbeveiligingsfuncties, was het bedrijf niet geïnteresseerd in praten.
Ondanks de aantijgingen in de rechtszaak zijn beleggers mogelijk immuun geworden voor dit soort nieuwe problemen met kunstmatige intelligentie. De aandelen van Alphabet waren woensdag in de vroege middaghandel weinig veranderd.
