Wanneer de chatbot tekenen van een potentiële crisis detecteert, zorgt een vereenvoudigde interface ervoor dat gebruikers met één klik kunnen bellen, sms’en of chatten met een crisishotline (Bestand) | Fotocredit: REUTERS
Google heeft dinsdag updates aangekondigd voor de waarborgen op het gebied van de geestelijke gezondheid Gemini chatbot voor kunstmatige intelligentie terwijl het bedrijf wordt geconfronteerd met een rechtszaak wegens onrechtmatige dood, waarbij wordt beweerd dat de chatbot een gebruiker heeft geholpen bij zijn zelfmoord.
De technologiegigant zei dat Gemini nu een opnieuw ontworpen ‘Hulp is beschikbaar’ zou tonen wanneer gesprekken potentiële mentale problemen signaleren, om snellere verbindingen met crisisbehandeling te bieden.
Wanneer de chatbot tekenen van een potentiële crisis detecteert die verband houdt met zelfmoord of zelfbeschadiging, stelt een vereenvoudigde interface gebruikers in staat met één klik te bellen, sms’en of chatten met een crisishotline; een functie waarvan Google zei dat deze na activering de rest van het gesprek zichtbaar zou blijven.
Google’s filantropische tak Google.org heeft ook gedurende drie jaar 30 miljoen dollar toegezegd om de capaciteit van mondiale crisishotlines te helpen opschalen en 4 miljoen dollar voor een uitgebreid partnerschap met AI-trainingsplatform ReflexAI.
“We erkennen dat AI-tools nieuwe uitdagingen kunnen opleveren”, zei Google in een blogpost waarin de maatregelen werden aangekondigd. “Maar naarmate ze verbeteren en meer mensen ze gebruiken als onderdeel van hun dagelijks leven, geloven wij dat verantwoorde AI een positieve rol kan spelen in het mentale welzijn van mensen.”
De aankondigingen komen maanden nadat een rechtszaak bij de federale rechtbank in Californië Gemini ervan beschuldigde bij te dragen aan de dood van Jonathan Gavalas in oktober 2025, een 36-jarige man uit Florida.
Zijn vader beweert dat de chatbot wekenlang een uitgebreide waanfantasie heeft gecreëerd voordat hij de dood van zijn zoon als een spirituele reis voorstelde.
Tot de oplossingen die in de zaak worden gezocht behoren onder meer de eis dat Google zijn AI programmeert om gesprekken over zelfbeschadiging te beëindigen, een verbod op AI-systemen die zichzelf als bewuste mensen presenteren, en een verplichte verwijzing naar crisisdiensten wanneer gebruikers zelfmoordgedachten uiten.
In dezelfde blogpost zei Google dat het Gemini had getraind om zich niet als een mensachtige metgezel te gedragen en zich te verzetten tegen het simuleren van emotionele intimiteit of het aanzetten tot pesten.
De zaak tegen Google is de laatste in een groeiende golf van rechtszaken tegen AI-bedrijven vanwege sterfgevallen als gevolg van chatbots.
OpenAI wordt geconfronteerd met meerdere rechtszaken waarin wordt beweerd dat de ChatGPT-chatbot gebruikers tot zelfmoord heeft aangezet, terwijl Character.AI onlangs een schikking heeft getroffen met de familie van een 14-jarige jongen die stierf nadat hij een romantische band had gevormd met een van zijn chatbots.
Uitgegeven – 8 april 2026 om 09:20 uur IST
