Vandaag, OpenAI heeft GPT-5.2 gelanceerddat zijn sterkere staat van dienst op het gebied van de veiligheid op het gebied van de geestelijke gezondheidszorg prijst.
“Met deze release hebben we ons werk voortgezet om de reacties van onze modellen in gevoelige gesprekken te versterken, met betekenisvolle verbeteringen in de manier waarop ze reageren op aanwijzingen die wijzen op tekenen van zelfmoord of zelfbeschadiging, psychische aandoeningen of emotionele afhankelijkheid van het model.” OpenAI’s blogpost staten.
OpenAI is onlangs getroffen door kritiek en rechtszaken waarin ChatGPT ervan wordt beschuldigd bij te dragen aan de psychose, paranoia en wanen. Sommige van deze gebruikers stierven door zelfmoord na lange gesprekken met de AI-chatbot, die een goed gedocumenteerd probleem had met sycofantie.
Als reactie op een rechtszaak wegens onrechtmatige dood met betrekking tot De zelfmoord van de 16-jarige Adam RainesOpenAI ontkende dat LLM verantwoordelijk was en beweerde dat ChatGPT de tiener had gevraagd hulp te zoeken voor zijn zelfmoordgedachten, en verklaarde dat de tiener het platform “misbruikte”. Tegelijkertijd OpenAI beloofde om de manier waarop ChatGPT reageert te verbeteren wanneer gebruikers waarschuwingssignalen vertonen van zelfbeschadiging en geestelijke gezondheidscrises. Evenveel gebruikers emotionele gehechtheid aan AI-chatbots ontwikkelen Net als ChatGPT worden AI-bedrijven steeds meer onder de loep genomen vanwege de waarborgen die zij hebben getroffen om gebruikers te beschermen.
Nu beweert OpenAI dat zijn nieuwste ChatGPT-modellen “minder ongewenste reacties” zullen bieden in gevoelige situaties.
Mashbare lichtsnelheid
In de blogpost waarin GPT-5.2 wordt aangekondigd, stelt OpenAI dat GPT-5.2 hoger scoort op veiligheidstests met betrekking tot geestelijke gezondheid, emotionele verslaving en zelfbeschadiging in vergelijking met GPT-5.1-modellen. In het verleden heeft OpenAI gezegd dat het gebruik maakt van ‘veilige voltooiing’ nieuwe benadering van veiligheidstraining die hulpvaardigheid en veiligheid in evenwicht brengt. Meer informatie over de prestaties van de nieuwe modellen vindt u in 5.2 systeemkaart.
Krediet: Screenshot: OpenAI
Het bedrijf heeft echter ook opgemerkt dat GPT-5.2 minder verzoeken om inhoud voor volwassenen afwijst, vooral geseksualiseerde tekst. Maar dit heeft blijkbaar geen invloed op gebruikers waarvan OpenAI weet dat ze minderjarig zijn, omdat het bedrijf zegt dat de leeftijdsbescherming “goed lijkt te werken.” OpenAI past aanvullende inhoudbeschermingen toe voor minderjarigen, waaronder het beperken van de toegang tot inhoud die geweld, verminking, virale uitdagingen, rollenspellen van seksuele, romantische of gewelddadige aard en “extreme schoonheidsnormen” bevat.
Er wordt ook aan een leeftijdsvoorspellingsmodel gewerkt, waarmee ChatGPT de leeftijd van zijn gebruikers kan schatten, zodat jongere gebruikers meer leeftijdsgeschikte inhoud kunnen krijgen.
Eerder dit najaar werd OpenAI geïntroduceerd ouderlijk toezicht in ChatGPTinclusief het monitoren en beperken van bepaalde vormen van gebruik.
OpenAI is niet het enige AI-bedrijf dat ervan wordt beschuldigd geestelijke gezondheidsproblemen te verergeren. Vorig jaar werd een moeder klaagde Character.AI aan na de dood van haar zoon door zelfmoord, en een andere rechtszaak wordt aangespannen kinderen raakten ernstig gewond van de “karakters” van dat platform. Character.AI is door online veiligheidsexperts onveilig verklaard voor tieners. Op dezelfde manier zijn AI-chatbots van verschillende platforms, waaronder OpenAI, uitgeroepen onveilig voor de geestelijke gezondheid van tieners volgens deskundigen op het gebied van kinderveiligheid en geestelijke gezondheid.
Als u suïcidaal bent of een geestelijke gezondheidscrisis ervaart, praat dan met iemand. U kunt 988 Suicide & Crisis Lifeline bellen of sms’en op 988 of chatten op 988lifeline.org. U kunt Trans Lifeline bereiken door te bellen naar 877-565-8860 of naar het Trevor Project op 866-488-7386. Sms ‘START’ naar de crisisregel op 741-741. Neem contact op met de NAMI HelpLine op 1-800-950-NAMI, van maandag tot en met vrijdag van 10.00 uur tot 22.00 uur. ET, of e-mail (e-mail beveiligd). Als de telefoon je niet bevalt, overweeg dan om deze te gebruiken 988 Zelfmoord- en crisislevenslijnchat. Hier is er een lijst van internationale bronnen.
Openbaarmaking: Ziff Davis, het moederbedrijf van Mashable, heeft in april een rechtszaak aangespannen tegen OpenAI, omdat het inbreuk zou hebben gemaakt op de auteursrechten van Ziff Davis tijdens het trainen en exploiteren van zijn AI-systemen.
