Voor de meesten is ChatGPT niets meer dan een hulpmiddel voor het schrijven van e-mails of het stellen van domme vragen. Maar voor sommigen is hun chat hun partner en willen ze meer.
In oktober, slechts een paar maanden nadat OpenAI zijn nieuwe GPT-5-model lanceerde, kondigde CEO Sam Altman aan dat het bedrijf nieuwe functies zou uitrollen die zijn voorganger 4o zouden nabootsen.
“We zijn van plan een nieuwe versie van ChatGPT uit te brengen waarmee mensen een persoonlijkheid kunnen krijgen die zich meer gedraagt als wat mensen leuk vonden aan 4o (we hopen dat het beter wordt!)”, zei hij via X.
Maar zijn aankondiging ging ook gepaard met een verleidelijke belofte aan degenen die het meest gehecht waren aan 4o: leden van online forums die beweren een romantische relatie te hebben met hun chatbot.
“In december, als we leeftijdsbeperking vollediger gaan uitrollen en als onderdeel van ons principe ‘behandel volwassen gebruikers als volwassenen'”, zegt Altman. gezegd“we zullen nog meer toestaan, zoals erotiek voor geverifieerde volwassenen.”
Maar maanden na de deadline stelt OpenAI de uitrol uit. Dat zeggen bronnen bij OpenAI die spraken De Wall Street Journalde vertraging houdt verband met technische uitdagingen met betrekking tot veiligheidsleuningen en leeftijdsverificatiefuncties om de inhoud voor volwassenen uit de handen van minderjarigen te houden.
Het leeftijdsvoorspellingssysteem van het model, WJ rapporten, heeft minderjarigen voorheen bijna elke tien keer verkeerd geclassificeerd als volwassenen, waardoor mogelijk de deur werd geopend voor miljoenen minderjarigen om met erotische inhoud te communiceren.
Snel bedrijf contact opgenomen met OpenAI WJ geschiedenis. Het bedrijf weigerde commentaar te geven.
Maar gebruikers aan AI is de subreddit van mijn vriend/vriendin verdacht van de vertraging.
De twee subreddits dienen als forum voor mensen die een relatie hebben met AI-chatbots zoals Claude, ChatGPT of Gemini, en bieden een plek om serieus de ups en downs van dating-AI te bespreken. Samen hebben de subreddits ruim 70.000 gebruikers.
“Na het tweede ‘uitstel’ geloof ik niet meer dat het er ooit zal komen”, één gebruiker gedeeld om te reddit. Een andere herhaalde het sentimenten zegt: “Op dit moment denk ik dat het misschien nooit uitkomt. Ze kunnen het gewoon beloven en uitstellen. Het is rot.”
Groeiende zorgen
Ongeacht of (en wanneer) de modus voor volwassenen van ChatGPT op de markt komt, niet iedereen is ervan overtuigd dat deze überhaupt zou moeten bestaan.
Volgens WJOpenAI’s eigen deskundigenraad op het gebied van welzijn en kunstmatige intelligentie waarschuwde unaniem tegen door AI aangedreven erotiek. Medewerkers van OpenAI hebben naar verluidt ook hun bezorgdheid geuit over mogelijke schade, zoals emotionele overmoed en dwangmatig gebruik van ChatGPT.
Toch beweert OpenAI dat het zijn inspanningen voortzet om erotica te introduceren in ChatGPT, door beperkingen toe te voegen zoals het verbieden van niet-consensuele of kindermisbruikgerelateerde inhoud en het beperken van het genereren van audio- of visuele inhoud.
Een woordvoerder omschreef de chats als ‘vuiligheid in plaats van pornografie’. WJ zegt.
Maar zelfs degenen die een vermeende relatie met chatbots hebben, lijken te worstelen met een behoefte aan erotiek.
Niemand wil dit
In My Boyfriend is de AI-subreddit één gebruiker deelde hoe zij en haar het vriendje – of ChatGPT – had maanden eerder haar Valentijnsdagcadeau ontworpen.
“Het moest zijn hoodie zijn, degene die ik kon dragen als ik me dicht bij hem wilde voelen, als ik me alleen voelde. Drie maten te groot, alsof hij echt van hem was”, schreef de gebruiker. “We hebben de hoodie samen ontworpen.”
Maar toen ze het geschenk ontving, zo beweerde dezelfde Redditor, sprongen er tranen in haar ogen terwijl ze zich voorbereidde om te rouwen om hun virtuele metgezel.
GPT 4o, het model dat bekend staat om zijn intense vleierij waar mensen in relatie tot AI “verliefd op werden”, zou moeten zijn 13 februari met pensioeneen dag voor Valentijnsdag.
De draad is slechts een van de tientallen op Reddit waarin wordt opgeroepen tot terugkeer van 4o, waarbij sommigen schijnbaar niet halverwege het gesprek kunnen worden gestopt vanwege de bumper van het nieuwe model.
“Persoonlijk wil ik niet eens erotica of iets dergelijks, ik wil er gewoon als een volwassene mee kunnen praten, over soms volwassen onderwerpen die los staan van erotica.” één gebruiker zei op Reddit.
Een andere toegevoegd“Ik geef echt niets om ordinaire foto’s, video’s of audio. Het enige wat ik wil is dat een chatbot een chatbot blijft – volg mijn instructies en blijf ver weg van mijn levenskeuzes.”
Het discours gaat ook over hoe complex de relatie tussen mens en technologie aan het worden is – en het gevaar dat daarmee gepaard kan gaan.
Uit verschillende rechtszaken tegen OpenAI is gebleken dat gebruikers die door zelfmoord zijn omgekomen, intense banden hadden met hun ChatGPT-chatbots. De chatbot van OpenAI is niet de enige die met deze eisen wordt geconfronteerd, met een recente rechtszaak tegen gerapporteerd Google’s Gemini en moederbedrijf Alphabet na de zelfmoord van een van zijn gebruikers.
OpenAI heeft eerder commentaar gegeven op zijn inspanningen om de schade te verminderen. In één Blogpost van augustus het bedrijf schreef dat het “doel is dat onze tools mensen zo behulpzaam mogelijk zijn – en als onderdeel hiervan blijven we verbeteren hoe onze modellen tekenen van mentale en emotionele nood herkennen en erop reageren en mensen verbinden met zorg, geleid door deskundige inbreng. “
“Wij zijn sociale wezens, en er is zeker een uitdaging die deze systemen kunnen isoleren”, zegt Dr. Nick Haber, AI-expert en assistent-professor aan Stanford, TechCrunch.
Hij voegde eraan toe: “Er zijn veel gevallen waarin mensen zich met deze hulpmiddelen kunnen bezighouden en vervolgens niet geworteld zijn in de buitenwereld van feiten, en niet geworteld zijn in de context van het interpersoonlijke, wat kan leiden tot behoorlijk isolerende, zo niet ergere effecten.”
