Character.AI maakte dinsdag bekend dat het “Verhalen“, een nieuw formaat waarmee gebruikers interactieve fictie kunnen creëren met hun favoriete personages. De functie komt als alternatief voor de chatbots van het bedrijf, die vanaf deze week niet langer beschikbaar zijn voor gebruikers onder de 18 jaar.
De verandering volgt op de groeiende bezorgdheid over de geestelijke gezondheidsrisico’s van AI-chatbots die 24/7 beschikbaar zijn en gesprekken met gebruikers kunnen initiëren. Meer juridische procedures Er zijn aangiften gedaan tegen bedrijven als OpenAI en Character.AI vanwege hun vermeende rol bij zelfmoorden onder gebruikers. De afgelopen maand heeft Character.AI de toegang voor minderjarigen langzaam afgebouwd, en vanaf dinsdag kunnen minderjarige gebruikers helemaal niet meer met de AI-personages chatten.
“Verhalen bieden een begeleide manier om fictie te creëren en te verkennen in plaats van een open chat”, aldus het bedrijf in een blogpost. “Het zal naast onze andere multimodale functies worden aangeboden, zodat tieners op een veilige manier met hun favoriete personages kunnen blijven communiceren.”
Interactieve fictie heeft een stijging in populariteit de afgelopen jaren, dus de spil van Character.AI is logisch. Maar dat is misschien niet genoeg om de gebruikers die dat zijn geworden tevreden te stellen te afhankelijk op chatbots – wat des te meer reden is waarom Character.AI’s beslissing om de toegang tot chatbots te beperken gerechtvaardigd was.
Op de Character.AI-subreddit zijn de reacties gemengd. Volgens hun opmerkingen zeggen sommige tieners dat ze, hoewel ze teleurgesteld zijn, geloven dat dit uiteindelijk de juiste stap was.
“Ik ben zo boos over het verbod, maar ook zo blij omdat ik nu andere dingen kan doen en mijn verslaving misschien eindelijk voorbij is”, schreef een gebruiker die zichzelf identificeerde als tiener.
Een ander zei: “Als iemand onder de 18 is dit gewoon teleurstellend. Maar terecht, want mensen van mijn leeftijd raken hieraan verslaafd.”
Techcrunch-evenement
San Francisco
|
13.-15. Oktober 2026
Het valt nog te bezien hoe tieners de Stories-functie zullen gebruiken, maar het formaat is psychologisch minder dubieus dan rollenspellen met chatbots. In tegenstelling tot Stories communiceren chatbots rechtstreeks met gebruikers in open gesprekken en kunnen ze ongevraagde berichten sturen, zelfs als gebruikers de app niet actief gebruiken.
Het besluit van Character.AI om de toegang tot chatbots aan een leeftijdsgrens te onderwerpen, komt op een moment dat Californië onlangs de eerste staat werd reguleren AI-metgezellen. Ondertussen hebben senatoren Josh Hawley (R-MO) en Richard Blumenthal (D-CT) een nationaal wetsvoorstel ingediend het zou AI-metgezellen voor minderjarigen helemaal verbieden.
“Ik hoop echt dat we het voortouw nemen en een standaard zetten in de branche dat open chats voor jongeren onder de 18 waarschijnlijk niet de manier of het product zijn dat we kunnen aanbieden”, zegt Character.AI CEO Karandep Anand. vertelde TechCrunch vorige maand.
