OpenAI bevestigde op 6 maart dat dit het geval is de uitrol vertragen van de “volwassen modus” in ChatGPT, een functie waarmee geverifieerde volwassenen toegang kunnen krijgen tot minder beperkte inhoud. Het bedrijf kondigde vorig jaar voor het eerst plannen aan om ouder wordende gebruikers te starten, maar heeft de lancering nu twee keer uitgesteld. Het scheiden van volwassen gebruikers van minderjarigen zou kunnen helpen bij enkele van de juridische en financiële uitdagingen van OpenAI, maar het vinden van de technologie is misschien niet eenvoudig.
De modus voor volwassenen werd dit kwartaal verwacht en is dat nog steeds, alleen later dan oorspronkelijk gepland.
OpenAI verwezen Snel bedrijf naar een opmerking die het maakte tegen die van Alex Heath Bronnen nieuwsbrief, waarin staat dat het de functie heeft gepauzeerd om zich te concentreren op verbeteringen aan ChatGPT, waaronder “winst in intelligentie, persoonlijkheidsverbeteringen, personalisatie en het proactiever maken van de ervaring.” (Dat vertelde ook Axios het vergt meer tijd. “We geloven nog steeds in het principe om volwassenen als volwassenen te behandelen, maar het opdoen van de juiste ervaring zal meer tijd vergen”, aldus het bedrijf.)
OpenAI hintte afgelopen oktober voor het eerst op de functie een X-post van CEO Sam Altman, die vragen beantwoordde over de veiligheid van ChatGPT voor kleine gebruikers. “Naarmate we leeftijdsbeperking vollediger uitrollen en als onderdeel van ons principe ‘behandel volwassen gebruikers als volwassenen’, zullen we nog meer toestaan, zoals erotica voor geverifieerde volwassenen”, schreef Altman.
De modus voor volwassenen is afhankelijk van OpenAI’s nieuwe leeftijdsvoorspellings- en verificatiesysteem, een systeem van eigen bodem AI model dat de leeftijd van een gebruiker schat op basis van aanwijzingen en media gegenereerd met tools zoals Sora. OpenAI zei in januari dat het was begonnen met het wereldwijd uitrollen van de technologie binnen ChatGPT. Wanneer het systeem detecteert dat een gebruiker mogelijk minderjarig is, worden zaken als gewelddadige inhoud en romantische rollenspellen beperkt.
Het bedrijf maakt ook gebruik van een extern verificatieplatform genaamd Persona, waarmee gebruikers hun leeftijd kunnen verifiëren als het AI-systeem hen in de verkeerde categorie plaatst.
Maar nauwkeurige leeftijdsvoorspelling en -verificatie is niet eenvoudig, en het gebruik ervan om chatbotgebruikers leeftijdsgebonden te maken is een relatief nieuw idee. Hoe kan een AI-model bijvoorbeeld onderscheid maken tussen een 16-jarige op de middelbare school en een 19-jarige op de universiteit als de twee met ChatGPT over soortgelijke zaken praten?
“Je kunt je voorstellen dat als je iets intypt dat op een huiswerkvraag lijkt, ChatGPT je als minderjarige markeert, en dan val je automatisch in de kleine categorie”, zegt Alissa Cooper, uitvoerend directeur van het Knight-Georgetown Institute, een technologiebeleidsgroep. “Dat zou de service voor universiteitsstudenten of mensen die toevallig een vraag stellen die op een huiswerkvraag lijkt behoorlijk ernstig beperken.”
Natuurlijk zullen sommige jongere gebruikers proberen het leeftijdsvoorspellingsmodel te laten denken dat ze volwassenen zijn. “Er is niet echt een manier om omzeiling te voorkomen, ongeacht de architectuur of het systeemontwerp”, zegt Cooper. “Er is dus een balans tussen het op slot zetten van dingen om omzeiling te voorkomen en het toestaan van een volledige ervaring voor gebruikers die geschikt is voor die leeftijd, wat die ervaring ook moet zijn.”
Een van de grootste zorgen van Cooper is dat de wereld buiten OpenAI niet weet hoe goed het systeem werkt. En tot nu toe deelt OpenAI in ieder geval niet veel informatie over zijn systeem.
“Ik denk dat het terecht is om sceptisch te zijn”, zegt Cooper, eraan toevoegend dat zij van mening is dat bedrijven voldoende transparantie moeten bieden over de manier waarop hun leeftijdsverificatiesystemen worden getest, zodat onafhankelijke experts kunnen beoordelen of ze daadwerkelijk werken en de gegevens kunnen onderzoeken die worden gebruikt om de leeftijd van mogelijk honderden miljoenen gebruikers te schatten.
OpenAI werd vorig jaar aangekondigd toen het twee keer was aangeklaagd door mensen die beweerden dat eerdere versies van ChatGPT een jonge geliefde tot zelfmoord hadden gedreven. Dit vormde de weg voor het bedrijf om eerst meer bumperbeschermers op zijn modellen te plaatsen voor alle gebruikers en vervolgens te proberen een veilige ervaring voor jongere gebruikers af te sluiten. Nu jongere gebruikers veilig gescheiden zijn, zou OpenAI een aantal inhoudsbeperkingen voor volwassen gebruikers kunnen versoepelen of verwijderen, zo luidt de gedachte.
Die modus voor volwassenen zou een echt verkoopargument kunnen worden, en op dit moment zou ChatGPT er een kunnen gebruiken. ChatGPT, dat wekelijks 800 miljoen actieve gebruikers heeft, had ooit te maken met weinig echte concurrentie tussen AI-chatbots. ChatGPT heeft nog steeds de meeste gebruikers, maar de concurrentie is toegenomen nu Google zijn Gemini-chatbot heeft verbeterd en Claude van Anthropic meer algemene naamsbekendheid heeft gekregen.
Niet alleen staat OpenAI onder druk om deze rivalen af te weren, maar het staat ook onder druk om de inkomsten uit de chatbot te verhogen om de enorme uitgaven die het de komende vijf jaar aan nieuwe datacenters wil doen, te compenseren.
Het aanmelden van miljoenen nieuwe volwassen gebruikers voor die ervaring zou niet alleen de abonnementsinkomsten van OpenAI verhogen, maar het zou ook kunnen betekenen dat miljoenen meer betrokken ogen naar advertenties kijken (het bedrijf gezegd in januari zal het binnenkort beginnen met het weergeven van advertenties aan enkele van zijn Amerikaanse gebruikers).
“Dus ik denk dat het de gebruikersbasis in meerdere richtingen segmenteert”, zegt Cooper. “Het houdt minderjarigen weg van ervaringen die niemand wil dat ze hebben, maar ook om volwassen ervaringen te kunnen bieden die echt op volwassenen gericht zijn en die sommige volwassenen willen.”
