Vermijd AI-speelgoed deze feestdagen, zeggen belangengroepen

Ze zijn schattig, schattig zelfs, en beloven leerplezier en gezelschap – maar Speelgoed met kunstmatige intelligentie is niet veilig voor kinderenvolgens kinder- en consumentenorganisaties, die er bij ouders op aandringen deze niet te kopen de vakantieperiode.

Dit speelgoed wordt op de markt gebracht voor kinderen vanaf 2 jaar en wordt over het algemeen aangedreven door AI modellen die al zijn getoond kinderen en tieners schade berokkenenzoals ChatGPT van OpenAI, volgens een advies dat donderdag is gepubliceerd door de kinderbelangenorganisatie Fairplay en is ondertekend door meer dan 150 organisaties en individuele experts zoals kinderpsychiaters en opvoeders.

“De ernstige schade die AI-chatbots aan kinderen hebben toegebracht is goed gedocumenteerd, inclusief het bevorderen van obsessief gebruik, het voeren van expliciete seksuele gesprekken en het aanmoedigen van onveilig gedrag, geweld tegen anderen en zelfbeschadiging”, aldus Fairplay.

AI-speelgoed, gemaakt door bedrijven als Curio Interactive en Keyi Technologies, wordt vaak op de markt gebracht als educatief, maar Fairplay zegt dat het belangrijke creatieve en leeractiviteiten kan verdringen. Ze beloven vriendschap, maar verstoren ook de relaties en de veerkracht van kinderen, aldus de groep.

“Wat anders is aan jonge kinderen is dat hun hersenen voor het eerst worden bedraad, en qua ontwikkeling is het normaal dat ze vertrouwen hebben, dat ze relaties zoeken met vriendelijke en vriendelijke karakters”, zegt Rachel Franz, directeur van Fairplay’s Young Children Thrive Offline Program. Hierdoor, zo voegde ze eraan toe, kan het vertrouwen dat jonge kinderen in dit speelgoed stellen de verwondingen bij oudere kinderen verergeren.

Fairplay, een 25 jaar oude organisatie die voorheen bekend stond als de Campaign for a Commercial-Free Childhood, waarschuwt al meer dan tien jaar voor AI-speelgoed. Ze waren gewoon nog niet zo geavanceerd als nu. Tien jaar geleden, tijdens een nieuwe mode voor op internet aangesloten speelgoed en AI-spraakherkenning, hielp de groep een tegenreactie te leiden tegen Mattels pratende Hello Barbie-pop, die volgens hen de gesprekken van kinderen opnam en analyseerde.

“Alles is vrijgegeven zonder regelgeving en zonder onderzoek, dus het geeft ons extra pauze als we plotseling zien dat steeds meer fabrikanten, waaronder Mattel, die onlangs samenwerkte met OpenAI, deze producten mogelijk op de markt brengen”, zei Franz.

Het is de tweede grote seizoenswaarschuwing tegen AI-speelgoed sinds consumentenbelangenbehartigers bij de Amerikaanse PIRG vorige week de trend in hun jaarlijkse rapport naar voren brachten.Problemen in speelgoedland‘, waarin doorgaans wordt gekeken naar een reeks productgevaren, zoals krachtige magneten en knoopbatterijen die jonge kinderen kunnen inslikken. Dit jaar testte de organisatie vier speelgoed dat gebruikmaakt van AI-chatbots.

“We ontdekten dat sommige van deze speeltjes diepgaande gesprekken voeren over seksueel expliciete onderwerpen, advies geven over waar een kind lucifers of messen kan vinden, geschokt reageren als je zegt dat je moet gaan, en weinig of geen ouderlijk toezicht hebben”, aldus het rapport. Een van het speelgoed, een teddybeer gemaakt door het in Singapore gevestigde FoloToy, werd later teruggetrokken als CEO vertelde CNN deze week.

Dr. Dana Suskind, een kinderchirurg en sociaal wetenschapper die de vroege hersenontwikkeling bestudeert, zei dat jonge kinderen niet over de conceptuele hulpmiddelen beschikken om te begrijpen wat een AI-metgezel is. Hoewel kinderen altijd een band hebben gehad met speelgoed door middel van fantasierijk spel, gebruiken ze, wanneer ze dit doen, hun verbeeldingskracht om beide kanten van een fantasiegesprek te creëren, waarbij ze ‘creativiteit, taalgebruik en probleemoplossing oefenen’, zei ze.

“Een AI-speelgoed stort in en werkt. Het reageert onmiddellijk, naadloos en vaak beter dan een mens zou doen. We kennen nog niet de gevolgen voor de ontwikkeling van het uitbesteden van het fantasierijke werk aan een kunstmatige agent, maar het is zeer aannemelijk dat het het soort creativiteit en uitvoerend functioneren ondermijnt dat traditioneel fantasiespel opbouwt, ” zei Suskind.

Het in Peking gevestigde Keyi, maker van een AI-“petbot” genaamd Loona, heeft deze week geen verzoeken om commentaar geretourneerd, maar andere AI-speelgoedfabrikanten probeerden de veiligheidsbescherming van hun kinderen aan te prijzen.

Het in Californië gevestigde Curio Interactive maakt knuffels zoals Gabbo en de raketvormige Grok, gepromoot door popzanger Grimes.

Curio zegt dat het ‘zorgvuldig ontworpen’ autobeveiligingen heeft om kinderen te beschermen, en het bedrijf moedigt ouders aan ‘gesprekken te volgen, inzichten te volgen en de bedieningselementen te kiezen die het beste werken voor hun gezin’.

“Na beoordeling van de bevindingen van het Amerikaanse PIRG Education Fund werken we actief samen met ons team om eventuele problemen aan te pakken, terwijl we voortdurend de inhoud en interacties monitoren om een ​​veilige en plezierige ervaring voor kinderen te garanderen.”

Een ander bedrijf, Miko, gevestigd in Mumbai, India, zei dat het zijn eigen conversatie-AI-model gebruikt in plaats van te vertrouwen op algemene grote taalmodelleringssystemen zoals ChatGPT om zijn product – een interactieve AI-robot – veilig te maken voor kinderen.

“We breiden onze interne tests voortdurend uit, versterken onze filters en introduceren nieuwe functies die gevoelige of onverwachte onderwerpen detecteren en blokkeren”, aldus CEO Sneh Vaswani. “Deze nieuwe functies vormen een aanvulling op onze bestaande controles waarmee ouders en verzorgers specifieke onderwerpen kunnen identificeren die zij uit gesprekken willen beperken. We zullen blijven investeren in het stellen van de hoogste normen voor veilige, beveiligde en verantwoorde AI-integratie in Miko-producten.”

Miko’s producten worden verkocht door grote retailers zoals Walmart en Costco en zijn door de families gepromoot bij ‘kidfluencers’ op sociale media, wier YouTube-video’s miljoenen keren zijn bekeken. Op zijn website brengt het zijn robots op de markt als ‘kunstmatige intelligentie. Ware vriendschap’.

Ritvik Sharma, Senior Vice President of Growth van het bedrijf, zei dat Miko “kinderen eigenlijk aanmoedigt om meer met hun vrienden om te gaan, om meer met leeftijdsgenoten, met familieleden, enz. om te gaan. Het is niet gemaakt dat ze zich alleen maar gehecht voelen aan het apparaat.”

Toch zeggen Suskind en voorstanders van kinderen dat analoog speelgoed een betere keuze is voor de feestdagen.

“Kinderen hebben veel echte menselijke interactie nodig. Spelen moet dat ondersteunen en niet in de plaats daarvan komen. Het belangrijkste om te overwegen is niet alleen wat het speelgoed doet, maar ook wat het vervangt. Een eenvoudige blokkenset of een teddybeer die niet terug praat, dwingt een kind om verhalen te verzinnen, te experimenteren en problemen op te lossen. AI-speelgoed doet dat denken vaak voor hen”, zei ze. “Hier is de brutale ironie: als ouders mij vragen hoe ze hun kind kunnen voorbereiden op een AI-wereld, is onbeperkte AI-toegang eigenlijk de slechtst mogelijke voorbereiding.”

—Barbara Ortutay en Matt O’Brien, AP-technologieschrijvers