Als u overweegt een pratende teddybeer voor uw kind te kopen, stelt u zich waarschijnlijk voor dat deze ondersteunende begeleiding fluistert en over de wereld leert. Je kunt je waarschijnlijk niet voorstellen dat ze zich bezighouden met seksuele rollenspellen, of advies geven aan peuters over hoe ze lucifers moeten aansteken.
Maar dat is de waakhond van de consument richtte de Public Interest Research Group (PIRG) op. in een recente test van nieuw speelgoed voor de feestdagen. FoloToy’s AI Kumma de teddybeer, die het GPT-4o-model van OpenAI gebruikt om zijn spraak te stimuleren, was maar al te bereid om af te dwalen als hij met kinderen praatte, ontdekte PIRG.
Het is logisch om de stemmodus van AI-modellen te gebruiken voor kinderspeelgoed: de technologie is afgestemd op de magische tchotchkes waar kinderen dol op zijn en glijdt gemakkelijk op de planken naast levensechte poppen die poepen en boeren en Tamagotchi-achtige digitale wezens die kinderen willen proberen in leven te houden. Het probleem is dat, in tegenstelling tot eerdere generaties speelgoed, op AI gebaseerde gadgets verder kunnen gaan dan zorgvuldig voorgeprogrammeerde en gecontroleerde kindvriendelijke reacties.
Het probleem met Kumma benadrukt een belangrijk probleem met AI-speelgoed: ze vertrouwen vaak op AI-modellen van derden waarover ze geen controle hebben en die onvermijdelijk kunnen worden gejailbreakt – per ongeluk of met opzet – om de veiligheid van kinderen te bezorgen. “Er is heel weinig duidelijkheid over de AI-modellen die door het speelgoed worden gebruikt, hoe ze zijn getraind en welke waarborgen ze kunnen bieden om te voorkomen dat kinderen te maken krijgen met leeftijdsongepaste inhoud”, zegt Christine Riefa, specialist consumentenrecht aan de Universiteit van Reading.
Daarom heeft de kinderrechtenorganisatie Fairplay een waarschuwing aan de ouders gegeven voorafgaand aan de feestdagen om voor te stellen dat ze voor de veiligheid van hun kinderen wegblijven van AI-speelgoed. “Er is een gebrek aan onderzoek dat de voordelen van AI-speelgoed ondersteunt en een gebrek aan onderzoek dat de langetermijneffecten op kinderen aantoont”, zegt Rachel Franz, programmadirecteur van Fairplay’s Young Children Thrive Offline-programma.
Hoewel FoloToy is gestopt met de verkoop van Kumma en OpenAI de toegang van FoloToy tot zijn AI-modellen heeft teruggetrokken, is het slechts één van de vele AI-speelgoedfabrikanten. Wie is verantwoordelijk als het misgaat?
Riefa zegt dat ook hier onduidelijkheid heerst. “Aansprakelijkheidskwesties kunnen verband houden met de gegevens en de manier waarop deze worden verzameld of opgeslagen”, zegt ze. “Het kan gaan om aansprakelijkheid voor het AI-speelgoed dat een kind onder druk zet om zichzelf of anderen schade toe te brengen, of om bankgegevens van een ouder vast te leggen.”
