Belangengroepen en experts veroordeelden YouTube vanwege winstbejag video’s van lage kwaliteit gegenereerd door kunstmatige intelligentie voor het meest kwetsbare publiek: kinderen.
In een brief aan YouTube CEO Neal Mohan en Sundar Pichai, CEO van YouTube’s moederbedrijf Google en kinderbelangenorganisatie Fairplay, uiten hun “ernstige bezorgdheid” over de verspreiding van AI-gegenereerde video’s op zowel YouTube als YouTube Kids. De brief, die woensdagochtend werd verzonden, werd ondertekend door ruim 200 organisaties en individuele deskundigen, zoals kinderpsychiaters en opvoeders.
“Dit’AI slop’ schaadt de ontwikkeling van kinderen door hun realiteitszin te vervormen, hun leerprocessen te overweldigen en hun aandacht te kapen, waardoor de tijd online wordt verlengd en offline activiteiten worden verdrongen die nodig zijn voor hun gezonde ontwikkeling”, luidt de brief. “Deze schade is vooral acuut voor jonge kinderen.” De brief roept YouTube op om alle door AI gegenereerde inhoud duidelijk te labelen en alle door AI gegenereerde inhoud op YouTube Kids te verbieden. Ze stellen ook voor om te voorkomen dat door AI gegenereerde video’s worden aanbevolen aan gebruikers onder de 18 jaar en om een optie voor ouders te implementeren om deze uit te schakelen Door AI gegenereerde inhoud, zelfs als hun kind ernaar zoekt.
De brief is ondertekend door 135 organisaties, waaronder de American Federation of Teachers en de American Counseling Association, en ongeveer 100 individuele experts, zoals Jonathan Haidt, auteur van The Anxious Generation. De brief maakt deel uit van een grotere campagne van Fairplay, waar ook een petitie onder valt.
Veel van deze door AI gegenereerde inhoud heeft een snel tempo, met felle kleuren, levendige muziek en clickbait-titels die de aandacht van jonge kijkers trekken, zo schetst de brief. Er is online een groeiende beweging tegen door AI gegenereerde inhoud, vooral als deze er van lage kwaliteit uitziet of aanvoelt of leunt op de nutteloosheid van ‘brain clutter’.
Woordvoerder Boot Bullwinkle zei in een verklaring dat YouTube “hoge normen hanteert voor de inhoud van YouTube Kids, inclusief het beperken van door AI gegenereerde inhoud in de app tot een klein aantal hoogwaardige kanalen.”
“We staan ouders ook toe kanalen te blokkeren. Op YouTube geven we prioriteit aan transparantie als het gaat om AI-inhoud, markeren we inhoud van onze eigen AI-tools en eisen we van makers dat ze realistische AI-inhoud vrijgeven”, aldus Bullwinkle. “We zijn voortdurend bezig met het ontwikkelen van onze aanpak om actueel te blijven terwijl het ecosysteem evolueert.”
Het huidige beleid van YouTube met betrekking tot door AI gegenereerde inhoud vereist dat makers openbaar maken wanneer inhoud die ‘realistisch’ is, is gemaakt met gewijzigde of synthetische media, inclusief generatieve AI. Makers hoeven niet openbaar te maken wanneer generatieve AI wordt gebruikt om inhoud te creëren die duidelijk onrealistisch is, inclusief animatievideo’s en video’s met speciale effecten.
YouTube zei dat het actief werkt aan de ontwikkeling van labels voor YouTube Kids.
In haar brief betoogt Fairplay dat het beleid inzake vrijwillige openbaarmaking en wat zij ziet als een ‘extreem beperkte’ definitie van gewijzigde en synthetische inhoud, betekent dat kinderen nog steeds een stroom door AI gegenereerde video’s zien die niet als zodanig zijn gelabeld. Ze beweren ook dat veel kinderen die YouTube-video’s bekijken, zoiets als een AI-onthulling nog niet kunnen lezen of begrijpen. Dat laat kinderen “voor zichzelf zorgen of hun ouders om mol te spelen”, staat in de brief.
De campagne van Fairplay komt kort nadat het AI Futures Fund van Google $ 1 miljoen heeft geïnvesteerd in Animaj, een AI-animatiestudio die video’s voor kinderen maakt en volgens Bloomberg een verbluffend hoog aantal kijkers trekt.
De campagne volgt op a historisch oordeel in een rechtszaak over verslaving aan sociale media waarin een jury uit Californië oordeelde dat YouTube zijn platform heeft ontworpen om jonge gebruikers aan te sluiten zonder zich zorgen te hoeven maken over hun welzijn. Meta werd ook verantwoordelijk bevonden op dezelfde punten als YouTube in dezelfde zaak.
“Het pushen van AI-slop naar jonge kinderen is slechts een bewijs van de manier waarop YouTube en YouTube Kids zijn ontworpen om de tijd van kinderen online te maximaliseren, inclusief baby’s. AI-slop hypnotiseert jonge kinderen, waardoor het moeilijk voor hen wordt om weg te komen van hun scherm en verder te gaan met essentiële activiteiten zoals spelen, slapen en sociale interactie”, zegt Rachel Franz, directeur van Fairplay’s Offline Young Children-programma Thrive. “Bovendien maakt het algoritme van YouTube het voor kinderen onmogelijk om AI-slop te vermijden.”
Eerder dit jaar noemde YouTube-chef Mohan ‘het beheren van AI-slop’ als een van de prioriteiten van het bedrijf voor 2026. In een blogpost in januari schreef hij dat het bedrijf ‘actief voortbouwde op onze gevestigde systemen die zeer succesvol zijn geweest in het bestrijden van spam en clickbait en het verminderen van de verspreiding van repetitieve inhoud van lage kwaliteit.’
—Kaitlyn Huamani, AP-technologieschrijver
