De hoeveelheid door AI gegenereerd materiaal over seksueel misbruik van kinderen dat online wordt gevonden, is vorig jaar met 14% gestegen het merendeel van de video’s toont volgens een beveiliger de meest extreme vorm van content.
De Het internet De Watch Foundation zei dat het 8.029 door AI gegenereerde afbeeldingen en video’s van realistisch materiaal over seksueel misbruik van kinderen heeft geïdentificeerd (CSAM) in 2025. Het voegde eraan toe dat er een meer dan 260-voudige toename in video’s was geweest.
Volgens de IWF was 65% van de 3.443 video’s geclassificeerd als categorie A, de aanduiding voor het meest serieuze materiaal onder de Britse wetgeving. Het overeenkomstige cijfer voor niet-AI-video’s was 43%, zei de waakhond, wat aantoont dat de technologie werd gebruikt om gewelddadiger inhoud te creëren.
Kerry Smith, uitvoerend directeur van het IWF, zei: “Technologische vooruitgang mag nooit ten koste gaan van de veiligheid en het welzijn van een kind. Hoewel kunstmatige intelligentie in positieve zin veel kan bieden, is het gruwelijk om te denken dat de kracht ervan kan worden gebruikt om het leven van een kind te vernietigen. Dit materiaal is gevaarlijk.”
Een IWF-analist zei dat uit gesprekken tussen pedofielen op het dark web bleek dat innovaties in de technologie ‘verwelkomd’ werden door gebruikers van CSAM. De discussies richten zich op de steeds realistischer wordende output van AI-systemen en, naarmate deze verbeteren, hun vermogen om audio aan video toe te voegen of met succes afbeeldingen te manipuleren van een echt kind dat bekend is bij een dader.
Het in Groot-Brittannië gevestigde IWF exploiteert een hotline en heeft een mondiaal mandaat om inhoud van seksueel misbruik van kinderen te monitoren. Er staat dat overtreders ook de mogelijkheid bespraken om ‘agentische’ systemen te gebruiken, die taken autonoom kunnen uitvoeren.
Technologiebedrijven en kinderbeschermingsorganisaties zijn dat wel laat de Britse regering testen of AI-tools CSAM kunnen producerenin een beweging zeiden de ministers vorig jaar dat het ging om het stoppen van misbruik voordat het gebeurde.
Onder de verandering zal de regering aangewezen AI-bedrijven en kinderveiligheidsorganisaties toestaan generatieve kunstmatige-intelligentiemodellen te onderzoeken – de onderliggende technologie voor chatbots zoals ChatGPT en beeldgeneratoren zoals Google’s Veo 3 – en ervoor te zorgen dat ze over waarborgen beschikken om te voorkomen dat ze dergelijk materiaal maken.
‘Kinderen, slachtoffers en overlevenden kunnen het zich niet veroorloven dat wij zelfgenoegzaam zijn’, zei Smith. “Nieuwe technologie moet aan de hoogste standaard worden gehouden. In sommige gevallen staan levens op het spel.”
De hoeveelheid CSAM die door de IWF is geverifieerd, is enorm toegenomen naarmate de vaardigheid en beschikbaarheid van systemen is toegenomen, waarbij vooral video’s zijn toegenomen.
De IWF publiceerde ook een peiling waaruit bleek dat acht op de tien Britse volwassenen wilden dat de Britse regering wetgeving invoerde om ervoor te zorgen dat AI-systemen werden ontwikkeld met veiligheid als prioriteit en “toekomstbestendig tegen het veroorzaken van schade”. Vorig jaar kondigde de regering een verbod op het bezitten, creëren of distribueren van AI-modellen ontworpen om materiaal over seksueel misbruik van kinderen te genereren.
