De Europese Het parlement heeft de uitbreiding geblokkeerd van een wet die grote bedrijven mogelijk maakt technologie bedrijven gaan op hun platforms scannen op seksuele uitbuiting van kinderen, waardoor een juridische maas in de wet ontstaat die volgens kinderveiligheidsexperts ertoe zal leiden dat misdaden onopgemerkt blijven.
De wet, die een uitsplitsing was van de EU-privacywetgeving, werd in 2021 geïntroduceerd als een tijdelijke maatregel die bedrijven in staat stelt geautomatiseerde detectietechnologieën te gebruiken om berichten te scannen op schade, waaronder materiaal over seksueel misbruik van kinderen (CSAM), verzorging en afpersing. Het liep echter op 3 april af en het EU-Parlement besloot niet voor verlenging te stemmen vanwege privacyproblemen van sommige wetgevers.
De kloof in de regelgeving heeft voor onzekerheid gezorgd bij grote technologiebedrijven, omdat het scannen op schade op hun platforms nu illegaal is, maar zij nog steeds verantwoordelijk zijn voor het verwijderen van illegale inhoud die op hun platforms wordt gehost op grond van een andere wet, de Digital Services Act. Google, Meta, Snap en Microsoft zeiden dat ze hun platforms vrijwillig zouden blijven scannen op CSAM gezamenlijke verklaring op een Google-blog geplaatst.
“We zijn teleurgesteld door dit onverantwoordelijke onvermogen om tot een overeenkomst te komen om de gevestigde inspanningen om kinderen online te beschermen hoog te houden”, aldus de verklaring.
Het Europees Parlement zei in een verklaring dat het prioriteit gaf aan zijn werkzaamheden wetgeving om seksueel misbruik van kinderen online te voorkomen en te bestrijden, en dat de onderhandelingen over een permanent juridisch kader gaande waren, hoewel de instantie geen tijdschema had aangeboden voor overeenkomsten of implementatie.
Voorstanders van kinderbescherming hadden gewaarschuwd dat het laten vervallen van de wetgeving waarschijnlijk zou leiden tot een scherpe daling van het aantal meldingen van seksueel misbruik van kinderen. Zij wijzen op een soortgelijke juridische leemte die in 2021 ontstond, toen de meldingen van dergelijk materiaal uit in de EU gevestigde rekeningen aan het National Center for Missing and Exploited Children (NCMEC) in een periode van 58 jaar met 58% daalden. 18 weken.
“Als detectiemiddelen worden verstoord, verliezen we de zichtbaarheid, wat een directe invloed heeft op ons vermogen om slachtoffers van seksueel kindermisbruik op te sporen en te beschermen”, zegt John Shehan, vice-president van NCMEC, een in de VS gevestigde organisatie die fungeert als een uitwisselingscentrum voor meldingen van kindermisbruik, die zij doorstuurt naar relevante wetshandhavingsinstanties over de hele wereld. “Als de detectie uitgaat, stopt het misbruik niet.”
In 2025 ontving NCMEC 21,3 miljoen meldingen die meer dan 61,8 miljoen afbeeldingen, video’s en andere bestanden bevatten die vermoedelijk verband houden met kindermisbruik van over de hele wereld. Ongeveer 90% van deze rapporten heeft betrekking op landen buiten de Verenigde Staten.
Een woordvoerder van het EU-Parlement weigerde commentaar te geven op de vraag of het wetgevende orgaan beoordelingen had uitgevoerd om de gevolgen van het vervallen van de wet vast te stellen.
Het besluit van de EU om scannen te verbieden zal rimpeleffecten hebben in andere regio’s in de wereld, zeggen deskundigen op het gebied van kinderveiligheid. Veel internetcriminaliteit is grensoverschrijdend, waarbij daders illegale afbeeldingen naar mensen sturen of zich richten op kinderen in andere landen. ‘Sextortionisten’ die zich voordoen als romantische interesses om mensen te misleiden om intieme foto’s te sturen voordat ze chantagepogingen ondernemen, zouden ook kunnen profiteren van de wetswijziging, zei Shehan.
“De crimineel kan zich overal ter wereld bevinden, maar hij kan onbelemmerde toegang hebben tot minderjarigen Europa nu er rechtsonzekerheid bestaat rond deze waarborgen en bescherming om vast te stellen wanneer er voor een kind wordt gezorgd”, aldus Shehan.
Jaren van gespannen onderhandelingen leiden tot het vervallen van de essentiële scheidingswet
De afgelopen vier jaar is er onderhandeld over de voorgestelde regulering van seksueel misbruik van kinderen, waarbij meningsverschillen ontstonden omdat bedrijven hierdoor maatregelen zouden moeten nemen om de risico’s op hun platforms te minimaliseren, zegt Hannah Swirsky, hoofd beleid en public affairs bij de Internet Watch Foundation, een in het Verenigd Koninkrijk gevestigde non-profitorganisatie voor kinderveiligheid.
Voorstanders van privacy beweren dat grote technologieën berichten scannen op kindermisbruik dreigt fundamentele privacyrechten en gegevensbeveiliging voor EU-burgers, waarbij deze maatregelen worden gelijkgesteld met ‘chatmonitoring’ die kan leiden tot massale surveillance en valse positieven.
“Er zijn beschuldigingen van toezicht of schending van de privacy”, zei Swirsky. “Het blokkeren van CSAM is geen inbreuk op de privacy. De vrijheid van meningsuiting omvat niet seksueel misbruik van kinderen.”
De scantechnologie maakt gebruik van machinaal leren dat patroondetectie uitvoert om bekende afbeeldingen of video’s van misbruik te identificeren, evenals taalgebruik dat verband houdt met kinderuitbuiting, en slaat geen gegevens op, zegt Emily Slifer, beleidsdirecteur bij Thorn, een non-profitorganisatie die technologie bouwt om online kindermisbruik op te sporen die vaak wordt gebruikt door bedrijven en wetshandhavingsinstanties.
Het systeem werkt door getrainde analisten bekende CSAM te laten beoordelen die is verkregen uit externe bronnen, zoals rapporten van de politie, het publiek of onderzoeken naar websites waarvan bekend is dat ze materiaal over kindermisbruik hosten. Wanneer analisten bevestigen dat de inhoud illegaal seksueel misbruik van kinderen is, genereren ze een unieke digitale vingerafdruk – bekend als een hash-waarde – die het exacte beeld identificeert. Lijsten met hashwaarden worden vervolgens gedeeld met platforms, die geautomatiseerde systemen gebruiken om uploads te scannen en overeenkomende inhoud onmiddellijk te blokkeren, zonder dat een mens deze hoeft te zien.
“Technologie vindt geen baby’s in badkuipen en dat soort dingen. Als je bedenkt hoe een beeld van misbruik eruit zou zien en hoe consensuele inhoud eruit zou zien: het zijn twee heel verschillende stukjes materiaal, en technologie kan die patronen daartussen bepalen,” zei Slifer.
Hoewel de EU het scannen op kindermisbruik heeft geblokkeerd, heeft zij technologiebedrijven toegestaan vrijwillig berichten te scannen om deze op te sporen terroristische inhoud onder wetgeving die in 2021 is aangenomen, zei ze.
“De EU riskeert feitelijk deuren te openen voor roofdieren”, zei Swirsky. “Als de EU het serieus neemt om kinderen online te beschermen, dan moet zij overeenstemming bereiken over een permanent wetgevingskader om kinderen te beschermen en ontdekking mogelijk te maken.”
