Open AI 80 cent Volgens een rapport van het National Center for Missing & Exploited Children worden in de eerste helft van 2025 keer zoveel gevallen van kinderuitbuiting gerapporteerd aan het National Center for Missing & Exploited Children als in dezelfde periode in 2024. laatste update van het bedrijf. De CyberTipline van NCMEC is een door het Congres geautoriseerd uitwisselingscentrum voor het melden van materiaal over seksueel misbruik van kinderen (CSAM) en andere vormen van uitbuiting van kinderen.
Volgens de wet moeten bedrijven zich melden duidelijke uitbuiting van kinderen naar CyberTipline. Wanneer een bedrijf een melding indient, beoordeelt NCMEC deze en stuurt deze vervolgens voor onderzoek door naar de juiste wetshandhavingsinstantie.
Statistieken met betrekking tot NCMEC-rapporten kunnen genuanceerd zijn. Meer rapporten kunnen soms duiden op veranderingen in de geautomatiseerde moderatie van een platform of de criteria die het gebruikt om te beslissen of een rapport noodzakelijk is, in plaats van noodzakelijkerwijs op een toename van ongevaarlijke activiteit.
Bovendien kan hetzelfde stuk inhoud het onderwerp zijn van meerdere rapporten, en kan een enkel rapport over meerdere stukken inhoud gaan. Sommige platforms, waaronder OpenAI, onthullen het aantal rapporten en de totale inhoud die ze op het punt stonden een completer beeld te krijgen.
OpenAI-woordvoerder Gaby Raila zei in een verklaring dat het bedrijf tegen het einde van 2024 investeringen deed “om de capaciteit te vergroten om rapporten te beoordelen en ernaar te handelen, om gelijke tred te houden met de huidige en toekomstige gebruikersgroei.” Raila zei ook dat het tijdsbestek overeenkomt met “de introductie van meer productoppervlakken die het uploaden van afbeeldingen mogelijk maakten en de groeiende populariteit van onze producten, wat heeft bijgedragen aan de toename van het aantal rapporten.” In augustus heeft Nick Turley, vice-president en hoofd van ChatGPT, aangekondigd dat de app vier keer zoveel wekelijkse actieve gebruikers had dan het jaar ervoor.
Tijdens de eerste helft van 2025 was het aantal CyberTipline-rapporten dat OpenAI stuurde ongeveer hetzelfde als de hoeveelheid inhoud waarover OpenAI de rapporten stuurde: 75.027 vergeleken met 74.559. In de eerste helft van 2024 stuurde het 947 CyberTipline-rapporten over 3.252 stukjes inhoud. Zowel het aantal rapporten als de inhoudelijke delen van de rapporten zijn tussen de twee tijdsperioden aanzienlijk toegenomen.
In deze context kan inhoud verschillende dingen betekenen. OpenAI heeft dat gezegd rapporten alle gevallen van CSAM, inclusief uploads en verzoeken, naar NCMEC. Naast de ChatGPT-app, waarmee gebruikers bestanden – inclusief afbeeldingen – kunnen uploaden en als reactie daarop tekst en afbeeldingen kunnen genereren, biedt OpenAI ook toegang tot zijn modellen via API-toegang. De laatste NCMEC-telling zou geen rapporten bevatten die hiermee verband houden videogeneratie-app Soraaangezien de release in september na het tijdsbestek viel dat door de update werd gedekt.
De toename van het aantal meldingen volgt een soortgelijk patroon dat NCMEC breder heeft waargenomen op CyberTipline met de opkomst van generatieve AI. Die van het centrum analyse van alle CyberTipline-gegevens bleek dat rapporten over generatieve AI tussen 2023 en 2024 een stijging van 1.325 procent zagen. NCMEC moet nog gegevens over 2025 vrijgeven, terwijl andere grote AI-laboratoria zoals Googlen publiceren statistieken over de NCMEC-rapporten die ze hebben geproduceerd, maar specificeren niet welk percentage van die rapporten AI-gerelateerd is.
