eSafety-commissaris Julie Inman Grant zegt dat de mondiale regelgeving zich richt op die van Elon Musk X heeft een “omslagpunt” bereikt na een inval in de kantoren van het bedrijf in Frankrijk deze week.
De inval op dinsdag maakte deel uit van een studie waaronder vermeende misdrijven van medeplichtigheid aan het bezit en de georganiseerde verspreiding van afbeeldingen van kindermisbruik, inbreuk op beeldrechten door middel van geseksualiseerde deepfakes en ontkenning van misdaden tegen de menselijkheid.
Een aantal andere landen – inclusief Groot-Brittannië En Australië – En EU is de afgelopen weken een onderzoek gestart naar X nadat zijn AI-chatbot, Grok, werd gebruikt om op verzoek van gebruikers massaal geseksualiseerde afbeeldingen van vrouwen en kinderen te produceren.
Inman Grant vertelde Guardian Australia: “Het is fijn om niet langer solist te zijn en deel uit te maken van een koor.
“We hebben zoveel productieve discussies gehad met andere toezichthouders over de hele wereld en met onderzoekers die belangrijk werk doen op dit gebied”, zei ze.
“Ik denk dat dit echt een keerpunt betekent. Dit is een wereldwijde veroordeling van onzorgvuldig ontwikkelde technologie die op grote schaal materiaal over seksueel kindermisbruik en niet-consensuele seksuele beelden zou kunnen genereren.”
Na de oproep, X heeft het genereren van Grok-afbeeldingen uitgeschakeld voor alle gebruikers behalve betaalde gebruikersen beloofde veranderingen aan te brengen om te voorkomen dat gebruikers echte mensen uitkleden.
Meld u aan: AU Breaking News-e-mail
De stappen tegen X kwamen vooruit op het laatste rapport van de eSafety Commissioner, dat donderdag werd gepubliceerd, waarin wordt onderzocht hoe technologieplatforms seksueel misbruik en uitbuiting van kinderen op hun platforms voorkomen.
In juli 2024 werden mededelingen gedaan aan Apple, Discord, Google, Meta, Microsoft, Skype en WhatsApp, waarvoor zesmaandelijkse updates van de platforms nodig waren. Het Microsoft-eigendom Skype bestaat niet meer.
Inman Grant zei dat er enkele verbeteringen op de platforms waren aangebracht, waaronder het detecteren van bekend materiaal over kindermisbruik en het voorkomen van livestreaming van misbruik buiten berichten-apps, maar dat de platforms nog steeds tekortschoten.
Apple, dat volgens Inman Grant voorheen privacy en veiligheid als elkaar uitsluitende beschouwde, was het verst gekomen.
“(Appel is) echt investeren … en het betrekken en ontwikkelen van hun communicatiebeveiligingscapaciteiten en het ontwikkelen ervan.”
In 2024 het bedrijf begon functies uit te rollen waarmee kinderen naaktfoto’s en video’s die naar hen zijn verzonden, rechtstreeks aan Apple kunnen melden, die de berichten vervolgens aan de politie kunnen melden.
Maar Inman Grant zei dat er op FaceTime nog steeds onvoldoende detectie was van daadwerkelijke kindermisbruik of -uitbuiting. Ze maakte soortgelijke kritiek op Meta voor Messenger, Google Meet, Snapchat, Microsoft Teams, WhatsApp en Discord.
Een aantal diensten maakte geen gebruik van taalanalyses om seksuele intimidatie proactief op te sporen, zei ze.
“Het verbaast mij dat ze niet ingaan op de diensten waar kinderen de ernstigste en meest verwoestende schade oplopen. Het is alsof ze niet het hele huis volledig weerbestendig maken. Ze plakken spackles op de muren en plakken misschien de ramen af, maar repareren het dak niet.
“Ik vind het interessant om te zien hoe fragmentarisch hun implementatie van deze beveiligingstechnologieën is.”
Verbeteringen zijn onder meer: Microsoft detecteert bekend kindermisbruikmateriaal op OneDrive en in e-mailbijlagen in Outlook; Snap verkort de tijd voor het verwerken van meldingen van kindermisbruikmateriaal van 90 minuten naar 11 minuten; en Google lanceert waarschuwingen voor gevoelige inhoud die naaktfoto’s vervagen voordat ze worden weergegeven.
De bedrijven moeten nog twee keer rapporteren aan eSafety: in maart en augustus van dit jaar. Inman Grant zei dat de transparantierapporten de ‘zwarte doos’ hadden geopend van wat de bedrijven deden en zouden helpen bij toekomstige onderzoeken.
X was niet opgenomen in de kennisgevingen en vocht de afgifte van een soortgelijke kennisgeving door eSafety in maart 2024 aan in een zaak die nog steeds loopt.
