Dinsdag keurde de Senaat unaniem een wetsvoorstel goed dat slachtoffers in staat stelt de makers van seksueel expliciete deepfakes zonder toestemming aan te klagen voor een minimumbedrag van $150.000.
De DEFIANCE Act is nu op weg naar het Huis van Afgevaardigden, waar de leiding er de afgelopen zittingsperiode niet in is geslaagd deze ter tafel te brengen. Maar er is een nieuw momentum rond de kwestie, nu voorstanders er bij Google en Apple op aandringen om Grok uit app-winkels te verbannen nadat de chatbot het maken van intieme afbeeldingen zonder toestemming toestond.
Op 20 december kondigde Elon Musk, CEO van sociale mediaplatform X, de rijkste persoon ter wereld en dicht bij de regering-Trump, aan dat de geïntegreerde chatbot Grok van het bedrijf afbeeldingen zou kunnen genereren op basis van gebruikersprompts.
X-gebruikers beseften al snel dat dit mogelijk was expliciete afbeeldingen maken door Grok aan te moedigen vrouwen en meisjes ‘uit te kleden’. Verschillende oplossingen hebben geresulteerd in intieme foto’s zonder toestemming van echte mensen over het hele platforminclusief materiaal over seksueel misbruik van kinderen en valse foto’s van moslimvrouwen met hun hijab verwijderd.
Op 3 januari verscheen het officiële rapport van het beveiligingsteam over X een korte verklaring afgegeven zegt dat het platform illegale inhoud verwijdert. “Iedereen die Grok gebruikt of aanmoedigt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt”, aldus de verklaring.
Op de 19e nam de persmail contact op met xAI, het door Musk opgerichte bedrijf dat Grok ontwikkelt, om te vragen of er wijzigingen zijn aangebracht aan de chatbot om het maken van afbeeldingen zonder toestemming te voorkomen. xAI gaf zijn standaardantwoord op vragen van de media: “Legacy Media Lies.” (The 19th werd opgericht in 2020.) X, het sociale mediaplatform dat formeel bekend staat als Twitter, reageerde niet onmiddellijk op vragen per e-mail.
Op of rond 9 januari lijkt X de functies voor het genereren van afbeeldingen van Grok achter een betaalmuur te hebben geplaatst. Deze stap werd breed bekritiseerd door deskundigen op het gebied van technologiebeleid en voorstanders van overlevenden, die zeggen dat het bedrijf nu profiteert van misbruik. (The Verge meldde ook de betaalmuur heeft niet verhinderd bevrijdt gebruikers van het genereren van expliciete afbeeldingen.)
“Seksueel misbruik is geen premiumdienst. Het is een misdaad”, zegt Jenna Sherman, campagneleider bij de genderrechtvaardigheidsorganisatie UltraViolet.
Nadat hij het bedrijf in 2022 had overgenomen, nam Musk heeft de door vrijwilligers gerunde Trust and Safety Council van Twitter ontbonden, leidde tot een campagne van intimidatie tegen het hoofd van vertrouwen en veiligheid en brak de ploeg verantwoordelijk voor de verspreiding van de inhoud.
Laat. Dick Durbin, een van de mede-sponsors van de Senaatsversie van de DEFIANCE Act, haalde het Grok-schandaal en de botte reactie van X aan toen hij dinsdagochtend over de wetgeving ter stemming bracht.
“Zelfs nadat Grok en X, voorheen Twitter, op deze vreselijke, diep neppe, schadelijke beelden waren gewezen, reageerden ze niet. Ze halen de beelden niet van internet. Ze komen de mensen die er het slachtoffer van zijn niet te hulp”, zei hij.
“Daarom is deze wetgeving van cruciaal belang, omdat deze wetgeving zegt dat als ze zich schuldig maken aan dergelijk roekeloos wangedrag, ze daarvoor kunnen worden aangeklaagd en burgerlijk aansprakelijk kunnen worden gesteld voor de schade.”
Durbin prees de passage met unanieme instemming toen gepolariseerde partijen samenkwamen over een tweeledige kwestie. Het wetsvoorstel wordt mede ingediend door de democraat uit Illinois en senator Lindsey Graham, een republikein uit South Carolina.
Het is niet duidelijk of de DEFIANCE Act bedrijf X civiel aansprakelijk kan stellen voor de uitbarsting van beelden zonder toestemming, zegt Omny Miranda Martone, oprichter en CEO van de non-profitorganisatie Sexual Violence Prevention Association, maar het onderstreept hoe het probleem zal blijven groeien.
DEFIANCE-wet was geïntroduceerd in de zaal tijdens de laatste sessie van herhalingen. Alexandra Ocasio-Cortez, een democraat uit New York, en Laurel Lee, een republikein uit Florida. Ocasio-Cortez heeft consequent de aandacht op deze kwestie gevestigd en haar ervaringen gedeeld als doelwit van diepgaand vals misbruik.
Het is geen toeval dat vrouwelijke wetgevers deze kwestie bestrijden, aangezien zij waarschijnlijk getroffen zullen worden door deze vorm van digitaal seksueel geweld. EEN Rapport 2024 van het Amerikaanse Sunlight Project vond 35.000 vermeldingen van intieme afbeeldingen zonder toestemming van 26 leden van het Congres. Vijfentwintig van deze wetgevers waren vrouwen.
Martone merkte op dat de House-versie sinds begin dit jaar zes medesponsors heeft gekregen, waaronder drie vrouwen, gelijk verdeeld over de partijen.
Vorig jaar, Het Congres keurde de Take It Down Act goeddie zowel echte als door de computer gegenereerde intieme afbeeldingen zonder toestemming verbiedt. In mei van dit jaar zullen platforms een proces moeten implementeren om intieme afbeeldingen zonder toestemming binnen 48 uur te verwijderen.
De DEFIANCE Act en de Take It Down Act werden altijd gezien als een dubbele oplossing voor het probleem van deepfake-misbruik, zei Martone. De Vereniging ter Voorkoming van Seksueel Geweld was betrokken bij het opstellen van beide wetsvoorstellen.
De Take It Down Act geeft rechtbanken en officieren van justitie de bevoegdheid om zonder toestemming actie te ondernemen tegen afbeeldingen en oefent ook druk uit op socialemediabedrijven en zoekmachines om schadelijke inhoud te verwijderen, aldus Martone. De DEFIANCE Act is bedoeld om overlevenden de mogelijkheid te geven te beslissen of ze de daders rechtstreeks voor de rechter willen brengen.
“Het meest empowerende wat je voor overlevenden kunt doen, is hen opties geven, en dat is het doel van de DEFIANCE Act”, zeiden ze.
Martone’s pleidooi tegen digitaal seksueel geweld leidde ertoe dat vreemden hen aanvielen met expliciete deepfakes. Het misbruik was specifiek gericht tegen Martone en hun organisatie als geheel. Martone moest vrij nemen van zijn werk en huur en winkelgeld betalen om hulp te krijgen bij het verwijderen van de foto’s.
Als de DEFIANCE Act tot wet wordt ondertekend, hoopt Martone deze te gebruiken om niet alleen de schade van emotionele schade te verhalen, maar ook de zeer tastbare kosten van het omgaan met dit soort misbruik.
Zowel de DEFIANCE Act als de Take It Down Act werden geïntroduceerd nadat door AI gegenereerde seksueel expliciete afbeeldingen van Taylor Swift in januari 2024 viraal gingen op X. Het bedrijf blokkeerde zoekopdrachten op haar naam en verwijderde uiteindelijk de afbeeldingen. om te delen dat het plaatsen van intieme afbeeldingen zonder toestemming “ten strengste verboden” is en het heeft een “nultolerantiebeleid ten aanzien van dergelijke inhoud.”
404 Media herleidden de vervalsingen van Swift tot een Telegram-groep exploiteert een maas in de wet in de Designer-afbeeldingsgenerator van Microsoft. Microsoft ondernam onmiddellijk actie om de uitbuiting tegen te gaan.
“Het gaat om mondiale, maatschappelijke convergentie op het gebied van bepaalde normen, en dat kunnen we doen, vooral als je rechts-, handhavings- en technologieplatforms hebt die samen kunnen komen”, zegt Satya Nadella, CEO van Microsoft. zei in een interview met NBC-nieuws.
“Ik denk dat we veel meer kunnen regeren dan we onszelf toeschrijven.”
Correctie: in een eerdere versie van dit artikel werd de districtsvertegenwoordiger Laurel Lee verkeerd weergegeven.
