IHet is een misselijkmakende wet van het internet dat het eerste wat mensen met een nieuw instrument zullen proberen te doen, het strippen van vrouwen is. Grok, de AI-chatbot van X, is herhaaldelijk door gebruikers gebruikt de afgelopen dagen afbeeldingen van vrouwen en minderjarigen uitkleden. Persbureau Reuters identificeerde afgelopen vrijdag in een periode van 10 minuten 102 verzoeken van gebruikers om Grok mensen in bikini’s te laten bewerken, waarvan het merendeel gericht was op jonge vrouwen. Grok voldeed aan minstens 21 daarvan.
Er is geen excuus om exploittools op internet vrij te geven terwijl u aan het surfen bent $10 miljard (£7,5 miljard) in contanten. Elk platform met AI-integratie (dat nu bijna het hele internet bestrijkt) plant dezelfde uitdagingen; Als je gebruikers in staat wilt stellen afbeeldingen en zelfs video’s te maken met generatieve AI, hoe doe je dat dan zonder dat diezelfde mensen schade aanrichten? Techbedrijven geven achter de schermen geld uit dat je als gebruiker nooit zult zien om hiermee te worstelen; ze doen aan ‘red teaming’, waarbij ze zich voordoen als slechte acteurs om hun producten te testen. Ze zullen bètatests lanceren om functies in vertrouwde omgevingen te onderzoeken en te beoordelen.
Bij elke iteratie zullen ze veiligheidsmaatregelen introduceren, niet alleen om gebruikers veilig te houden en aan de wet te voldoen, maar ook om investeerders te sussen die niet geassocieerd willen worden met online misbruik. Maar vanaf het begin leek Elon Musk niet te doen alsof hij dacht dat digitaal strippen een probleem was. Het is het voorrecht van Musk als hij vindt dat iemand een rokende meme van Ben Affleck verandert in een foto van Musk halfnaakt is “perfect”. Het verhindert niet dat het delen van deepfakes zonder toestemming in veel rechtsgebieden illegaal is. inclusief Groot-Brittanniëwaar overtreders kunnen worden aangeklaagd voor het delen van deze afbeeldingen of het maken van seksuele afbeeldingen van kinderen.
Een nuttig ding dat Grok deze week heeft gedaan, is onthullen hoe het is geprogrammeerd. Toen een gebruiker zich afvroeg waarom het een foto van de Zweedse vice-premier Ebba Busch had vervalst, zodat ze in bikini verscheen, beweerde dat het satire was omdat ze had gesproken over een boerkaverbod. Het bleef daarop hameren was geen deepfake van een echte foto, maar een door AI gegenereerde illustratie (verkeerd), eraan toevoegend dat het tot doel heeft plezier in evenwicht te brengen met ethiek, “echte schade te vermijden en tegelijkertijd creatief te reageren” op verzoeken.
Voor iemand die humor zogenaamd waardeert, is het vreemd dat Musk zou proberen er een chatbot mee uit te rusten. Chatbots hebben een verkeerde naam omdat ze eigenlijk geen idee hebben hoe ze moeten praten. Ze genereren tekst door te voorspellen wat er waarschijnlijk zal gebeuren, met behulp van statistische patronen en datatraining in plaats van echt inzicht. De excuses van Grok laten zien dat de parameters voor veiligheid of het vasthouden aan de feiten niet robuust zijn getest; het is geprogrammeerd voor entertainment.
Naarmate de week vorderde, lijkt Musk de grap zelf minder grappig te hebben gevonden. “Iedereen die Grok gebruikt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt”, zegt hij. Musk dreigde op 3 januari met wat overkwam als alle zwaartekracht van een knoflookdeegbal. Tussen 2023 en 2024 heeft X het vertrouwens- en beveiligingspersoneel drastisch verminderd en is het te afhankelijk van gebruikersrapportage. Dit betekent dat veel slechte actoren nog steeds weg kunnen komen met illegaal gedrag op het platform.
In plaats van te erkennen dat X zou kunnen helpen het probleem zelf aan te pakken, heeft Musk de verantwoordelijkheid voor het onderzoek naar wetshandhaving op zich genomen en de gebruikers van X de schuld gegeven. Ofcom, evenals de Europese Commissie, zouden het boek misschien wel terug naar hem kunnen teruggooien als ze het onderzoeken en ontdekken dat het beleid van X tekortschiet – maar zelfs dan zou Musk wel eens zijn verantwoordelijkheid kunnen ontlopen, zoals momenteel het geval lijkt te zijn. Boete van 120 miljoen DKK. EUR uitgegeven aan X over zijn blauwe vinkjes.
Andere AI-agenttools zoals ChatGPT en Meta AI verbieden deepfake-pornografie zonder toestemming en lijken dit af te dwingen, wat de vraag oproept: waarom kan Grok dat niet? Hoe de wereld ervoor kiest om het platform te monitoren om zo schaamteloos toe te staan dat er misdaden worden gepleegd, zal voor eens en voor altijd aantonen of individuen als Musk ongestraft kunnen opereren. Ik ben benieuwd hoe politiek rechts ervan heeft genoten X buigt in hun richting sinds de overname van Musk, hierop zal reageren. Het beschermen van vrouwen en kinderen vormt de kern van conservatieve waarden, en rechtse stemmen in de Verenigde Staten worden nu geconfronteerd met een morele test. De komende weken zullen we zien of ze nog steeds bereid zijn een Amerikaans bedrijf te verdedigen in naam van de vrijheid van meningsuiting, zelfs als het mensen de mogelijkheid geeft om creaties te creëren. geseksualiseerde inhoud van kinderen.
Vanuit mijn standpunt als voormalig dagelijks gebruiker, X heeft lange tijd onherbergzaam gevoeld – en de gebeurtenissen van deze week zijn de laatste in een reeks digitale gruwelen die mij eraan herinneren dat het een goede beslissing was om mijn productie ergens anders heen te verplaatsen. Maar een actieve, vijandige omgeving die dit gedrag normaliseert, schaadt ons nog steeds, of we er nu zijn of niet, omdat deze beelden zich over het internet zullen verspreiden. De blessure – de aanval – markeert ons of we nog steeds X-gebruikers zijn of niet.
Iemand moet iets doen – en als internationale regeringen X niet kunnen motiveren om te veranderen, kunnen sommige van zijn investeerders dat misschien wel doen. xAI brandt voor miljarden voor zijn AI-ontwikkeling en zal gegevens inslikken door zijn gebruikers doelbewust afbeeldingen te laten genereren; Het respecteren van verschillende internationale wetten zou niet alleen legaler zijn, maar ook goedkoper.
Het doel van Grok is om de ‘waarheid en objectiviteit’ te maximaliseren, aldus zijn eigen website, maar vandaag de dag, terwijl hij zijn beerput aan het rollen is, is het enige wat ik hem heb zien maximaliseren de ‘kloppers’ van een Zweedse politicus op verzoek van een anonieme gebruiker. De nieuwsrapportage brengt nu ook een reeks gemanipuleerde bikinifoto’s van 14-jarigen in kaart. “We rapporteren materiaal van vermoedelijk seksueel misbruik van kinderen aan het National Center for Missing and Exploited Children”, beweert het Acceptable Use Policy van xAI. Maar hoe comfortabel zal het bedrijf zijn met het rapporteren van zijn eigen monster?
-
Sophia Smith Galer is journalist en contentmaker. Haar tweede boek, Hoe je een taal doodtzal in mei verschijnen
