Vanaf dat moment is dat van Elon Musk kunstmatige intelligentie Het bedrijf, xAI, begon in 2023 met het uitrollen van zijn Grok-chatbot naar betalende X-abonnees, waarbij de tool werd gepromoot als de slechte jongen van de grote taalmodellen. Grok zou zogenaamd bevoegd zijn om dingen te zeggen en te doen die zijn politiek correcte concurrenten – vooral ChatGPT, geproduceerd door Musks oude aartsvijand bij OpenAI – niet zouden doen.
In één aankondiging op X prees het bedrijf Grok’s ‘rebelse karakter’ en plaagde het zijn bereidheid om ‘pittige’ vragen met ‘een beetje humor’ te beantwoorden. Hoewel xAI waarschuwde dat Grok “een heel vroeg bètaproduct” was, verzekerde het gebruikers dat Grok met hun hulp “elke week snel zou verbeteren”.
Destijds maakte xAI niet bekend dat Grok op een dag pornografie zonder wederzijds goedvinden op aanvraag zou aanbieden. Maar de afgelopen weken is dat precies wat er is gebeurd als X-abonnees het platform onder water gezet met verzoeken om echte beelden van vrouwen te veranderen door hun kleren uit te trekken, hun lichaam te veranderen, hun benen te spreiden enzovoort. X-gebruikers hoeven geen premiumabonnee te zijn om van deze diensten gebruik te kunnen maken toegankelijk zowel op X als op de zelfstandige app van Grok.
Sommige afbeeldingen die met de hulp van Grok zijn gemaakt, tonen topless of anderszins suggestieve afbeeldingen van meisjes tussen de 11 en 13 jaar oud. volgens aan een Britse kinderveiligheidswaakhond. Een analyse Uit de 20.000 afbeeldingen die Grok tussen 25 december en 1 januari had gegenereerd, bleek dat de chatbot had voldaan aan de verzoeken van gebruikers om kinderen af te beelden met seksuele vloeistoffen op hun lichaam. New Year’s Eve, een bedrijf voor kunstmatige intelligentie dat detectiediensten voor beeldveranderingen aanbiedt geschat dat Grok geseksualiseerde afbeeldingen uithakte met een snelheid van ongeveer één per minuut.
“Ik ben in het verleden seksueel misbruikt en het voelde bijna als een digitale versie ervan”, zei een vrouw verteld De snit nadat Grok-gebruikers een foto van haar poseren naast een kerstboom terwijl ze trainingsuitrusting droeg, hadden omgezet in een foto waarop ze een stringbikini droeg. “Ik vind het ongelooflijk dat mensen dit vrouwen mogen aandoen.”
Donderdag meldde journalist en Bellingcat-oprichter Eliot Higgins dat hij door Grok gegenereerde beelden had gezien van Renee Nicole Good, de ongewapende 37-jarige vrouw die werd neergeschoten en vermoord door ICE-agenten in Minneapolis, aangepast om haar dode lichaam in bikini weer te geven. Naad Higgins zei het: “Digitale lijkenontheiliging nu beschikbaar voor het publiek.”
Ondanks alle mogelijke gebruiksscenario’s voor AI-chatbots die AI-bedrijven de afgelopen jaren hebben aangeprezen, was op maat gemaakte pornografie altijd de meest voor de hand liggende. (Je hoeft geen gedragswetenschapper te zijn om te begrijpen wat bepaalde demografische kenmerken zijn denk meteen te doen wanneer het wordt aangeboden met een tool waarvan wordt geadverteerd dat het op magische wijze fotorealistische beelden kan produceren van alles wat je maar kunt bedenken.) Met wisselend succes hebben platforms als ChatGPT en Google’s Gemini op zijn minst geprobeerd om deze mogelijkheid voor te zijn door “bewakers” te bouwen die proberen de mogelijkheid van gebruikers om NSFW-afbeeldingen aan te passen aan hun smaak te beperken.
Een groot verschil tussen deze bedrijven en xAI is natuurlijk dat xAI wordt gerund door Musk, wiens ideologische toewijding aan het uitroeien van eigenzinnigheid en censuur zich uitstrekt tot het bieden van geamuseerde, knipogende verdedigingen van niet-consensuele inhoud voor volwassenen die wordt vrijgegeven door het vlaggenschipproduct van zijn bedrijf.
Op zijn X-account heeft Musk prompts afgevuurd traktaties wat een existentiële crisis zou zijn voor elk ander bedrijf als een leuke en grappige meme. Het feit dat een van de offer Ashley St. Clair, moeder van Musks 1-jarige zoon, kon Musk niet afschrikken verklaren zelfs niet kunnen stoppen met lachen bij een AI-afbeelding van een in bikini geklede broodrooster.
Zowel X als Musk hebben de site uitgegeven stelling herinner gebruikers eraan dat de X-servicevoorwaarden het maken van materiaal met seksueel misbruik van kinderen (CSAM) en pornografie verbieden. X heeft ook gezegd dat het CSAM en andere illegale inhoud verwijdert en de accounts die deze inhoud creëren permanent opschort. Tegelijkertijd is het nogal een uitdaging voor het bedrijf om zichzelf te positioneren als iemand die een probleem serieus neemt wanneer de eigenaar, die ook de meest gevolgde persoon op het platform is, inlogde en de hele zaak als één grote grap behandelde.
Normaal gesproken zou het bestaan van een online tool die CSAM met één klik kan genereren wijdverbreide verontwaardiging en snelle reacties van de rechtshandhavingsinstanties veroorzaken. Toezichthouders in landen in Europa, Azië en Zuid-Amerika hebben dat wel gedaan beloofd te onderzoeken, en deze week de Europese Commissie verlengd een bevel waarbij X wordt verplicht alle Grok-gerelateerde documenten en gegevens op te slaan terwijl ambtenaren er nader naar kijken.
Daar is bestaande juridische mechanismen in de VS om de walgelijke dingen aan te pakken die Grok ook doet. Minder dan een jaar geleden ondertekende Trump b.v. de TAKE IT DOWN Act, een tweeledig wetsvoorstel dat websites verplicht om “intieme afbeeldingen zonder wederzijds goedvinden” binnen 48 uur na het verzoek van een slachtoffer te verwijderen. En hoewel een bepaling van de federale wet, bekend als Sectie 230, websites en sociale-mediaplatforms in het algemeen beschermt tegen aansprakelijkheid voor inhoud die door hun gebruikers is geplaatst, doet Grok zelf het ‘publiceren’ door de afbeeldingen te genereren.
Laat. Ron Wyden (D-OR), die drie decennia geleden mede-auteur was van Sectie 230, gewogen op Bluesky, met het argument dat “AI-chatbotuitvoer niet beschermd is” onder sectie 230 en dat “het niet op het nippertje is.” Samen met twee andere Democratische senatoren heeft Wyden dat ook gedaan vroeg Apple en Google zullen Grox en X uit hun appstores verwijderen wegens het schenden van de servicevoorwaarden van de bedrijven. Dit zou een belangrijke stap zijn verder dan wat de enige actie lijkt te zijn die Apple tot nu toe heeft ondernomen: salarisverhoging de leeftijdsclassificatie van de Grok-app van 12+ tot 13+.
Dat gezegd hebbende, Musk, wie gebruikt Vier wervelende maanden waarin we de bestuurlijke staat als hoofd van het ministerie van Staat hebben aangepakt. Efficiëntie heeft genoeg praktische redenen om ons geen zorgen te maken. Dankzij de politieke en financiële steun die Musk en zijn handlangers uit Silicon Valley aan de Republikeinse Partij bieden, is de tweede regering-Trump enthousiast over het integreren van AI-producten – zowel van xAI als van andere bedrijven – in het werk van de federale overheid.
Het feit dat Trump David Sacks, een technologie-investeerder met aanzienlijke AI- en crypto-belangen (en nauwe persoonlijke en professionele banden met Musk), onmiddellijk heeft benoemd tot zijn AI- en crypto-tsaar, is een vrij goede indicatie dat er op dit moment geen zinvolle regulering komt.
Volgens een Brennan Center hebben staten met zowel door de Democraten als de Republikeinen gecontroleerde wetgevers sinds 2019 gereageerd op het uitblijven van federale actie door meer dan 140 staatswetten aan te nemen die AI reguleren. analyse. Maar in december 2025 maakte het Witte Huis misschien wel het meest veelbelovende gebaar naar de AI-industrie: een aankondiging herhaalt de belofte van Trump om ‘minimaal belastende binnenlandse beleidskaders voor AI’ te bouwen die ‘de mondiale AI-dominantie van Amerika zullen behouden en versterken’.
Het uitvoeringsbesluit geeft uitvoerende agentschappen onder meer de opdracht om AI-regels van de staat te identificeren die de regering inconsistent acht met haar agenda, en roept procureur-generaal Pam Bondi op om een ‘AI Litigation Task Force’ te vormen om de overtredende wetten voor de rechtbank aan te vechten.
Zoals de meeste uitvoerende bevelen van Trump zal deze niet het onmiddellijke effect hebben enkele ademloze krantenkoppen voorstellen; zoals het bevel zelf erkent, zou het Congres actie moeten ondernemen om de inhoudelijke bepalingen van kracht te laten worden. Maar voor Musk is de boodschap die het Witte Huis over zijn prioriteiten verzendt wat er echt toe doet: op dit moment heeft de regering-Trump het te druk met het starten van illegale oorlogen en het executeren van ongewapende demonstranten op straat om zich druk te maken over een paar gewaagde foto’s die op haar favoriete sociale mediaplatform verschijnen.
Toen Musk vorig jaar Washington verliet, deed hij dat niet stilletjes en haalde hij uit naar Trump omdat hij zo was onvoldoende respectvol aan zijn voorkeuren en onvoldoende dankbaar voor zijn steun. Maar acht maanden later blijkt uit het feit dat de officiële reactie op Groks pornografie en CSAM-praatje eigenlijk een belangeloos schouderophalen is dat het kwart miljoen dollar dat Musk in 2024 aan Trump en andere Republikeinen schonk een goede investering in de toekomst van zijn bedrijf was.
Op 3 januari, terwijl Grok nog stil was uitspugen Deze foto’s waren op verzoek van Musk en Trump voldoende verzoend om samen te gaan eten in Mar-a-Lago. Na Trump genaamd Musk ‘geweldig’ en ‘een goede kerel’, en Musk voorspelde dat 2026 ‘geweldig’ zou zijn.
Wetten zijn slechts zo sterk als de wil van de machthebbers om ze af te dwingen. Als je eigenaar bent van de mensen die je reguleren, is geen schandaal te walgelijk om om te lachen.
