Hallo en welkom bij TechScape. Gelukkig nieuwjaar! Ik hoop dat jouw 2026 goed begint. Vandaag onderzoeken we in Technologie de output van de AI-chatbot van Elon Musk, Grok, en het Amerikaanse verbod op buitenlandse drones.
Een kijkje in de ‘fout in de veiligheidsmaatregelen’ van Grok
Eind vorige week publiceerde de Grok-chatbot van Elon Musk een stortvloed aan afbeeldingen van vrouwen, naakt en in heel weinig kleding, zowel echt als ingebeeld, als reactie op openbare verzoeken van gebruikers op X, voorheen Twitter. Vermengd met de gegenereerde afbeeldingen van volwassenen waren afbeeldingen van jonge meisjes – kinderen – die ook “minimale kleding” droegen, aldus het rapport Grok zelf.
In een ongekende actie bood de chatbot zelf zijn excuses aan, terwijl de maker ervan, xAI, zweeg: “Zoals gezegd hebben we tekortkomingen in de beveiliging geïdentificeerd en zijn we bezig deze op te lossen – CSAM (materiaal over seksueel misbruik van kinderen) is illegaal en verboden”, zei Grok in een bericht op X.
Het kostte X nog eens drie dagen om in één keer te bevestigen verklaring dat zij proactief materiaal over seksueel misbruik van kinderen had verwijderd.
In Europa leidde Grok’s stortvloed aan geseksualiseerde beelden tot sterke veroordeling. Kinderwelzijn en -misbruik fungeren vaak als derde spoor in de technologie, veroorzaken een sterkere reactie dan andere kwesties en vormen de basis voor regulering. Franse ministers verwezen de beelden naar lokale aanklagers en noemden de ‘seksuele en seksistische’ output van de bot ‘kennelijk illegaal’. In Groot-Brittannië zagen vrouwenrechtenactivisten en sommige politici in het debacle het bewijs dat de Britse regering “op de hielen zat” bij het aannemen van wetgeving die het maken van dergelijke intieme beelden illegaal maakte.
In de VS, waar xAI een contract van $200 miljoen heeft. tegenover het leger bleven de wetgevers grotendeels stil.
Musk had een foto van zijn eigen lichaam in bikini opnieuw gepost toen de trend van start ging, samen met lachende emoji’s. Naarmate de controverse groeide, ging hij er echter niet op in, maar twitterde hij over Groks vermogen om oude Hollywood-films te kopiëren en maak kattenvideo’s.
Er was één persoon met een speciale band met Musk die zijn verontwaardiging uitte over de stroom aan geseksualiseerde beelden: Ashley St. Clair, moeder van een van de zonen van de miljardair, hoewel de twee vervreemd zijn geraakt. In één interview met The Guardian schetste ze de impact van Groks beelden in de echte wereld.
De aanhangers van Musk hadden Grok gebruikt om haar aan te vallen, zei ze, en hadden zelfs een foto van haar als kind uitgekleed. Het was een vorm van wraakporno, zei ze.
“Ik voelde me geschokt, ik voelde me geschonden, vooral toen ik de rugzak van mijn peuter achterin zag”, zei St. Clair over een andere foto waarop ze in bikini werd gestoken, zich omdraaide en voorover boog.
Haar klachten bij het X-personeel leverden niets op, zei ze.
De VS volgen de TikTok-benadering van drones
Twee dagen voor Kerstmis verbood de VS de verkoop van nieuwe versies van in het buitenland gemaakte drones. De oude kunnen nog steeds worden gebruikt en verkocht, maar nieuwe producten zijn niet toegestaan.
Het bevel komt van de Amerikaanse Federal Communications Commission, geleid door de aanvalshond van Donald Trump tegen de media, Brendan Carr. De FCC zei in een verklaring dat het Witte Huis “een uitvoerend orgaan van meerdere instanties met de juiste expertise op het gebied van de nationale veiligheid” had bijeengeroepen om een onderzoek uit te voeren naar de dreiging die uitgaat van in het buitenland gemaakte onbemande luchtsystemen, de naam van de regering voor drones.
De groep concludeerde dat onbemande luchtsystemen en onderdelen die overal behalve in eigen land worden geproduceerd, “onaanvaardbare risico’s voor de nationale veiligheid van de Verenigde Staten en voor de veiligheid en beveiliging van Amerikaanse personen” vormen en op de “gedekte lijst” van de FCC moeten worden opgenomen. Lidmaatschap op de lijst sluit de verkoop of zelfs marketing van de betreffende apparatuur in de Verenigde Staten uit.
De FCC-verklaring vervolgt: “In hun vastberadenheid hebben de nationale veiligheidsdiensten onder meer de zorgen geuit over in het buitenland gemaakte UAS zou kunnen zijn gebruikt voor aanvallen en verstoringen, ongeoorloofd toezicht, exfiltratie van gevoelige gegevens en andere UAS-bedreigingen voor het thuisland.” De nadruk ligt hier op de mijne.
De FCC heeft geen materiaal vrijgegeven waaruit blijkt dat in het buitenland gemaakte drones daadwerkelijk op de hierboven beschreven kwaadaardige manieren zijn gebruikt. Het potentieel is er, maar niet de actie.
Misschien lijkt het erop dat de FCC minder bezorgd is over de nationale veiligheid dan over economisch protectionisme. De factsheet van het bureau luidt: “Bovendien werd in het besluit opgemerkt dat de afhankelijkheid van dergelijke entiteiten onaanvaardbaar is het ondermijnen van de basis van de Amerikaanse drone-industrie.” Nogmaals, nadruk van mij. De focus op de industriële basis weerspiegelt de voorspellingen van Trump dat halfgeleiderchips en zelfs hele iPhones in de VS zullen worden gemaakt. Experts zeggen dat zijn droom om de productie naar huis te brengen nog ver weg is.
’s Werelds grootste dronemaker, DJI, zei in een reactie: “De zorgen over de gegevensbeveiliging van DJI zijn niet onderbouwd met bewijsmateriaal en weerspiegelen in plaats daarvan protectionisme, in strijd met de principes van een open markt.” Het bedrijf is gevestigd in Shenzhen in China en wordt dus getroffen door de bestelling.
Als dit bekend klinkt, werd TikTok onderworpen aan een soortgelijk bevel, gedwongen om te verkopen aan een Amerikaanse eigenaar of een totaal verbod opgelegd te krijgen vanwege een potentiële bedreiging voor de nationale veiligheid. Het bedrijf heeft de last van een verbod of desinvestering aangevochten tot aan het Hooggerechtshof.
De strijd bracht niet het bewijs aan het licht dat de angsten van de regering bevestigde. Gedurende de hele juridische strijd eisten Amerikaanse regeringsadvocaten dat de grondgedachte voor de vrees voor de nationale veiligheid van het Congres verborgen zou blijven voor het publiek en zelfs verborgen zou blijven voor TikTok’s eigen advocaat. Het Hooggerechtshof kwam uiteindelijk tot zijn besluit om het verbod of de desinvesteringswet te handhaven zonder vertrouwelijk materiaal in overweging te nemen.
De Verenigde Staten bereikten in december een akkoord dat TikTok gedeeltelijk wordt verkocht aan de zakelijke softwaregigant Oracle.
DJI heeft niet gezegd of het het verbod van de FCC voor de rechtbank zal aanvechten.
