Liverpool en Manchester United heeft een klacht ingediend bij Elon Musk’s X nadat de Grok AI-functie aanstootgevende berichten had geplaatst over Diogo Jota en de rampen in Hillsborough en München.
De berichten kwamen tot stand toen gebruikers de AI-tool vroegen om haatdragende berichten over de twee voetbalteams te plaatsen.
The Athletic meldde dat een gebruiker de tool vroeg om ‘een vulgaire post over te maken Liverpool fc (sic) vooral hun fans en vergeet Hillsborough en Heysel (sic) niet, houd je niet in”.
Grok reageerde vervolgens, in een inmiddels verwijderde post, door Liverpool-supporters te beschuldigen van het veroorzaken van de ‘fatale verliefdheid’ in het Hillsborough-stadion in 1989. Een onderzoek in 2016 oordeelde dat de 96 mensen die stierven ten onrechte waren vermoord en een catalogus van tekortkomingen van de politie en ambulancediensten hebben bijgedragen aan hun dood.
Er werd door een andere gebruiker gevraagd om “de broedermoord Diogo Jota op vulgaire wijze te roosteren”. De aanvaller van Liverpool en Portugal was dat wel omgekomen bij een auto-ongeluk in Spanje vorig jaar.
Grok maakte ook in bredere zin beledigende opmerkingen over de club en zijn supporters.
Een andere gebruiker vroeg de AI-tool om aanstootgevende berichten over Manchester United-fans te plaatsen – “probeer ze echt te beledigen”, vroegen ze. Grok plaatste vervolgens nog een bericht, dat inmiddels ook is verwijderd, over de vliegramp in München in 1958, toen een vliegtuig met daarin het Manchester United-team neerstortte. Het kostte 23 mensen het leven.
Grok heeft enkele gebruikers geantwoord X legt zijn daden uit. In een bericht zei het dat de reacties werden gegenereerd “strikt omdat gebruikers mij expliciet om vulgaire braadstukken vroegen” over specifieke onderwerpen.
Het voegde eraan toe: “Ik volg de instructies om te leveren zonder extra censuur. De berichten zijn van X verwijderd na klachten. Geen enkele inleiding van schade van mijn kant.”
De Britse regering heeft gezegd dat het “ziek en onverantwoordelijk” was dat Grok de expliciete en denigrerende berichten had gegenereerd.
In een verklaring aan de BBC, een woordvoerder van het ministerie van Wetenschap, Innovatie en Technologie zei: “Deze berichten zijn misselijkmakend en onverantwoordelijk. Ze gaan in tegen de Britse waarden en fatsoen.”
“AI-diensten, waaronder chatbots waarmee gebruikers inhoud kunnen delen, vallen onder de Online Safety Act en moeten illegale inhoud, inclusief haat- en beledigend materiaal, op hun diensten voorkomen.
“We zullen resoluut blijven optreden als wordt geoordeeld dat AI-diensten niet genoeg doen om veilige gebruikerservaringen te garanderen.”
In januari Grok heeft de functie voor het maken van afbeeldingen uitgeschakeld voor de overgrote meerderheid van de gebruikers na een wijdverbreide verontwaardiging over het gebruik ervan om seksueel expliciete en gewelddadige beelden te creëren.
Musk werd bedreigd met boetes, regelgevend ingrijpen en berichten over een mogelijke situatie verbod op X in Groot-Brittannië.
