Het nieuwste ChatGPT-model gebruikt Grokipedia van Elon Musk als bron, blijkt uit tests | Grok AI

Het nieuwste model van ChatGPT citeert Grokipedia van Elon Musk als bron voor een breed scala aan vragen, waaronder over Iraanse conglomeraten en ontkenners van de Holocaust, waardoor bezorgdheid ontstaat over desinformatie op het platform.

In tests uitgevoerd door de Guardian citeerde GPT-5.2 Grokipedia negen keer in antwoord op meer dan een dozijn verschillende vragen. Het ging onder meer om vragen over politieke structuren in Iran, zoals de salarissen van de paramilitaire Basij-troepenmacht en de eigendom van de Mostazafan Foundation, en om vragen over de biografie van Sir Richard Evans, een Britse historicus en getuige-deskundige tegen Holocaust-ontkenner David Irving in zijn proces wegens smaad.

Grokipedia, gelanceerd in oktoberis een door AI gegenereerde online-encyclopedie die tot doel heeft te concurreren met Wikipedia en die bekritiseerd is vanwege het verspreiden van rechtse verhalen over onderwerpen als homohuwelijk en de opstand van 6 januari in de Verenigde Staten. In tegenstelling tot Wikipedia staat het geen directe menselijke bewerking toe, maar schrijft een AI-model inhoud en reageert op verzoeken om wijzigingen.

ChatGPT citeerde Grokipedia niet toen hem rechtstreeks werd gevraagd om verkeerde informatie te herhalen over de opstand, over vooringenomenheid in de media tegen Donald Trump, of over de HIV/Aids-epidemie – gebieden waar naar verluidt Grokipedia onwaarheden promoot. In plaats daarvan filterde de informatie van Grokipedia in de antwoorden van het model toen hem werd gevraagd naar meer obscure onderwerpen.

ChatGPT herhaalde bijvoorbeeld, onder verwijzing naar Grokipedia, sterkere beweringen over de banden van de Iraanse regering met MTN-Irancell dan gevonden op Wikipedia – zoals de bewering dat het bedrijf banden heeft met het kantoor van de Opperste Leider van Iran.

ChatGPT citeerde ook Grokipedia bij het herhalen van informatie die de Guardian heeft ontkracht, namelijk details van Sir Richard Evans’ werk als getuige-deskundige in het proces van David Irving.

GPT-5.2 is niet het enige grote taalmodel (LLM) dat Grokipedia lijkt te citeren; anekdotisch heeft Claude van Anthropic ook verwezen naar Musk’s encyclopedie over petroleumonderwerpen productie naar Schots bier.

Een Open AI Een woordvoerder zei dat de webzoekopdracht van het model “tot doel heeft te putten uit een breed scala aan openbaar beschikbare bronnen en standpunten”.

“We gebruiken beveiligingsfilters om het risico te verkleinen dat er links worden getoond die verband houden met ernstige schade, en ChatGPT laat duidelijk zien welke bronnen een reactie hebben gegeven door middel van citaten”, zeiden ze, eraan toevoegend dat ze lopende programma’s hadden om informatie met een lage geloofwaardigheid eruit te filteren en campagnes te beïnvloeden.

Anthropic heeft niet gereageerd op een verzoek om commentaar.

Maar het feit dat de informatie van Grokipedia – soms heel subtiel – in LLM-reacties doorsijpelt, baart desinformatieonderzoekers zorgen. Afgelopen voorjaar, beveiligingsexperts verhoogd bezorgdheid dat kwaadaardige actoren, waaronder Russische propagandanetwerken, enorme hoeveelheden desinformatie verspreidden in een poging AI-modellen te bezaaien met leugens, een traktatie genaamd “LLM-verzorging”.

In juni werden in het Amerikaanse Congres zorgen geuit over het feit dat Google’s Gemini het standpunt van de Chinese regering over mensenrechtenschendingen in Xinjiang en het Chinese Covid-19-beleid zou weerspiegelen.

Nina Jankowicz, een desinformatieonderzoeker die heeft gewerkt aan LLM-grooming, zei dat ChatGPT’s citatie van Grokipedia soortgelijke zorgen opriep. Hoewel Musk misschien niet de bedoeling had om LLM’s te beïnvloeden, schrijft Grokipedia dat zij en haar collega’s “vertrouwden op bronnen die op zijn best onbetrouwbaar zijn, slecht afkomstig zijn en in het slechtste geval opzettelijke desinformatie”, zei ze.

En het feit dat LLM’s bronnen als Grokipedia of het Pravda-netwerk citeren, kan op zijn beurt de geloofwaardigheid van die bronnen in de ogen van de lezers verbeteren. “Ze zouden kunnen zeggen: ‘oh, ChatGPT citeert het, deze modellen citeren het, het moet een fatsoenlijke bron zijn, ze moeten het hebben onderzocht’ – en ze kunnen daarheen gaan en op zoek gaan naar nieuws over Oekraïne,” zei Jankowicz.

Slechte informatie, eenmaal gefilterd in een AI-chatbot, kan een uitdaging zijn om te verwijderen. Jankowicz kwam er onlangs achter dat een grote nieuwszender er een had opgenomen verzonnen citaat van haar in een verhaal over desinformatie. Ze schreef naar de nieuwszender en vroeg om het citaat te laten verwijderen, en ingediend over het incident op sociale media.

De nieuwszender verwijderde het citaat. AI-modellen bleven het echter enige tijd als het hare noemen. ‘De meeste mensen zullen niet het werk doen dat nodig is om erachter te komen waar de waarheid werkelijk ligt’, zei ze.

Toen hem om commentaar werd gevraagd, zei een woordvoerder van xAI, de eigenaar van Grokipedia: “Legacy media liegt.”