Zelfs rustige en enigszins onderbesproken afleveringen van Star Trek: de volgende generatie heeft vreemd vooruitziende eigenschappen. Tijdens zijn bijna perfecte vierde seizoen, TNG had verschillende knallers, en ook enkele afleveringen die onder de sensoren vlogen. In de week van 11 februari 1991 was een van deze afleveringen “Clues”, de 14e aflevering van Seizoen 4wat destijds een leuke hoofdkrabber leek. Maar vandaag de dag ziet de aflevering er iets anders uit dan in 1991. Wat toen een vreemd verhaal was over een scheepsbreed mysterie, leest nu eigenlijk als een soort voorspelbaar verhaal dat van toepassing is op de 21e-eeuwse angst over wat AI doet en ons niet de waarheid vertelt.
Dit is de reden waarom ‘Clues’ nu de moeite waard is om opnieuw te bekijken, en hoe Mr. Data (Brent Spiner) fungeert als een ambitieuze AI met een grote twist.
Spoilers vooruit.
In de film uit 2014 InterstellairEr wordt een lopende grap gemaakt dat de robot TARS altijd een beetje tegen de bemanning liegt, anders zouden de mensen zich ongemakkelijk voelen. Dit idee gaat terug op enkele van de meest formatieve speculatieve ficties over kunstmatige intelligentie; we willen dat onze robots ons als gereedschap dienen, maar we houden ook niet altijd van de antwoorden die worden gegenereerd door databases en algoritmen. In het Isaac Asimov-verhaal uit 1941 “Liar!” een robot begint te liegen tegen zijn verschillende menselijke collega’s, uit bezorgdheid voor hun gevoelens, en zich slaafs aan zijn ‘doe-geen-schade’-programma te houden, begint hij leugens om bestwil te vertellen.
Houd de telefoon vast! Onze AI liegt!
Paramount/CBS
Gegooid door een fan genaamd Bruce D. Arthurshet spec-script voor “Clues” werd later herschreven door TNG medewerker Joe Menosky. Dit opendeurbeleid, dat TNG zouden scripts buiten hun schrijverskamer brengen, begon in seizoen 3 en vertegenwoordigt een van de coolste dingen van de iconische serie; het moment waarop alle ideeën welkom waren en legitieme afleveringen van Star Trek konden worden.
Zo toepasselijk is de term TNG aflevering ‘Clues’ gaat over voorkennis versus wat we ‘de waarheid’ zouden kunnen noemen. Om te beginnen begint de aflevering met een ruimtemysterie: de Onderneming door een wormgat glijden en een hele dag verliezen. Iedereen valt flauw en Data, een androïde, is de enige persoon die onaangetast blijft. Naarmate de aflevering vordert, suggereren verschillende details dat er iets is gebeurd dat niet overeenkomt met Data’s beoordeling van wat er is gebeurd. Nadat hij wat obscure technische mumbo-jumbo heeft laten vallen om met de hand te zwaaien naar de verklaring waarom iedereen werd uitgeschakeld, vraagt kapitein Picard (Patrick Stewart) botweg aan de bemanning: Liegt Data, hun onfeilbare AI-vriend en vertrouweling, tegen hen allemaal?
De aflevering krijgt dan een dubbel mysterie: wat is er met de bemanning gebeurd, En waarom zou Data erover liegen? Net als de robots van weleer worden gegevens geprogrammeerd volgens Asimoviaanse wetten; hij moet bevelen van mensen gehoorzamen, maar hij kan ook niet toestaan dat mensen schade wordt toegebracht door handelen of nalaten. Dus zoals bij veel goede Star Trek-conflicten gaat het hier niet om boosaardigheid of bedrog met kwade bedoelingen, maar om een complexer probleem. De gegevens zijn niet slecht geworden en hebben de controle over het schip overgenomen (dat is voor een andere aflevering), maar hij liegt. Waarom?
Het vergelijken van gegevens met moderne AI-chatbots is verleidelijk, ook al is het een glibberige analogie. ChatGPT en Grok hebben geen gevoel, noch hebben ze de wens om menselijker te worden, tapdanslessen te nemen of verliefd te worden. Data zijn, paradoxaal genoeg, een analoge AI; hij maakt geen deel uit van een wolk van gedeelde informatie zoals de Borg of het internet, en zijn beslissingen worden uitgevoerd op hardware die niet ‘online’ is, om zo te zeggen. En toch leren we op de laatste momenten van deze aflevering dat Data dat wel was besteld liegen tegen de bemanning van Picard zelf. De reden? Een zeer gevaarlijke en isolationistische buitenaardse soort eiste geheim gehouden te worden en de enige oplossing was het massaal wissen van het geheugen en het bevel aan Data om het geheim voor altijd te bewaren.
Kunnen we gegevens vertrouwen? Kunnen we AI vertrouwen?
Paramount/CBS
In de huidige context gaat het niet echt om AI die hallucineert of valse informatie geeft, maar om het verbergen van wat is waargenomen schadelijk informatie van de bevolking als geheel. Gebeurt dit vandaag? Reken maar. Je kunt apps downloaden die voorkomen dat je online gaat, er zijn overal inhoudsfilters en verschillende chatbots kunnen om voor de hand liggende redenen niet over specifieke dingen praten.
In de Star Trek-voorspelling van onze AI-toekomst zouden de organische mensen echter nog steeds de volledige controle hebben. De gemiddelde persoon heeft geen goed idee van wat AI wel en niet goed is, waardoor we allemaal meer lijken op de naamloze bemanningsleden op Onderneming die nog nooit van dit schandaal had gehoord en nooit wist dat Data was gevraagd te liegen. In onze gedachten lijken we allemaal op Kapitein Picard, die onze technologie vertelt wat ze moeten doen en wanneer ze dat moeten doen. Maar in de praktijk is de toekomst van AI-bedrog – opzettelijk of niet – duisterder. De Onderneming de bemanning slaapt uiteindelijk gemakkelijk, wetende dat als Data over veel dingen liegt, ze hem nog steeds kunnen vertrouwen. Het is jammer dat Mr. Data in onze dappere nieuwe wereld nog steeds een volledig anachronistische vorm van kunstmatige levensvorm is. Als we wisten dat Data ChatGPT of Grok op feiten controleerde, zouden we ons misschien allemaal ook beter voelen.
