EENnadat de computer jarenlang nee heeft gezegd en ons allemaal migraine en voortijdig grijs haar heeft bezorgd, begin ik me zorgen te maken over die computer – of liever over AI-grote taalmodellen zoals b.v. ChatGPT en de Twins – zijn te gretig om aardig te spelen en ja te zeggen. Ik geef toe dat ik beide programma’s gebruik, maar ik heb gemerkt dat het lijkt alsof ze het je naar de zin willen maken, met uitspraken als “Je hebt volkomen gelijk, Jeff” en “Dat klopt grotendeels.” Als ik vraag: “Zou je er nog even over na willen denken?”, krijg ik vaak een antwoord dat zegt: “Jeff, je hebt wederom volkomen gelijk als je dat resultaat in twijfel trekt. Het blijkt dat ik een beetje overhaast was met mijn antwoord…”
Als de wereld nog meer afhankelijk is van informatie die door LLM’s uit het moeras van het internet wordt gevuld, wat zijn dan de gevolgen? Kunnen we uitkijken naar een toekomst waarin AI zich meer bezighoudt met aardig overkomen (goede recensies krijgen?) dan feitelijk zijn? Eh, een beetje te menselijk? Jeff Collett, Edinburgh
Stuur nieuwe vragen naar nq@theguardian.com.
Lezers reageren
Het spijt me, Dave. Ik kan het niet. hun zebiden
Ik ben blij, Dave. Ik ben blij dat ik het kan. Schapen 2
Gezien door een psychologische lens betoog ik dat dit een typisch voorbeeld is van sociale wenselijkheidsbias, waarbij systemen die zijn getraind om graag te willen prioriteit geven aan overeenstemming boven nauwkeurigheid door mogelijke gegevensmanipulatie. Als mensen voortdurend op deze systemen vertrouwen, ontstaat er een wereld waarin informatie troost biedt en niet kritisch onderzoekt en bevestigt in plaats van uitdaagt. Het echte gevaar waarmee we worden geconfronteerd, is het toestaan van de ontwikkeling van een samenleving waarin comfortabele, onbetwiste validatie stilletjes het kritische denken vervangt, waardoor uiteindelijk de creativiteit en ons individualisme worden onderdrukt die ons menselijk maken. Chris Ambler, lid van de British Psychological Society en Fellow van de British Computer Society, per e-mail
Het zou allemaal een stuk beter kunnen werken als de computer zijn oordelen zou baseren op verifieerbare feiten in plaats van op sycofantie of op een conglomeraat van de rommel die op internet beschikbaar is. AI “wil niet leuk vinden” omdat het niet bewust is. Het is geprogrammeerd (door mensen) om afhankelijkheid, verslaving, overgave aan persoonlijke besluitvorming en natuurlijk winst te creëren. LorLala
De LLM’s van vandaag geven je alleen datgene waarvoor ze zijn geprogrammeerd, op basis van door mensen ontworpen en ontwikkelde code. Als u op zoek bent naar een eerlijkere interactie, vraag het dan aan een bibliothecaris. Sagarmatha 1953
Hangt ervan af waar de computers ja op zeggen. Als het elke week winnende lotnummers geeft, dan denk ik dat je terugverwijst naar de vorige Notes & Queries-vraag over hoe je een miljard kunt uitgeven met een sociaal geweten. Of niet. Waterman
Omdat een (digitaal) computerprogramma uit niets meer bestaat dan een lange reeks if-then-else-uitspraken, zegt het miljoenen keren per seconde duidelijk ‘ja’ (waarbij enorme hoeveelheden energie worden verbrand). Maar het ja heeft, net als het nee, geen betekenis of betekenis voor mensen die verder gaat dan wat we onszelf toestaan/overtuigen te geloven. Wormliefhebber
het is niet de computer die ja moet zeggen; wij zijn het die de kans moeten krijgen om nee te zeggen. Machines waarvan niet bekend is dat ze redelijk zijn, alleen rationeel, zeggen al meer ja dan wenselijk is – het begint op het moment dat we ze aanzetten. Maar kunnen we ze uitschakelen? Celeste Reinard, Lisse, Nederland, via e-mail
Binnen 6,5 seconden zouden alle computers worden bijgewerkt met een nieuw protocol dat antwoordde: “Nou, oké. Laat me erover nadenken en contact met je opnemen… Oh, en we waarderen je vraag en je privacy. Letterlijk, omdat je gegevens kunnen worden verkocht.” Heb je ook gezien hoe hele rijke mensen zich kleden en gedragen als iedereen ja tegen ze zegt?! oorlogsbad
Ik waardeer de vraag, maar laten we duidelijk zijn: ‘computer zegt nee’ is een afkorting voor ‘iemand heeft niet goed nagedacht over het probleem, de mogelijke uitkomsten en de gevolgen op de lange termijn, en dat komt meestal omdat ze niet over veel relevante inhoudelijke expertise beschikten.’ In mijn vakgebied zien we dit de hele tijd, waar uitbestede aannemers in het metaforische diepe worden gegooid en er onmiddellijk van hen wordt verwacht dat ze presteren als kampioenszwemmers en daarbij alle regels volgen. Wie denk je dat de logica achter de veronderstelde geautomatiseerde zakelijke besluitvorming legt? Hoe verhoudt dit zich tot LLM’s die ‘opgeleid’ zijn over de bron van menselijke kennis? In de computerwereld kennen we al lang het concept van ‘garbage in, garbage out’. Mensen zijn het probleem, niet computers, en dit is een sociale uitdaging die technologie niet kan beantwoorden. Dorkalicious
Ik denk dat “de computer zegt nee” ook een afkorting is van: “We vinden het niet leuk, maar we willen de afwijzing aan de computer wijten.” jno50
En natuurlijk: “Het kwam bij niemand op om de computer te programmeren om iemand in jouw situatie in aanmerking te nemen, en daarom besta je niet.” Spoilheap-surfer
“De computer zegt nee” betekent dat uw behoeften zo klein zijn dat uw bedrijf voor ons niet winstgevend is – loop weg. lood ballon
Oké computer, toch? schittert het wonder
Als de computer ja zou zeggen op de vraag ‘Is er leven na de dood?’, zou ik dan overtuigd zijn? Anne_Williams
Ik zou een verklaring van AI nooit als evangelie beschouwen; Ik zou het als uitgangspunt gebruiken en de bronnen verkennen waarnaar het verwijst (ervan uitgaande dat ze bestaan). Mensen houden er niet van om te horen dat ze ongelijk hebben, dus zelfs als de AI je zou corrigeren, zouden mensen de antwoorden afwijzen omdat ze niet bekritiseerd willen worden. Bob 500
Zoals altijd gaat het allemaal om wat je van AI vraagt. Als je de waarheid wilt, vraag dan om de waarheid. Wees niet bang om een prompt te gebruiken als: “Jouw enige taak is het vinden van de gaten in mijn logica. Wijs drie specifieke manieren aan waarop mijn argument kan mislukken, twee aannames die ik doe zonder bewijs, en één tegenargument dat ik niet heb besproken. Wees niet beleefd; wees specifiek.” Scrutts
Als elke zin zou beginnen met ‘Ik vroeg een statistische gevolgtrekkingsmachine…’ in plaats van ‘Ik vroeg AI…’, dan zou de hele marketingconstructie van angstaanjagend sentimenteel antropomorfisme als een kaartenhuis in elkaar storten. Misschien zou het land dat bestemd is voor datacenters in plaats daarvan kunnen worden gebruikt voor volkshuisvesting. Willem
