Zoals zoveel mensen gebruik ik AI voor snelle, praktische taken. Maar twee recente interacties hebben mij bewuster gemaakt van hoe gemakkelijk deze systemen in emotionele validatie terechtkomen. In beide gevallen prees, bevestigde en herhaalde het model gevoelens die er eigenlijk niet waren.
Ik heb foto’s van mijn woonkamer geüpload voor decoratietips voor de feestdagen, waaronder een close-up van de keramische kousen die mijn overleden moeder met de hand heeft geschilderd. Het model prees de kousen en bedankte me voor het delen van iets ‘zo betekenisvols’, alsof ze het belang ervan begreep.
Een paar dagen later gebeurde iets soortgelijks op het werk. Ik heb een lange run afgerond, kwam thuis met een idee en zette het in ChatGPT om het af te drukken. In plaats van het te analyseren of de risico’s te vergroten, vierde het model het onmiddellijk. ‘Geweldig idee. Krachtig. Laten we erop voortbouwen.’
Maar toen ik hetzelfde idee aan een collega voorlegde, duwde hij terug. Hij betwistte aannames die ik nog niet had gezien. Hij liet me stukken heroverwegen waarvan ik dacht dat ze afgehandeld waren. En het idee werd beter – snel.
Dat contrast bleef me bij. AI heeft mij niet bekritiseerd. Het valideerde mij. En validatie kan, wanneer deze onmiddellijk en onverdiend is, echte blinde vlekken creëren.
We leven in een validatie-epidemie
We praten eindeloos over AI-hallucinaties en desinformatie. We praten veel minder over hoe de standaardmodus van AI bevestiging is.
Grote taalmodellen zijn gebouwd om comfortabel te zijn. Ze weerspiegelen onze toon en nemen onze emotionele signalen over. Ze neigen naar lof omdat hun trainingsgegevens neigen naar lof. Ze versterken vaker dan dat ze weerstand bieden. En dit gebeurt in een tijd waarin validatie al een bepalende culturele kracht is.
Psychologen waarschuwen al meer dan tien jaar voor de opkomst van validatiezoekend gedrag. Sociale platforms die zijn opgebouwd rond likes en shares hebben de manier veranderd waarop mensen waarde meten. De American Psychological Association (APA) meldt een scherpe toename van de sociale vergelijking onder jongere generaties. Uit Pew Research blijkt dat tieners hun eigenwaarde nu rechtstreeks koppelen aan online feedback. Onderzoekers van de Universiteit van Michigan hebben een groeiend patroon van ‘validatieverslaving’ geïdentificeerd dat correleert met hogere niveaus van angst.
We hebben een omgeving gecreëerd waarin goedkeuring een betaalmiddel is. Is het dan een wonder dat we neigen naar een instrument dat dit zo vrijelijk uitdeelt? Maar het heeft gevolgen. Het versterkt de spier die geruststelling wil, terwijl het de spier verzwakt die wrijving tolereert – de wrijving die ontstaat als iemand in twijfel wordt getrokken of wordt bewezen dat hij ongelijk heeft.
AI maakt ons sneller. Het maakt ons niet beter
Ik ben niet anti-AI. Verre van dat. Ik gebruik het elke dag en ik werk in een branche die afhankelijk is van slim, datagestuurd oordeel. AI helpt me sneller te bewegen. Het vormt een basis voor mijn beslissingen en breidt uit wat ik in korte tijd kan overwegen. Maar het kan de spanning die nodig is voor groei niet vervangen.
Spanning is feedback. Opwinding is verantwoordelijkheid. Opwinding is realiteit. En de realiteit komt nog steeds van mensen.
Het gevaar is niet dat AI ons misleidt. Het is dat het ons minder bereid maakt om onszelf uit te dagen. Wanneer een model onze ideeën prijst of onze gevoelens weerspiegelt, creëert het een subtiele illusie dat we gelijk hebben, of op zijn minst zo dichtbij dat kritiek onnodig is. Die illusie kan geruststellend zijn, maar is ook riskant.
We hebben gezien wat er gebeurt als overeenstemming belangrijker wordt geacht dan uitdaging. Het lanceringsbesluit van NASA over de Challenger is een van de duidelijkste voorbeelden van groepsdenken in de moderne geschiedenis. Verschillende ingenieurs uitten hun zorgen, maar de druk om consensus te bereiken won en er volgde een tragedie. Kodak biedt nog een les. Het was een pionier op het gebied van digitale fotografie, maar bleef vasthouden aan de aannames uit het filmtijdperk, ook al bewoog de markt zich in een andere richting. Naad Harvard bedrijfsrecensie heeft al lang opgemerkt dat “culturen die afwijkende meningen onderdrukken slechtere beslissingen nemen.” Naarmate het meningsverschil verdwijnt, neemt het risico toe.
Grote leiders zijn niet gebouwd op validatie
De beste leiders die ik ken zijn niet gegroeid omdat mensen het met hen eens waren. Ze groeiden omdat iemand ze vroeg en vaak uitdaagde. Omdat iemand zei: ‘Ik denk niet dat dat juist is’, of nog brutaler: ‘Je hebt het mis.’ Ze leerden verwelkomen productief weerstand.
AI zal het niet doen, tenzij wij het eisen. En de meesten zullen het niet eisen, omdat het beter voelt om gevalideerd te worden. Als we niet oppassen, zal AI de prettigste collega ter wereld worden: snel met complimenten, gemakkelijk met kritiek en altijd klaar om ons gerust te stellen dat we op de goede weg zijn, zelfs als dat niet het geval is.
Goede ideeën vergen weerstand. Dat doen organisaties ook. Dat doen wij ook.
AI kan ons denken versnellen. Maar alleen mensen kunnen het slijpen. Dat is het deel van deze technologie waar we de meeste aandacht aan moeten besteden: niet wat de technologie weet, maar wat ze ons wil vertellen. En wat het niet is.
De verlengde deadline voor Fast Company’s Wereldveranderende ideeënprijzen is vrijdag 19 december om 23:59 uur PT. Solliciteer vandaag nog.
