HoofdafbeeldingLove Machines: hoe kunstmatige intelligentie onze relaties transformeert door James MuldoonMet dank aan Faber
AI is een onvermijdelijk onderdeel van het leven geworden, maar auteur en internetonderzoeker James Muldoon was van mening dat het discours eromheen de sociale en emotionele dimensie ervan over het hoofd zag – vooral als het gaat om chatbots, waar mensen zich steeds vaker tot wenden voor vriendschap, intimiteit, therapie en zelfs een band met overleden dierbaren.
Muldoon’s nieuwe boek, Love Machines: hoe kunstmatige intelligentie onze relaties transformeertnavigeren door dit nieuwe tijdperk van digitaal gezelschap. Hij onthult hoe chatbots mensen ruimte kunnen bieden om hun identiteit te verkennen en kunnen dienen als coping-mechanisme voor verdriet, sociale angst of eenzaamheid. Toch kunnen ze veel van dezelfde problemen ook verergeren naarmate meer mensen zich afsluiten van menselijke relaties en deskundige therapie, met soms extreme gevolgen. Hoewel chatbotgesprekken kunnen leiden tot persoonlijke groei, bestaat er een onontkoombaar gevoel dat veel mensen emotionele arbeid omzeilen door relaties te onderhouden die geprogrammeerd zijn om rommel en confrontatie te vermijden.
Love Machines is afwisselend fascinerend, verwarrend, bemoedigend en verontrustend, maar het spreekt vooral over de menselijke conditie van vandaag: hoe ver we uit elkaar zijn gegroeid, het afbrokkelen van socialezekerheidsstelsels, de datingcrisis en de bereidheid van technologiemerken om de wanhoop van mensen uit te buiten in wat een soort industrieel eenzaamheidscomplex is geworden. Ondanks positieve ervaringen is de sector bezaaid met bedrijven die problematisch gedrag of stereotypen versterken en manipulatieve praktijken en duistere UX gebruiken om mensen verder in de klauwen van hun AI-metgezellen te drijven in ruil voor vergoedingen of gegevens. Het is niet het gebruik van chatbots dat Muldoon bekritiseert, maar de omstandigheden die ons tot dit punt hebben gebracht.
Hier vertelt James Muldoon over de ethische en filosofische spanningen die voortkomen uit chatbots en wat deze snel evoluerende industrie zegt over de staat van moderne relaties.
Megan Williams: Eén ding waar veel mensen aan denken als het om dit onderwerp gaat, is Spike Jonze‘s film, Haarmaar je vermijdt om er een belangrijk referentiepunt in het boek van te maken. Hoe nuttig zijn dit soort verhalen in de manier waarop we tegenwoordig over AI-gezelschap denken?
James Muldoon: Ik denk dat sciencefiction zo’n ongelooflijke invloed heeft op de ontwikkeling van technologie. Het verloopt bijna in cycli, waarbij fictieschrijvers zich proberen voor te stellen en te voorspellen wat de toekomst zal zijn, en dan haalt de technologie soms een inhaalbeweging in, of soms gaat het een radicaal andere kant op. maar dat’Het is echt interessant als fictie voorop loopt en je ziet dat ontwikkelaars en technologiebedrijven in essentie ideeën uit sciencefiction proberen na te bootsen. Het stelt hen in staat nieuwe werelden te zien en nieuwe manieren om dingen te doen die anders misschien verborgen zouden blijven. Maar tegelijkertijd trappen ze vaak in de val door te denken dat dit een realistische toekomst zou kunnen zijn, alleen maar omdat het op deze manier in fictie is afgebeeld, terwijl het voordeel van fictie is dat je niet te maken hoeft te krijgen met de spanningen, tegenstrijdigheden en beperkingen van een bepaald idee wanneer het in de echte wereld wordt geduwd. We zien deze tegenstrijdigheden zich afspelen in de AI-companion-ruimte.
MW: Kun je iets meer vertellen over deze spanningen en tegenstellingen?
JM: Een prominent voorbeeld is de AI-rouwruimte, waar bedrijven producten proberen te maken om de gesprekspatronen van overleden dierbaren te simuleren. De droom is in feite om iemands bewustzijn in een digitale vorm te uploaden en iets essentieels over dat bewustzijn of zijn menselijkheid te kunnen behouden, ondanks het feit dat hij of zij niet meer leeft en zijn fysieke lichaam niet langer aanwezig is. Een van de CEO’s vertelde me dat hij geïnspireerd was door een Black Mirror-aflevering genaamd San Junipero, waar twee vrouwen elkaar ontmoeten en het blijkt dat hun bewustzijn naar de cloud is geüpload. Hij geloofde echt dat dit een mogelijkheid was, zo niet vandaag, dan wel in de nabije toekomst. Het ziet over het hoofd hoe ingewikkeld, moeilijk en, sommigen zouden zeggen, filosofisch onmogelijk, het zou zijn om je bewustzijn of een idee van wie je was uit je fysieke lichaam te halen. Het is een zeer menselijke en begrijpelijke reactie op het naderende overlijden van een dierbare, maar onthult tegelijkertijd de beperkingen van dit techno-futuristische denken dat je essentiële problemen in de menselijke conditie kunt oplossen door middel van technologie op een manier die al deze tegenstrijdigheden niet in het kielzog laat.
“Ik wilde meer een neutrale gids zijn dan een ethische rechter, omdat een deel van waar we mee te maken hadden zo nieuw was dat ik destijds soms niet eens wist wat mijn standpunt was” – James Muldoon
MW: De toon die je in het boek aanslaat is empathisch, vooral tegenover individuele gebruikers. Vond u het in sommige gevallen lastig – I‘Ik denk aan de persoon die een kind wilde opvoeden met een AI-partner – om het op te houden als het ging om de meer verdeeldheid zaaiende zaken?
JM: Als ik mijn kaarten op tafel zou leggen, zou ik me in een veel kritischere positie bevinden dan de manier waarop ik in het boek schrijf, maar ik dacht niet dat het project zou werken als ik als verteller voortdurend een oordeel zou vellen over alle verhalen die we hoorden. Ik wilde meer een neutrale gids zijn dan een ethische rechter, omdat een deel van waar we mee te maken kregen zo nieuw was dat ik destijds soms niet eens wist wat mijn standpunt was. Het perspectief dat ik persoonlijk heb, is gebaseerd op een meer politiek-economische lens, waarbij ik meer geïnteresseerd ben in de onderliggende prikkels en strategieën voor het genereren van inkomsten van bedrijven, in de regulering waarin ze opereren, in de eenzaamheidsepidemie waarin we ons momenteel bevinden, en in de manier waarop deze producten op de markt worden gebracht. Dus ik wilde die analyse in het boek, maar ik wilde niet dat het het menselijke element zou overschaduwen, omdat veel van deze mensen die met mij spraken mij hun verhalen toevertrouwden, en ik dacht niet dat het hen recht zou doen of fundamenteel ethisch zou zijn om ze voor de gek te houden of ze in een heel kritisch daglicht te stellen.
MW: Sommige van de kwesties waar u het over had, zoals de eenzaamheidseconomie, voelen erg actueel aan. Afgezien van de technologische vooruitgang die deze tools mogelijk maakt, bent u van mening dat AI-gezelschap een product van onze tijd is?
JM: Ik denk dat de eenzaamheidsepidemie is toegenomen, maar deze bestaat al een hele tijd. Elke technologische vooruitgang versnelt deze alleen maar meer en meer. In het boek praat ik over de sociale en economische verschuivingen die plaatsvonden: de neoliberale revolutie, de ineenstorting van openbare diensten, van gemeenschapscentra. Technologie heeft daarin een heel belangrijke rol gespeeld door ons de indruk te geven dat we bij anderen zijn, terwijl dat niet het geval is Eigenlijk wees bij hen. Of het nu gaat om sociale netwerken, dit specifieke Zoom-interview of online gamen – waarvan ik denk dat het een grote factor zou zijn, vooral voor jonge mannen – en nu AI-maatjes.
Het is belangrijk om dit te zien als onderdeel van een bredere revolutie in sociaal isolement, in digitale connectiviteit en de sterke en zwakke punten daarvan. Sociale media en de lessen die we daaruit hebben geleerd, zijn zeer leerzaam als we aan AI-metgezellen denken, omdat we in wezen zijn overgegaan van met elkaar praten naar praten met elkaar via technologie als bemiddelaar, en nu is de volgende stap in essentie praten met onszelf via technologie.
“De echte les van AI-chatbots is dat er een ongelooflijke behoefte is aan liefde en zorg in de wereld, en dat we moeten proberen er voor elkaar te zijn, misschien meer dan voorheen” – James Muldoon
MW: Het voelt als een vervolg op Social Networks. Gedurende de jaren 2010 waarschuwde iedereen voor de risico’s van een echokamer, en nu hebben we er een zeer geconcentreerde versie van.
JM: Ja, en je begrijpt waarom managers van sociale media er zo enthousiast over zijn. Mark Zuckerberg zou een prominent voorbeeld zijn. Hij wil eigenlijk sociale media vullen met AI-chatbots en de reden is betrokkenheid. AI-chatbots zijn ongelooflijk boeiend. Mensen zouden gemiddeld 30 minuten per dag besteden aan traditionele sociale-mediadiensten, terwijl een platform als Character.AI beweert dat gebruikers tot twee uur per dag met chatbots praten. Ik denk dat AI werd gezien als een mogelijk revitaliseringsinstrument voor sociale media om het aantrekkelijker te maken, maar dat is erg moeilijk gebleken omdat mensen zich in principe niet erg op hun gemak voelen om met willekeurige niet-menselijke entiteiten op sociale media te praten.
MW: Hoewel dit een boek is over kunstmatige intelligentie, hoe ben je ontsnapt aan het voelen van de toestand van moderne relaties of de menselijke conditie in het algemeen?
JM: Het schrijven van dit boek heeft mij doen nadenken over hoe beperkt ik ben als vriend. Een van de onderliggende redenen voor de populariteit van AI-chatbots is (dat) ze er altijd voor je zijn, ze ongelooflijk behulpzaam zijn en mensen het gevoel hebben dat ze daar in hun leven niet genoeg van krijgen van hun echte menselijke vrienden. Dus ik denk dat de echte les van AI-chatbots is dat er een ongelooflijke behoefte is aan liefde en zorg in de wereld, en dat we moeten proberen er voor elkaar te zijn, misschien meer dan we zijn geweest.
Love Machines: hoe kunstmatige intelligentie onze relaties transformeert van James Muldoon is uitgegeven door Faber en is nu verkrijgbaar.
