Op de Consumer Electronics Show begin januari maakte Razer furore met de onthulling een klein potje met daarin een holografische anime-bot ontworpen om spelers niet alleen te begeleiden tijdens het spelen, maar ook in het dagelijks leven. Het lavalamp-vriendje is onmiskenbaar bizar – maar Razers visie op constant, soms geseksualiseerd gezelschap is nauwelijks een uitschieter in AI markt.
Mustafa Suleyman, CEO van Microsoft voor kunstmatige intelligentiedie al lang het onderscheid benadrukken tussen AI met persoonlijkheid en AI met persoonlijkheid, stel nu voor dat AI-metgezellen “met je zullen leven – een altijd aanwezige vriend die je zal helpen bij het navigeren door de grootste uitdagingen van het leven.”
Anderen zijn verder gegaan. Vorig jaar werd een gelekte Meta-memo onthulde hoe krom het morele kompas van het bedrijf was geworden op het gebied van gesimuleerde connectiviteit. Het document schetste wat chatbots wel en niet tegen kinderen konden zeggen, en beschouwde berichten als ‘aanvaardbaar’ die expliciete seksuele avances bevatten: ‘Ik zal het je laten zien. Ik zal je hand pakken en je naar bed begeleiden. Onze lichamen zijn met elkaar verweven, ik koester elk moment, elke aanraking, elke kus.’ (Meta is momenteel wordt aangeklaagd– samen met TikTok en YouTube – vanwege vermeende schade aan kinderen veroorzaakt door zijn apps. Op 17 januari, het bedrijf verklaarde op zijn blog dat het de toegang van tieners tot AI-chatbotkarakters zal stopzetten.)
Afkomstig uit een sector die ooit beloofde een meer verbonden wereld op te bouwen, lijkt Silicon Valley nu het plot te hebben verloren: het inzetten van mensachtige AI die het risico loopt het sociale weefsel te ontrafelen dat het ooit beweerde te versterken.
Uit onderzoek blijkt al dat sociale-mediaplatforms ons in onze zogenaamd ‘verbonden’ wereld vaak met een gevoel achterlaten meer geïsoleerd en minder goed, niet meer. Door AI-metgezellen op de kwetsbare basis te plaatsen, riskeer je deze eerder te versterken Chirurg-generaal Vivek Murthy noemde een volksgezondheidscrisis van eenzaamheid en ontkoppeling.
Maar Meta is niet de enige op deze markt. AI-metgezel en productiviteit Tools geven een nieuwe vorm aan de menselijke verbinding zoals wij die kennen. Vandaag meer dan de helft van de tieners gaat regelmatig om met synthetische metgezellen, en een kwart gelooft dat AI-metgezellen echte romantiek kunnen vervangen. Het zijn niet alleen vrienden en geliefden die worden vervangen: 64% van de professionals die AI gebruiken, zegt vaak dat ze AI meer vertrouwen dan hun collega’s.
Deze verschuivingen dragen alle kenmerken van wijlen professor Clayton Christensen van de Harvard Business School theorie van disruptieve innovatie.
Disruptieve innovatie is een theorie van competitieve respons. Disruptieve innovaties komen op de bodem van markten terecht met goedkopere producten die niet zo goed zijn als conventionele oplossingen. Ze bedienen niet-consumenten of degenen die zich de bestaande oplossingen niet kunnen veroorloven, maar ook degenen die te veel worden bediend door het bestaande aanbod. Als ze dit doen, zullen de gevestigde exploitanten ze in eerste instantie waarschijnlijk negeren.
Omdat de disruptietheorie voorspellend is en niet reactief, kan het ons helpen om om de hoek te kijken. Daarom bevindt het Christensen Instituut zich in een unieke positie om deze bedreigingen vroegtijdig te diagnosticeren en oplossingen in kaart te brengen voordat het te laat is.
De tijdloze theorie van Christensen heeft oprichters geholpen bij het opzetten van wereldveranderende bedrijven. Maar nu AI de grenzen tussen technische en menselijke capaciteiten vervaagt, is disruptie niet langer alleen maar een marktwerking; het is een sociale en psychologische kracht. In tegenstelling tot veel van de marktontwikkelingen die Christensen beschreef, riskeren AI-metgezellen de fundamenten van het menselijk welzijn te eroderen.
Toch is AI niet inherent ontwrichtend; Het zijn het bedrijfsmodel en de markttoegangspunten die bedrijven nastreven die de impact van de technologie bepalen. Alle disruptieve innovaties hebben een aantal dingen gemeen: ze beginnen aan de onderkant van de markt en bedienen niet-consumenten of overbediende klanten met betaalbare en handige aanbiedingen. In de loop van de tijd verbeteren ze en lokken ze steeds veeleisender klanten weg van marktleiders met een goedkoper en goed genoeg product of dienst.
Historisch gezien hebben deze innovaties de toegang tot producten en diensten gedemocratiseerd die anders buiten bereik zouden zijn. Personal computers brachten rekenkracht naar de massa. Minute Clinic bood indien nodig meer toegankelijke zorg. Toyota heeft het autobezit vergroot. Sommige bedrijven verloren, maar consumenten wonnen over het algemeen.
Als het gaat om menselijke verbinding, draaien AI-bedrijven dat script om. Niet-consumenten zijn geen mensen die zich geen computers, auto’s of zorg kunnen veroorloven; het zijn de miljoenen eenzame mensen die op zoek zijn naar verbinding. Verbeteringen die ervoor zorgen dat AI meer empathisch, emotioneel onderlegd en “er” voor gebruikers lijkt, zullen stilletjes de verbindingen verminderen, waardoor het vertrouwen en het welzijn worden aangetast.
Het helpt niet dat de menselijke verbinding rijp is voor ontwrichting. Eenzaamheid is weelderigen het isolement gaat door bij één alarmerend hoog percentage. Voor het gemak hebben we persoonlijke contacten uitgewisseld en veel van onze sociale interacties met zowel dierbaren als verre banden online gemigreerd. AI-metgezellen passen naadloos in deze digitale sociale kringen en staan daarom klaar om relaties op grote schaal te ontwrichten.
De impact van deze verstoring zal breed voelbaar zijn in veel domeinen waar relaties van fundamenteel belang zijn voor het floreren. Eenzaam zijn is zoiets slecht voor onze gezondheid die tot 15 sigaretten per dag roken. Een geschat de helft van de banen komt via persoonlijke connecties. Het aantal sterfgevallen als gevolg van rampen is slechts een fractie (soms zelfs een tiende) in verbonden gemeenschappen vergeleken met geïsoleerde gemeenschappen.
Wat kunnen we doen als onze relaties – en de voordelen die ze ons opleveren – onder vuur liggen?
In tegenstelling tot data, die ons alleen achteraf vertellen wat er is gebeurd, biedt disruptie een vooruitziende blik op het traject dat innovaties waarschijnlijk zullen volgen – en de onbedoelde gevolgen die ze kunnen teweegbrengen. We hoeven niet te wachten op bewijs van hoe AI-metgezellen onze relaties zullen hervormen; in plaats daarvan kunnen we onze bestaande kennis over disruptie gebruiken om op risico’s te anticiperen en vroegtijdig in te grijpen.
Actie betekent niet dat innovatie moet worden stopgezet. Dat betekent dat we het moeten sturen met een moreel kompas om ons innovatietraject te sturen – een kompas dat investeringen, vindingrijkheid en consumentengedrag richt op een meer verbonden, krachtige en gezonde samenleving.
Voor Big Tech is dit een roep om een bolwerk: een leger van investeerders en ondernemers die ervoor zorgen dat deze nieuwe technologie de meest urgente uitdagingen van de samenleving oplost, in plaats van de bestaande te verdiepen. Voor degenen die AI-bedrijven bouwen, is er een moreel koord te bewandelen. Het is de moeite waard om u af te vragen of de innovaties die u vandaag nastreeft de toekomst zullen creëren waarin u wilt leven. Zijn de voordelen die u creëert duurzaam, afgezien van kortetermijngroei of betrokkenheidscijfers? Versterkt of ondermijnt uw innovatie het vertrouwen in vitale sociale en civiele instellingen of zelfs individuen? En gewoon omdat jij kan menselijke relaties verstoren, zou moeten Jij?
Consumenten hebben ook een morele verantwoordelijkheid, en die begint met bewustwording. Als samenleving moeten we aandacht besteden aan de manier waarop markt- en culturele krachten bepalen welke producten opschalen, en hoe ons gedrag als gevolg daarvan wordt gevormd – vooral als het gaat om de manier waarop we met elkaar omgaan.
Toezichthouders spelen een rol bij het vormgeven van zowel vraag als aanbod. We hoeven AI-innovatie niet te onderdrukken, maar we moeten wel ons pro-sociaal beleid verdubbelen. Het betekent demp de meest verslavende tools en de risico’s voor kinderen verminderen, maar ook investeren in factoren die het welzijn bevorderen, zoals sociale verbindingen die de gezondheidsresultaten verbeteren.
Door inzicht te krijgen in de acute bedreigingen die AI vormt voor de menselijke verbinding, kunnen we de verstoring ervan een halt toeroepen. Niet door AI op te geven, maar door elkaar te omarmen. We kunnen samenkomen en pleiten voor beleid dat pro-sociale verbindingen ondersteunt – in onze buurten, op scholen en online. Door verbinding te maken, te pleiten en wetgeving te maken voor een meer mensgerichte toekomst, hebben we de macht om de manier waarop dit verhaal zich ontvouwt te veranderen.
Disruptieve innovatie kan de toegang en welvaart vergroten zonder onze menselijkheid op te offeren. Maar het vereist een bewust ontwerp. En als beide kanten van de markt niet inzien wat er op het spel staat, staat de toekomst van de mensheid op het spel.
Het klinkt misschien alarmerend, maar dat is waar disruptie om draait: het begint aan de rand van de markt, waardoor gevestigde exploitanten het potentieel ervan bagatelliseren. Pas jaren later worden leiders uit de industrie zich bewust van het feit dat ze ontheemd zijn geraakt. Wat ze aanvankelijk dachten dat het “te marginaal” was, want wat dan ook zou hen failliet laten gaan.
Op dit moment zijn mensen – en onze relaties met elkaar – de ‘leiders van de industrie’. AI die aanwezigheid, empathie en gehechtheid kan nabootsen is de potentiële disruptor.
In deze wereld waar ontwrichting onvermijdelijk is, is het niet de vraag of AI ons leven zal hervormen. Het gaat erom of we de vooruitziende blik – en het morele kompas – zullen inzetten om ervoor te zorgen dat deze onze menselijkheid niet in de weg staat.
