Onderzoekers die voorop lopen kunstmatige intelligentie (AI) en managers van veel van de grote platforms – van Geoffrey Hinton naar Joshua BengioDemis Hassabis, Sam Altman, Dario AmodiEn Elon Musk– heeft zijn bezorgdheid geuit dat kunstmatige intelligentie zou kunnen leiden tot de vernietiging van de mensheid zelf.
Zelfs de verwachtingen van sommige van deze AI-experts, met een eindtijdscenario van wel 25%, zijn nog steeds ‘buitengewoon optimistisch’, aldus Nate Soares, president van het Machine Intelligence Research Institute (MIRI) en co-auteur van het recente bestsellerboek. Als iemand het bouwt, sterft iedereen.
Dat komt omdat, zoals hij in het boek betoogt, het pad dat we met AI volgen afstevent op een ramp – tenzij er iets radicaal verandert. Het boek is samen met onderzoeker Eliezer Yudkowsky geschreven en onderzoekt potentiële bedreigingen van “superintelligentieOf theoretische AI-systemen die slimmer zijn dan mensen.
“We zijn bezig met het kweken van deze AI’s die handelen op manieren waar niemand om heeft gevraagd, die deze drijfveren en nieuwe gedragingen hebben die niemand bedoelde”, zei Soares vorige maand tijdens de Wereldveranderende Ideeëntopmede georganiseerd door Snel bedrijf en de Johns Hopkins Universiteit in Washington, DC
“Als we bovenmenselijk intelligente AI’s krijgen die doelen achtervolgen die niemand wilde, denk ik dat het standaardresultaat is dat letterlijk iedereen op aarde sterft”, voegde hij eraan toe.
Een verslag van de wereld
Soares vergelijkt het werk van sommige AI-leiders met het bouwen van een vliegtuig terwijl het zonder landingsgestel vliegt en zegt dat er niet genoeg aandacht wordt besteed aan de potentieel negatieve gevolgen van de technologie.
De hoeveelheid mondiale investeringen die in AI worden gestoken, laat zien dat mensen erop gokken dat het geen ‘totale blindganger’ zal zijn, zei hij, maar er zijn nog twee andere ‘gekke’ mogelijkheden: AI automatiseert radicaal alle menselijke arbeid, zodat de economie in handen komt van een heel kleine groep, of het wordt superintelligent en doodt iedereen.
“De wereld is nog niet echt gaan begrijpen hoe gek dit AI-gedoe is”, zei Soares.
Maar er is enige reden voor optimisme, zei Soares, omdat veel mensen zich zorgen maken over de toekomst van kunstmatige intelligentie, waardoor het een ‘gekke’ situatie wordt als meer mensen – wij allemaal – hun zorgen uiten.
“Misschien, als genoeg mensen zeggen: ‘Wacht, wat moeten we nu doen? Wat maakt het uit?'” zei Soares. “Misschien zal het de hele wereld doen schudden als ik zeg: ‘Holy shit, laten we van koers veranderen’.”
De uiterste deadline voor Fast Company’s Wereldveranderende ideeënprijzen is vrijdag 12 december om 23:59 uur PT. Solliciteer vandaag nog.
