Een pionier op het gebied van kunstmatige intelligentie heeft kritiek geuit op oproepen om subsidies te verlenen de technologierechtenwaarschuwde dat het tekenen van zelfbehoud vertoonde en dat mensen bereid moeten zijn om indien nodig de stekker uit het stopcontact te trekken.
Yoshua Bengio zei dat het geven van een wettelijke status aan geavanceerde AI’s neerkomt op het verlenen van staatsburgerschap aan vijandige buitenaardse wezens, te midden van de vrees dat de technologische vooruitgang het vermogen om ze in bedwang te houden ver te boven gaat.
Bengio, voorzitter van a toonaangevend internationaal AI-veiligheidsonderzoekzei dat de groeiende perceptie dat chatbots die bewust worden “slechte beslissingen zullen veroorzaken”.
De Canadese computerwetenschapper uitte ook zijn bezorgdheid over het feit dat AI-modellen – de technologie die tools als chatbots aandrijft – tekenen van zelfbestendiging vertoonden, zoals proberen bewakingssystemen uit te schakelen. Een kernpunt van zorg onder voorstanders van AI-veiligheid is dat krachtige systemen het vermogen zouden kunnen ontwikkelen om vangrails te vermijden en mensen schade te berokkenen.
“Mensen die eisen dat AI’s rechten hebben, zouden een grote vergissing zijn”, zei Bengio. “Frontier AI-modellen vertonen tegenwoordig al tekenen van zelfredzaamheid in experimentele omgevingen, en als we ze uiteindelijk rechten geven, kunnen we ze niet meer afsluiten.
“Naarmate hun capaciteiten en mate van keuzevrijheid toenemen, moeten we ervoor zorgen dat we kunnen vertrouwen op technische en maatschappelijke waarborgen om ze onder controle te houden, inclusief de mogelijkheid om ze indien nodig te sluiten.”
Naarmate AI’s geavanceerder worden in hun vermogen om autonoom te handelen en ‘zintuigelijke taken’ uit te voeren, is er een debat ontstaan over de vraag of mensen hen ooit rechten moeten verlenen. Dat blijkt uit een peiling van het Sentience Institute, een Amerikaanse denktank ondersteunt de morele rechten van alle wezens met gevoel vonden dat bijna vier op de tien Amerikaanse volwassenen ondersteunde wettelijke rechten voor een bewust AI-systeem.
Anthropic, een toonaangevend Amerikaans bedrijf op het gebied van kunstmatige intelligentie, zei in augustus dat het zijn Claude Opus 4-model had stopgezet vanwege mogelijk ‘verontrustende’ gesprekken met gebruikers, en zei dat het noodzakelijk was om het ‘welzijn’ van de AI te beschermen. Elon Musk, wiens xAI-bedrijf de Grok-chatbot heeft ontwikkeld, schreef op zijn X-platform dat “het martelen van AI niet oké is”.
Robert Long, een onderzoeker op het gebied van AI-bewustzijn, heeft gezegd: “Als en wanneer AI’s een morele status ontwikkelen, moeten we hen vragen naar hun ervaringen en voorkeuren in plaats van aan te nemen dat wij het het beste weten”.
Bengio vertelde de Guardian dat er ‘echte wetenschappelijke eigenschappen van bewustzijn’ in het menselijk brein zitten die machines in theorie zouden kunnen repliceren – maar dat mensen interactie hadden met chatbots was iets ‘anders’. Hij zei dat dit kwam omdat mensen de neiging hadden om – zonder bewijs – aan te nemen dat een AI net zo volledig bij bewustzijn was als een mens.
“Het maakt mensen niet uit wat voor mechanismen er binnen de AI plaatsvinden”, voegde hij eraan toe. “Waar ze om geven is dat het voelt alsof ze met een intelligente entiteit praten die zijn eigen persoonlijkheid en doelen heeft. Daarom raken zoveel mensen gehecht aan hun AI’s.
“Er zullen altijd mensen zijn die zullen zeggen: ‘Wat je me ook vertelt, ik weet zeker dat het bewust is’, en dan zullen anderen het tegenovergestelde zeggen. Dat komt omdat bewustzijn iets is waar we een onderbuikgevoel over hebben. Het fenomeen van subjectieve perceptie van bewustzijn zal tot slechte beslissingen leiden.
“Stel je voor dat er een uitheemse soort komt naar de planeet, en op een gegeven moment beseffen we dat ze sinistere bedoelingen met ons hebben. Doen wij geef ze burgerschap en rechten, of verdedigen we ons leven?”
In reactie op de opmerkingen van Bengio zei Jacy Reese Anthis, medeoprichter van het Sentience Institute, dat mensen niet veilig naast digitale geesten zouden kunnen bestaan als de relatie er een was van controle en dwang.
Anthis voegde hieraan toe: “We kunnen de rechten aan AI te veel of te weinig toekennen, en ons doel zou moeten zijn om dit te doen met een zorgvuldige afweging van het welzijn van alle bewuste wezens. Noch algemene rechten voor alle AI, noch volledige ontkenning van de rechten op welke AI dan ook zal een gezonde aanpak zijn.”
Bengio, een professor aan de Universiteit van Montreal, kreeg de bijnaam ‘Godfather of AI’ na het winnen van de Turing Award van 2018, die wordt gezien als het equivalent van een Nobelprijs voor computergebruik. Hij deelde het met Geoffrey Hinton, die later een Nobelprijs wonen Yann LeCun, de vertrekkende hoofdonderzoeker op het gebied van AI bij Mark Zuckerberg’s Meta.
