Alleen wat leeft kan bewust zijn

Anil Seth is uitgeroepen tot winnaar van de Berggruen Essayprijs 2025 in het Engels. Seth staat bekend als een vooraanstaand voorstander van de materialistische theorie van het bewustzijn. Hij is een Britse neurowetenschapper en hoogleraar cognitieve en computationele neurowetenschappen aan de Universiteit van Sussex.

Zijn essaygepubliceerd in Noema, ‘The Mythology Of Conscious AI’, is een rigoureuze en overtuigende uitdaging voor het idee dat complexe berekeningen aanleiding kunnen geven tot bewustzijn, dat volgens Seth onlosmakelijk verbonden is met biologisch leven.

Hij biedt een contrasterend perspectief op een eerdere Noema essay door Google Blaise Agüera en Arcas En James Manadedie beweert dat ‘het leven inherent computationeel is’. Hoewel ze niet beweren dat AI bewustzijn kan bereiken, suggereren ze een pad in die richting, waarbij ze zien dat organische en anorganische intelligentie dezelfde regels van zelforganiserende ontwikkeling volgen om zich voort te planten, te groeien en te genezen.

In veel opzichten is het betoog van Seth een baanbrekende verfijning en actualisering van de zaak van Nobelprijswinnaar Gerald Edelman voor Age of AI.

Zoals Edelman het in 2004 in een gesprek verwoordde, lang vóór het idee dat kunstmatige neurale netwerken en grote taalmodellen ooit bewustzijn zouden kunnen voortbrengen:

“Het brein is belichaamd en het lichaam is ingebed in zijn omgeving. Dat trio moet op een geïntegreerde manier functioneren. Je kunt de activiteit en ontwikkeling van het brein niet scheiden van de omgeving of het lichaam. Er is een constante interactie tussen wat wordt herinnerd en verbeeld – een beeld – en wat er daadwerkelijk in de zintuigen gebeurt.”

“Het brein kan tegen zichzelf praten, en het bewuste brein kan zijn onderscheidingsvermogen gebruiken om de toekomst te plannen, het verleden te vertellen en een sociaal zelf te ontwikkelen.

“Het belangrijkste om te begrijpen is dat de hersenen ‘contextgebonden’ zijn. Het is geen logisch systeem zoals een computer dat alleen geprogrammeerde informatie verwerkt; het produceert geen vooraf bepaalde resultaten zoals een klok.”

Voor Edelman ontstaat bewustzijn door een ‘repertoire van selectie’ dat wordt gecreëerd door meerdere recursieve interacties tussen het biologische apparaat van het lichaam en de omgeving. ‘Er bestaat geen eenduidige mapping om de geest te creëren; er is eerder een onvoorziene veelheid aan mogelijkheden’, zei hij ooit. vertelde het mij.

Wat lawaai is voor logische berekeningen, is het voor de menselijke verscheidenheid en het vermogen om te innoveren, gedichten te schrijven, muziek te componeren, meesterwerken te schilderen en stemmingen te voelen.

Seth ziet de neiging om intelligentie en bewustzijn op één hoop te gooien als gevolg van drie ‘ingebouwde psychologische vooroordelen’.

“De eerste is antropocentrisme. Dit is de neiging om dingen te zien door de lens van het mens-zijn: om het menselijke voorbeeld als een definitie te beschouwen in plaats van als een voorbeeld van hoe verschillende kwaliteiten kunnen samenkomen.

De tweede is menselijk exceptionisme: onze ongelukkige gewoonte om de menselijke soort bovenaan elke stapel te plaatsen, en soms op een heel andere stapel (misschien dichter bij engelen en goden dan bij andere dieren, zoals in de middeleeuwen De omvang van de natuur). En de derde is antropomorfisme. Dit is de neiging om mensachtige eigenschappen op niet-menselijke dingen te projecteren, gebaseerd op wat slechts oppervlakkige overeenkomsten kunnen zijn.”

Als we eenmaal voorbij de verleiding van deze gebrekkige metaforen zijn gekomen, is het mogelijk duidelijker aan te geven waar de door algoritmen aangestuurde intelligentieverwerking via een anorganisch substraat fundamenteel verschilt van de biologische symbiose die zich in de loop van millennia tot verbazingwekkende efficiëntie heeft ontwikkeld.

Onvergelijkbaar wetsuit

“In een brein”, schrijft Seth, “is er geen scherpe scheiding tussen ‘mindware’ en ‘wetware’ zoals er wel is tussen software en hardware in een computer. Hoe meer je je verdiept in de fijne kneepjes van het biologische brein, hoe meer je beseft hoe rijk en dynamisch het is vergeleken met het dode zand van silicium.

Hersenactiviteitspatronen evolueren over meerdere schalen van ruimte en tijd, van grootschalige corticale gebieden tot de fijnkorrelige details van neurotransmitters en neurale circuits, allemaal diep verweven met een moleculaire storm van metabolische activiteit. Zelfs een enkel neuron is een spectaculair gecompliceerde biologische machine, bezig zijn eigen integriteit te behouden en de omstandigheden en de materiële basis voor zijn eigen voortbestaan ​​te herstellen. (Dit proces wordt genoemd autopoieseuit het Grieks voor ‘eigen productie’. Autopoiese is ongetwijfeld een bepalend en karakteristiek kenmerk van levende systemen.)

In tegenstelling tot computers, zelfs computers die neurale netwerkalgoritmen draaien, zijn hersenen moeilijk en waarschijnlijk onmogelijk te scheiden wat ze doen van wat ze zijn.

Er is ook geen enkele goede reden om een ​​dergelijke zuivere scheiding te verwachten. De scherpe scheiding tussen software en hardware in moderne computers wordt opgelegd door menselijk ontwerp. Biologische evolutie opereert onder verschillende beperkingen en met verschillende doelen. Vanuit het perspectief van de evolutie bestaat er geen duidelijke selectiedruk voor het soort volledige scheiding dat de perfecte interoperabiliteit tussen verschillende hersenen mogelijk zou maken, waar we van genieten tussen verschillende computers. In feite is waarschijnlijk het tegenovergestelde waar: het in stand houden van een scherpe software/hardware-divisie is energetisch duur, zoals tegenwoordig maar al te duidelijk blijkt uit de grote energiebudgetten van moderne serverparken.”

Biologische tijd versus rekentijd

Seth biedt ook een fascinerend inzicht in het verschil tussen contextgebonden biologische tijd en rekentijd.

Bij computationele verwerking, schrijft hij, “is alleen de volgorde van belang: van A naar B, van 0 naar 1. Er zou een microseconde of een miljoen jaar kunnen verstrijken tussen elke toestandsovergang en het zou nog steeds hetzelfde algoritme zijn, dezelfde berekening.

Voor hersenen en voor biologische systemen in het algemeen is tijd daarentegen fysiek, continu en onvermijdelijk. Levende systemen moeten voortdurend weerstand bieden aan het verval en de wanorde die op het pad naar entropische uniformiteit liggen, opgelegd door de onschendbare tweede wet van de thermodynamica. Dit betekent dat neurobiologische activiteit geworteld is in continue tijd op een manier waarop ontwerpalgoritmen dat niet zijn.

Bovendien zijn veel onderzoekers – vooral die in de fenomenologische traditie – heeft lang benadrukt dat bewuste ervaring zelf rijkelijk dynamisch en inherent temporeel is. Het ontstaat niet van de ene staat naar de andere; het stroomt. Het brein in de droge sequentieruimte van algoritmen trekken doet geen recht aan onze biologie, noch aan de fenomenologie van de bewustzijnsstroom.”

Kortom, dit alles wijst op het inzicht dat bewustzijn geworteld is in de noodzaak van levende organismen om de perceptie aan te scherpen van waar en hoe ze zich in de wereld bevinden, en vervolgens gedrag te kiezen dat hun biologische overleving bevordert. Zoals de neurowetenschapper Antonio Damasio op soortgelijke wijze heeft opgemerkt, zijn de positieve en negatieve feedbacksignalen van succes of mislukking in deze poging om te overleven en te bloeien – ‘gevoelens’ – de oorsprong van emoties die, bij wezens van hogere orde, zich ontwikkelen tot cultuur.

Zoals Seth de conclusies van zijn onderzoek samenvat:

‘Ten eerste hebben we een glimp opgevangen van een verklarend verband tussen leven en bewustzijn. Bewuste ervaringen van emotie, stemming en zelfs de fundamentele het gevoel dat je leeft ze komen allemaal netjes overeen met perceptuele voorspellingen die betrokken zijn bij de controle en regulering van de lichaamstoestand.

Ten tweede zijn de processen die ten grondslag liggen aan deze perceptuele voorspellingen diep, en misschien wel onlosmakelijk, geworteld in onze aard als biologische systemen, als zelfherstellende levensstormen die weerstand bieden aan de aantrekkingskracht van entropische uniformiteit.

En ten derde is dit alles niet-computationeel, of op zijn minst niet-algoritmisch. Het minimaliseren van voorspellingsfouten in echte hersenen en echte lichamen is een continu dynamisch proces dat waarschijnlijk onlosmakelijk verbonden is met de materiële basis ervan, en niet zozeer een in het vlees geïmplementeerd algoritme dat bestaat in een ongerept universum van symbolen en sequenties.”

De levensadem

Uiteindelijk ziet Seth iets essentieels aan het werk: ‘We ervaren de wereld om ons heen en onszelf daarin – met, door en vanwege onze levende lichamen. Misschien is het het leven, en niet de informatieverwerking, dat de ervaringsvergelijkingen in vuur en vlam zet.

Als we de rijkdom van biologische hersenen en menselijke ervaringen combineren met de informatieverwerkingsmachinerie van door deepfake ondersteunde chatbots, of wat de nieuwste AI-tovenarij ook mag zijn, doen we onze geest, hersenen en lichamen ernstig onrecht. Als we onszelf te goedkoop verkopen voor onze machinecreaties, overwaarderen we ze en onderwaarderen we onszelf.”

Misschien is dat wat ons maakt ons, Seth mijmert, “keert terug naar het oude Griekenland en naar de vlakten van India, waar onze diepste essentie naar voren komt als een onbeduidend gevoel voor preciesheid levend zijn – meer adem dan gedachte en meer vlees dan machine.”

Noot van de redactie over de Berggruen Essayprijs 2025 voor de Chinese taal:

De Chineestalige Berggruen Essayprijs 2025 was dat toegekend aan Xin Huang voor ‘Taal, bewustzijn en computergebruik: een filosofische analyse van het tokenconcept in het tijdperk van intelligentie’, en aan Xiaoben Liu voor ‘Het eerste paradigma van het uploaden van bewustzijn: mechanismen van bewustzijnsevolutie in het AI-axiale tijdperk en een vooruitzicht op Web4.’

Huang onderzoekt hoe ervaring en intentie worden vertaald in berekenbare ’tokens’, waarbij hij het probleem van het bewustzijn in het tijdperk van intelligente systemen opnieuw formuleert en nieuwe wegen voor mens-machine-interactie voorstelt. Liu brengt een raamwerk naar voren voor bewustzijnsevolutie, met het argument dat taal de basiseenheid van bewustzijn is, en schetst een routekaart naar het uploaden van bewustzijn, digitale onsterfelijkheid en een toekomstig ‘internet van bewustzijn’.

Deze essays zijn gepubliceerd in Cuiling, Noema’s tegenhanger in China.