Blijf op de hoogte met gratis updates
U hoeft zich alleen maar te registreren De technologiesector myFT Digest – rechtstreeks in uw inbox afgeleverd.
De auteur is directeur-generaal van Unesco
De hersenen zijn het laatste toevluchtsoord van onze persoonlijke gedachten. Wie kan zich voorstellen dat hij zijn gedachten niet voor zichzelf kan houden? Hoewel we nog ver verwijderd zijn van echte technologie voor het lezen van gedachten, heeft de wetenschap vooruitgang geboekt in de richting van het decoderen van onze gedachten. Neurotechnologie, een zich snel ontwikkelend vakgebied dat zich toelegt op het begrijpen van de hersenen en het creëren van technologieën die ermee interageren, kan onze neurale systemen benaderen, beoordelen en zelfs manipuleren.
Dit jaar maakte de neurotechnologie een sprong voorwaarts toen Meta een reeks experimenten uitvoerde waarbij magneto-encefalografie (MEG) – een hersenscantechnologie die de magnetische velden meet die worden gegenereerd door hersenactiviteit – werd geïntegreerd met generatieve kunstmatige intelligentie. Meta zegt dat het “visuele representaties in de hersenen” met millisecondenprecisie heeft gedecodeerd.
Een groeiend aantal mensen maakt gebruik van neurotechnologie zonder te beseffen hoe gevoelig de gegevens die daarmee worden verzameld, zijn. Fitness-, stress-tracking- en andere welzijnstoepassingen die in smartphones zijn geïntegreerd of in ‘draagbare’ vorm worden gebruikt, zoals koptelefoons, oordopjes, slimme brillen of polsbandjes, verzamelen een verrassende hoeveelheid gegevens over onze gemoedstoestand, inclusief over de concentratieniveaus van de hersenen, stress en angst, vermoeidheid, ontspanning en kalmte, en positieve of negatieve stemming.
Als data de olie van de 21e eeuw zijn, dan zijn ‘hersendata’ de ruwe olie. We moeten jaloerser waken.
Op dit moment is er in de meeste rechtsgebieden over de hele wereld geen wet die technologiebedrijven verbiedt onze neurologische gegevens te gebruiken, laat staan een wet die hen verbiedt deze aan derden te verkopen.
Omdat hersenpatronen uniek zijn voor ieder individu, vormt het verliezen van de controle over deze gegevens een directe bedreiging voor onze mentale privacy en onze vrijheid van denken – twee fundamentele mensenrechten. Neurotechnologie kan onze gedachten en mentale toestanden manipuleren: Bijwerkingen van diepe hersenstimulatie bij Parkinsonpatiënten laten zien dat het mogelijk is ongewenst gedrag zoals dwangmatig kopen te veroorzaken.
Het is dringend noodzakelijk dat de wereld stappen onderneemt om deze krachtige nieuwe technologie te beheersen. Daarom heeft Unesco het eerste mondiale ethische raamwerk voor het bestuur van neurotechnologie ontwikkeld.
Deze maand hebben de lidstaten onze aanbeveling over de ethiek van neurotechnologie aangenomen. Het roept regeringen op om het fundamentele recht op privacy, inclusief mentale privacy, te garanderen door de verkoop of het delen van zeer gevoelige neurale en niet-neurale gegevens die anderen in staat stellen emoties, aandachtsniveaus en andere mentale toestanden af te leiden, strikt te reguleren.
Concreet betekent dit dat overheden dergelijke gegevens als gevoelige persoonlijke gegevens moeten behandelen, het verzamelen van gegevens onder druk, manipulatie of bij gebrek aan echte keuze moeten verbieden, of deze zonder toestemming voor reclame moeten gebruiken. Ze moeten ook privacyontwerp, encryptie en veilige gegevensopslag bevorderen, en het grensoverschrijdend delen van gegevens alleen mogelijk maken met krachtige beveiligingsmaatregelen.
Naast schendingen van de geestelijke privacy signaleert de aanbeveling ook andere risico’s, vooral voor kinderen en jongeren van wie de hersenen nog in ontwikkeling zijn. Over het algemeen raadt Unesco het gebruik van neurotechnologie voor niet-therapeutische doeleinden af.
De aanbeveling zal beleidsmakers ook in staat stellen te profiteren van de voordelen van de technologie. Neurotechnologie heeft transformatieve medische toepassingen: mensen die lijden aan de ziekte van Parkinson, epilepsie en therapieresistente depressies hopen dat invasieve en niet-invasieve neurotechnologie hun symptomen kan verlichten. In de toekomst kunnen brein-computerinterfaces mensen met beperkte mobiliteit ten goede komen doordat ze externe apparaten, zoals prothesen, kunnen besturen met alleen hun gedachten.
Unesco streeft ernaar de ethische reflectie over de risico’s van nieuwe technologieën te bevorderen en consensus te creëren onder onze lidstaten over hoe deze risico’s kunnen worden verminderd. In 2018 lanceerden we een nieuw mondiaal initiatief om een ethisch raamwerk voor kunstmatige intelligentie vast te stellen, wat leidde tot de unanieme goedkeuring van de AI Ethics Recommendation in 2021. Unesco werkt nu met 80 lidstaten aan het ontwikkelen en implementeren van beleid dat gelijkheid, inclusiviteit en duurzaamheid bevordert gedurende de gehele AI-levenscyclus.
Nu zullen we onze lidstaten ondersteunen bij het herzien van hun beleid, het opstellen van routekaarten om lacunes aan te pakken en het opbouwen van hun capaciteit om de uitdagingen van de neurotechnologie aan te pakken.
Hervé Chneiweissneurowetenschapper, heeft ook aan dit stuk bijgedragen
