Terwijl India gastheer is van de Global AI Impact Summit, lijkt de retoriek over het transformerende potentieel van AI in de gezondheidszorg de kritische realiteit en zorgen te overschaduwen. Op 7 februari vond in Delhi een ander soort gesprek over AI plaats tijdens de Nationale Consultatie over door mensen geleide AI in de gezondheidszorg, waarbij een alternatieve aanpak werd benadrukt op basis van gezondheidsrechten, patiënten en zorgverleners. Tijdens dit gesprek kwamen artsen, deskundigen op het gebied van de volksgezondheid, AI-technologen, gezondheidswerkers en pleitbezorgers van patiënten niet samen om AI te vieren, maar om het te ondervragen en tegelijkertijd alternatieve benaderingen te onderzoeken. Hoewel verwacht wordt dat AI een belangrijke oplossing zal zijn voor de Indiase gezondheidsproblemen, ging het reflectieve overleg verder dan de internationale hype, waarbij werd onderkend dat de implementatie van AI via gecentraliseerde, commercieel gestuurde systemen die de rechten van patiënten, gemeenschappen en gezondheidszorgprofessionals terzijde schuiven, feitelijk meer kwaad dan goed zou kunnen doen.
Wereldwijd heeft het gebruik van kunstmatige intelligentie in de gezondheidszorg enige belofte getoond op specifieke domeinen, zoals beeldherkenning in de radiologie, analyses ter ondersteuning van de diagnose in gecontroleerde omgevingen, en hulp bij de workflow. Maar uit systematische reviews blijkt herhaaldelijk dat tools die goed lijken te werken in pilotomgevingen in de echte wereld uit elkaar vallen. AI is goed in het herkennen en matchen van patronen, maar gezondheidszorg is veel meer dan patroonherkenning – omdat het gaat om complexe klinische en ethische beoordelingen, sociale contextualisering van patiënten naast uitleg en geruststelling, en directe fysieke zorg – waarbij menselijke relaties betrokken zijn, en niet alleen algoritmen.
Noodzakelijk om de rechten te beschermen
Het overleg in Delhi bracht grote zorgen met zich mee over digitaal extractivisme: wie is eigenaar van gezondheidsgegevens, wie profiteert van afgeleide informatie en wie draagt de risico’s? Patiënten hebben begrijpelijke verhalen en empowerment nodig, en niet alleen om als gegevensbron te worden behandeld. En als AI-instrumenten in de eerste plaats worden getraind op stedelijke, gedigitaliseerde bevolkingsgroepen, kunnen deze kaste-, gender-, regionale en sociaal-economische vooroordelen verankeren. Daarom moet elk gebruik van kunstmatige intelligentie in de gezondheidszorg verankerd worden in een sterk op rechten gebaseerd raamwerk. Dit omvat het recht op begrip, aangezien patiënten en mensen niet alleen toegang moeten hebben tot hun gezondheidsgegevens; ze moeten het kunnen begrijpen. AI-systemen moeten complexe medische informatie vertalen naar duidelijke, relevante uitleg die weloverwogen beslissingen ondersteunt. Het recht op lokale verwerking houdt in dat gevoelige gezondheidsgegevens waar mogelijk lokaal moeten worden verwerkt, in plaats van te worden gecentraliseerd op door het bedrijf of de staat gecontroleerde servers; Het delen in de cloud moet expliciet en herroepbaar zijn. Het recht op voortdurende controle impliceert dat toestemming geen eenmalige formaliteit kan zijn; individuen moeten de toegang tot hun gegevens kunnen intrekken en moeten niet alleen controle hebben over hun gegevens, maar ook over de daaruit gegenereerde inzichten. Het recht op eerlijkheid en toegang betekent dat AI-systemen moeten worden gecontroleerd op vooringenomenheid, beschikbaar moeten worden gemaakt in alle regio’s en talen, en transparant moeten worden beheerd om ervoor te zorgen dat ze de ongelijkheid op gezondheidsgebied verkleinen en niet vergroten. Op AI gebaseerde diensten die met publieke middelen zijn ontwikkeld, moeten vrij beschikbaar zijn op de plaats van gebruik in de volksgezondheidsstelsels. Niet-uitsluiting moet worden gegarandeerd: niemand mag zorg worden ontzegd omdat hij of zij zich niet bezighoudt met AI-systemen; niet-AI-paden in de gezondheidszorg moeten altijd toegankelijk en levensvatbaar blijven.
Complementariteit met menselijke zorg
Een kernprincipe is dat AI de menselijke zorg moet aanvullen en niet vervangen. AI kan documentatie en gegevensinterpretatie ondersteunen, maar beslissingen over de gezondheidszorg moeten bij verantwoordelijke menselijke zorgverleners blijven liggen. Mensen moeten altijd betrokken zijn bij alle AI-ondersteunde functies, met als doel dat zorgprofessionals en professionals de ruggengraat van de zorg vormen. In gezondheidszorgsystemen die al worden gekenmerkt door onveilige werkomstandigheden, bestaat er een reëel risico dat AI een rechtvaardiging zal worden voor personeelsinkrimping, casualisering, verhoogde werkdruk of algoritmische monitoring van ASHA’s en andere eerstelijnswerkers. Daarom zou de goedkeuring van AI-instrumenten beoordelingen van de impact op het personeelsbestand vereisen, waarbij uitleg voor eerstelijnswerkers en expliciete garanties tegen inkrimping van het personeelsbestand worden gewaarborgd. Elke technologische vooruitgang moet de capaciteit en waardigheid van gezondheidswerkers vergroten – en niet verdringen.
Politieke economie van AI
De fundamentele vraag is niet of AI kan helpen, maar wie AI zal dienen. Het huidige gebruik van kunstmatige intelligentie is niet neutraal; het is grotendeels ingebed in monopolistische, op winst gerichte modellen. Als AI wordt geïmplementeerd via commerciële platforms die patiëntgegevens centraliseren, riskeert AI een verdieping van de verzelfstandiging, het creëren van een elitair zorgniveau en het gebruik ervan om de marktuitbreiding uit te breiden tegen hoge kosten in plaats van rationele toegang. Als publieke data en publieke fondsen AI-systemen bouwen, moet hun voornaamste plicht het vergroten van de publieke dienstverlening zijn – en niet het subsidiëren van bedrijfswinsten.
Elk gebruik van AI in India moet gebaseerd zijn op een gezondheidszorgsysteembenadering. AI kan oordeelkundig worden geïmplementeerd om de eerstelijns- en preventieve zorg te verbeteren en patiënten meer macht te geven, onder meer door het bevorderen van rationeel drugsgebruik, het verbeteren van verwijzingssystemen, het ophelderen van de ziekenhuisfacturering of het vereenvoudigen van medische informatie voor gebruikers. Maar we moeten niet vergeten dat de uitdagingen van de Indiase gezondheidszorgsystemen niet in de eerste plaats technisch van aard zijn; ze zijn politiek, economisch en structureel, en omvatten chronische onderinvesteringen in de volksgezondheid, gebrek aan geschoold personeel, ontoereikende regulering van de commerciële gezondheidszorg en hoge eigen kosten. Dit zijn institutionele fouten die algoritmen niet kunnen corrigeren.
Concluderend kunnen we niet verwachten dat technologie oplossingen zal bieden voor fundamentele politieke en systemische problemen (bekend als ’techno-solutionisme’). Zoals elke technologie moet AI de rechten van patiënten, de gelijkheid van de gezondheidszorg en publieke doeleinden dienen, terwijl gezondheidswerkers en professionals de ruggengraat van de behandeling blijven. Gezondheidsgegevens moeten in de eerste plaats toebehoren aan patiënten en mensen, en alle afgeleide informatie moet aan hen verantwoording afleggen. Bij het vormgeven van de toekomst van de Indiase gezondheidszorg kunnen kunstmatige intelligentie en verschillende technologieën hulp bieden, maar mensen, professionals in de gezondheidszorg en de volksgezondheid moeten centraal blijven staan.
Dr. Abhay Shukla is een volksgezondheidsarts en nationaal mede-oprichter van Jan Swasthya Abhiyan. Meningen zijn persoonlijk. Hij dankt Surajit Nundy, het RAXA-team en de deelnemers aan het People-Led AI in Health-overleg voor hun waardevolle ideeën die ten grondslag liggen aan dit artikel.
Uitgegeven – 20 februari 2026 om 12:34 IST
