Van links naar rechts: Dr. Joe Zhang, hoofd data science bij het London AI Centre and Secure Data Environment, en Dr. Jessica Morley, postdoctoraal onderzoeker bij het Yale University Digital Ethics Centre
Veel grote technologiebedrijven beloven te veel en leveren te weinig op op het gebied van AI, waarschuwden deskundigen op het gebied van gezondheidsgegevens van Digital Health Rewired.
Tijdens een toespraak op de NEC Birmingham op 24 maart zei Dr. Jessica Morley, een postdoctoraal onderzoeker aan het Yale University Digital Ethics Center, dat veel van de ‘grote, hypey beloften’ van de AI-sector niet kunnen worden waargemaakt, en drong er bij gezondheidszorgaanbieders op aan om te investeren in mensen en infrastructuur om de beste resultaten te leveren.
“Waarom geven we ons geld aan grote particuliere technologiebedrijven? En moeten we er meer in eigen beheer bouwen?
“Ik denk dat NHS-trusts onder enorme druk staan om AI te adopteren, maar niemand weet echt hoe te beoordelen of AI de juiste oplossing is.
“Kleinere, meer basale dingen zijn waarschijnlijk nuttiger dan proberen een of andere supersnelle AI te kopen.
“Het gaat erom dat je voldoende zelfvertrouwen hebt om te zeggen: ‘Eigenlijk denk ik niet dat dit de juiste oplossing is voor mijn specifieke ziekenhuis’,” vertelde Morley. Digitaal gezondheidsnieuws.
Dr. Joe Zhang, hoofd datawetenschap bij het London AI Centre en Secure Data Environment, vergeleek een deel van de AI die in gezondheidsonderzoek wordt gebruikt met ‘slangenolie’ en zei dat ze ondanks alle hype nog geen echte impact hebben.
Hij benadrukte dat sommige AI die in onderzoek wordt gebruikt mogelijk alleen is gevalideerd door de gegevens waarop deze is gebouwd, en niet is getest buiten een onderzoeksomgeving en is geëvalueerd door het team dat de AI heeft gebouwd.
“We krijgen de basisprincipes niet goed, of het nu op basisniveau of op sociaal niveau is, voor wat we willen bereiken”, zei Zhang.
Hij vroeg zich ook af of de potentiële waarde van NHS-gegevens effectief werd gebruikt door technologiebedrijven.
“De waarde van de NHS vloeit naar hen toe.
“We kunnen veel meer doen om fundamentele zaken goed te krijgen op infrastructuurniveau, de echte waarde van data te laten toenemen en de waarde ervan stroomafwaarts te benutten door te innoveren en onze eigen problemen op te lossen door samen te werken met technologie, maar deze niet aan de technologie over te dragen”, voegde hij eraan toe.
Morley en Zhang vertelden het Rewired-publiek dat sommige AI-bedrijven beweren dat hun technologie kan zorgen voor meer efficiëntie, kostenbesparingen, betere patiëntresultaten, minder ongelijkheden en een beter welzijn van artsen.
Maar in dia’s die op de conferentie werden gedeeld, zeiden ze dat veel van deze voordelen worden gepresenteerd als een “automatisch gevolg van capaciteit”, en dat de voordelen “onmiddellijk realiseerbaar zijn, ongeacht de vereiste capaciteiten”.
