Professor Hatim Abdulhussein, Chief Executive bij Health Innovation Kent Surrey Sussex
Er is een initiatief gelanceerd met de naam TrustX om AI van agenten te helpen verifiëren, inzetten en testen voor gebruik in de NHS en de sociale zorg.
Het is bedoeld om het tienjarige gezondheidsplan van de NHS te ondersteunen grootschalig gebruik van AI-tools, waaronder technologie ter ondersteuning van diagnoses, het automatiseren van administratieve taken, het voorspellen van de vraag naar diensten en ambient voice-agents voor taken zoals het maken van aantekeningen.
TrustX heeft tot doel het risico van vooringenomenheid, potentiële fouten en desinformatie van AI-agenten aan te pakken door te evalueren hoe zij zich in reële situaties gedragen, omgaan met andere technologieën en gegevensbronnen, en hoe zij in de loop van de tijd kunnen veranderen.
Het initiatief wordt uitgevoerd in samenwerking tussen Health Innovation Kent Surrey Sussex (KSS), het Trustworthy AI Lab van de Universiteit van Cambridge, het Responsible AI Institute en The King’s Fund.
Professor Hatim Abdulhussein, CEO van Health Innovation KSS, gezegd: “Frontline NHS-teams hebben AI nodig die veilig, praktisch en klaar is voor echte druk.
“TrustX verbindt innovatie met de plaatsen waar het er het meest toe doet, waardoor artsen en operationele managers een betrouwbare manier krijgen om Agentic AI te testen, evalueren en toepassen.
“Dit partnerschap zal de NHS helpen sneller te handelen, wrijving te verminderen en betekenisvolle verbeteringen in de productiviteit en patiëntenzorg te realiseren.”
TrustX hoopt de ontwikkeling van een gedeeld ecosysteem voor veilig experimenteren, snel leren en schaalbare adoptie binnen de NHS te informeren en ondersteunen.
Het zal een ‘vertrouwde AI-technologie’-badge introduceren om professionals en het publiek het vertrouwen te geven dat een softwaresysteem in de loop van de tijd onafhankelijk is geverifieerd en gemonitord op veiligheid, nauwkeurigheid en afstemming.
Sarah Woolnough, CEO van The King’s Fund, zei: “We zijn verheugd om deel uit te maken van het partnerschap om TrustX te lanceren en een rol te spelen bij het ondersteunen van de ontwikkeling, validatie en inzet van agent AI in een NHS-omgeving.
“Het tienjarige gezondheidszorgplan zegt terecht dat innovatie en het gebruik van geavanceerde technologie een belangrijke rol kunnen spelen bij het aanpakken van enkele van de operationele druk en uitdagingen waarmee ons gezondheidszorg- en zorgsysteem wordt geconfronteerd.
“Op de langere termijn is er een enorm potentieel voor kunstmatige intelligentie – mits goed geïmplementeerd – om de manier waarop de NHS werkt te transformeren en om de zorg voor patiënten te verbeteren en hoe mensen NHS-diensten ervaren.”
TrustX wordt ondersteund door oprichters van Britse gezondheidstechnologiebedrijven, waaronder Dr. Dom Pimenta van TORTUS, Dr. Haris Shuaib van Newtons Tree, Carmelo Insalaco van Rapid Health, Dr. John Jeans van CLEARnotes, Amna Askari en Rachel Finegold van Frontier Health AI en Seb Barker van Beam.
In een gezamenlijke verklaring zeiden de oprichters: “Als oprichters van toonaangevende AI-bedrijven in de gezondheidszorg delen we de toewijding aan het bouwen van technologieën die veilig en betrouwbaar zijn en afgestemd zijn op de behoeften van artsen en patiënten.
“Door bij te dragen aan TrustX willen we een maatstaf zetten voor verantwoorde innovatie en helpen we een ecosysteem te creëren waarin AI meetbare voordelen oplevert zonder de veiligheid in gevaar te brengen.”
Ondertussen werd in september door de Medicines and Healthcare Products Regulatory Agency een nationale commissie opgericht om de toegang tot de nieuwste AI-tools te versnellen, waaronder AI-omgevingsstemtechnologie voor klinische notatie.
