De mens gecentreerd houden in het AI-gesprek
Tijdens een sessie over het herdefiniëren van het mens-AI-partnerschap in de gezondheidszorg zei Matt Troup, oplossingsmanager voor klinische documentatie bij Abridge, dat toen hij als arts werkte, een van zijn grootste uitdagingen was om uit te zoeken hoe hij zijn tijd het beste kon gebruiken om tegemoet te komen aan de behoeften van zowel zijn patiënten als zijn familie. AI kan artsen helpen hun werkdruk te transformeren en hen in staat te stellen zowel hun patiënten als hun families de tijd te geven die ze verdienen.
Pallavi Ranade-Kharkar, bedrijfsdirecteur onderzoeksinformatica en genomica bij Intermountain Health, vertelde hoe haar organisatie artsen weer tijd geeft om zich op patiënten te concentreren door AI te gebruiken om Epic in-basket-berichten af te handelen. De tool bereidt een antwoord voor op basis van de vraag of opmerking van de patiënt, ondersteund door de context in het patiëntendossier. De arts kan dit bericht bekijken voordat het wordt verzonden.
“Deze interventie heeft de workflows vereenvoudigd en gestroomlijnd, met een realtime besparing van 20 tot 30 seconden per bericht”, zei ze. “Dit vermindert de ‘pyjamatijd’ en helpt artsen zich te concentreren op de dingen waar ze het beste in zijn.”
Over de implementatie van kunstmatige intelligentie benadrukte Russell Yeager, senior vice-president en CIO bij Encompass Health, dat augmented intelligence en mensen moeten samenwerken. Zijn organisatie richt zich op echte intelligentie in plaats van op AI.
“We combineren AI met onze klinische en zakelijke intelligentie om echte informatie te bieden aan mensen die betrokken zijn bij de besluitvorming”, zei hij. Yeager wees erop dat hoewel AI autonoom kan zijn als het gaat om IT-activiteiten, er voorzorgsmaatregelen nodig zijn bij gebruik in de patiëntenzorg.
Hoewel kunstmatige intelligentie een enorm potentieel biedt voor de gezondheidszorg, brengt het ook risico’s met zich mee. Ranade-Kharkar zei dat onnauwkeurigheden in de gegevens, gebrek aan transparantie en toegenomen beveiligings- en privacykwetsbaarheden enkele van de grootste risico’s zijn.
“In het centrum van de gezondheidszorg staat de mens, een patiënt. Mens-tot-mens interactie vormt de kern van een positieve patiëntervaring. Met dat in gedachten moeten we waarborgen bedenken om een verantwoord gebruik van AI te garanderen”, zei ze, eraan toevoegend dat het identificeren van belangrijke prestatie-indicatoren en het meten ervan een groot deel is van wat AI-succes betekent.
Tracey Touma, cybersecurity-liaison bij de Cleveland Clinic, legde uit dat AI-governance een andere belangrijke factor is in het succes van AI.
DUIK DIEPER: Data governance is een menselijke uitdaging, niet alleen een technisch probleem.
“We moeten daar beginnen. Mensen willen het glimmende nieuwe speelgoed en snel vooruitgang boeken. AI beweegt zich snel en furieus, maar we moeten ervoor zorgen dat we over een bestuur beschikken om AI veilig in te zetten”, zei ze. “We hebben allemaal gehoord van hallucinaties en valse positieven. De gegevens zijn slechts zo goed als wat er in het systeem staat. Zorg ervoor dat de gegevens goed, veilig en beschermd zijn.”
Risicobeoordeling en documentatie zouden volgens Ranade-Kharkar een sleutelrol moeten spelen in het AI-beheer. Het hebben van een AI-stuurgroep waarmee organisaties interne en externe producten evalueren, is de eerste stap in de adoptie van AI. Algoritmische drift kan optreden en vooringenomenheid veroorzaken. Het is dus van cruciaal belang dat organisaties voortdurend kwaliteitsmonitoring ondergaan van hoe goed hun AI-tools presteren. Organisaties zouden ook een inventaris van hun tools moeten hebben met transparantie over hoe de leverancier de algoritmen in eerste instantie heeft getest en gevalideerd, voegde ze eraan toe.
Intermountain Health heeft onlangs zijn elektronische patiëntendossier naar Epic gemigreerd, en de organisatie vertrouwt op hen om het te helpen implementeren en operationeel te maken, vooral als het gaat om de lange lijst met beschikbare AI-tools.
“We hebben ze nog niet allemaal ingeschakeld. We doen het op een weloverwogen en doordachte manier”, zei ze. “We zetten ze één voor één aan, omdat we er vertrouwen in hebben dat we ze kunnen monitoren en dat kwaliteitsniveau kunnen handhaven.”
Touma benadrukte de noodzaak van intentie bij de adoptie van AI in de gezondheidszorg. Het is belangrijk om belanghebbenden over afdelingen en bedrijfsgebieden heen te hebben om ervoor te zorgen dat de organisatie niets mist. En de organisatie hoeft niet alleen een glimmend nieuw hulpmiddel aan te schaffen; de tool moet kostenbesparingen hebben aangetoond of tegemoetkomen aan de patiëntervaring, de uitkomst van de patiënt of problemen met de zorgervaring.
“Uiteindelijk zijn we bezig met het zorgen voor patiënten”, voegde ze eraan toe. “Als AI deze drie problemen kan oplossen, moeten we weten hoe, wat de impact, de kosten en de zakelijke use case zijn.”
Houd deze pagina bij uw favorieten voor onze berichtgeving over het CHIME Fall Forum 2025. Volg ons op X op @HealthTechMag en neem deel aan het gesprek op #KLOKKE25.
