Amazone heeft zijn nieuwe Health AI-service gelanceerd in de VS, a chatbot die u kunnen helpen bij het begrijpen, behandelen en diagnosticeren van gezondheidsproblemen. Dit jaar beschikbaar voor alle VS Amazon Prime abonnees, kan het gesprekken met u voeren over uw gezondheidsproblemen, oplossingen en gezondheidsproducten aanbevelen en u in contact brengen met artsen.
Laten we dit uit de weg ruimen: ik denk dat AI een plaats heeft in de gezondheidszorg. Terwijl het medisch personeel worstelt met de krakende ziekenhuisinfrastructuur en de overweldigende vraag, hebben patiënten te maken met lange wachtlijsten en (althans in de VS) schijnbaar steeds stijgende kosten die worden opgelegd door de op winst gerichte farmaceutische en medische industrie. AI heeft het potentieel om al deze problemen te verlichten.
Het artikel gaat hieronder verder
Wat is Amazon Health AI precies?
Amazon beschrijft Health AI als “een agent AI-zorgassistent ontworpen om de gezondheidszorg gemakkelijker te maken”. Er staat dat Health AI “ontworpen is als een persoonlijke gezondheidsagent die u en uw medische geschiedenis kent, zodat het nuttigere antwoorden kan geven en zinvolle acties kan ondernemen, waaronder u in contact brengen met de professionals, behandelingen en accountdiensten die u nodig heeft om gezond te worden en te blijven”.
Deze diensten omvatten onder meer het aanbevelen van producten van Amazon Pharmacy aan u en het in contact brengen van u met zorgverleners (met name van de One Medical-groep van Amazon). Met toestemming kan Amazon ook toegang krijgen tot uw gegevens en de chatbot deze met u laten bespreken.
Amazon houdt vol dat de beveiliging streng is: het zegt dat Health AI een “HIPAA-compatibele” omgeving is, verwijzend naar de Amerikaanse Health Information Portability and Accountability Act. Dit betekent dat al uw beschermde gezondheidsinformatie (PHI) wordt behandeld zoals deze in een dokterspraktijk zou worden behandeld en onderworpen is aan alle wettelijke privacyvereisten.
Wat zijn de potentiële risico’s?
Het HIPAA Journal zei in een vorig jaar gepubliceerd artikel over AI dat zorgaanbieders en leveranciers die AI gebruiken, risico’s lopen als gevolg van de technologie. Het was daar “Achter de potentiële voordelen van het gebruik van PHI in AI-technologie schuilt een duistere mix van risico’s die een negatieve impact kunnen hebben op (zorgverleners), uw leveranciers en zelfs uw patiënten, vooral als het gaat om naleving van de HIPAA en de PHI van patiënten.”
Sommige van deze risico’s houden verband met de aard van AI-modellen die enorme hoeveelheden gegevens vereisen om te trainen. Als je een op gezondheid gebaseerde chatbot bouwt, heb je daarvoor veel gezondheidsgegevens nodig, en Amazon, een van ’s werelds grootste gegevensverzamelaars, ziet de waarde van je persoonlijke gegevens.
Amazon benadrukt dat “Beschermde gezondheidsinformatie van Amazon One Medical en Amazon Pharmacy niet wordt gebruikt in de bredere Amazon-winkel om algemene merchandise op de markt te brengen of door Amazon Ads, en Amazon verkoopt geen persoonlijke gegevens van klanten” en “we gebruiken alleen beschermde gezondheidsinformatie voor doeleinden die zijn toegestaan onder HIPAA”.
Het is echter niet moeilijk om het belangenconflict te zien: het vertelt u het probleem en verkoopt u de oplossing via zijn eigen website of brengt u in contact met zijn eigen artsen. Hoewel het niet in de reguliere winkel van Amazon zal worden gebruikt, zei Amazon niets over het gebruik van gezondheidsinformatie voor marketingdoeleinden in relatie tot Amazon Pharmacy. Heb je de chatbot verteld dat je slaapproblemen hebt? Verwacht dat u vrij verkrijgbare oplossingen krijgt aangeboden voor een betere slaap.
Hoewel Amazon uw gegevens zal vastleggen om toekomstige modellen van zijn AI te trainen, zegt het dat het namen zal verwijderen. Dat is op zichzelf echter niet echt privé. Meta bleek Facebook-accounts te kunnen koppelen aan gebruikers van de perioderegistratie-app Flozelfs nadat namen en andere identificerende accountinformatie zijn verwijderd, dankzij een uniek identificatienummer. In de rechtbank werd vastgesteld dat het Flo-gebruikers bespioneerde. Ik breng dit naar voren omdat ik er niet op vertrouw dat anonimisering een effectieve manier is om accounts te anonimiseren als het gaat om het verzamelen van chatlogboeken om de volgende generatie AI te trainen.
Als er sprake is van een datalek of als Amazon die gegevens gebruikt op een manier die niet HIPAA-conform is, denk ik ook niet dat een boete effectief kan worden afgedwongen. Het Facebook-proces waar ik hierboven naar linkte, duurde jaren voordat er een vonnis kwam en er is nog steeds geen straf uitgesproken. Amazon is simpelweg te groot om te beboeten en te groot om te disciplineren, vooral omdat zijn datacenters door iedereen worden gebruikt, van overheden tot verkopers.
De wens van grote technologiebedrijven om een gelukkige, gezonde bevolking op te bouwen is iets anders dan de wens om winst te maken uit uw persoonlijke gegevens.
Met dat in gedachten doet Amazon er niet goed genoeg aan om mij ervan te overtuigen dat zijn nieuwe Health AI-service veilig, privé en in mijn beste belang is. De staat New York denkt er blijkbaar hetzelfde over: het is in de maak blokkeert AI-chatbots van het geven van juridisch of medisch advies.
Volg TechRadar op Google Nieuws En voeg ons toe als voorkeursbron om ons deskundig nieuws, recensies en meningen in uw feeds te krijgen. Klik dan zeker op de knop Volgen!
En jij kunt dat natuurlijk ook Volg TechRadar op TikTok voor nieuws, recensies, video-unboxings en ontvang regelmatig updates van ons WhatsAppen Ook.
