Google verwijdert AI-overzichten voor bepaalde medische vragen

Volgen een onderzoek van The Guardian waarin werd vastgesteld dat Google AI Overviews misleidende informatie bood als reactie op bepaalde gezondheidsgerelateerde vragen, lijkt het bedrijf voor een deel van die vragen de AI-overzichten te hebben verwijderd.

The Guardian meldde bijvoorbeeld aanvankelijk dat wanneer gebruikers vroegen “wat is het normale bereik voor leverbloedtesten”, ze cijfers te zien kregen die geen rekening hielden met factoren zoals nationaliteit, geslacht, etniciteit of leeftijd, waardoor ze mogelijk gingen geloven dat hun resultaten gezond waren terwijl dat niet het geval was.

Nu, zegt The Guardian AI-overzichten zijn verwijderd uit de resultaten voor ‘wat is het normale bereik voor leverbloedtesten’ en ‘wat is het normale bereik voor leverfunctietesten’. Het ontdekte echter dat variaties op deze zoekopdrachten, zoals “lft-referentiebereik” of “lft-testreferentiebereik”, nog steeds konden leiden tot door AI gegenereerde samenvattingen.

Toen ik deze vragen vanochtend probeerde – enkele uren nadat The Guardian zijn verhaal had gepubliceerd – resulteerde geen van deze in het zien van AI-samenvattingen, hoewel Google me nog steeds toestond dezelfde vraag te stellen in de AI-modus. In verschillende gevallen was het beste resultaat eigenlijk het Guardian-artikel over de verwijdering.

Een Google-woordvoerder vertelde de Guardian dat het bedrijf geen “commentaar geeft op individuele verwijderingen binnen Search”, maar dat het eraan werkt “brede verbeteringen aan te brengen”. De woordvoerder zei ook dat een intern team van artsen de door The Guardian benadrukte vragen heeft beoordeeld en heeft vastgesteld dat “de informatie in veel gevallen niet onnauwkeurig was en ook werd ondersteund door websites van hoge kwaliteit.”

TechCrunch heeft contact opgenomen met Google voor verder commentaar. Vorig jaar maakte het bedrijf bekend nieuwe functies gericht op het verbeteren van Google Zoeken voor gebruik in de gezondheidszorginclusief verbeterde overzichten en op gezondheid gerichte AI-modellen.

Vanessa Hebditch, directeur communicatie en beleid bij de British Liver Trust, vertelde de Guardian dat de verwijdering “uitstekend nieuws” is, maar voegde eraan toe: “Onze grootste zorg bij dit alles is dat er slechts één enkel zoekresultaat wordt uitgekozen en dat Google daarvoor gewoon de AI-vermeldingen kan afsluiten, maar dat lost het grotere probleem van de gezondheid van AI-vermeldingen niet op.”