‘Gevaarlijk en alarmerend’: Google verwijdert een aantal van zijn AI-cv’s nadat de gezondheid van gebruikers in gevaar is gebracht | Googlen

Google heeft daarna een aantal van zijn gezondheidsoverzichten met kunstmatige intelligentie verwijderd een Guardian-onderzoek ontdekte dat individuen werden blootgesteld aan het risico van schade als gevolg van valse en misleidende informatie.

Het bedrijf heeft gezegd dat zijn AI-overzichten, die generatieve AI gebruiken om momentopnamen te maken van essentiële informatie over een onderwerp of vraag, “behulpzaam” En “betrouwbaar”.

Maar sommige samenvattingen die bovenaan de zoekresultaten verschenen, bevatten onnauwkeurige gezondheidsinformatie, waardoor gebruikers risico liepen op schade.

In een zaak die deskundigen als ‘gevaarlijk’ en ‘alarmerend’ omschrijven, Googlen gaf valse informatie over belangrijke leverfunctietests die mensen met een ernstige leverziekte ertoe konden brengen te geloven dat ze gezond waren.

Het typen van “wat is het normale bereik voor leverbloedtesten” leverde veel cijfers op, weinig context en geen rekening gehouden met de nationaliteit, het geslacht, de etniciteit of de leeftijd van de patiënten, ontdekte de Guardian.

Wat volgens de AI-overzichten van Google normaal was, zou drastisch kunnen afwijken van wat feitelijk als normaal werd beschouwd, aldus experts. De samenvattingen kunnen ertoe leiden dat ernstig zieke patiënten ten onrechte denken dat ze een normaal testresultaat hebben en niet de moeite nemen om vervolgafspraken bij te wonen.

Na de enquêtehet bedrijf heeft AI-overzichten verwijderd voor de zoektermen ‘wat is het normale bereik voor leverbloedtesten’ en ‘wat is het normale bereik voor leverfunctietesten’.

Een woordvoerder van Google zei: “We geven geen commentaar op individuele verwijderingen binnen Zoeken. In gevallen waarin AI-vermeldingen context missen, proberen we brede verbeteringen aan te brengen, en komen we waar nodig ook tussen in ons beleid.”

Vanessa Hebditch, directeur communicatie en beleid bij de British Liver Trust, een liefdadigheidsinstelling voor de levergezondheid, zei: “Dit is uitstekend nieuws en we zijn blij met de verwijdering van Google AI Overviews in deze gevallen.

“Als de vraag echter op een andere manier wordt gesteld, kan er nog steeds een potentieel misleidend AI-overzicht worden gegeven, en we blijven bezorgd dat andere door AI geproduceerde gezondheidsinformatie onnauwkeurig en verwarrend kan zijn.”

The Guardian ontdekte dat het typen van kleine variaties op de oorspronkelijke zoekopdrachten in Google, zoals ‘lft reference range’ of ‘lft test reference range’, AI-overzichten opleverde. Dat was een grote zorg, zei Hebditch.

“Een leverfunctietest of LFT is een verzameling van verschillende bloedtesten. Het begrijpen van de resultaten en wat je moet doen is complex en omvat veel meer dan het vergelijken van een reeks getallen.

“De AI-overzichten presenteren echter een lijst met tests vetgedrukt, waardoor het voor lezers heel gemakkelijk is om te missen dat deze cijfers misschien niet eens kloppen voor hun test.

“Bovendien waarschuwen de AI-reviews niet dat iemand normale resultaten voor deze tests kan hebben als hij een ernstige leverziekte heeft en verdere medische aandacht nodig heeft. Deze valse geruststelling kan zeer schadelijk zijn.”

Googlen, die een aandeel van 91% in de wereldwijde zoekmachinemarkt heeftzei dat het de nieuwe voorbeelden van The Guardian aan het herzien was.

Hebditch zei: “Onze grootste zorg bij dit alles is dat het één enkel zoekresultaat verkloot, en Google kan daarvoor gewoon de AI-inzichten afsluiten, maar dat lost het grotere probleem van AI-inzichten voor de gezondheid niet op.”

Sue Farrington, voorzitter van het Patient Information Forum, dat op bewijs gebaseerde gezondheidsinformatie voor patiënten, het publiek en beroepsbeoefenaren in de gezondheidszorg promoot, verwelkomde de verwijdering van de samenvattingen, maar zei dat ze zich nog steeds zorgen maakte.

“Dit is een goed resultaat, maar het is slechts de allereerste stap in wat nodig is om het vertrouwen in de gezondheidsgerelateerde zoekresultaten van Google te behouden. Er zijn nog steeds te veel voorbeelden van Google AI-overzichten die mensen onnauwkeurige gezondheidsinformatie geven.”

Miljoenen volwassenen wereldwijd hebben al moeite om toegang te krijgen tot betrouwbare gezondheidsinformatie, zei Farrington. “Daarom is het zo belangrijk dat Google mensen verwijst naar robuuste, onderzochte gezondheidsinformatie en zorgaanbod van vertrouwde gezondheidsorganisaties.”

Er verschijnen nog steeds AI-overzichten voor andere voorbeelden die The Guardian oorspronkelijk voor Google benadrukte. Ze bevatten samenvattingen van informatie over kanker en geestelijke gezondheid, die deskundigen omschrijven als “volkomen verkeerd” en “echt gevaarlijk”.

Op de vraag waarom deze AI-overzichten niet ook waren verwijderd, zei Google dat ze linkten naar bekende en gerenommeerde bronnen en mensen informeerden wanneer het belangrijk was om deskundig advies in te winnen.

Een woordvoerder zei: “Ons interne team van artsen heeft beoordeeld wat er met ons is gedeeld en heeft vastgesteld dat de informatie in veel gevallen niet onnauwkeurig was en ook werd ondersteund door websites van hoge kwaliteit.”

Victor Tangermann, senior redacteur bij technologiewebsite Futurism, zei dat de bevindingen van het onderzoek van The Guardian aantoonden dat Google werk te doen had.om ervoor te zorgen dat zijn AI-tool geen gevaarlijke desinformatie over de gezondheid verspreidt”.

Google zei dat AI-inzichten alleen verschijnen bij zoekopdrachten waarbij het een groot vertrouwen heeft in de kwaliteit van de antwoorden. Het bedrijf meet en beoordeelt voortdurend de kwaliteit van zijn samenvattingen over veel verschillende categorieën informatie, voegde het eraan toe.

In een ander artikel Zoekmachine journaalzei senior schrijver Matt Southern: “AI-samenvattingen verschijnen boven de gerangschikte resultaten. Als het onderwerp gezondheid is, wegen de fouten zwaarder.”