Google heeft een nieuwe zoekfunctie voor kunstmatige intelligentie gedumpt die gebruikers via crowdsourced gezondheidsadvies van amateurs over de hele wereld gaf.
Het bedrijf had gezegd dat de lancering van ‘What People Suggest’, dat tips van vreemden opleverde, ‘het potentieel van AI aantoonde om gezondheid transformeren resultaten over de hele wereld”.
Maar Google heeft de functie sindsdien stilletjes verwijderd, volgens drie mensen die bekend zijn met de beslissing.
Een Google-woordvoerder bevestigde dat “What People Suggest” was geschrapt. De stap kwam als onderdeel van een “bredere vereenvoudiging” van de zoekpagina en had niets te maken met de kwaliteit of veiligheid van de nieuwe functie, aldus de woordvoerder.
De onthulling komt terwijl het bedrijf wordt geconfronteerd toenemende controle over het gebruik van kunstmatige intelligentie om gezondheidsinformatie en advies te verstrekken aan miljoenen gebruikers.
In januari een Guardian-onderzoek ontdekte dat mensen gevaar liepen door valse en misleidende gezondheidsinformatie in Google AI-vermeldingen. De door AI gegenereerde vermeldingen worden maandelijks aan 2 miljard mensen getoond en verschijnen boven de traditionele zoekresultaten op de meest bezochte website ter wereld.
Google eerst probeerde te bagatelliseren De bevindingen van The Guardian. De AI-overzichten waarschuwden onafhankelijke experts gekoppeld aan gerenommeerde bronnen en adviseerden deskundig advies in te winnen, aldus het bedrijf.
Dagen later, Google heeft AI-vermeldingen verwijderd voor sommige, maar niet alle medische problemen.
Afgelopen maart zei Google tijdens een evenement in New York dat het van plan was om medisch-gerelateerde AI-samenvattingen in zoekopdrachten uit te breiden.
Het bedrijf zei dat het een nieuwe functie heeft toegevoegd, ‘What People Suggest’, die bedoeld was om gebruikers te voorzien van informatie van mensen met vergelijkbare medische ervaringen.
Op de dag van het ‘The Check Up’-evenement schreef Karen DeSalvo, destijds hoofd van de gezondheidszorg van Google: een blogpost beschrijft waarom het bedrijf de nieuwe functie heeft gelanceerd en hoe deze gebruikers zou helpen.
“Terwijl mensen op zoek gaan naar betrouwbare medische informatie van experts, waarderen ze ook het horen van anderen die soortgelijke ervaringen hebben,” DeSalvo schreef. “Daarom maken we het nog gemakkelijker om dit soort informatie op Zoeken te vinden met een nieuwe functie genaamd ‘Wat mensen voorstellen.’
“Met behulp van AI kunnen we verschillende perspectieven van online discussies organiseren in gemakkelijk te begrijpen thema’s, waardoor je snel begrijpt wat mensen zeggen. Iemand die met artritis te maken heeft, wil misschien weten hoe anderen met deze aandoening oefenen.
“Met deze functie kunnen ze snel echte inzichten ontdekken van mensen die ook de ziekte hebben, met links om erop te klikken en meer te leren.”
De functie werd aanvankelijk beschikbaar gesteld op mobiele apparaten in de Verenigde Staten. Drie mensen zeiden dat “What People Suggest” sindsdien was geschrapt. “Het is dood”, zei iemand die bekend was met de beslissing.
Als u de Guardian-app nog niet heeft, download deze dan (iOS/Android) en ga naar het menu. Selecteer ‘Beveiligd berichtenverkeer’.
“,”displayOnSensitive”:true,”emailContact <<
Als u geen hoog niveau van beveiliging of vertrouwelijkheid nodig heeft, kunt u een e-mail sturen andrew.gregory@theguardian.com
“,”mainTextHeading <
“,”subtitle”Neem contact op met Andrew Gregory over deze geschiedenis”,”_type”:model.dotcomrendering.pageElements.ReporterCalloutBlockElement”,”activeFrom”:1773619200000,”id”:2382e6c3-dff9-4e34-b9461-b9481-a”076troin”0in”06tro
Als u iets over dit verhaal te vertellen heeft, kunt u op een van de volgende manieren contact opnemen met Andrew:
“,”securedropContact “Als u veilig gebruik kunt maken van het tor-netwerk zonder dat u wordt geobserveerd of gecontroleerd, kunt u via ons berichten en documenten naar de Guardian sturen” SecureDrop-platform.“}}”>
Een woordvoerder van Google zei: “Deze functie is maanden geleden beëindigd als onderdeel van een bredere vereenvoudiging van de zoekresultatenpagina die we openbaar hebben gedeeld.”
Toen de Guardian vroeg waar het nieuws ‘openbaar werd gedeeld’, wees de woordvoerder daarop een blogpost van afgelopen november geschreven door John Mueller, een zoekadvocaat bij Google Zwitserland. Het bericht vermeldt niet “wat mensen suggereren”.
Op de vraag of veiligheid een factor was bij de beslissing om ‘wat mensen suggereren’ te schrappen, zei de woordvoerder: ‘Het had niets te maken met de kwaliteit of veiligheid van de functie, en we blijven mensen helpen betrouwbare gezondheidsinformatie te vinden uit verschillende bronnen, waaronder forums met first-person perspectieven die mensen ongelooflijk nuttig vinden.’
Het volgende ‘The Check Up’-evenement van Google is op dinsdag. Chief Health Officer Michael Howell en ander personeel van het bedrijf zullen “delen hoe we nieuw AI-onderzoek, technologische innovaties en partnerschappen samenbrengen om enkele van ’s werelds meest urgente gezondheidsuitdagingen te helpen oplossen”.
