Maandelijks kijken ongeveer twee miljard mensen AI Overzichten, de AI-aangedreven zoekfunctie van Google die overzichten genereert voor zoekopdrachten van gebruikers. Nu onthult een nieuwe studie een verontrustend patroon in sommige van deze reacties: wanneer er gezondheidsgerelateerde vragen worden gesteld, lijken AI-overzichten aanzienlijk vaker naar YouTube te verwijzen dan vertrouwde medische websites.
Sinds de oprichting heeft AI Overviews te maken gehad met behoorlijk wat controverse, vanwege vroege rapporten over het product het versturen van onzinnige reacties voor een aantal rechtszaken van bedrijven En uitgeversgroepen beweren dat de functie schadelijk is voor organische verkeerspatronen. De nieuwste zorg met AI-overzichten ontstond via een onderzoek van De Bewaker op 2 januari, waarin werd beweerd dat de tool de neiging heeft gebruikers valse, misleidende en potentieel gevaarlijke gezondheidsrichtlijnen te bieden. Google ontkende deze claims destijds.
Nu heeft een nieuw onderzoek van de AI SEO-tool SE Ranking, gepubliceerd op 14 januari, onthuld dat AI Overviews twee tot drie keer meer kans hebben om YouTube-video’s te citeren dan ‘vertrouwde medische websites’ als reactie op gezondheidsvragen – maar Google zegt dat dit niet het volledige beeld is.
“Vanuit het oogpunt van AI bestaat al deze inhoud in dezelfde pool.”
Om te begrijpen hoe AI Overviews zijn online gezondheidsrichtlijnen verzamelt, hebben onderzoekers van SE Ranking meer dan 50.000 gezondheidsgerelateerde Google-zoekopdrachten van Duitse gebruikers geanalyseerd. Deze locatie werd volgens de auteurs van het onderzoek gekozen vanwege het strak gereguleerde gezondheidszorgsysteem.
“Als AI-systemen zelfs in een dergelijke omgeving sterk afhankelijk zijn van niet-medische of niet-gezaghebbende bronnen”, schreven de auteurs in een gepubliceerd rapport“Het suggereert dat het probleem zich verder dan één enkel land kan uitstrekken.”
SE Ranking ontdekte dat van alle AI Overview-resultaten slechts ongeveer 34% afkomstig was van ‘vertrouwde medische bronnen’ (die het definieert als websites zoals medische instellingen, academische tijdschriften, openbare instellingen en meer), terwijl de overige 66% afkomstig was van ‘algemene of niet-deskundige bronnen’ (zoals commerciële websites of blogs).
In feite was YouTube de belangrijkste bron van alle gezondheidsgerelateerde vragen; is goed voor 4,43% van alle AI Overviews-citaties. Volgens het rapport zijn dit 3,5 maal zoveel citaten als netdoktor.de, een van Duitslands grootste consumentengezondheidsportalen, en meer dan tweemaal zoveel citaten uit MSD Manuals, een gerenommeerd medisch naslagwerk. In totaal werd YouTube geciteerd in 20.621 van de 465.823 resultaten van AI Overviews.
“Dit is belangrijk omdat YouTube geen medische uitgever is”, luidt het rapport. “Het is een videoplatform voor algemene doeleinden. Iedereen kan daar inhoud uploaden (bijvoorbeeld gecertificeerde artsen, ziekenhuiskanalen, maar ook welzijnsbeïnvloeders, levenscoaches en makers zonder enige medische opleiding). Vanuit het oogpunt van AI bevindt al die inhoud zich in dezelfde pool.”
In een verklaring aan Snel bedrijfheeft de resultaten van de Google SE-ranglijst afgewezen. Het bedrijf zei dat de definitie van een geloofwaardige bron in het onderzoek ‘gebrekkig en te simpel is’ en voegde eraan toe dat ‘het bijna twee derde van de bronnen als ‘minder betrouwbaar’ classificeert door alles van commerciële websites tot blogs met meerdere onderwerpen samen te voegen. Dit negeert de realiteit dat een vakkundig geschreven artikel op een ‘blog met meerdere onderwerpen’ een bron van hoge kwaliteit kan zijn.
Google merkte op dat een nadere blik op de top 10 van meest geciteerde domeinen van het rapport – waartoe naast YouTube ook de Duitse Hartstichting en de op een na grootste zorgverzekeraar van het land behoren – blijkt dat dit “vrijwel allemaal gerespecteerde, gezaghebbende informatiebronnen zijn die rechtstreeks in tegenspraak zijn met het centrale verhaal van het rapport.”
Bovendien voegde het eraan toe dat de bewering dat AI Overviews twee tot drie keer meer naar YouTube kijkt dan vertrouwde medische sites “het feit negeert dat een breed scala aan geloofwaardige gezondheidsautoriteiten en bevoegde artsen inhoud op YouTube creëren.” Google wees op het feit dat, volgens de eigen resultaten van het onderzoek, 24 van de 25 meest geciteerde YouTube-video’s afkomstig waren van medisch-gerelateerde kanalen zoals ziekenhuizen, klinieken en gezondheidszorgorganisaties. (Hoewel de onderzoekers van SE Ranking in het rapport opmerken, zijn deze 25 video’s “slechts een klein voorbeeld” van alle YouTube-video’s waarnaar AI Overviews daadwerkelijk linkt).
Over het geheel genomen zei een woordvoerder: “De implicatie dat AI Overviews onbetrouwbare informatie biedt, wordt gelogenstraft door de eigen gegevens van het rapport, waaruit blijkt dat de meest geciteerde domeinen in AI Overviews gerenommeerde websites zijn. En van wat we in de gepubliceerde resultaten hebben gezien, citeert AI Overviews deskundige inhoud op YouTube van ziekenhuizen en klinieken.”
