Mind lanceert onderzoek naar AI en geestelijke gezondheid na Guardian-onderzoek | AI (kunstmatige intelligentie)

Mind lanceert een groot onderzoek naar kunstmatige intelligentie en geestelijke gezondheid nadat uit een Guardian-onderzoek bleek hoe de AI-inzichten van Google mensen ‘zeer gevaarlijk’ medisch advies gaven.

In een commissie van een jaar zal de liefdadigheidsinstelling voor de geestelijke gezondheidszorg, die actief is in Engeland en Wales, de risico’s en waarborgen onderzoeken die nodig zijn nu kunstmatige intelligentie steeds meer invloed heeft op de levens van miljoenen mensen die wereldwijd door geestelijke gezondheidsproblemen worden getroffen.

Het onderzoek – het eerste in zijn soort wereldwijd – zal ’s werelds leidende medische en geestelijke gezondheidszorgprofessionals samenbrengen, evenals mensen met praktijkervaring, zorgverleners, beleidsmakers en technologiebedrijven. Mind zegt dat het ernaar zal streven een veiliger digitaal ecosysteem voor de geestelijke gezondheidszorg vorm te geven met krachtige regelgeving, normen en waarborgen.

De lancering komt nadat The Guardian onthulde hoe mensen het risico liepen op schade door valse en misleidende gezondheidsinformatie in Google AI Overviews. De door AI gegenereerde vermeldingen worden maandelijks aan 2 miljard mensen getoond en verschijnen boven de traditionele zoekresultaten op de meest bezochte website ter wereld.

Na rapportage, Google verwijderde AI-overzichten voor sommige, maar niet alle medische zoekopdrachten. Dr. Sarah Hughes, CEO van Mind, zei dat er nog steeds “gevaarlijk onjuist” advies op het gebied van de geestelijke gezondheidszorg aan het publiek wordt gegeven. In het ergste geval kan de valse informatie levens in gevaar brengen, zei ze.

Hughes zei: “Wij geloven dat kunstmatige intelligentie een enorm potentieel heeft om de levens van mensen met geestelijke gezondheidsproblemen te verbeteren, de toegang tot ondersteuning te vergroten en openbare diensten te versterken. Maar dat potentieel zal alleen worden gerealiseerd als het op verantwoorde wijze wordt ontwikkeld en geïmplementeerd, met waarborgen die in verhouding staan ​​tot de risico’s.

“De kwesties die uit de rapportage van The Guardian naar voren komen, zijn onder meer de redenen waarom we Mind’s Commission on AI and Mental Health lanceren om de risico’s, kansen en waarborgen te onderzoeken die nodig zijn naarmate AI dieper ingebed raakt in het dagelijks leven.

“We willen ervoor zorgen dat innovatie niet ten koste gaat van het welzijn van mensen en dat degenen onder ons die ervaring hebben met geestelijke gezondheidsproblemen centraal staan ​​bij het vormgeven van de toekomst van digitale ondersteuning.”

Google heeft gezegd dat zijn AI-overzichten, die generatieve AI gebruiken om momentopnamen te maken van essentiële informatie over een onderwerp of vraag, “behulpzaam” En “betrouwbaar”.

Maar The Guardian ontdekte dat sommige AI-vermeldingen onnauwkeurige gezondheidsinformatie bevatten, waardoor mensen het risico liepen schade te lijden. Het onderzoek bracht vals en misleidend medisch advies aan het licht over een reeks onderwerpen, waaronder kanker, leverziekten, de gezondheid van vrouwen en geestelijke gezondheidsproblemen.

Experts zeiden dat sommige AI-reviews voor aandoeningen als psychose en eetstoornissen “zeer gevaarlijk advies” boden en “verkeerd, schadelijk waren of ervoor konden zorgen dat mensen geen hulp meer zochten”.

Google bagatelliseert ook beveiligingswaarschuwingen dat het door AI gegenereerde medische advies verkeerd zou kunnen zijn. De Guardian heeft gevonden.

Hughes zei dat kwetsbare mensen ‘gevaarlijk onjuiste begeleiding op het gebied van de geestelijke gezondheidszorg’ kregen, inclusief ‘advies dat mensen ervan zou kunnen weerhouden behandeling te zoeken, het stigma of de discriminatie te versterken en, in het ergste geval, levens in gevaar te brengen’.

Ze voegde eraan toe: “Mensen verdienen informatie die veilig, nauwkeurig en op bewijs gegrond is, en niet op ongeteste technologie die met een laagje vertrouwen wordt gepresenteerd.”

De commissie, die een jaar zal duren, zal bewijsmateriaal verzamelen op het snijvlak van AI en geestelijke gezondheid en een ‘open ruimte’ creëren waar de ervaringen van mensen met een psychische aandoening ‘gezien, vastgelegd en begrepen’ zullen worden.

Rosie Weatherley, manager informatiecontent bij Mind, zei dat hoewel de informatie van Google over geestelijke gezondheid vóór AI Overviews “niet perfect” was, deze meestal goed werkte. Ze zei: “Gebruikers hadden een goede kans om door te klikken naar een geloofwaardige gezondheidswebsite die hun vraag beantwoordde en vervolgens verder ging – met nuance, geleefde ervaring, casestudies, citaten, sociale context en een verder traject van ondersteuning.

“AI Overviews heeft deze rijkdom vervangen door een klinisch klinkende samenvatting die de illusie van finaliteit wekt. Ze geven de gebruiker meer van één soort duidelijkheid (beknoptheid en duidelijk Engels) terwijl ze minder van een ander soort krijgen (zekerheid over de bron van de informatie en hoeveel deze kan worden vertrouwd). Het is een zeer verleidelijke afweging.”

Een woordvoerder van Google zei: “We investeren aanzienlijk in de kwaliteit van AI-beoordelingen, vooral voor onderwerpen als gezondheid, en de overgrote meerderheid biedt nauwkeurige informatie.

“Voor vragen waarbij onze systemen iemand identificeren die mogelijk in nood is, werken we aan het tonen van relevante, lokale crisishotlines. Zonder de genoemde voorbeelden te kunnen beoordelen, kunnen we geen commentaar geven op de juistheid ervan.”