Altijd al één-op-één coaching willen ontvangen van Vreemd oog lifestylegoeroe Karamo Brown? Oké, maar hoe zit het met… van een digitale kloon van Karamo gemaakt door een bedrijf voor kunstmatige intelligentie?
Donderdag maakte de reality-tv-ster op Instagram bekend dat hij een samenwerking heeft aangegaan met Delphi, een AI-chatbotbedrijf dat belooft experts te veranderen in “digitale geesten” die op individueel niveau met hun volgers communiceren, en zelfs videobellen toestaan. Zoals Brown in zijn aankondiging stelde, kan Delphi zijn digitale geest, genaamd Kē, beschikbaar maken “24 uur per dag, 7 dagen per week, en het is alsof je tegen mij praat.”
“De afgelopen tien jaar heb ik gehoord: ‘Karamo, ik wou dat je me advies kon geven’, ‘Karamo, ik wou dat ik rechtstreeks met je kon praten’, ‘Karamo, ik wou dat je mijn therapeut en mijn raadgever kon zijn'”, zegt Brown in de aankondigingsvideo om de reden voor het partnerschap uit te leggen.
In zijn aankondiging probeert Brown de kritiek te ondervangen door te erkennen dat de chatbot inderdaad AI is, “maar dit is geen ChatGPT AI.” Brown geeft vervolgens een live demonstratie met een chatbot die zijn stem heeft – een chatbot waarvan hij beweert dat deze geen ‘chatbot’ is, maar eerder een ‘digitale weerspiegeling’ van zijn gelijkenis.
Welke naam je er ook aan geeft, AI-chatbots zijn in wezen grote modellen voor het leren van talen die zijn ontworpen om positieve feedbackloops met hun gebruikers te creëren – en een recente golf van rapportage En wetenschappelijk onderzoek suggereren dat een dergelijke dynamiek ongekende en schadelijke effecten op menselijk gedrag zou kunnen hebben die verder onderzoek rechtvaardigen. Uit een op Stanford gebaseerd onderzoek is zelfs gebleken dat relaties met chatbots kunnen leiden tot “waanachtige spiralen” waarbij de verkeerde overtuigingen van een gebruiker tot gevaarlijke uitersten worden gevalideerd. We zeggen niet dat Kē je leven zal verpesten, maar het risico van praten met een op LLM gebaseerde ‘digitale geest’ in plaats van een erkende professional in de geestelijke gezondheidszorg kan het overwegen waard zijn.
Zoals Kē zelf (zelf?) zegt wanneer Brown een demonstratie doet, kan de bot niet ‘doen alsof hij je therapeut is’. Kē zal op 27 april online beschikbaar zijn.
Haal het beste uit wat vreemd is. Schrijf je in Jij’s wekelijkse nieuwsbrief hier.
