Grote retailers zeggen dat het niet lang zal duren voordat geavanceerde AI-‘assistenten’ uw maaltijden plannen, uw feesten organiseren en uw boodschappen doen.
Maar bedrijven, waarvan velen al worstelen met hun primitievere AI-chatbots, zullen een evenwicht moeten vinden tussen het herkenbaar maken van de nieuwere, ‘agentische’ bots zonder frivool te worden.
AI-chatbots waren toen onlangs in het nieuws Woolworths hield zijn virtuele winkelassistent Olive in bedwang nadat de poging van het bedrijf om de robot op menselijk niveau met klanten te laten communiceren, mislukte.
Klanten meldden dat ze zich eerder geïrriteerd dan gerustgesteld voelden toen Olive hen via de telefoon over haar ‘familieleden’ vertelde.
Meld u aan: AU Breaking News-e-mail
Zoals iemand op Reddit klaagde: “Ik ben nu al boos omdat ik moet bellen en nu heb ik een robot aan de telefoon die aan het brabbelen is? Wtf Woolies?”
Hoewel Woolworths heeft gezegd dat het de eigenzinnige persoonlijkheid van Olive zal aanpakken, blijkt uit het incident – en verdere tests door Guardian Australia van de chatbots van een aantal retailers – dat de technologie nog steeds kinderproblemen kent.
Het ongeluk in de supermarkt volgt op een groeiende lijst van ongelukken met de AI-klantenservice, waaronder de chatbot van Bunnings die illegaal elektrisch advies geeft en de virtuele assistent van Air Canada die ten onrechte een restitutie van een overlijdenskaart belooft.
De op de ASX genoteerde bedrijven Woolworths, Coles en Wesfarmers (eigenaar van Bunnings, Kmart, Officeworks en Priceline) behoren tot de bedrijven die plannen hebben aangekondigd voor inkoopassistenten.
Er is veel hype. In een rapport uit 2024 stelde bedrijfsadviesbureau Accenture dat “consumenten klaar zijn” voor generatieve, door AI aangedreven winkelassistenten, terwijl het er bij bedrijven op aandringt beslissingen te nemen met een “comfortabel menselijke” mentaliteit.
Zelfs als consumenten er klaar voor zijn, is de technologie dat wel?
Een transformatie van klantenservice
Online chatbots die zijn ontworpen om klanten te helpen bestaan al een tijdje, maar de tools worden steeds geavanceerder.
Primitieve versies werden gebouwd met behulp van ‘op regels gebaseerde’ AI, zegt Uri Gal, hoogleraar bedrijfsinformatiesystemen aan de Universiteit van Sydney.
Dit type chatbot volgt een ‘beslissingsboom’ om onmiddellijk antwoord te geven op basisvragen, zegt Gal.
Als een klant bijvoorbeeld vraagt: “Hoe kan ik mijn bestelling retourneren?”, zal de bot hem doorgaans naar de retourpagina van de winkelier leiden of het beleid citeren.
Wanneer “het je een bepaalde prompt geeft, zal het je altijd hetzelfde antwoord geven”, zegt Gal.
De nieuwere AI-aangedreven retailbots kunnen nieuwe informatie ‘leren’ op basis van wat hen wordt verteld en verschillende reacties genereren.
Ze worden vaak gebouwd met behulp van een van de grote taalmodellen (LLM’s) van de grote technologiebedrijven, zoals ChatGPT.
De volgende grens zijn agentische AI-winkelassistenten die zijn ontworpen om menselijk gedrag na te bootsen.
Gal zegt dat deze agenten ‘als het ware op zichzelf handelen om te proberen doelen te bereiken zonder specifieke aanwijzingen onderweg’, zoals het kopen van vliegtickets of boodschappen.
Gal zegt dat agent AI met meer dubbelzinnigheid opereert, wat gepaard gaat met een hoger risiconiveau, inclusief privacyproblemen als bots meer toegang hebben tot klantgegevens, zodat ze autonomer kunnen handelen.
“Gezien de nieuwheid van deze systemen, en zoals we zojuist hebben gezien in het geval van Woolies, zijn er duidelijke bestuurskwesties die niet echt door deze organisaties zijn aangepakt”, zegt hij.
“Het is een beetje veilig om te anticiperen dat er verschillende dingen zullen gebeuren die riskant kunnen zijn of geïnterpreteerd kunnen worden als een agent die een schurkenstaat is.”
Woolworths werkt samen met Google om zijn LLM, Gemini, te gebruiken om van Olive een ‘winkelgenoot’ te maken die complexere taken kan uitvoeren, zoals het helpen plannen van maaltijden en feestjes en het automatisch toevoegen van artikelen aan de winkelmandjes van klanten.
De supermarkt heeft gezegd dat de meer geavanceerde functies van Olive op een later tijdstip zullen worden gelanceerd, maar dankzij de samenwerking met Google kan de bot al telefoontjes aannemen – blijkbaar met gemengde resultaten.
Er werd contact opgenomen met Woolworths voor commentaar.
Als er iets misgaat
In het geval van Woolworths, dat voor het eerst werd gerapporteerd door de Sydney Morning Herald, zei de supermarkt dat Olive niet faalde of alleen buiten de piste ging.
In plaats daarvan had een medewerker de bot geprogrammeerd om over zijn ‘moeder’ te praten als reactie op een klant die zijn geboortedatum opgaf, in een poging om hem een persoonlijkheid te geven, aldus de supermarkt.
“Naar aanleiding van feedback van klanten hebben we onlangs deze specifieke scripting verwijderd”, aldus een woordvoerder van Woolworths.
Over het algemeen zegt prof. Jeannie Paterson, mededirecteur van het Centre for AI and Digital Ethics van de Universiteit van Melbourne, dat AI-assistenten fouten maken als ze een prompt verkeerd begrijpen.
“Chatbots zijn slechts zo goed als hun vermogen om te decoderen of te begrijpen – en ik haat het woord begrijpen omdat ze niet leven – wat deze mens van plan is”, zegt Paterson.
Vorig jaar kreeg Bunnings kritiek nadat zijn AI-chatbot een klant uit Queensland vertelde hoe hij een verlengsnoer opnieuw moest aansluiten, ook al was het voor hen illegaal om dit te doen zonder een elektriciensvergunning.
In 2022 vertelde de chatbot van Air Canada een passagier ten onrechte dat ze tickets voor de volle prijs konden kopen en later een terugbetaling bij overlijden konden aanvragen terwijl een dergelijk beleid niet bestond.
Toen Air Canada weigerde het advies van de chatbot op te volgen, klaagde de passagier de luchtvaartmaatschappij aan en won, ondanks dat de luchtvaartmaatschappij ter verdediging probeerde aan te voeren dat de chatbot een “afzonderlijke juridische entiteit” was.
Paterson zegt dat bedrijven “duidelijk verantwoordelijk” zijn voor hun chatbots.
Ze zegt dat bedrijven een delicaat evenwicht proberen te vinden tussen het hebben van een responsieve, aanpasbare AI-assistent en het risico dat de bot een malafide bot is of verkeerd advies geeft dat hen geld kan kosten.
“Het is geen probleem als de AI-agent van één persoon te veel eieren of te veel zalm koopt”, zegt ze. “Maar wat als elke chatbot in het netwerk dit doet? Je kunt zien dat er veel geld verloren gaat voordat ze het zelfs maar repareren.”
Om dit risico te beperken, zegt ze dat bedrijven hun bots over het algemeen ‘zeer strenge veiligheidsmaatregelen’ treffen, wat betekent dat ze minder flexibel zijn en minder goed in staat zijn om de intentie achter de prompt van een klant te ondervragen.
Guardian Australia heeft een aantal retailbots getest, die marginale resultaten opleverden, wat erop wijst dat de technologie nog in de kinderschoenen staat.
Toen Uniqlo’s ‘virtuele winkelassistent’ bijvoorbeeld te horen kreeg: ‘Ik zoek een wollen trui’, antwoordde deze: ‘Sorry, we konden je niet herkennen.’ Na het invoeren van “zoek een product” en vervolgens “wollen trui”, kwam het terug met een reeks kantooroverhemden voor heren. Er werd contact opgenomen met Uniqlo voor commentaar.
Zelfs Olive had het geld niet. Gevraagd via de chatfunctie van Woolworths: “Hoeveel kost een zak pasta van 500 gram?”, Antwoordde de schattige antropomorfe olijf: “Het spijt me heel erg om te horen dat je items miste in je bestelling.”
