AI hallucinációk ügyfélszolgálaton: új kihívás a dolgozóknak
A ChatGPT és más AI-eszközök terjedésével a vendéglátásban és más szolgáltató szektorokban dolgozók új jelenséggel szembesülnek: vendégek, akik inkább a mesterséges intelligenciának hisznek, mint a szakembereknek.
A The Verge beszámolója szerint az AI hallucinációk ügyfélszolgálati munkát végzők számára egyre nagyobb gondot okoznak. Madison, egy New York-i étteremben dolgozó felszolgáló tapasztalata jól mutatja a problémát: vendégek kagylóallergiával olyan ételeket rendelnek, amelyek kagylóalapú levest tartalmaznak, mert a ChatGPT azt mondta nekik, hogy az étel biztonságos. Amikor Madison figyelmezteti őket, sokan visszautasítják a figyelmeztetést, mondván, hogy a ChatGPT mást állít.
A hallucinációk olyan AI-hibák, amikor a rendszer magabiztosan állít olyasmit, ami nem igaz – például azt, hogy egy étel nem tartalmaz allergént, vagy létezik egy bor, ami valójában kitalált. Ez azért veszélyes, mert az AI-eszközök gyakran nagyon meggyőzően kommunikálnak, még akkor is, ha tévednek. A generatív AI-modellek, mint a ChatGPT vagy a Claude, nem rendelkeznek valós időben frissülő adatbázissal az éttermek étlapjáról vagy készletéről, ezért könnyen tévedhetnek.
Bízz a ChatGPT-ben, ne a sommelierben
Madison azt is tapasztalta, hogy vendégek egyre gyakrabban utasítják el a borászok (sommelier) segítségét, mondván, inkább a ChatGPT-t kérdezik meg. Előfordul, hogy olyan palackokat kérnek, amelyek nem léteznek, vagy amelyeket az étterem nem forgalmaz. A felszolgálók ilyenkor finoman próbálják kezelni a helyzetet: azt mondják, hogy az étterem 'nagyon specifikus' borlistával rendelkezik, ahelyett, hogy nyíltan közölnék, a ChatGPT kitalált valamit.
Az AI hallucinációk ügyfélszolgálati dolgozók számára azért különösen nehezek, mert a vendégek egy része jobban megbízik a chatbotban, mint az emberben. Jason, egy hegyi nemzeti parkban dolgozó ranger elmondta, hogy látogatók AI által generált, értelmetlen útvonaltervekkel érkeznek, amelyek szerint egyes napokon felfelé kellene evezniük a folyón – ami fizikailag lehetetlen. Még térképpel és magyarázattal sem mindig sikerül meggyőzni őket, hogy a ChatGPT tévedett.
Meta Muse és az AI-ügynökök kora
A helyzetet tovább bonyolítja a Meta új AI-ügynöke, a Muse megjelenése, amely várhatóan még több ilyen interakciót generál. Az AI-ügynökök (agent AI) olyan rendszerek, amelyek a felhasználó nevében végeznek feladatokat: például foglalnak asztalt, írnak e-mailt, vagy szerveznek eseményeket. Lauren Wilford, egy Rhode Island-i étterem menedzsere arról számolt be, hogy az elmúlt évben egyre több foglalást próbálnak AI-ügynökök intézni.
Egy esetben egy ügyfél nevében egy AI-ügynök az utolsó pillanatban pódiumot, AV-berendezést és menümódosításokat kért egy rendezvényre – olyan dolgokat, amelyeket az étterem nem tud biztosítani. Másnap az ügyfél meg sem említette ezeket a kéréseket, ami arra utalt, hogy valószínűleg nem is ő küldte őket, hanem egy automatizált rendszer.
Mit jelent ez a gyakorlatban?
Casey, egy New York-i délutáni programvezető elmondta, hogy szülők és dajkák egyre gyakrabban konzultálnak ChatGPT-vel gyermeknevelési kérdésekben. Egy család például ChatGPT segítségével állított össze alvási rutint a gyermekének, de a gyerek viselkedése alapján Casey szerint napi 2-3 órával kevesebbet aludt a kelleténél. Amikor ezt jelezte a szülőknek, azok ragaszkodtak ahhoz, hogy a ChatGPT szerint minden rendben van.
A jelenség mögött az áll, hogy sokan a generatív AI-eszközöket szakértőként kezelik, akiknek a tudása meghaladja az emberi szakemberekét. Ez különösen problémás olyan területeken, mint az egészségügy, ételallergiák vagy gyermeknevelés, ahol a téves információ komoly következményekkel járhat. Az AI hallucinációk ügyfélszolgálati dolgozók számára azt jelentik, hogy egyre több időt kell fordítaniuk arra, hogy finoman korrigálják az AI tévedéseit anélkül, hogy a vendéget megsértenék.
Wilford szerint bár megérti, miért használnak emberek AI-ügynököket adminisztratív feladatokra, aggódik amiatt, hogy elveszítjük azt az értéket, amit két ember közötti közvetlen kommunikáció és együttműködés jelent. A Reddit és az X közösségi platformon is egyre több ügyfélszolgálati dolgozó panaszkodik vendégekre, akik a ChatGPT szavát szentírásként kezelik, még akkor is, ha az nyilvánvalóan téves információt ad.
Ha AI-eszközöket használsz tájékozódásra, fontos tudnod, hogy ezek a rendszerek tévedhetnek, és nem rendelkeznek valós idejű adatokkal. Éttermi foglalás, egészségügyi kérdés vagy fontos döntés esetén mindig ellenőrizd az AI válaszát megbízható forrásból vagy kérdezd meg közvetlenül a szakembert. Az AI segítség lehet, de nem helyettesíti az emberi szakértelmet.
Forrás: The Verge – AI hallucinations are making entitled customers even worse
