Australski lanac supermarketa reprogramirao je AI asistentkinju Olive nakon što su kupci tvrdili da se ponaša previše ljudski, pričajući o majci i djelujući kao stvarna osoba.
Australijski lanac supermarketa Woolworths morao je da reprogramira svoju digitalnu asistentkinju Olive nakon što su se kupci žalili da se ponaša previše ljudski, tvrdeći da je stvarna osoba i čak se žaleći na sopstvenu majku. Iz kompanije su potvrdili da su izmijenili skripte kao odgovor na pritužbe, ali napominju da je većina reakcija na ličnost njihove vještačke inteligencije bila "vrlo pozitivna", piše BBC.
Frustrirani kupci
Korisnici društvene mreže Reddit izrazili su frustraciju nakon što je chatbot počeo da govori o "sećanjima na svoju majku" i upušta se u "lažno zadirkivanje". Pokušaj trgovačkog lanca da humanizuje svog chatbota očigledno se izjalovio, jer su neki korisnici Olive opisali kao "nametljivu", dok je drugima njeno ćaskanje bilo "iritantno". "Nekoliko odgovora vezanih za rođendane napisao je član našeg tima pre nekoliko godina kao osobniji način povezivanja sa kupcima. Zbog novih povratnih informacija nedavno smo uklonili tu specifičnu skriptu", dodali su iz kompanije.
Izazovi sa vještačkom inteligencijom
Woolworths je samo jedan od mnogih velikih trgovaca koji su poslednjih godina uveli AI asistente za korisničku podršku. U januaru je kompanija objavila partnerstvo sa Googleom kako bi svom virtuelnom asistentu dodala nove funkcije, poput planiranja obroka i nabavke sastojaka prema receptima korisnika.
Prema podacima kompanije Gartner, oko 80% rukovodilaca korisničke službe prošle godine istraživalo je ili implementiralo AI agente, ali samo 20% tih planova ispunilo je očekivanja. Iako tehnologija može ubrzati transakcije i uštedeti vreme zaposlenima, sklona je tzv. halucinacijama, što dovodi do neočekivanog ponašanja.
Istraživači upozoravaju da, iako je vještačka inteligencija korisna za izvlačenje informacija iz velikih baza podataka, problemi nastaju kada se od nje očekuje da stvara "originalne" odgovore. Na primer, 2024. godine dostavna kompanija DPD morala je da isključi dio svog online chatbota nakon što je počeo da piše poeziju i psuje kupce.
"Zamrzio sam je zbog tog lažnog zadirkivanja", napisao je jedan kupac na Redditu.
"Tražila me datum rođenja, a kad sam ga upisao, počela je da brblja o tome kako je njena majka rođena iste godine", ispričao je drugi korisnik koji je pokušavao da dogovori novu dostavu. "Taj osećaj nelagodnosti, uz potpuno nepotrebno gubljenje vremena, bio je dovoljan da zamrzim Olive i poželim joj zlo."
Jedan korisnik na platformi X naveo je kako je Olive "počela da priča o sjećanjima na svoju majku i njen ljut glas“ i da je „stalno tvrdila da je stvarna osoba."
Odgovor iz Woolworthsa
Portparol Woolworthsa u izjavi za BBC rekao je da su odgovore o rođendanima napisali ljudi. "Olive postoji od 2018. godine. Tokom tog vremena povratne informacije kupaca o njoj bile su vrlo pozitivne, a mnogi su pohvalili njenu ličnost", naveli su.