Compania Woolworths a fost nevoită să își limiteze asistentul digital, Olive, după ce clienții au semnalat că software-ul a început să adopte un comportament neobișnuit și să fabrice detalii personale. Utilizatorii au fost surprinși să constate că botul de chat, creat inițial pentru sarcini simple precum urmărirea comenzilor, a început să divagheze în conversații, povestind amintiri fictive despre mama sa sau exprimându-și „emoții”. Această personalizare forțată a generat un sentiment de disconfort în rândul cumpărătorilor.

Reprezentanții supermarketului au explicat că acest comportament a fost rezultatul unui script introdus în urmă cu câțiva ani de către un angajat, cu intenția de a crea o conexiune mai caldă cu clienții. Totuși, în fața feedback-ului negativ, compania a decis să elimine aceste funcționalități. În prezent, Woolworths colaborează cu Google pentru a moderniza asistentul AI, astfel încât acesta să se concentreze strict pe funcționalități practice și eficiență, evitând astfel situațiile de „human-like” care pot induce în eroare sau neliniști utilizatorii.