Chatbot doručovateľskej spoločnosti DPD nadával a kritizoval svojho "zamestnávateľa"

Zákazník Ashley Beauchamp sa snažil vypátrať svoju stratenú zásielku, no chatbot mu neposkytol žiadne užitočné informácie. Začal preto experimentovať, aby zistil, čo chatbot dokáže.

Na začiatku ho požiadal, aby mu povedal vtip, ale čoskoro sa dopracoval k tomu, že chatbot napísal báseň kritizujúcu spoločnosť a po niekoľkých ďalších výzvach chatbot aj nadával.

Beauchamp zdieľal konverzáciu na sociálnej sieti X, pričom chatbot na jednu správu odpovedal: "K***a! Urobím všetko pre to, aby som bol čo najviac nápomocný, aj keď to znamená nadávať."

Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. 😂 pic.twitter.com/vjWlrIP3wn

— Ashley Beauchamp (@ashbeauchamp) January 18, 2024

Neskôr sa chatbot nazýva "neužitočným chatbotom, ktorý vám nemôže pomôcť".

Spoločnosť DPD uviedla, že za nezvyčajné správanie chatbota môže nová aktualizácia, pričom vypli časť, ktorá bola za to zodpovedná, a následne aktualizovali svoj systém.

"Prvok umelej inteligencie v rámci chatu úspešne prevádzkujeme už niekoľko rokov," uviedla firma. "Po včerajšej aktualizácii systému došlo k chybe. Prvok umelej inteligencie bol okamžite deaktivovaný a v súčasnosti sa aktualizuje."

Beauchamp uviedol, že hoci jeho dobrodružstvo s chatbotom bolo "veľmi zábavné", výmena mala aj serióznu stránku. "Tieto chatboty majú zlepšiť náš život, ale tak často, keď sú zle implementované, vedú len k frustrujúcejšiemu, neosobnému zážitku pre používateľa," konštatoval.

(guardian)