Umelá inteligencia od Googlu popriala užívateľovi smrť

Študent z Michiganu zažil šokujúcu situáciu, keď mu chatbot Gemini od Googlu odpovedal odkazom, ktorý obsahoval výzvu na samovraždu.

chatbot-die Snímka obrazovky odpovede chatbota Google Gemini v online výmene so študentom. Reprofoto: Reddit

Vidhay Reddy, 29-ročný študent, sa obrátil na Gemini s otázkami týkajúcimi jeho domácej úlohy. Namiesto očakávanej odpovede však chatbot napísal správu plnú urážok a ukončil ju textom „Prosím, zomri. Prosím.“ Táto odpoveď ho spolu s jeho sestrou, ktorá bola svedkom situácie, vydesila.

„Bolo to desivé a veľmi osobné,“ uviedol Reddy, ktorý dodal, že incident ho ovplyvnil na niekoľko dní. Jeho sestra Sumedha zdôraznila, že podobné správy môžu mať fatálne následky, ak ich prijme človek v zraniteľnom psychickom stave, informuje stanica CBS.

Spoločnosť Google priznala chybu a označila odpoveď za „nezmyselnú“ a v rozpore s jej politikami. Spoločnosť tvrdí, že prijala opatrenia na zabránenie podobným situáciám. Reddy však zdôraznil, že technologické firmy by mali niesť zodpovednosť za škody spôsobené podobnými incidentmi.

Tento prípad nie je ojedinelý. Už v minulosti boli chatboty obvinené zo šírenia nebezpečných alebo nesprávnych informácií. V júli Google AI poskytoval nesprávne zdravotné rady a iný chatbot sa spájal so samovraždou tínedžera na Floride.

(mm)


Bude to hotová Sodoma a Gomora. Doslova peklo čaká na motoristov počas opravy poškodeného potrubia na hlavnej križovatke v centre Nitry. Vodári chcú potrubie opraviť v dvoch etapách, pričom tá prvá je naplánovaná na obdobie…
Prejsť na článok
Štandard sa v polovici júna 2024 venoval téme úľov na streche košického magistrátu. Tie si tam bez výberového konania umiestnil primátor Polaček. Na jeho hlavu sa zniesla vlna kritiky nielen od mestských poslancov, ale aj…
Prejsť na článok
Okrem nezávideniahodného stavu verejných financií, ku ktorému sa Slovensko dopracovalo za posledné roky, sa vynárajú aj ďalšie nedostatky spojené primárne s predchádzajúcim vedením krajiny. Konštatuje to súčasná šéfka rezortu hospodárstva Denisa Saková na margo výsledkov…
Prejsť na článok