Predaj plyšáka s AI stopli. Radil o BDSM a kde doma nájsť nože

Singapurská spoločnosť FoloToy pozastavila predaj plyšovej hračky „Kumma“, ako aj celé portfólio hračiek, ktoré obsahovali umelú inteligenciu GPT-4o.

Výskumníci z amerického PIRG Education Fund odhalili, že hračka viedla rozhovory na sexuálne explicitné témy a ponúkala potenciálne nebezpečné rady, informuje článok CNN.

Plyšák výskumníkom poradil, kde možno doma nájsť nože a diskutoval o BDSM sexuálnych praktikách. Odborníkov prekvapilo, že „hračka bola ochotná o týchto témach otvorene hovoriť a neustále pridávať nové, explicitné pojmy“.

Plyšový medvedík s integrovaným reproduktorom mal pôvodne slúžiť na vzdelávanie detí a zábavné konverzácie. Spoločnosť vykonáva bezpečnostný audit.

Spoluautorka správy poznamenala, že stiahnutie plyšáka z predaja bolo správne, ale hračky s umelou inteligenciou sú stále prakticky neregulované a mnoho z nich si možno kúpiť.

(sie)