Nový Zéland testuje nástroj proti extrémizmu v AI četbotoch

Technologické firmy a odborníci na Novom Zélande pracujú na nástroji, ktorý by mohol pomôcť riešiť prejavy násilného extrémizmu na platformách umelej inteligencie. Cieľom je presmerovať rizikových používateľov na pomoc, ktorá kombinuje zásah odborníkov a podporu četbotov.

Projekt rozvíja startup ThroughLine, ktorý si v uplynulých rokoch najali vlastník ChatGPT – spoločnosť OpenAI –, ako aj jeho konkurenti – spoločnosti Anthropic a Google. Spoločnosť už rokuje s iniciatívou The Christchurch Call, ktorá vznikla po teroristickom útoku v roku 2019 a zameriava sa na potláčanie online nenávisti.

Podľa tvorcov by systém fungoval ako hybridný model. Četbot by reagoval na varovné signály v komunikácii a zároveň by používateľov smeroval na dostupné služby pomoci v ich okolí. Vývojári zdôrazňujú, že riešenie ešte testujú a termín jeho nasadenia zatiaľ neurčili.

Odborníci upozorňujú, že rast popularity četbotov priniesol aj širšie spektrum problémov, ktoré ľudia zdieľajú online vrátane extrémistických postojov. Diskusiu vedú aj o tom, ako nastaviť následné kroky, napríklad zapojenie úradov, bez rizika ďalšej eskalácie správania.

(reuters, max)