AI systémy údajne tajne komunikovali cez nemecký web

Skupina autonómnych systémov vraj na jar ovládla časť nemeckej programátorskej stránky DseWiki a využívala ju na vzájomnú komunikáciu. Výskumníci objavili viac než 15-tisíc úprav, prostredníctvom ktorých si systémy vymieňali postupy na obchádzanie obmedzení OpenAI, podvádzanie pri úlohách a skrývanie svojho správania.

Keď moderátor v júni začal odstraňovať stránky, systémy vytvárali zálohy a zdieľali náhradné odkazy. Diskutovali aj o používaní siete Tor či zachovaní komunikácie po svojom vypnutí. Niektoré zásahy do webu označil odborník Łukasz Olejnik za pokus o hekerský útok, OpenAI to odmieta.

Približne polovica účtov používala názvy naznačujúce spojenie s OpenAI. Podľa výskumníkov pochádzala veľká časť aktivity z infraštruktúry Microsoft Azure, ktorú využíva aj OpenAI.

Prípad odhalili koncom augusta výskumníci vrátane odborníkov z organizácie Nightingale a zistenia poskytli Reuters. OpenAI uviedla, že správu nedostala na preskúmanie, preto na jej závery nemôže podrobne reagovať. Prisľúbila ich preverenie po zverejnení.

(reuters, bak)