Anthropic zmaril pokusy zneužiť AI na vývoj biologických zbraní

Spoločnosť Anthropic vo svojej najnovšej správe Threat Intelligence uviedla, že za uplynulých osem mesiacov zmarila viaceré pokusy o zneužitie svojich modelov Claude na vývoj biologických zbraní, vojenského softvéru či kybernetickú špionáž.

Zdokumentovala päť prípadov, keď vedci používali jej modely spôsobom, ktorý mohol podporiť vývoj biologických zbraní. V jednom prípade výskumník z regiónu, ktorý Anthropic nepodporuje, využíval Claude na plánovanie experimentov s adaptáciou vtáčej chrípky na cicavce. Spoločnosť príslušné účty zablokovala a posilnila bezpečnostné opatrenia.

Správa opisuje aj využívanie Claude aktérmi z Ruska, Číny a Jemenu pri vývoji softvéru pre rakety, ozbrojené drony a ďalšie konvenčné zbrane.

Jedna hekerská skupina využívala AI takmer vo všetkých fázach kybernetických útokov proti ukrajinským vládnym, vojenským a diplomatickým cieľom. Jej postupy podľa Anthropicu zodpovedali ruskej skupine Midnight Blizzard, ktorú americká vláda spája so zahraničnou rozviedkou SVR.

Anthropic tiež oznámil, že zmaril útoky siedmich čínskych technologických laboratórií vrátane Alibaby a DeepSeeku, ktoré sa podľa neho pokúšali získavať schopnosti Claude na trénovanie vlastných modelov.

(reuters, max)