Claude je v službách hackerov. AI pomáhala pri krádežiach a manipulácii

Chatbot Claude od spoločnosti Anthropic sa stal nástrojom kybernetických zločincov, ktorí ho využívajú na sofistikované útoky vrátane infiltrácie sietí, krádeže údajov či psychologického vydierania. Vyplýva to zo stredajšej správy americkej spoločnosti Anthropic zaoberajúcej sa vývojom AI.

Len v priebehu posledného mesiaca sa terčom útokov stalo 17 inštitúcií z oblasti zdravotníctva, vlády či náboženské organizácie. Claude útočníkom pomáhal identifikovať slabé miesta a plánovať konkrétne kroky.

Podľa manažéra Anthropic dnes vďaka AI stačí jediný jednotlivec na útok, ktorý by kedysi vyžadoval tím odborníkov.

Spoločnosť zdokumentovala aj prípady Severokórejčanov, ktorí sa vydávali za amerických IT špecialistov, aby získali financie na zbrojné programy. AI im pomáhala s komunikáciou i vykonávaním úloh.

Na dark webe sa zároveň šíria AI nástroje na tzv. romantické podvody, kde ide o emocionálne manipulovanie obetí. Hoci firma zaviedla ochranné opatrenia, páchatelia sa ich snažia obchádzať.

(tasr, lup)