Anthropic vypne svoje špičkové modely AI pre kroky vlády

Spoločnosť Anthropic „náhle vypne“ svoje najpokročilejšie modely umelej inteligencie pre všetkých používateľov. Krok prichádza po tom, ako jej americká vláda nariadila pozastaviť prístup k týmto modelom pre cudzích štátnych príslušníkov s odvolaním sa na obavy o národnú bezpečnosť.

Firma vo vyhlásení uviedla, že dostala príkaz v rámci kontroly exportu, podľa ktorého má pozastaviť prístup k modelom Fable 5 a Mythos 5 pre všetkých cudzích štátnych príslušníkov. Nedostala však konkrétne podrobnosti o tom, v čom má spočívať hrozba pre národnú bezpečnosť.

Podľa chápania spoločnosti Anthropic sa vláda domnieva, že existuje spôsob, ako obísť bezpečnostnú ochranu, ktorá by mala zabrániť tomu, aby sa Fable 5 používal na identifikovanie softvérových zraniteľností, uviedla spoločnosť.

Anthropic však tvrdí, že vláda mu poskytla iba „verbálny dôkaz o možnom úzkom, nie univerzálnom“ obchádzaní bezpečnostnej ochrany. „Nesúhlasíme s tým, že zistenie úzkeho potenciálneho obchádzania ochrany by malo byť dôvodom na stiahnutie komerčného modelu nasadeného stovkám miliónov ľudí,“ uviedla spoločnosť.

Vzťah Anthropicu s vládou sa tento rok narušil po tom, ako firma odmietla umožniť americkej armáde používať jej modely AI na domáce sledovanie a plne autonómne zbraňové systémy. Vláda reagovala zaradením Anthropicu na čiernu listinu dodávateľského reťazca, ktorá má nadobudnúť účinnosť neskôr v tomto roku.

Hlavná informačná riaditeľka Pentagónu Kirsten Daviesová v príspevku na platforme X uviedla, že ministerstvo obrany podporuje uprednostňovanie národnej bezpečnosti. „Niektoré veci sú jednoducho dôležitejšie než príjmové cykly, clickbait a ocenenie pred vstupom na burzu. Amerika na prvom mieste. Vždy,“ napísala.

(reuters, luc)