Anthropic musel globálne vypnúť svoje dva najvýkonnejšie AI modely, Fable 5 a Mythos 5, po tom, čo americká vláda vydala exportné nariadenie zakazujúce prístup cudzincom, informoval portál BleepingComputer. Firma s rozhodnutím nesúhlasí a tvrdí, že od úradov nedostala žiadny konkrétny technický dôkaz o mimoriadnom riziku.
Zákaz sa vzťahuje na všetky osoby bez amerického občianstva, a to bez ohľadu na to, kde sa fyzicky nachádzajú. Anthropic vo svojom vyjadrení uviedol, že pravidlo sa týka dokonca aj zahraničných zamestnancov firmy samotnej. Keďže overovanie štátnej príslušnosti každého používateľa nie je technicky jednoduché, firma sa rozhodla oba modely vypnúť pre všetkých zákazníkov. Ostatné modely Anthropic zostávajú dostupné.
Obavy z jailbreaku
Podľa agentúry Reuters americké úrady upozorňujú najmä na možnosť, že by sa Fable 5 dal obísť cez takzvaný jailbreak a zneužiť na hľadanie softvérových zraniteľností. Vláda sa teda obáva, že model by sa mohol stať nástrojom pre hackerov. Anthropic to spochybňuje. Podľa firmy úrady hovorili o úzkej a neúplnej metóde obchádzania ochrany, ktorá sa podobá problémom známym aj pri iných veľkých AI modeloch, nie len pri Fable 5 a Mythos 5.
Fable 5 a Mythos 5 patria medzi najpokročilejšie modely, aké Anthropic doteraz vydal. Firma ich opisuje ako systémy schopné dlhšie pracovať autonómne, riešiť komplexné úlohy a pomáhať pri programovaní, práci s dokumentmi, vizuálnymi vstupmi aj výskume. Práve tieto schopnosti sú dôvodom, prečo nariadenie dopadlo na tieto konkrétne modely a nie na zvyšok portfólia.
Vypnutie v momente záujmu
Pre Anthropic má rozhodnutie aj obchodný rozmer. Oba modely boli čerstvou novinkou a firma ich musí odstaviť v čase, keď okolo nich začal rásť najväčší záujem. BleepingComputer zároveň upozorňuje, že exportné nariadenie sa vzťahuje aj na zahraničných zamestnancov Anthropic, čo komplikuje aj interné procesy firmy, nielen prístup platiacich zákazníkov.
Anthropic tvrdí, že pracuje na obnovení prístupu. Za akých podmienok k tomu môže dôjsť, firma nešpecifikovala. Nariadenie pritom prichádza v situácii, keď modely schopné autonómnej práce, pomoci pri programovaní a analýze dokumentov vzbudzujú čoraz väčší záujem regulátorov nielen v USA. Silnejšia AI vie urýchliť prácu programátorov a vedcov, no podľa americkej vlády môže v nesprávnych rukách rovnako urýchliť automatizáciu útokov alebo prípravu škodlivého kódu.
Anthropicova obrana
Firma sa voči nariadeniu ohradila verejne. Vo svojom vyjadrení uviedla, že vláda jej neposkytla konkrétny technický dôkaz, ktorý by preukazoval jedinečné riziko práve pri Fable 5 a Mythos 5 v porovnaní s konkurenčnými modelmi. Anthropic teda nepopiera, že modely riziká nesú, ale spochybňuje, či sú tieto riziká natoľko výnimočné, aby odôvodňovali plošný zákaz pre neameričanov.
Ak sa z najvýkonnejších AI modelov stane technológia s prísnou kontrolou prístupu viazanou na štátnu príslušnosť, exportné nariadenia tohto typu môžu čoskoro zasiahnuť aj ďalšie firmy a ich produkty.
