Společnost Anthropic pozastavila provoz svého nového pokročilého modelu umělé inteligence poté, co americké úřady vyjádřily bezpečnostní obavy jen několik dní po jeho uvedení na trh.
Ve vyjádření zveřejněném na svých webových stránkách firma uvedla, že dostala pokyn zamezit přístup zahraničních uživatelů k modelu Claude Fable 5, který sama dříve označila za příliš pokročilý.
„Praktickým důsledkem tohoto nařízení je, že musíme okamžitě deaktivovat modely Fable 5 a Mythos 5 pro všechny naše zákazníky, abychom zajistili soulad s požadavky úřadů,“ uvedla společnost. Podle Anthropicu bezpečnostní složky Spojených států nespecifikovaly žádné konkrétní riziko, které by vedlo k tomuto kroku.
„Podle našeho chápání se vláda domnívá, že získala informace o metodě, jak obejít bezpečnostní omezení modelu Fable 5, tedy provést takzvaný jailbreak,“uvedla firma. Jailbreaking označuje postup, při němž jsou obcházeny ochranné mechanismy softwaru. Útočníci tak mohou získat přístup k citlivým datům nebo funkcím, které mají být běžně blokovány.
Anthropic však tvrdí, že předvedená metoda neodhalila nic zásadního. „Prostudovali jsme ukázku této konkrétní techniky, jež byla použita k identifikaci malého počtu už dříve známých a méně závažných zranitelností,“ sdělila společnost.
Firma zároveň dodala: „Všechny tyto zranitelnosti se jeví jako relativně jednoduché a zjistili jsme, že je dokážou odhalit i jiné veřejně dostupné modely, aniž by bylo nutné obcházet jejich ochranné mechanismy.“
Ještě před spuštěním Claude Fable 5 Anthropic zdůrazňoval, že do systému implementoval řadu ochranných prvků určených k omezení zneužití při kybernetických útocích. Obavy z veřejného zpřístupnění modelu vyjadřovali představitelé technologického sektoru, finančních institucí i státní správy. Model byl přitom už od dubna dostupný omezenému okruhu organizací, které testovaly jeho schopnosti a potenciální bezpečnostní slabiny.
Podle společnosti byl tento omezený přístup nutný právě kvůli mimořádně vysoké úrovni schopností systému, zejména v oblasti vyhledávání a zneužívání zranitelností počítačových systémů.
Anthropic před uvedením produktu opakovaně zdůrazňoval, že model je příliš “mocný na vypuštění, na to, aby mohl být vydán“, což část kritiků označovala spíše za marketingový tah než reálné varování.
„Schopnosti modelu Fable převyšují možnosti jakéhokoli modelu, který jsme dosud zpřístupnili široké veřejnosti,“ uvedla firma. Pozastavení modelu přichází v době, kdy se Anthropic nachází ve sporu s administrativou prezidenta Donalda Trumpa.
Společnost zároveň vede samostatný soudní spor týkající se snahy o omezení využívání jejích nástrojů umělé inteligence ve vládních institucích. Donald Trump firmu v minulosti veřejně kritizoval a ministr obrany Spojených států Pete Hegseth ji označil za „riziko dodavatelského řetězce“. Šlo o vůbec první případ, kdy bylo podobné označení veřejně uděleno americké společnosti.
Anthropic kvůli tomuto kroku zažaloval Pentagon. Americký soud následně rozhodl, že příslušné nařízení nelze vynucovat, takže vládní úřady i organizace spolupracující s americkou armádou mohou služby Anthropicu zatím nadále využívat.
Claude Fable 5 je variantou systému Claude Mythos, který soupeří s dalšími významnými platformami umělé inteligence, jako jsou ChatGPT od OpenAI nebo Gemini od Googlu.
