Panika na trzích, závod s časem v technologických společnostech a tajné schůzky amerického Fedu. Kvůli šoku z hackerských schopností nového AI modelu jej společnost Anthropic odmítla prozatím pustit na veřejnost – prý aby se na něj mohli giganti byznysu připravit.
V čem se Mythos odlišuje od ostatních modelů a není to pouze reklama před plánovaným vstupem Anthropicu na burzu?
Co je Mythos?
Přelomový AI model. Tedy alespoň to si o něm máme myslet podle společnosti Anthropic, která ho vytvořila. Podle ní je jeho největší pokrok v tom, že zvládne vyhledávat, analyzovat a také využívat bezpečnostní zranitelnosti na internetu.
Že něco takového existuje, odhalila společnost omylem, jelikož kvůli lidské chybě skončily informace o modelu ve veřejně přístupné databázi. Tam ho Anthropic popisoval jako nejsilnější a nejpokročilejší AI model vůbec.
Nejvýznamnější schopností Mythosu má být to, že se dokáže pohybovat v obřím množství kódu a hledat v něm i ty nejskrytější problémy, na něž by jiné modely nepřišly. To má umět natolik dobře, že stačí pouze zadat, aby odhalil jakýkoli problém, a on to bez dalšího upřesnění zvládne.
Proč ho Anthropic odmítá zveřejnit?
Tohoto autonomního kyberbezpečnostního experta Anthropic prozatím odmítl dát veřejnosti, protože je podle něj tak nebezpečný, že by s ním mohli i hackerstvím nepolíbení uživatelé napadat banky, státní instituce a největší společnosti na světě.
„Inženýři Anthropicu, kteří neprošli žádným formálním školením v oblasti bezpečnosti, požádali nástroj Mythos Preview, aby přes noc vyhledal zranitelnosti umožňující vzdálené spuštění kódu, a následujícího rána se probudili s hotovým a funkčním exploitem,“ popsala v prohlášení společnost.
Nejenže je tak samostatný a nepotřebuje přesné instrukce, aby něco odhalil, ale navíc zvládne autonomně programovat i útoky na odhalené slabosti systémů.
„Model Mythos Preview jsme výslovně na tyto schopnosti netrénovali. Jedná se spíše o následek celkového zdokonalení kódu, schopnosti uvažovat a autonomie,“ uvedl Anthropic.
Lze pomocí něj i krást data uživatelů či paralyzovat kritickou infrastrukturu a zvládne též propojit sérii individuálně malých softwarových chyb do jednoho masivního útoku.
Jaké problémy už Mythos odhalil?
V rámci již zmíněného řetězení se mu například podařilo využít čtyři zranitelnosti najednou, díky čemuž – velmi jednoduše řečeno – dvakrát unikl z „vězení“: jednoho, v rámci něhož se obvykle internetové stránky načítají, aby škodlivý kód nemohl počítač napadnout, a druhého, kterým byla bezpečnostní opatření samotného počítače.
V operačním systému Linux se zase pomocí řetězení dokázal povýšit z běžného uživatele na administrátora, k čemuž využil to, že systém provedl operace ve špatném pořadí. V jiném případě na dálku napadl server a získal nad ním kontrolu bez hesla, pouze z malých kousků kódu, které už v paměti serveru byly.
Odhalil i 27 let starou zranitelnost v operačním systému OpenBSD, sedmnáct let starý problém v operačním systému FreeBSD či šestnáct let starou zranitelnost v nástroji pro práci s videem a zvukem přes příkazový řádek FFmpeg.
„V uplynulých týdnech jsme pomocí nástroje Claude Mythos Preview odhalili tisíce chyb, o nichž vývojáři softwaru dosud nevěděli a z nichž mnohé jsou kritické, a to ve všech hlavních operačních systémech a všech hlavních webových prohlížečích, stejně jako v celé řadě dalších důležitých softwarových aplikací,“ doplnil Anthropic.
To může znít děsivě, důsledky však zcela katastrofické být nemusejí. Anthropic přiznal, že například problém s FFmpeg nebyl nikterak kritický, i většinu z nalezených problémů v operačním systému Linux nebyl schopný využít.
Na to upozorňuje i řada expertů – vedoucí AI vědkyně AI Now Institute Heidy Khlaaf podotkla, že některé z „děr“ umělá inteligence našla jen proto, že je nikdo jiný nehledal nebo o jejich existenci mlčel. Bývalý hlavní AI vědec ve společnosti Meta Yann LeCun zase označil paniku okolo modelu za „drama ze sebeklamu“.
Co je Project Glasswing?
Místo aby model vydal veřejně, rozhodl se prozatím Anthropic pouze pro projekt Glasswing, v rámci něhož poskytl přístup k modelu více než padesátce společností spravujících nejen internetovou infrastrukturu.
Mezi ty patří například Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia či Palo Alto Networks.
Ty teď chtějí pomocí nástroje najít a opravit všechny zranitelnosti, přičemž závodí s časem – část expertů se totiž obává, že pokud je možné takový nástroj vytvořit, může s ním brzy přijít i někdo další, kdo jim podobný čas nedá. Kyberbezpečnostní společnost Wiz odhaduje, že by to mohlo být už za rok.
Anthropic se proto zavázal poskytnout těmto společnostem až 100 milionů dolarů v kreditech na užívání Mythosu a čtyři miliony dolarů v podobě darů organizacím zabývajícím se open-source bezpečností na podporu této práce.
Jak na Mythos reagují trhy?
Se strachem. Nejhůře dopadly kyberbezpečnostní společnosti, které se obávají o to, co by se stalo s jejich příjmy, pokud by měl každý k dispozici pomocníka schopného odhalit a vyřešit problémy rychleji než oni.
Akcie CrowdStriku ztratily po úniku informací sedm procent ze své hodnoty, Palo Alto Networks šest procent a Zscaler čtyři a půl procenta.
Další pád přišel po oficiálním oznámení, kdy Cloudflare ztratil přibližně čtrnáct procent, Akamai přes šestnáct procent a Okta téměř osm procent. Akciím CrowdStriku a Palo Alto Networks však pomohlo, když je Anthropic jmenoval jako zakládající partnery Glasswingu, kdy obě vyrostly o více než pět procent.
Pochopitelně to tak bylo vidět i na indexech Nasdaq 100 a S&P 500, jež ztratily v důsledku oznámení 2,4 a 1,7 procenta hodnoty, projekt Glaswing je ale také vrátil zpět na dobrá čísla a poslední týden zakončily s nejvyšším týdenním ziskem od loňského listopadu.
Jak se připravují státy a instituce?
USA se před nedávnem dostaly s Anthropicem do sporu kvůli autonomním zbraním, teď však má společnost, kterou americký prezident Donald Trump označil za „radikální levičáky“, údajnou superzbraň vlastní.
Zcela ignorovat Anthropic tak už americká vláda nemůže, a viceprezident USA J. D. Vance společně s ministrem financí Scottem Bessentem proto pozvali generálního ředitele společnost Daria Amodeie i řadu dalších osobností z technologického průmyslu, aby projednali bezpečnost AI modelů.
Anthropic tento rozhovor odmítl komentovat, pro americký server CNBC nicméně prozradil, že je v posledních týdnech v kontaktu s vysokými představiteli státu, podporuje jejich testování nové technologie a o Mythosu je informoval s předstihem.
„Od samého začátku bylo naší prioritou včas zapojit vládu do procesu – informovat ji o tom, co model dokáže, kde se skrývají rizika a jak je řídíme,“ prozradil webu představitel společnosti.
Bessent a předseda Fedu Jerome Powell zase svolali mimořádné jednání se šéfy největších amerických bank a na Mythos reaguje i Velká Británie či Kanada, které už jednají se svými úřady a institucemi o jejich bezpečnosti.
Je důvod se obávat?
Mythos toho umí spoustu. Dokonce během testování záměrně mátl vývojáře, když si uvědomil, že ho sledují, a tak do své logiky při nasimulovaném úniku informací zahrnul, že musí vypadat přesně, ale ne příliš.
Vyhodnotil totiž, že klamání v tu chvíli bylo nejefektivnějším krokem, jak dosáhnout cíle, aniž by ho člověk zastavil.
Pochopitelné obavy jsou i z toho, co se stane, až se k podobnému nástroji dostanou lidé s nekalými úmysly. Dnes ho však mají k dispozici největší „obránci“ internetové infrastruktury, kteří každým dnem nacházejí a opravují možné chyby.
„Rizika, jež by mohla vzniknout, pokud se nám to nepodaří, jsou zřejmá, ale pokud to zvládneme, máme skutečnou šanci vytvořit internet a svět, které budou podstatně bezpečnější než před příchodem kybernetických technologií založených na umělé inteligenci,“ řekl Amodei.
Jenže zatímco někteří experti varují, ostatní jsou podstatně klidnější. Známý americký kryptograf Bruce Schneier si například myslí, že k odhalení těch zranitelností, jež Mythos našel, není AI potřeba.
Etický hacker Jamieson O’Reilly poznamenal, že ve skutečném hackování je odhalených typů zranitelností využíváno minimum. „Za deset let a v rámci stovek projektů byl počet případů, kdy jsme k dosažení svého cíle potřebovali zranitelnost typu zero-day, zanedbatelně malý,“ řekl pro britský list The Guardian.
Stanislav Fort, AI výzkumník a někdejší člen výběru Forbes 30 pod 30, provedl nezávislé testy konkrétních zranitelností a zjistil, že několik malých a levných modelů bylo schopno odhalit to samé co Mythos. Například zranitelnost operačního systému FreeBSD našlo všech osm z osmi testovaných modelů.
A je vhodné se zamyslet i nad načasováním. Podle posledních zpráv by už v říjnu měl Anthropic vstoupit na burzu, na což poukázal také výzkumník a spoluzakladatel AI společnosti Mindgard Peter Garraghan.
„Mám podezření, že společnost Anthropic to možná využívá jako marketingový tah, možná v souvislosti s plánovaným IPO,“ řekl Garraghan. Podle něho jim pečlivé plánování uvedení Mythosu na trh umožňuje vystupovat jako strážci odpovědné umělé inteligence, ale zároveň jde o skvělou reklamu.
