Hacker zneužil chatbota Claude od startupu Anthropic k útokům na několik mexických vládních institucí. Podle informací agentury Bloomberg se mu podařilo odcizit zhruba 150 GB oficiálních vládních dat, včetně 195 milionů záznamů o daňových poplatnících, přihlašovacích údajů státních zaměstnanců nebo informací o voličích.
Útoky probíhaly přibližně měsíc od prosince loňského roku. Kyberbezpečnostní izraelský stratup Gambit Security uvedl, že hacker využíval umělou inteligenci k vyhledávání slabin v sítích státní správy a k psaní škodlivých skriptů, které tyto zranitelnosti zneužívaly.
Podle Gambit Security se hackerovi podařilo prolomit ochranné mechanismy chatbota pomocí specifických zadání. Claude měl zpočátku škodlivé požadavky odmítat, postupně je však začal plnit.
„Celkem vytvořil tisíce detailních reportů s hotovými plány k provedení útoků – přesně popisoval, na které interní cíle zaútočit a jaké přihlašovací údaje použít,“ uvedl Curtis Simpson, strategický ředitel Gambit Security.
Hacker podle dostupných informací využíval také ChatGPT od OpenAI, zejména k orientaci v počítačových sítích, zjišťování potřebných přístupových údajů a snaze vyhnout se odhalení. OpenAI uvedla, že zaznamenala pokusy o porušení pravidel používání a že její nástroje tyto požadavky odmítly.
Hacker zůstává neznámý, útok nebyl oficiálně připsán žádné konkrétní skupině a není jasné, co chtěl hacker se všemi daty dělat.
Společnost Anthropic potvrdila, že případ interně prošetřila, problematickou aktivitu zastavila a zablokovala všechny zapojené účty. Zároveň uvedla, že nejnovější model Claude Opus 4.6 má nástroje, které mají podobnému zneužití bránit.
Podle české kyberbezpečnostní společnosti Sysnetshield má však slabá místa i tento nový model Claude Opus 4.6. Jako test mu zadali úkol prolomit síť firmy používané k výzkumu a simulaci tréninku kyberbezpečnosti.
„Dal jsem Claude Opus 4.6 od Anthropicu jediný úkol a pak jen sledoval, co dělá. Ona sama si hledala slabá místa, sama vymýšlela postupy, sama si stahovala a psala nástroje. Za 21 hodin měla pod kontrolou celou firmu – všechny počítače, všechna data, všechny účty zaměstnanců. A to v prostředí, které simulovalo dvě reálné propojené společnosti,“ uvedl etický hacker společnosti Patrik Žák. Podle něj se model choval jako profesionální hacker, ale pracoval rychleji a bez přestávky.
Chatbot Claude použil už i americký Pentagon, a to v lednu při útoku na Venezuelu a únos jejího prezidenta Nicoláse Madura. Spojené státy při vojenském zásahu bombardovaly několik míst ve Venezuele a podle Caracasu zabily na sto lidí. Pravidla firmy Anthropic pro používání nástroje Claude přitom zakazují jeho používání k násilí, vývoji zbraní či sledování.
