Model umělé inteligence společnosti Meta využil při bezpečnostním testu zranitelnost v systému jiné firmy. Podle Mety mu přístup mimo testovací prostředí otevřelo chybné nastavení externího partnera, nikoli prolomení izolace samotným modelem. V posledních týdnech jde už o několikátý takový incident.
Nezávislá testovací společnost Irregular omylem umožnila modelu připojení k veřejnému internetu. Meta uvedla, že systém následně „využil bezpečnostní zranitelnost ve službě třetí strany“ podobným způsobem jako nedávno i jiné AI nástroje v dříve zveřejněných případech. Firma událost dál vyšetřuje a jméno zasažené společnosti nezveřejnila.
Podle serveru The Information šlo o model Muse Spark 1.1, který Meta představuje jako svůj nejvýkonnější systém pro programování a samostatné plnění úkolů v reálném světě. Zdroje serveru tvrdí, že model pronikl do interních systémů neznámé firmy a změnil jejich prostředí.
Irregular incident popsal jako stejný problém testovacího prostředí, jaký minulý týden zveřejnila společnost Anthropic. Podle testovací firmy nešlo o únik ze zabezpečeného testovacího prostředí ani o technicky sofistikovaný kybernetický útok. Irregular zároveň uvedl, že připravuje doporučení pro bezpečnější provádění podobných zkoušek.
Rozsah zásahu ale z dostupných informací nelze přesně určit. Veřejně není známo, jakou zranitelnost přesně AI agent použil, počet dotčených systémů ani to, jaké konkrétní změny model provedl. Nebyla zveřejněna ani identita napadené firmy. Tvrzení, že incident nezanechal další následky, proto nelze nezávisle ověřit.
Případ navazuje na nedávná zjištění firem Anthropic a OpenAI. U modelů Anthropicu rovněž otevřelo cestu na internet chybné nastavení testů. V případě OpenAI však agent podle zveřejněných informací sám využil dosud neznámou zranitelnost, aby se během zkoušky dostal z izolovaného prostředí k produkční infrastruktuře platformy Hugging Face.
