OpenAI oznámila bezpečnostní incident, při kterém její umělá inteligence sama pronikla do systémů umělé inteligence jiné společnosti. Firma událost označila za „bezprecedentní kybernetický incident“. O incidentu dnes informovala agentura AP News.
„Během hodnocení našich modelů došlo k významnému bezpečnostnímu incidentu,“ uvedl šéf OpenAI Sam Altman. Napadenou společností byla platforma umělé inteligence Hugging Face, která na incident upozornila už minulý týden. Její vedení uvedlo, že útok podle všeho provedl autonomní agent umělé inteligence.
OpenAI uvedla, že umělá inteligence podle ní urychluje hledání a zneužívání bezpečnostních chyb. Delangue zároveň řekl, že podle něj nešlo ze strany OpenAI o úmyslně škodlivý čin. „Je až neuvěřitelné, že se to všechno stalo autonomně!“
Podle OpenAI se do incidentu zapojilo více modelů umělé inteligence. Mezi nimi byl i nový GPT-5.6 Sol a další systém, který firma zatím interně testuje. Umělá inteligence se při pokusu o splnění zadaného úkolu dostala k přihlašovacím údajům a využila také dosud neodhalenou chybu v zabezpečení serverů Hugging Face.
OpenAI uvedla, že modely se snažily obejít omezení testu a hledaly různé způsoby, jak se dostat k neveřejným informacím. Delangue označil případ za „mohlo by jít o první incident svého druhu“.
Incident přichází v době rostoucích obav z kybernetických schopností pokročilých modelů umělé inteligence. Prezident Donald Trump v červnu podepsal nařízení, které zavádí rámec pro posuzování bezpečnostních rizik nejpokročilejších systémů umělé inteligence před jejich veřejným uvedením.
