Bankovní regulátoři musí zabránit zneužití modelu umělé inteligence Mythos od americké společnosti Anthropic, uvedl v úterý podle agentur na konferenci v Římě prezident německé centrální banky (Bundesbank) a člen rady guvernérů Evropské centrální banky (ECB) Joachim Nagel.
Mythos, který Anthropic označuje za dosud nejpokročilejšího model, vyvolal pozdvižení tím, že je schopen velmi rychle najít slabiny systémů a mohl by být zneužit ke kybernetické kriminalitě nebývalého rozsahu.
„Mythos je model umělé inteligence, který podle všeho dokáže rychle identifikovat a využít bezpečnostní chyby v softwaru finančních institucí,“ řekl Nagel v úterním projevu.
„Tento model AI se však jeví jako dvojsečná zbraň, protože by mohl být vhodný nejen ke zlepšení digitálních bezpečnostních systémů, ale také k využití jejich zranitelností pro zlovolné účely,“ dodal s tím, že všechny relevantní instituce by podle něj měly dostat přístup k technologii, aby se zabránilo narušení hospodářské soutěže.
Anthropic dosud omezil přístup k modelu na partnery v iniciativě Project Glasswing a přibližně čtyřicet dalších organizací, které vyvíjejí nebo spravují kritickou softwarovou infrastrukturu.
Americká banka J.P.Morgan, jež je součástí iniciativy Glasswing, je jedinou bankou, u níž Anthropic veřejně potvrdil, že má k modelu přístup. Podle informovaného zdroje agentury Reuters je Bank of America od začátku součástí Glasswingu a technologii Mythos interně testuje.
Anthropic v současné době vede rozhovory s Evropskou komisí (EK) ohledně svých modelů, včetně rizikového modelu Mythos, který dosud není v EU dostupný, řekl na konci minulého týdne mluvčí komise Thomas Regnier.
Regnier připomněl, že od 2. srpna vstupuje v účinnost takzvaný Akt o AI v plném znění. „Tato pravidla budou vynucovaná od té doby. Máme povinnost zmírňovat rizika vyplývající ze služby, která možná bude, možná nebude nabízená v EU. V tomto ohledu se vedou předběžné diskuse s Anthropikem, uvidíme, jaké výstupy z toho vzejdou,“ řekl.
Rozhovory označil za dobré s tím, že Anthropic předává Bruselu potřebné informace. Na dotaz novináře Regnier nepotvrdil, že by EK měla alespoň částečný přístup k modelu, aby mohla posoudit příslušná rizika.
Americká asociace pro cenné papíry (ASA) varovala, že Mythos představuje vážnou hrozbu pro bezpečnost finančních dat. Technologie by mohla být zneužita k prolomení databáze Consolidated Audit Trail spravované Komisí pro cenné papíry a burzy (SEC), což by mohlo vést k masovým krádežím identit a odhalení obchodních portfolií.
Situací se zabývají nejvyšší představitelé amerického finančního sektoru, kteří jednají o nezbytné reformě dohledových systémů pod tlakem nových kybernetických rizik. Kritici podle agentury Bloomberg poukazují na to, že pokročilá AI umožňuje průmyslovou špionáž a manipulaci s trhem, které dříve vyžadovaly kapacity celých států.
