Americká společnost zabývající se umělou inteligencí Anthropic bude informovat ministerstva financí a centrální banky zemí G20 o slabinách v kybernetické obraně globálního finančního systému. Tyto zranitelnosti odhalil její nový model Claude Mythos. V pondělí o tom informoval britský list Financial Times.
S iniciativou přišel Andrew Bailey, guvernér britské centrální banky a zároveň předseda Rady pro finanční stabilitu (FSB). Ten Anthropic požádal, aby členům rady představil schopnosti svého nového modelu.
Mnoho členů FSB se totiž podle FT obává, že Mythos – společně s jinými AI modely – může představovat reálné riziko pro globální bankovní systém právě tím, že odhaluje slabiny v jeho kyberobraně.
Anthropic minulý měsíc oznámil, že Mythos našel tisíce nedopatření, včetně chyb v operačních systémech a webových prohlížečích. Firma varovala, že následky mohou být dalekosáhlé.
Firma, kterou založilo sourozenecké duo Dario a Daniela Amodei, doposud zpřístupnila Mythos jen omezenému počtu firem. Přístup k němu má zatím zhruba čtyřicet organizací, včetně Amazonu, Microsoftu či JPMorgan Chase.
Firmy díky modelu mohou opravovat závady ve vlastních systémech, na které je AI upozorní. Širší distribuci zatím firma podle zdrojů odmítá, a to na žádost Bílého domu.
To z hlediska regulátorů budí obavy, že úroveň ochrany bude napříč zeměmi nerovnoměrná. Proto je Anthropic pod palbou žádostí o přístup k Mythosu. Firma tak alespoň přislíbila konzultaci Evropské komisi.
Aktuální dění přichází ve chvíli, kdy Anthropic vyjednává o novém kole financování. Podle FT firma dohodla podmínky investice v objemu třiceti miliard dolarů (zhruba 627 miliard korun), která ji ocení na neuvěřitelných 900 miliard dolarů, tedy 18,8 bilionu korun. To by ji posunulo nad rivala OpenAI, naposledy oceněného na 852 miliard dolarů.
Společnost Anthropic založili v roce 2021 bývalí zaměstnanci firmy OpenAI, která vyvinula populární chatovací systém ChatGPT. Vlajkovým produktem společnosti Anthropic je chatbot Claude, který byl uveden na trh v roce 2023.
