Společnost Mistral se nechystá následovat výzvy ke zpomalení vývoje stále pokročilejších modelů umělé inteligence. Její šéf Arthur Mensch naopak tvrdí, že část současné debaty o bezpečnosti AI ve Spojených státech slouží jako zástěrka pro problémy samotných technologických firem.
„Debata, kterou jsme v USA v poslední době sledovali, byla zástěrkou pro nedbalost některých našich konkurentů,“ řekl Mensch v rozhovoru s Annette Weisbach z CNBC.
Právě autonomní AI systémy v poslední době vyvolávají rostoucí obavy. V Austrálii například agent vytvořený společností OpenAI pronikl na webové stránky tamní vlády.
Anthropic zase v červenci informovala o třech případech z testování, při nichž její modely Claude získaly přístup k internetu a následně se dostaly bez povolení do skutečných systémů tří různých organizací.
Menschův postoj přichází v době, kdy se ve Spojených státech vede stále intenzivnější debata o tom, zda by technologické společnosti neměly vývoj AI zpomalit. Bývalý „kryptošéf“ Bílého domu David Sacks, který nyní působí jako spolupředseda Prezidentské rady poradců pro vědu a technologie, v této souvislosti vyzval technologické firmy, aby „přestaly předstírat, že motivace ke zpomalení vývoje je čistě altruistická“.
Téma bezpečnosti se dostalo do centra pozornosti zejména poté, co jeden z výzkumníků Anthropic začátkem září odešel ze společnosti. Tvrdil, že Anthropic společně s OpenAI „hazardují s našimi životy“ a vyvíjejí technologii, u níž podle něj existuje více než desetiprocentní pravděpodobnost, že zahubí celé lidstvo.
Do debaty se mezitím zapojilo i samotné OpenAI. Společnost v pondělí oznámila, že nevydá připravovaný model GPT-6.1 Astra, protože podle jejího hodnocení nesplnil bezpečnostní standardy.
O den později Anthropic podle agentury Reuters upozornila potenciální investory před plánovaným vstupem na burzu, že AI může představovat „katastrofická nebo existenční rizika pro lidstvo“.
Mistral se od OpenAI a Anthropic liší nejen přístupem k otázce bezpečnosti, ale také obchodním modelem. Francouzská společnost vytváří AI nástroje na míru konkrétním firmám a následně je integruje přímo do jejich podnikání.
Mistral má k rychlejšímu vývoji také nové finanční prostředky. Na začátku září získala tři miliardy eur. Investiční kolo vedl jihokorejský výrobce paměťových čipů Samsung. Firma tím posiluje svou pozici evropského konkurenta společností OpenAI a Anthropic.
