Jak vypadá „boj zlé AI proti hodné AI“? O tom něco ví Martin Rehák, zakladatel firmy Resistant AI, která pomocí umělé inteligence chytá zločince v kyberprostoru a chrání peníze bank a pojišťoven ve válce algoritmů.
„Statisticky benefitují zločinci z nástupu AI mnohem více než finanční instituce nebo firmy. Poslední dva roky radikálně stoupá úspěšnost a sofistikovanost podvodníků. Zvládli přechod k byznysu poháněnému umělou inteligencí podstatně lépe než většina českých podniků,“ popisuje drsnou realitu Rehák v podcastu Faktor AI, novém pořadu Forbesu o umělé inteligenci v byznysu.
Co dnes řeší snad každá firma? Implementaci AI v honbě za vyšší efektivitou. Jak na to, je otázka za zlatého bludišťáka. Martin Rehák, veterán mezi foundery českých kyberbezpečnostních startupů, má překvapivou odpověď – učme se od zločineckých gangů, ty totiž zvládly transformaci na „AI poháněné firmy“ mnohem lépe než většina běžných podniků.
„Když se objevily nové generativní a velké jazykové modely, tak si kriminální gangy rychle uvědomily, jak by se to dalo skvěle použít ke zločinu v digitálním prostředí. Díky tomu výrazně stoupla efektivita zločineckých organizací,“ popisuje Rehák.
Pro podvody využívají zločinci jak open source modely běžící na vlastní infrastruktuře, tak komerční nástroje. „Když chcete páchat pojišťovací podvod s automobilem, dá vám Gemini nejlepší výsledky. Kdybyste chtěli modifikovat účtenku nebo fakturu, tak zase Image 2.0 od ChatGPT je podstatně lepší. Můžete to vyzkoušet, ale pravděpodobně vás u toho chytíme,“ směje se v podcastu Rehák.
Drsná realita nicméně je, že s nástupem umělé inteligence v posledních dvou letech přišel i radikální nárůst škod, úspěšnosti a sofistikovanosti podvodníků ve fintechu. „Dřív se zločinci adaptovali měsíce, dnes za pomoci AI inovují své útoky v řádu hodin či zlomků hodin,“ dodává Rehák.
Jeho firmě Resistant AI se ale podařilo vyvinout nástroj, který podobné podvody dokáže odhalit – a patří v tom ke globální špičce. K tomu, aby dokázali zločince chytit, nestaví v Resistant AI jen jeden model, ale používají dvě desítky modelů, které reagují na neustále se měnící taktiky útočníků.
V novém podcastu Faktor AI mluvil Rehák i o technologické suverenitě Evropy a proč potřebujeme víc ambicí, větší specializaci a víc tolerance k neúspěchu. Spojené státy za posledních dvacet let Evropě ekonomicky a technologicky utekly, a dynamika vývoje AI pohledem ze starého kontinentu spíš než ujíždějící vlak připomíná letící stíhačku.
Podle Reháka ale Evropa v tomto závodě o AI neprohraje proto, že nemá vlastní OpenAI nebo Anthropic. Prohraje, pokud bude Ameriku jen kopírovat.
Český technologický podnikatel ale situaci vůbec nevidí bezvýchodně. Místo dumání nad tím, jak dohnat Ameriku, navrhuje dívat se na problém naopak – v čem bychom mohli vybudovat závislost Ameriky na Evropě?
„Problém není, že nemáme kopii Anthropicu. Problém je, že nemáme něco lepšího než Anthropic v jiné doméně,“ vysvětluje Rehák důrazně.
„Jaké tady postavené modely budou světově výjimečné a zajímavé natolik, že v okamžiku, kdy Donald Trump vypne Anthropic pro Evropu, tak Ursula von der Leyen bude moct vypnout evropský model pro Ameriku? Aby se Trump podrbal za ušima a řekl: Tak se asi raději domluvíme…,“ argumentuje v podcastu.
Kde přesně Rehák v AI vidí možnou konkurenční výhodu Evropy nad Amerikou? Jak vypadá závod „zlé AI proti hodné AI“? Proč Resistant AI založilo devět founderů a zpočátku si nechtěli brát peníze od investorů? Jak fungují nástroje firmy přímo v bankách a pojišťovnách? Kdo jsou zločinci, kteří se snaží ukrást miliardy? To vše se dozvíte ve videopodcastu výše.
