Svěřujeme umělé inteligenci čím dál víc důležitých rozhodnutí – a přitom se moc nepočítá se zlým úmyslem, říká Martin Rehák, jeden z nejdůležitějších mužů české kyberbezpečnostní scény. Spolu s Michalem Pěchoučkem stál před sedmi lety za mimořádně úspěšným exitem startupu Cognitive Security (koupilo ho Cisco) a teď se vrací s novým projektem.
Jmenuje se Resistant AI a právě dostal svou velkou finanční injekci. Od investorů v čele s mezinárodně uznávaným Index Ventures a českou jedničkou Credo Ventures vybral v tzv. seed kole 2,75 milionu dolarů (necelých 70 milionů korun). Mezi andělské investory, kteří také přispěli svými penězi, mimo jiné patří i zmíněný Michal Pěchouček, profesor ČVUT a technický ředitel Avastu, a Daniel Dines, zakladatel a šéf rumunského zázraku jménem UIPath.
Rehákův startup se zaměřuje na odhalování a zabraňování manipulaci s umělou inteligencí, je tedy hrází chránící před podvratnými útoky na algoritmy a strojové učení. U svých klientů zajišťuje, aby jejich automatizované procesy řízené umělou inteligencí (AI) nebyly ohroženy tím, že se do nich útočníci nabourají. Resistant AI najde uplatnění zejména v e-commerce, finančních službách a fintechu.
Pražský startup byl založen teprve loni a původně se jmenoval Bulletproof AI, tedy neprůstřelná umělá inteligence. V loňském rozhovoru pro Forbes NEXT o něm Rehák říkal: „Umělá inteligence se dnes používá prakticky na všechno. Oblastí, kde algoritmy rozhodují o velkých částkách peněz, je čím dál víc. A my se proto věnujeme tomu, jak je ochránit před manipulací.“
Jako příklad uvedl fintechovou oblast: „Dřív jste šli do banky a na schválení úvěru jste čekali 14 dní. Dnes si požádáte online a rozhodnutí máte do 14 vteřin nebo méně, aniž by vás viděl jediný bankéř. Rozhoduje algoritmus, který pracuje se vstupními daty, která dostane od banky, od žadatele a dalších zdrojů.“
Jan Hammer z Index Ventures, kterého americký Forbes dvakrát za sebou vyhlásil jako nejúspěšnějšího investora Evropy, nepochybuje o tom, že strojové učení – které v našich životech dělá stále více a více finančních rozhodnutí – musí být chráněno.
„A nejde jen o finance, útoky se rychle rozšíří i do dalších oblastí. Záškodníci nebudou váhat využít každého slabého místa, jelikož se dnes na internetu odehrává víc aktivit než kdy předtím. A je to trend, který COVID-19 dále zrychluje,“ říká Hammer. „Ještě nikdy nebylo řešení typu Resistant AI zapotřebí více než teď.“
Podobně to vidí i Ondřej Bartoš z Credo Ventures, který se nově zapojil do představenstva Resistant AI. A zároveň připomíná, že Rehák se svým týmem už ve svém předchozím startupu dokázal, že má čich na věci, které vypadají nenápadně, ale rychle se stanou velmi důležitými. „V Cognitive Security už prokázali hluboké technologické znalosti a předvídavost, což jsou předpoklady, které jsou zapotřebí k řešení tohoto problému.“
Peníze od investorů nyní půjdou na rozvoj produktu a náběr nových zaměstnanců, včetně obchodního oddělení a zákaznické péče.
Dvaačtyřicetiletý Rehák ve zmíněném interview pro Forbes NEXT zdůraznil, že zabezpečení umělé inteligence před útočníky není nikdy hotovo. „Nikdy nemůžete útočníky úplně eliminovat, ale je možné jim to co nejvíce ztížit. A to je přesně to, co děláme.“
