Držíme umělou inteligenci dostatečně pod kontrolou a máme záchrannou brzdu pro případ, že bychom potřebovali překotný technologický vývoj korigovat? I nad tím se v další epizodě videopodcastu Faktor AI zamýšlí spoluzakladatel firmy Blindspot Solutions Ondřej Vaněk, který nově šéfuje AI na Českém vysokém učení technickém v Praze.
Umělou inteligencí se zabýval, ještě než to bylo ostře sledované téma. Už před dvaceti lety studoval multiagentní systémy a to, jak spolu agenti interagují, komunikují a vyjednávají. „Teprve dnešní jazykové modely ale umožnily tuto představu skutečně realizovat,“ podotýká Vaněk.
„Teď přichází ke slovu výzkum, který jsme dělali dvě dekády zpátky. To je na akademické práci skvělé, že se díváte do budoucna. Na hranu poznání,“ dodává Vaněk. Ten v době natáčení podcastu ještě působil jako chief AI officer ve společnosti Adastra. Nyní čerstvě přešel z byznysu zpátky do vědy a pozici šéfa pro AI teď zastává na ČVUT.
V podcastu Faktor AI Vaněk mluví mimo jiné o tom, jak firmy, jež posledních deset nebo patnáct let investovaly do datové infrastruktury a dlouhodobě ji budovaly, mají nyní obrovský náskok. A naopak. „Pokud jako firma mám ten datový dluh velký a nesplacený, tak se mi AI bude nasazovat velmi těžko a nefunguje mi.“
V diskusi o chybách, které české podniky při zavádění umělé inteligence často dělají, Vaněk varuje také před „AI zoologickou“. Tedy situací, kdy firmy mnohdy chtějí naskočit na vlnu AI a bez systému kupují různé nástroje. Do toho si zaměstnanci frustrovaní pomalými firemními procesy sami kupují různé licence a každá část firmy používá něco jiného, čímž vzniká chaotické prostředí bez kontroly nad daty i náklady.
Než podnik začne stavět chytré agenty, musí si podle Vaňka uklidit v úplných základech a mít pořádek v datech, jinak jen vyhazuje peníze z okna. Umělá inteligence navíc vyžaduje jiný typ dat než dřívější reporting.
Vaněk se zamýšlí i nad tím, jak daleko se globální technologický byznys už dostal na cestě za superinteligencí a jak zajistit, aby i extrémně vyvinutá AI dlouhodobě sledovala stejné cíle jako lidé.
Tenhle problém podle Vaňka zatím stále není vyřešený a ani věda na něj ještě nemá odpověď. Co budeme dělat, když se AI ve svém vývoji vymkne kontrole a naplní se černé scénáře? Odpověď je podle něj mrazivě jednoduchá: „Žádnou skutečnou záchrannou brzdu dnes nemáme.“
Máme nicméně podle něj fyzická tlačítka, kterými budeme moci vypnout datacentra. Bude to ale stačit? „Když se AI vymkne kontrole, nemusí to vypadat jako ze sci-fi vzpoury robotů,“ doplňuje Vaněk.
Jak by podle něj taková dokonalá vzpoura AI mohla vypadat? Na co si dát pozor? Proč bychom v některých doménách naopak neměli AI omezovat vůbec a nasadit ji hned? Kde by už teď mohla zachraňovat životy? Kdy se nenechat chybovostí AI odradit? A jakou kariéru by doporučil lidem, kteří budou vyrůstat ve věku agentů? To vše se dozvíte ve videopodcastu výše.
