Světu digitálních technologií začíná dominovat umělá inteligence. Je proto nejvyšší čas ptát se na to, jak tyto pokročilé systémy ovlivňují nejen technologické, ale také sociální a kognitivní aspekty lidské existence. Právě to probírali odborníci na debatě v předvečer naší konference Next Big Thing.
Jaké je největší riziko spojené s rapidním nástupem umělé inteligence a jakým způsobem bychom k ní mohli v České republice přistoupit, aby její dopady byly co nejpozitivnější? I o tom si „u kulatého stolu“ povídali Eva Nečasová z neziskové organizace AI dětem, vědec Filip Dvořák ze startupu Filuta, výzkumník kybernetických hrozeb ve firmě Trend Micro Jindřich Karásek, Ivan Kutil z firmy AppSatori specializující se na Google technologie pro firemní využití a konzultant AI z firmy Elin.ai Jan Romportl.
„Já osobně používám AI nejen k ochraně před hrozbami, ale i ke klasifikaci aktérů v kyberprostoru,“ uvedl zkraje Karásek z Trend Micro. Využívá jazykové modely k analyzování velkých objemů textů a dat, což šetří čas a snižuje psychickou zátěž analytiků.
Jedním z hlavních přínosů AI je podle něj její schopnost odhalovat nebezpečné vzorce v kyberprostoru a automatizovat procesy, které by jinak vyžadovaly lidský zásah.
Například v rámci projektu zaměřeného na detekci teroristických aktivit pomocí videoher tým Filipa Dvořáka využíval AI k analýze vzorců chování, které byly podobné těm, které se objevují v reálném světě při obsazování budov teroristy. Jindřich Karásek zase analyzoval gamerská fóra, aby tam našel radikalizační potenciál.
AI jako nástroj kognitivní bezpečnosti
Umělá inteligence má také velký potenciál v oblasti kognitivní bezpečnosti, což je obor, který se zaměřuje na ochranu lidského mozku před manipulací a dezinformacemi. V současné době jsou čím dál více rozšířené takzvané deep fakes – hyperrealistické uměle vytvořené „fotografie“ a videa, které mohou zmást veřejnost a šířit nepravdivé informace.
Jan Romportl upozornil, že deep fakes, i když je to nepochybně nebezpečná technologie, nejsou tím největším rizikem. „Větším problémem je, když lidé začnou pochybovat o reálných událostech a označovat je za fake,“ varoval.
Tato dynamika se objevuje stále častěji na sociálních sítích, kde je snadné zpochybnit autenticitu jakéhokoli obsahu. Umělá inteligence by však mohla sloužit jako prostředek, který by pomohl ověřovat informace a odhalovat manipulace. „AI je naše jediná šance na to, jak se adaptovat na rychlost změny světa, kterou už teď nezvládáme ani sociálně, neřkuli evolučně,“ řekl. Dochází tak k situaci, kdy umělá inteligence prakticky kontroluje jinou umělou inteligenci.
Jak připravit společnost na AI?
Diskutující se shodli, že klíčovou otázkou není, zda bude umělá inteligence nadále součástí našich životů. Klíčové je, jak na ni společnost, a zejména mladá generace, bude reagovat. Eva Nečasová mluvila o tom, že děti, které dnes vyrůstají v prostředí digitálních technologií, se od nás dospělých generačně stále více vzdalují.
Školství často neodpovídá jejich potřebám a učební metody nezohledňují rychlý vývoj technologií. „Naše školství modelujeme pro nás, dospělé, ale ne pro děti,“ zdůraznila potřebu změny v přístupu k výchově mladých lidí.
Foto: Marie Budinská
Eva Nečasová a Jindřich Karásek.
Aby se děti mohly efektivně adaptovat na svět, kde AI bude hrát klíčovou roli, je důležité je učit dovednostem spolupráce, kritického myšlení a adaptabilitě. „Musíme se začít více ptát dětí, jak si představují své vzdělávání, a vytvářet pro ně bezpečný prostor, kde se mohou učit skrze chyby,“ uzavřela.
Zásadní otázkou zůstává, jaké dovednosti a kompetence budou děti v budoucnosti potřebovat. Odpovědí je podle diskutujících zejména schopnost spolupracovat s technologiemi a aktivně přemýšlet o jejich vlivu na společnost. „Každý z nás by měl jasně určit, jakou roli chce technologiím ve svém životě přisoudit,“ řekla Nečasová.
Filip Dvořák upozorňoval na možnost degenerace kognitivních schopností mladých studentů. „Obešli jsme evoluční mechanismus přenášení informací skrz genom, ale začali jsme to dělat přes informační systémy. Když jsme začali hledat efektivnější metodiky přenosu, vše se akcelerovalo. Je potřeba dívat se na umělou inteligenci tak, aby neubližovala učení nových jedinců a přinášela jim něco navíc,“ řekl.
V jeho projektech jsou oblasti, kterým se říká adaptabilní učení, adaptabilní testování, adaptabilní osnovy. Umělá inteligence se tam přizpůsobuje rychlosti, na kterou je student akorát nastavený.
Důležitá je rovněž schopnost kriticky hodnotit, jaké informace jsou pravdivé a jaké jsou falešné, shodli se odborníci. To je v současném světě, kde sociální sítě hrají stále větší roli v šíření informací, nezbytné.
Abychom AI plně využili ve prospěch společnosti, je třeba nejen technického pokroku, ale i změn v našem myšlení a přístupu k výchově budoucích generací. Technologický pokrok přináší neustále nové nástroje a přístupy, které mění způsob, jakým pracujeme, učíme se a vnímáme svět kolem nás.
Umělá inteligence patří mezi největší hybatele současné technologické revoluce. Na jedné straně otevírá AI obrovské příležitosti, na straně druhé vyvolává debaty o tom, jak ovlivní naši společnost, a především zda nebude prohlubovat již existující nerovnosti. Jindřich Karásek zmínil, že AI jako technologický nástroj umožňuje lidem zvládnout během několika dní úkoly, které dříve vyžadovaly měsíce studia a praxe.
Takový přístup může podle Karáska ušetřit neuvěřitelné množství času a efektivně zvyšuje produktivitu. Nástroj navíc odbourává předsudky o tom, že „postaru“ je člověk chytřejší nebo že nás moderní technologie nějakým způsobem „zhloupne“.
AI proniká do všech oblastí – od energetiky po logistiku zdravotnických prostředků – a nelze si představit svět, ve kterém bychom AI ignorovali. Tato proliferace však nese i etické otázky. Měli bychom lidem dát možnost rozhodnout se, zda chtějí žít ve světě řízeném AI? A pokud ano, co znamená být „vystaven AI“?
Běžní uživatelé vnímají AI jako pouhý nástroj, který slouží k řešení specifických úkolů, zatímco odborníci ji považují za začátek něčeho mnohem většího a hlubšího.
Nůžky se rozevírají
Velkým problémem, který umělá inteligence otevírá, je takzvaný „digitální předěl“ mezi lidmi, kteří jsou schopni technologii efektivně využívat, a těmi, kteří zaostávají. Tato problematika se dotýká i České republiky, kde mnoho lidí stále neovládá ani základní technologie.
Vznikají tak dvě odlišné skupiny. Ti, kteří zvládají pracovat s moderními nástroji, a ti, kteří to nezvládají. Zatímco první skupina může z AI těžit a rozvíjet svůj potenciál, druhá se stále více ocitá na okraji. Je možné, že AI tedy nejenže rozšiřuje možnosti pro ty, kteří ji ovládají, ale také prohlubuje propast mezi technologicky zdatnými a nezdatnými.
Diskutující se tak dotkli problematiky socioekonomických rozdílů, které může AI ještě prohloubit. Lidé, kteří nebudou schopni nebo ochotni AI efektivně využívat, mohou zůstat pozadu. Tento fakt bude vyžadovat, aby se vzdělávací systémy přizpůsobily a poskytovaly dovednosti, které jsou v souladu s technologickým pokrokem.
Foto Marie Budinská
Jan Romportl, Filip Dvořák a Ivan Kutil.
Eva Nečasová je toho názoru, že technologie historicky vždy vedla k demokratizaci vědomostí. Stejně jako internet přinesl přístup k informacím pro širokou veřejnost, i AI by měla umožnit i méně vzdělaným skupinám přístup k nástrojům, které jim mohou usnadnit život a práci.
Tento přístup se však musí vyvíjet, aby skutečně splnil svůj potenciál. Společnost musí být připravena na tuto transformaci, ale zároveň musí být eticky nastavena tak, aby nikdo nebyl z tohoto procesu vyloučen. Jak poznamenal Jan Romportl, je zásadní, aby jednotlivci měli možnost rozhodnout se, do jaké míry chtějí AI ve svém životě využívat, ale na úrovni společnosti tato volba již dávno padla – AI je tady. A také tu zůstane.
Bude záležet na tom, jak jako společnost nastavíme pravidla a vytvoříme mechanismy, které zajistí, že AI nebude jen nástrojem pro technologickou elitu, ale že její výhody budou dostupné pro co nejširší skupinu lidí, shodli se řečníci.
Etika otevřených modelů AI
Jedním z dalších témat byla otázka otevřených modelů AI, které dnes využívá mnoho vývojářů. Jan Romportl poukázal na fakt, že otevřené modely mohou být zneužity. AI, pokud se nesprávně používá, může generovat i velmi nebezpečný obsah.
Uvedl, že v jejich startupu vyvíjejí specifický „toxický model“, který záměrně generuje nejhorší možné scénáře, proti nimž trénují „dobrý“ model, aby byl schopen tento negativní obsah správně filtrovat. Tato strategie je příkladem toho, jak lze využívat otevřené zdroje pro eticky správný vývoj.
Zatímco dnes AI není považována za globální hrozbu, jakou by mohla být například pandemie, rizika spojená s kybernetickou bezpečností by neměla být podceňována.
AI a budoucnost práce
Velkou část diskuse tvořily úvahy o tom, jak AI ovlivní pracovní trh. Ivan Kutil poznamenal, že práce, jak ji známe, se dramaticky promění. „Co byla práce, bude koníček a to, co byl koníček, bude práce,“ doplnil.
Týká se to například programátorů, kteří by mohli AI využít pro rychlejší a efektivnější tvorbu kódu, ale ve volném čase se možná vrátí k starším technologiím nebo budou programovat z čisté radosti. Tento proces však může znamenat i ztrátu pracovní příležitosti pro některé jedince, zejména pokud si neosvojí nové technologie včas.
AI ve zdravotnictví: naděje pro budoucnost
Zvláštní důraz byl kladen na možnosti, které AI přináší do zdravotnictví. Diskutující se shodli, že AI má potenciál přinést obrovské pokroky v léčbě onkologických a neurodegenerativních onemocnění, jako je například Alzheimerova choroba.
AI by mohla zásadně přispět k pochopení genetických signálů a k nalezení účinnějších léčebných metod. Největší naděje vkládají odborníci do AI právě v oblasti zpracování dat, kde by algoritmy mohly pomoci odhalit skryté vzory a souvislosti, které by vedly k účinnější diagnostice a personalizovanější léčbě.
„AI je schopná vyřešit problémy, na které dnes nemáme odpověď, protože pracuje s obrovským množstvím dat,“ uvedl Romportl. Pokrok však nebude okamžitý a bude vyžadovat intenzivní výzkum a investice do datové infrastruktury.
Přes všechny výzvy a rizika se diskutující shodli na tom, že budoucnost s AI je veskrze optimistická. Má potenciál zlepšit kvalitu života nás všech – od efektivnějšího zdravotnictví po uvolnění prostoru pro kreativitu, osobní vazby a vzdělávání.
Personalizace ve vzdělávání by mohla pomoci odstranit frustraci z učení a umožnit dětem rozvíjet jejich potenciál na maximum. „Věřím, že personalizovaná zpětná vazba je klíčem k posunutí vzdělávacího procesu na novou úroveň,“ uzavřela Eva Nečasová.
Diskuse v předvečer konference Next Big Thing tedy poskytla nejen vhled do současného stavu umělé inteligence, ale i do nadějí a obav, které ji obklopují. Jedno je jisté: budoucnost AI je plná možností, ale vyžaduje pečlivou regulaci a etické rámce, aby se její potenciál naplnil ku prospěchu celého lidstva.
