Tereza Bartoníčková si už jako malé dítě přála k Vánocům encyklopedii. Informace o fungování světa ji fascinovaly vždycky a svůj potenciál ukázala například na univerzitě v Oxfordu, kde vystudovala magisterský program Social Science of the Internet.
Pracovní zkušenosti začala sbírat v Googlu, kdy také začala více uvažovat o pozadí technologií a jejich zásahu do našeho uvažování. V roce 2018 založila nezávislý think-tank Internetový institut, pod jehož záštitou se snaží přinášet osvětu i ověřené informace.
Na nové technologie Bartoníčková nahlíží z komplexnějších rovin: z pohledu psychologie, etiky, práva. Usiluje o správně nastavené regulace a efektivní propojování aktivit vycházejících z akademické, státní i byznysové sféry, k čemuž u nás podle jejích slov zatím příliš nedochází.
„Věřím, že k tomuto cíli – propojení sektorů – v naší zemi dojdeme v příštích deseti letech. Zatím se nacházíme v situaci, kdy některé spolupráce fungují, ale nejsou systémově ani zvyklostně zavedené,“ slibuje si Bartoníčková
Internetový institut jste založila jako odezvu na chybějící spolupráci mezi zmiňovanými sférami. Co se vám zatím podařilo a jaké jsou další vize?
Za úspěch považujeme prohloubení spolupráce byznysu a školství v rámci příprav vzdělávání budoucnosti či zapojení akademické sféry do objektivnějšího náhledu na hodnocení postupu digitalizace ve formě posudků a hodnocení.
Momentálně se soustřeďujeme zejména na konzultační činnost skrze sektory a na niche spolupráci se státní správou a dalšími organizacemi v oblastech, které považujeme za nezbytné pro modernizaci přístupu státu k občanům a udržitelnosti ekonomiky.
Některé chybějící impulzy v těchto oblastech jednoduše musí být podpořeny státem, zejména v oblastech technologií a přístupu k soužití s nimi. Skrze tato témata chceme i více tlačit v oblastech ovlivňujících odliv mozků z Česka. Právě tam koordinovaný a jednotný postup, tedy logický a propojený skrze sféry, vidíme jako nezbytný.
Čemu všemu se věnujete?
Od zmiňované spolupráce konzultantského typu rozvíjíme práci na analýzách a posudcích, ať jde o dopadové studie zákonů, či tvorby strategií postupu na bázi dat.
Před covidem jsme i masivně školili a vedli osvětu, ale to už je pro nás pouze okrajovou agendou. Jsme také hrdí na naši globální síť podobných institucí a expertů.
Na vašich stránkách je věta: Žijeme v době, kdy nám internet transformuje životy, ať jsme toho aktivními účastníky, či ne. Jak konkrétně?
Nemusíme být programátory či odborníky v IT, aby nás ovlivňoval dopad vývoje společnosti, který zahrnuje technologie. Internet a nové technologie mění situace a ekonomiky států, kontinentů, mění dynamiku našeho světa a tak i fungování jednotlivců.
Když uvedu nejbanálnější příklad: i s mojí babičkou mohu jít do pizzerie, která by se v malém městě bez online objednávek neuživila. A když levné smartphony s internetem v Indii nahrazují nákladné lektory angličtiny a ostatního učiva, které dříve této vrstvě populace nebylo dostupné, je tento dopad obrovský.
Poslední měsíce je velmi skloňovaným pojmem umělá inteligence. Jak její nástup vnímáte?
AI je velice dobře cvičená opice. Je většinou specializovaná a je přesně tak užitečná, jak dobré má zadání, nebo tak nebezpečně mylná, jak neúplné či nespecifikované má zadání.
Již nějakou dobu jsme ve stavu, kdy se tyto opice díky našim impulzům samy učí procesy, což nám nemusí být úplně zřejmé, protože nemluvíme opičí řečí. Pokračují v tvoření své generační linie pro dosažení nastavených cílů, tvoří a učí další opice nebo „dávají hlavy dohromady“ a využívají jim dostupné nástroje.
Dospěli jsme tak do bodu, kdy stojíme před novou generací těchto opic, jsou z našich myslí a našim myslím asistují, a tak jsme je začali nazývat umělou inteligencí.
Jaké konkrétní negativní důsledky z jejího použití mohou vyplynout?
Největší riziko vidím v nesladění AI s lidskými hodnotami a hodnotami společnosti, ve které operuje. A také její využívání pro to, co můžeme nazvat „nekalými záměry“. Většinu umělé inteligence budou užívat soukromé firmy, což znamená, že ji budou využívat za účelem zvýšení profitability.
Již to se prokázalo jako problematické například u byznys modelů sociálních médií, které jsou jednoznačně nastaveny na získání a udržení pozornosti uživatele – na úkor mnohých morálních hodnot či soukromí.
Tyto principy stojí na přizpůsobení se uživateli, na sběru a analýzách dat z jeho interakcí v různých internetových sférách. Hloubka a přesnost těchto analýz bude exponenciálně akcelerovat a hlavně se zdokonalovat – za komerčními účely.
Budeme tedy zachyceni v čím dál dokonalejší spirále, která nám bude podbízet přijetí vzorců chování výhodných pro korporace. Sladění jakýchsi lidských hodnot s AI není tedy jen otázka filozofické nátury, ale také otázka, mířící na samotné jádro kapitalismu. Kam až jsme ochotni zajít pro udržení zdánlivě profitující ekonomiky?
Může umělá inteligence také zvýšit šíření fake news a nebezpečných dezinformací?
Určitě je k tomu využitelná. Pak bude záležet, jak se takovému fenoménu postavíme jako společnost. Pokud stejně pasivně jako doteď, hrozí to reálně.
Být zvyklí na dezinformace je něco, co si můžeme dovolit, až když je většina populace rozezná. To se nyní říci nedá, a pokud bude trend momentálního působení dezinformací pokračovat, může se stát revoluce i „offline”.
Existuje možnost, že se umělá inteligence zvrtne natolik, až ji nebudeme schopni ovládat?
Každý stroj se může „utrhnout“ tak, že ho nebude možné ovládat. Nedávno jsem viděla video se zaseklým letištním povozem na zavazadla, který nekonečně smykoval a nikdo ho nedokázal zastavit. Stejně tak se vám může splašit i sekačka.
Musíme pamatovat na to, že AI není jedna entita a nerozhoduje o své aplikaci. Záleží jen na nás, jaké její typy vytrénujeme a kam a za jakým účelem je pošleme vykonávat jejich práci. Pokud čteme o „splašených“ AI, většinou se jedná o zacyklené umělé inteligence, které „smykují“ a nevykonávají, co mají, nebo o nepřesně naprogramované AI či jejich nedomyšlené důsledky.
Je tohle důvod pro kybernetické síly v rámci armády?
Stejně jako každý jiný prospěšný nástroj může být AI i zneužita – jako nůž, který nám řeže chléb, ale je možné jím ublížit. Pod kybernetickými silami si zároveň musíme představit stejnou diverzitu jako v technologiích samotných – od drátu a „svařování“ až po informační operace.
Sama jste poručice kybernetických sil armádních Aktivních záloh. Co přesně je vaším úkolem?
Naštěstí ještě nic – abych měla konkrétní úkol, museli bychom být ve válečném stavu a povoláni. Zatím je můj úkol učit se armádním způsobům a procesům, od velitelství po způsoby exekuce. Já osobně ale vyrábět hardware neumím, mé úlohy jsou tedy spíše v „měkké oblasti“.
Zabýváte se regulacemi digitálních technologií spolu eticko-právními dopady Al. Co vše si pod tím představit?
Tu část práce, která zajistí, že v našich právních státech a regionech budou moci být nové technologie využívané a aplikované bez narušování toho, co chceme zachovat. Proto je třeba spolu s inovátory pracovat na sladění směru, kterým chceme jít jako společnost, a hlavně hledět na technickou proveditelnost takového nároku.
Regulace hlavně neovlivňují jen fungování společností a technologií, ale mohou ovlivňovat i složitost vstupu na trh pro nové firmy, bezpečnost občanů nebo i názor veřejnosti. Proto je třeba dbát na mantinely a dopady, které formulování regulací skutečně má.
Stejně jak hluboká je integrace technologií v našich životech a ekonomikách, jsou i jejich dopady širokosáhlé. Regulace tedy v tomto smyslu vnímám jako usměrnění a dbaní na zachování principů naší společnosti, nikoli jako zákazy a povolení.
Špatně formulované regulace mohou jak zpomalovat vývoj, tak se i naprosto minout účinkem.
Jak jsme na tom s umělou inteligencí tady v Česku?
Máme talent, máme potenciál, máme zlaté ručičky a tah na branku. Potřebujeme ale zajistit provázanost výzkumu a průmyslu a hlavně potřebujeme více investic do vědy a výzkumu.
Nynější úroveň je velice podprůměrná na to, abychom si v Evropě zachovali konkurenceschopnost a udrželi mozky „doma“. Prostě se spolu bavme skrze sektory a republiku a nebojme se při tom o živobytí.
Potřebujeme do STEM (zkratka sdružující vědu, technologie, matematiku a inženýrství) přidat „A“ – arts. STEAM zajistí nejen inovace, ale i jejich začlenění do společnosti a tím i urychlení jejich udržitelnosti. Na to u nás hodně zapomínáme.
