Nedávno schválený akt o umělé inteligenci z dílny Evropské unie je první legislativou svého druhu na světě. Experti snahu nastavit bezpečné mantinely pro AI vesměs vítají, ze soukromého sektoru však zaznívají i obavy, že další regulace v digitálním prostoru ještě více přidusí technologický pokrok v Evropě.
„AI musí být regulována a Evropa si zaslouží velké uznání, že v této oblasti jedná jako první. Ale ostatní regiony budou pozorně sledovat co funguje a co ne,“ říká v rozhovoru pro Forbes Jeremy Rollison, šéf sekce evropské politiky v Microsoftu.
Zdejší technologické firmy podle něj mohou ve finále z jasně nastavených pravidel těžit. Srovnává to s telekomunikačním standardem GSM, který vznikl v devadesátých letech v Evropě a postupně se stal globální normou.
„Evropské firmy ze sjednoceného standardu těžily, podle mě to byl klíčový faktor dřívějších úspěchů společnosti Nokia na trhu výrobců mobilních telefonů,“ míní styčný důstojník Microsoftu s Bruselem, který dříve působil na podobné pozici právě ve finské Nokii.
Rollison přes dvacet let vede kampaně v oblasti evropské veřejné politiky a balancuje zájmy soukromých firem se zájmy Evropské unie v digitální oblasti. Řešil ochranu soukromí, kyberbezpečnost, duševní vlastnictví a v podstatě vše, co lze v současnosti obsáhnout souslovím umělá inteligence.
„Evropský byznys má být historicky na co hrdý. A mezi zavedenými firmami i startupy cítíme spoustu nadšení i pro AI a nejmodernější technologie,“ uvádí Rollison.
Dusí Evropská unie svou regulací evropský technologický pokrok?
Nevím, jestli bych to nazval zrovna takhle. Bylo to určitě rušných pět let pravidel v digitálním prostoru. V tomto volebním cyklu bylo slyšet hodně evropských hlasů a jejich obav z přílišné regulace a dopadu na konkurenceschopnost, ať už od našich evropských zákazníků, stakeholderů, nebo evropských hlav států. Ale to není kompletní obrázek.
Přijde mně, že se nevede dostatečná debata o stylu regulace, na kterém záleží. Zejména když se koukám na digitální prostor a umělou inteligenci. U AI jsme docela jasně řekli, že je to technologie, která musí být regulována.
Evropa si však zaslouží velké uznání za to, že v této oblasti jedná jako první. Zejména když jde o něco tak rychle se měnícího, jako je AI. Na principech a na jasnosti záleží. A ostatní regiony pozorně sledují, co funguje a co ne.
Jen si říkám, jestli to nadšení evropských technologických startupů, o kterém mluvíte, bude stačit, aby obstály v mezinárodním srovnání…
Dobrá otázka, nadšení nestačí. V Evropě je na pracovním trhu spousta talentů, lidí důkladně obeznámených s nejmodernější technologií a potřebnými dovednostmi. Výzvou je, aby se ty mozky a nápady proměnily v konkrétní benefity přímo tady v Evropě, což je podle mě přirozený cíl.
Jestli se to neděje, proč? Kvůli přístupu k samotným technologiím? Kvůli atraktivitě prostředí jinde? Na tyhle otázky bychom se měli víc ptát komunity lidí ze zmíněného talent poolu.
Co přesně v Microsoftu děláte vy?
Je to spousta debat s odpovědnými lidmi v Evropské unii. Společnost má za sebou dlouhou historii dialogu s politiky, určitě jsme během ní dělali chyby a myslím si, že je naší odpovědností sdílet to, co jsme se během této cesty naučili. A v konstruktivních debatách chceme pokračovat i nadále. Na místě, jako je Brusel, kde se reguluje mnoho oblastí, které ovlivňují naše zákaznické aktivity, máme povinnost informovat o tom, co vidíme na trhu.
Jak velká je taková operace?
Jsou to právní zástupci, právníci, inženýři… Ti všichni vstřebávají nová pravidla, protože se samozřejmě reguluje po celém světě, nejen v Bruselu. Můj tým je přímo na místě, u důležitých konverzací. Snažíme se pochopit záměr politiků a přispívat do diskuse o zamýšlených důsledcích opatření. Nastavování a dodržování předpisů bylo vždycky důležitou částí firemní kultury v Microsoftu na celém světě.
Foto: Microsoft
Do jaké míry jste se podíleli na aktu o umělé inteligenci?
Podobně jako většina firem, co byly aktivní v Bruselu, což byly stovky a stovky společností. Kde jsme mohli, tam jsme se zapojili, s ostatními jsme sledovali, co se děje, určovali, jaký to může mít na nás dopad a politikům pomáhali řešit některé problémy.
Rozumějí politici Evropské unie dostatečně technologii, kolem které se snaží nastavit mantinely?
Na to, abyste nějakou technologii efektivně reguloval a dodával k tomu efektivní legislativu, nemusíte být zrovna nejlepší odborník na tuto technologii. Jako politik musíte mít o oblasti povědomí, máte odpovědnost ke svým voličům, chcete je ochránit před škodami a riziky. Nestačí se spolehnout na jeden hlas, proto je tak důležitý dialog mezi politiky a odborníky z průmyslu, občanské společnosti i jiných vládních agentur napříč různými resorty.
Je akt o umělé inteligenci formulován tak, že bude relevantní i v budoucnu?
Podle mě určitě ano. Evropská unie si byla velice dobře vědoma toho, že je první na světě a jak je těžké trefit správnou rovnováhu opatření. Technologie postupovala velice rychle, ale unie také. Myslím si, že i díky přístupu s důrazem na nejrizikovější oblasti akt o umělé inteligenci ve zkoušce času obstojí.
Pro tvůrce obsahu je klíčovou otázkou ochrana autorských práv. Měli bychom jim zjednodušit možnost, jak svá díla vyloučit z trénovacích dat pro generativní umělou inteligenci? Je to vůbec možné?
To je fér otázka a bylo by skvělé, kdyby na ni šlo odpovědět jednoduše. Řekl bych, že zejména v éře AI je důležité, aby každý cítil, že má věci pod kontrolou. Je jedno, jestli jste tvůrce, nebo prostě jenom občan. Chcete mít jistotu, že máte kontrolu nad tím, co se děje s vašimi daty nebo zda se o vás nerozhodují bez vašeho vědomí.
Jsou oblasti, kde je nutné udělat kompromis, ale v první řadě musíte o té oblasti vědět. Role politiků je určit oblasti, které jsou právě teď nejdůležitější. Zásadní je ale právo na lidskou kontrolu. Že tyto systémy jsou řízeny lidmi, mají bezpečnostní brzdy a můžeme zajistit potřebnou úroveň transparentnosti.
Když dnes velké jazykové modely a různé generátory obrázků, videí nebo písní pracují tak, že nelze detailně vysvětlit, jak daly dohromady konkrétní podobu svého výstupu, není to problém?
Rozumím těmto obavám. Ale nemyslím si, že je to nutně problém. Možná nepotřebujeme být schopni na sto procent vysvětlit, proč mně velký jazykový model napsal zrovna tuhle báseň, ale určitě potřebujeme znát pozadí například náborářského rozhodnutí, které ovlivnilo něčí práva. Diskuse by se měla soustředit na podstatné věci.
Nebylo by vhodnější mít to vyřešené před širokou implementací generativní AI? Tak jak to například Microsoft dělá se svým copilotem?
Tady je otázkou, jak moc rizikový a problematický může být výstup generativní AI. Mezi akademiky se samozřejmě vede debata o transparentnosti, ale v tomto prostoru jsou tam určitá omezení. Já to rád srovnávám s létáním. Taky nevidím do technických detailů fungování letadla, ale potřebuji mít jistotu, že mě do cíle dopraví bezpečně. Lidé si rozhodně zaslouží jistotu, že i používání generativní AI je bezpečné.
Jak se za dvacet let vašeho působení v Bruselu měnil přístup Evropské unie k novým technologiím?
Změnil se, a to hodně, zejména poté, co se moderní technologie staly tak nedílnou součástí každodenního života. V digitální oblasti je mnohem aktivnější, politiky je víc, a to se rozhodně netýká jen Evropské unie. Brusel se trochu vzdálil lokální úrovni a jednotlivým státům, ale v globálním kontextu je to dobře, protože přicházející pravidla budou ovlivňovat celý kontinent.
Když jsem začínal, byly to výzvy typu, proč je složitější napříč hranicemi legálně posílat MP3 soubory než fyzická CD. Dnes už jsou ty klíčové otázky, některé z nich jste zmínil, úplně jinde.
Když podle vás dnešní Evropské unii náleží uznání za to, že v oblasti AI jedná jako vůbec první, u jakých technologií se jí v minulosti takový přístup vyplatil?
Dobrý příklad je její úspěch u budování GSM standardu pro mobilní telefony, který se stal globální normou. Myslím, že evropské společnosti ze sjednoceného standardu těžily.
Stálo tohle za úspěchem finské Nokie, která byla největším světovým prodejcem telefonů, než ji nahradily iPhony od Applu?
Podle mě určitě. Ale v tomto nejsem zrovna nezávislým pozorovatelem, protože před Microsoftem jsem v Nokii pracoval. Tento názor jsem však zastával ještě předtím, než jsem tam nastoupil. GSM je skvělá story, ale je zde i mnoho dalších. Evropský byznys má být na co hrdý, stačí se podívat do farmacie nebo průmyslu.
