„Dohoda!“ reagoval na sociální síti X eurokomisař pro vnitřní trh Thierry Breton na výsledek několikadenního jednání o tom, zda Evropská unie začne regulovat nástroje umělé inteligence. Pravidla, na kterých se europoslanci dohodli s členskými státy, představují vůbec první regulaci AI na světě.
Cílem úpravy je podle zákonodárců podpořit inovativní prostředí v Evropě a zároveň zamezit možným škodlivým dopadům umělé inteligence. Podle šéfky Evropské komise Ursuly von der Leyen tak pravidla přinesou jedinečný právní rámec pro vývoj důvěryhodných technologií, které ale současně neomezí bezpečnost a základní práva občanů ani firem.
Regulační rámec rozděluje nástroje umělé inteligence do různých kategorií z hlediska dvou parametrů – rizikovosti a sofistikovanosti nástrojů. Touto metodikou tak bude například umělá inteligence využívaná ve zdravotnictví automaticky řazena mezi rizikové technologie.
Za nejrizikovější a zároveň zakázané systémy pak budou považované algoritmy, které dokážou identifikovat osoby na základě biometrických údajů nebo algoritmy hodnotící důvěryhodnost, tedy technologie podobné těm, které se například v Číně používají pro skóring občanů.
Mezi sofistikované technologie pak regulace řadí propracované nástroje včetně nástrojů umělé inteligence, jako je ChatGPT. Těm vznikne povinnost vydávat detailní technickou dokumentaci, pravidelně vyhodnocovat rizika či nutnost lidského dohledu nad těmito technologiemi. Naopak jednoduché algoritmy budou mít pouze povinnost transparentně zveřejnit informace o tom, jak technologie funguje.
Evropská unie začala na legislativě ve vztahu k umělé inteligenci pracovat už v roce 2018, právě rychlý vývoj nástroje ChatGPT a další možná rizika, která přinesla jeho schopnost generovat video či zvukový obsah nerozpoznatelný od reality, však zákonodárce překvapily. Regulaci se tak rozhodli přepracovat.
Řada lidí snahu o nastavení bezpečnostních mantinelů vítá. „Stejně jako v případě jakékoli lidské činnosti musí i aktivita člověka v oblasti umělé inteligence podléhat určité regulaci,“ říká Tomáš Ditrych, advokát a zakládající partner advokátní kanceláře Mavericks s tím, že snaha EU o regulaci tohoto odvětví je namístě.
Jedním z nepochybně pozitivních aspektů je podle něj zákaz používání nástrojů umělé inteligence k rozpoznávání emocí na pracovišti nebo k získávání obličejových obrázků z internetu nebo kamerových záznamů pro tvorbu obličejových databází.
„Nicméně AI akt obsahuje poměrně široký výčet výjimek, na něž se nevztahuje vůbec nebo jen omezeně. To znamená, že přestože AI akt představuje vítaný začátek regulace umělé inteligence v EU, nemusí zcela eliminovat možnost zneužití této technologie,“ vysvětluje právník.
I kvůli těmto výjimkám je naopak podle některých byznysmenů snaha o regulaci zbytečná.
„Každý pokus o regulaci umělé inteligence je naivní, protože pokud se celý svět nedohodne najednou, a to se s velkou pravděpodobností nestane, vždy budou existovat místa, kde se AI bude vyvíjet bez jakýchkoli omezení. Navíc evropských společností, které by vyvíjely vlastní pokročilé AI modely, moc není,“ říká Pavol „Stick“ Rusnák, spoluzakladatel byznysové skupiny SatoshiLabs, pod kterou spadá mimo jiné výrobce nejstarší kryptoměnové peněženky na světě, firma Trezor.
„Kdybych chtěl být kontroverzní, řeknu, že politici, kteří za regulací stojí, nevědomky bojují proti zájmům Evropy, a nikoli v její prospěch. Hrozí nám, že kvůli přehnaným regulacím budou inovativní firmy odcházet jinam a ztratíme jako Evropa jakoukoli technologickou konkurenceschopnost, což bude mít dopad i na další odvětví,“ dodává podnikatel.
Podobně se vyjadřuje také Filip Kirschner, spoluzakladatel a COO úspěšné IT firmy Applifting. „Jak se ale ukázalo v posledních dvaceti letech, technologie vždy postupuje rychleji než legislativní rámec. Žádná regulace přitom nezabrání tomu, aby se umělá inteligence zneužívala, protože ji pravděpodobně nebude těžké technologicky obejít,“ komentuje muž, jehož firma přesahuje roční obrat 160 milionů korun.
„Co mi v regulaci nebo alespoň ve zprávách o ní vlastně chybí, jsou odpovědi na ty nejpalčivější otázky kolem AI, tedy osvědčené postupy pro správnou aplikaci AI. Například vysvětlitelnost a transparentnost umělé inteligence, jak správně pracovat s osobními daty a zda se na nich smí trénovat nebo je používat ve vstupních datech. V neposlední řadě pak také, jak funguje zodpovědnost za výsledky a jejich intelektuální vlastnictví,“ dodává.
„Nedělám si iluze o tom, že by Evropská unie měla ambice tyto otázky zodpovědět, ale dokud tyto odpovědi společně nenajdeme, nebudeme schopni se jako lidstvo posunout v používání umělé inteligence dál bezpečným způsobem. Navržená regulace dělá v tomto krok správným směrem tím, že poskytuje společný rámec, který propojuje etiku a legalitu použití umělé inteligence,“ říká Kirschner.
Stejně jako řada dalších podnikatelů navíc podotýká zásadní skutečnost, a tedy že i když Evropská unie dosáhla v regulaci umělé inteligence politické shody, právní rámec musí ještě projít formálním schválením a nejdříve tak začne platit v roce 2025. Je tedy otázkou, jak bude rychle se vyvíjející umělá inteligence za dva roky vůbec vypadat.
