Na tom, že je regulace technologií a hlavně umělé inteligence třeba, se stát, firmy i podnikatelé shodnou. Zatím nejasné znění a především finální způsob a míra klasifikace podle odborníků určí, do jaké míry regulace ovlivní evropský trh a vlastně i firmy jako takové.
Akt o umělé inteligenci je podle unijních představitelů první návrh svého druhu na světě, který by měl klasifikovat technologie podle způsobu využití a ukládat jim různé úrovně omezení podle toho, jaké riziko nesou.
Cílem je skrze takovou regulaci posílit bezpečnost, důvěru v technologie a zajistit jejich vyšší využití v Evropské unii.
Podle Jana Míči, vedoucího Oddělení evropské digitální agendy, jsou za vysoce rizikový systém považovány především takové systémy umělé inteligence, které by mohly mít negativní dopad na život, zdraví, bezpečnost nebo základní práva občanů.
Aby byly takové produkty považovány za důvěryhodné, transparentní a nediskriminující, musí nejprve splnit celou řadu požadavků.
Systémy hodnotící chování občanů na veřejnosti, využívající vzdálenou biometrickou identifikaci (až na úzce definované výjimky) nebo ty, které využívají podprahové techniky za účelem ovlivňování chování, by pak měly být zakázány v Evropské unii úplně.
Zmíněný hodnotící systém se již využívá v Číně a je jedním z příkladů, čemu by měl akt předcházet. Podle Business Insider se zatím sice nejedná o celostátní systém, povinné zavedení pro všechny má ale stát v plánu.
„Lidé mohou být potrestáni, pokud špatně řídí, kupují příliš mnoho videoher nebo kradou,“ uvádí deník. Trest má pak různé formy, od omezení rychlosti internetu až třeba po zákaz cestování letadlem.
Pokud se ale občané chovají dobře, jejich sociální kredit se zvýší a díky tomu mohou naopak získávat slevy na energie nebo lepší úrokové sazby v bankách.
Právě nové technologické inovace mají v takovém systému hrát velkou roli. Miliony kamer v zemi již teď využívají software pro rozpoznávání obličejů. Vedle takových fyzických sledovacích opatření lze také vyhodnocovat chování občanů na internetu.
Pro Evropu a chystaný akt bude podle Míči velkou výzvou samotné klasifikování systémů umělé inteligence jako vysoce rizikových. Vedle toho i stanovení pravidel pro takzvané systémy umělé inteligence s obecným využitím (GPAI).
Na ty totiž Evropská komise v původním návrhu nemyslela. Typicky jsou nabízené spíše většími podniky, které s regulací často nesouhlasí.
„Regulace může v tomto směru negativně ovlivnit subjekty Evropské unie v tom, co pro ně bude dostupné v oblasti AI řešení vůči trhům, které regulaci nepodléhají,“ uvádí za celý tým ředitel centra umělé inteligence Dataclair.ai Petr Hirš.
Oblasti s tímto druhem systémů již dnes vévodí velmi úzká skupina největších světových technologických firem. „Věříme, že je ve veřejném zájmu, abychom co nejvíce podpořili ty vzácné entity a projekty, kterým se daří takovým korporátním obrům konkurovat,“ dodává.
Aktuální požadavky podle týmu DataClair.ai potencionálně vyžadují od vývojářů těchto modelů, aby se k nim chovali jako k vysoce rizikovým systémům bez ohledu na to, jak budou tyto modely reálně využité.
A právě způsob, jakým se budou systémy vyhodnocovat, je podle něj jedním z hlavních nedostatků Aktu o umělé inteligenci.
I podle Marka Rosy z Good AI bude hodně záležet na finálních detailech, konkrétně na tom, jak se bude definovat, co je a co není umělá inteligence, jak testovat, zda v dané aplikaci vzniklá možná újma a co je akceptovatelné a co už je za hranou.
„Nejdůležitější je, aby regulace nezpomalila inovaci a neznemožnila použití AI v oblastech, kde by mohla být velmi užitečná a kde by i v případě rizika nepřevažoval přínos,“ dodává.
Firmy a aplikace, kterých se akt bude týkat, navíc bude čekat proces samoohodnocení, což podle Rosy znamená další časový a administrativní náklad.
„Na druhou stranu, etické firmy, kterým záleží na jejich zákaznících, by měly brát ohled na dopad vlastních produktů i tak, nehledě na regulaci,“ hodnotí a dál uvádí, že negativní dopad by to ale mohlo mít ve speciálních případech.
Například startupy nebudou chtít jít do rizika, že poruší regulaci, takže si třeba rozmyslí inovovat v oblasti, kde nebude jasné, zda splňují kritéria, nebo ne.
Regulace ale nevstupuje do procesu rozhodování jen u startupů, jak potvrzuje i Hirš s týmem. „V kontextu našeho AI centra Dataclair můžeme říct, že již dnes přemýšlíme při vývoji nových řešení, zda se jedná o oblast v budoucnu regulovanou.“
Za nedodržení podmínek o dohledu nad umělou inteligencí bude navíc firmám hrozit pokuta. Původně směrnice nařizovala až šest procent z ročního obratu.
To by podle Hirše a jeho týmu mohlo být potencionálně likvidační pro jakoukoli společnost, zvláště v případech, kdy v rámci velké společnosti operuje relativně menší data science tým.
I přes aktuální nejistotu z podoby finálního znění aktu ale firmy vnímají regulaci jako krok správným směrem. Podle Hirše je jen potřeba, aby byla legislativa připravována ve spolupráci s akademickou půdou a komerčním sektorem.
Tak by došlo k propojení zpětné vazby z reálného prostředí. Zásadní otázkou pak podle něj také bude, jak rychle budou orgány Evropské unie schopné reagovat na nové průlomy v oblasti umělé inteligence a jak flexibilně je budou integrovat do stávající legislativy.
To bude ale pro české předsednictví těžký úkol i podle Rosy. Tvrdí, že nejzdravější řešení by byla regulace až potom, co dojde k problému.
„Vím, že to někdo napadne s tím, že nemůžeme riskovat životy lidí. Na druhou stranu to, že nebudeme inovovat, nás bude stát víc životů,“ vysvětluje. Zároveň ale vítá, že je AI Akt zatím postaven tak, že umožňuje předběžně měnit pravidla a odmazávat z něj věci, které by se mohly ukázat jako problematické.
Nejde navíc o první pravidlo takového typu, kterým se firmy musí řídit. Míča uvádí, že samotný Akt o umělé inteligenci se odkazuje na pravidla vyplývající z již platných právních předpisů, například na obecné nařízení o ochraně osobních údajů (GDPR), nařízení o strojních výrobcích, nařízení o zdravotních prostředcích.
Dále existují třeba systémy využívané ve finančním a bankovním sektoru, které jsou velmi důkladně regulovaným právním ekosystémem.
O tom, že by umělá inteligence měla regulovat, se mluví už od roku 2019. Na začátku prosince ale došlo k dalšímu přelomovému kroku na cestě k finálnímu schválení právě zmíněného AI Aktu.
Členské státy Evropské unie po řadě úprav totiž finálně podpořily loňský návrh Evropské komise. Nyní je na Radě Evropské unie a Evropském parlamentu, aby dohodly konečnou verzi tohoto návrhu.
