Možná jste zaregistrovali ostrou kritiku Evropské unie od amerického viceprezidenta J. D. Vanceho, do které se pustil na nedávném summitu umělé inteligence v Paříži. Vance na něm odsoudil evropskou regulaci AI jako zbrklou a prohlásil, že „USA půjdou opačnou cestou“. Je evropský AI Act opravdu tak hrozný? Napovědět nám mohou pokyny k zakázaným praktikám, které Brusel publikoval tento měsíc.
Výkladový materiál k zákazům v takzvaném AI Actu (nařízení EU, které stanovuje pravidla pro vývojáře umělé inteligence) není zrovna krátký, má celých 140 stránek. A za porušení daných zákazů hrozí docela tučné pokuty, které konkrétně v Česku bude vybírat ministerstvo práce a sociálních věcí.
Za nevhodné použití nebo vývoj modelů a neuronových sítí nerespektujících uvedená pravidla hrozí postih ve výši 35 milionů eur, tedy přibližně 885 milionů korun, případně u obřích společností sedm procent z jejich ročního obratu.
Samotné nařízení je v platnosti již od loňského srpna, plně vymahatelné bude po dvou letech, tedy zhruba od léta příštího roku.
Pro mnohé globální hráče na poli umělé inteligence, ale také například pro provozovatele sociálních sítí to znamená kompletně změnit v Evropské unii způsob, jak AI používají. Americké firmy, jako je například Meta Marka Zuckerberga, se dokonce nechaly slyšet, že budou proti hrozícím postihům bojovat.
Některé zákazy jsou dokonce vymahatelné už teď, například zákaz používání systémů umělé inteligence, které představují podle Evropské unie „nepřijatelné riziko“, začal platit letos v únoru. Čeho se týká?
Úplné utrum v Evropě dostala kognitivní manipulace s chováním lidí, zejména ovlivňování zranitelných skupin. Pod tím si můžeme představit třeba hlasem aktivované hračky, které podporují nebezpečné chování u dětí. Podobně AI nesmí cílit ani na seniory, handicapované jedince nebo osoby v tíživé finanční situaci.
Dále je v Evropské unii zcela nepřijatelné jakékoli automatické sociální skórování, tedy klasifikace lidí na základě chování, socioekonomického statusu nebo osobních charakteristik umělou inteligencí, kterou můžete znát třeba z britského sci-fi seriálu Černé zrcadlo.
Smůlu má dokonce i policie. Podobně je totiž na území EU zakázána umělou inteligencí automatizovaná biometrická identifikace (například hledané osoby na letišti nebo prostřednictvím městského kamerového systému) a kategorizace osob v reálném čase a na dálku až na opravdu extrémní výjimky, jako je například hledání teroristy.
Povolené budou systémy, kdy k identifikaci dochází se značným zpožděním, ale pouze po schválení soudem u stíhání závažných trestných činů.
Zakázané jsou rovněž nástroje, které fanoušci sci-fi znají z filmu Stevena Spielberga „Minority Report“. AI za žádných okolností nesmí předpovídat, že někdo spáchá zločin, jen na základě chování či osobnostního profilu. Prediktivní systémy umělé inteligence do Evropy zkrátka nepatří.
Foto Profimedia
Krom toho regulace zakazuje pomocí AI analyzovat emoce, ať již zaměstnanců na pracovištích, nebo studentů ve školách, výjimku tvoří analýza pro lékařské účely.
Umělá inteligence nesmí ani analyzovat biometrické údaje a třídit na základě takto získaných dat lidi do kategorií podle politické příslušnosti, rasy, víry nebo sexuální orientace.
Firmy mají též přísně zakázáno hromadně sbírat a pomocí AI analyzovat fotky obličejů, ať již z webu, nebo třeba vlastních bezpečnostních kamer k vytvoření databází pro rozpoznávání obličejů.
Pro společnosti, jako je například americká Clearview AI, která se rozpoznávání obličejů pomocí AI věnuje a podobné databáze buduje, to de facto znamená povinnost úplně odejít z unijního trhu. Tato firma mimochodem loni dostala v EU masivní pokutu za porušování nařízení o ochraně osobních údajů.
