Poznáte, kdy mluvíte s umělou inteligencí? Od neděle 2. srpna by to mělo být jednodušší. V Evropské unii začala platit další část AI Actu, která firmám ukládá povinnost označovat chatboty i některý obsah vytvořený AI. Nová pravidla dopadnou na e-shopy, banky, pojišťovny i další společnosti využívající umělou inteligenci.
Umělá inteligence se během posledních dvou let stala běžnou součástí podnikání. Odpovídá zákazníkům v chatu, pomáhá zaměstnancům psát e-maily, vytváří reklamní fotografie, připravuje marketingové texty nebo vyřizuje jednoduché požadavky klientů.
Evropská unie nyní chce, aby lidé vždy věděli, kdy komunikují s umělou inteligencí a kdy sledují obsah, který vytvořila.
Právě proto se od 2. srpna začala uplatňovat další část povinností podle AI Actu. Vedle technologických společností se nová pravidla vztahují také na běžné firmy, které umělou inteligenci využívají při své každodenní činnosti.
Na dodržování nových pravidel budou v jednotlivých státech Unie dohlížet národní dozorové orgány. V Česku tuto roli převezme Český telekomunikační úřad.
Chatbot se už nesmí tvářit jako člověk
Nejviditelnější změnou je povinnost informovat uživatele, že komunikuje s umělou inteligencí. Týká se to zákaznických chatbotů, hlasových asistentů i takzvaných AI agentů, kteří za zákazníka dokážou rezervovat hotel, objednat službu nebo vyřídit část komunikace.
„Mezi novinky s nejviditelnějším dopadem patří povinnost jasně a včas informovat o tom, že zákazník či uživatel komunikuje prostřednictvím chatbotu či virtuálního nebo hlasového asistenta s umělou inteligencí. Totéž platí pro AI agenty, kteří samostatně například rezervují, objednávají nebo vyřizují korespondenci,“ říká advokát Jaroslav Kuba z poradenské společnosti Rödl.
Evropská komise ve svých pokynech uvádí, že u AI agentů by uživatel měl vědět nejen to, že komunikuje s umělou inteligencí, ale také jménem koho jedná.
Označení čeká i část obsahu vytvořeného AI
Nová pravidla se netýkají jen komunikace se zákazníky. Povinnost označovat se nově vztahuje také na některý obsah vytvořený nebo upravený umělou inteligencí, ať už jde o fotografie, videa, nebo zvukové nahrávky.
Jde především o takzvané deepfaky, tedy obsah, který realisticky napodobuje skutečné osoby nebo události a mohl by být zaměněn za autentický.
Jako příklady ve svých pokynech Komise uvádí i reklamní vizuály a produktové fotografie vytvořené umělou inteligencí, pokud mohou klamat o skutečném vzhledu nebo vlastnostech výrobku, syntetické avatary manažerů ve firemních videích nebo virtuální influencery.
Takový obsah musí být označen nejen pro člověka, ale také strojově čitelným způsobem, aby jej bylo možné automaticky rozpoznat.
Pravidla se týkají mnohem více firem, než si myslí
Řada podnikatelů má za to, že AI Act dopadá hlavně na společnosti, které umělou inteligenci vyvíjejí. Ve skutečnosti se však nové povinnosti vztahují i na firmy, které AI pouze používají.
„Nové povinnosti dopadají nejen na vývojáře velkých modelů, ale i na obrovské množství běžných společností, institucí a organizací, které AI využívají ve svém provozu,“ upozorňuje advokát.
Podle něj navíc mnoho společností zatím není připraveno. „Více než třetina společností řeší problematiku AI jen povrchně. Často to bývá jediná věta v obchodních podmínkách o tom, že je v rámci jejich služby využívána umělá inteligence. Takové plošné prohlášení však od srpna nestačí – informace musí být srozumitelná a umístěná tam, kde ke komunikaci skutečně dochází,“ říká Kuba.
Jen několik dní před účinností nových pravidel vstoupil v platnost takzvaný digitální omnibus. Ten některá pravidla zjednodušuje a část povinností odkládá, například pro poskytovatele vysoce rizikových systémů umělé inteligence.
Zároveň ale zavádí zákaz takzvaných nudification aplikací, které pomocí AI vytvářejí falešné nahé fotografie skutečných lidí, a posiluje dohled Evropského úřadu pro AI nad nejvýznamnějšími modely umělé inteligence. Neznamená to však, že by se AI Act odložil, většina nových pravidel začala platit podle původního harmonogramu už 2. srpna.
„Přestože se v této souvislosti občas mluví o odkladu AI Actu, řada povinností platí už dnes a od srpna přibyly další,“ říká Kuba. „Od loňského roku například platí povinnost zajistit takzvanou AI gramotnost, tedy aby lidé pracující s umělou inteligencí rozuměli jejím možnostem i limitům. Digitální omnibus tuto povinnost zmírnil, nikoli zrušil,“ připomíná.
AI Act není jedinou regulací
Povinnost označovat využívání umělé inteligence je jen jednou částí pravidel, která firmy musejí při nasazování AI řešit. Pokud nástroje pracují s osobními údaji, uplatní se také GDPR. Při vytváření textů, obrázků nebo dalších výstupů pak mohou hrát roli i pravidla autorského práva.
Advokáti proto doporučují, aby společnosti zkontrolovaly, jaké AI nástroje používají, jak nakládají s daty, zda dokážou správně označovat obsah vytvořený umělou inteligencí a zda mají nastavená interní pravidla pro její používání.
Za porušení některých povinností podle AI Actu mohou firmám hrozit pokuty až do výše patnácti milionů eur nebo tří procent celosvětového ročního obratu.
