Dokáže vytvořit ilustrační obrázky, příspěvky na sociální sítě i vymyslet propagační text. Přesto je používaní umělé inteligence podle právníka Davida Karabce ošemetné. Čeho je potřeba se vyvarovat?
Podle odborníka na právo duševního vlastnictví a etické i právní aspekty využívání umělé inteligence firmy často neví, kdo za daným generativním systémem stojí, ani jaké zdroje využívá. „Nejen firmy se vystavují možnému riziku, že k dané fotografii nemají licenci,“ vysvětluje Karabec.
Jak si licenci zajistit? Jaká rizika hrozí při firemním využití umělé inteligence a jak s nimi zamíchá nový Akt o umělé inteligenci? O tom všem jsme s Davidem Karabcem mluvili v rozhovoru.
Foto archiv Davida Karabce
Firmy čím dál více využívají generativní umělou inteligenci. Je to vůbec dobrý nápad?
Hlavní výhodou je nepochybně rychlost a efektivita, protože umělá inteligence dokáže vytvořit velké množství obsahu za zlomek času ve srovnání s lidmi. Firmy tak mohou ušetřit čas i peníze.
Na druhou stranu má použití AI modelů i svoje nevýhody a konkrétní rizika, především z hlediska etických či právních otázek týkajících se autorských práv. Není totiž vždy jasné, kdo vlastní práva k dílům vytvořeným umělou inteligencí. A hrozí také zneužití umělé inteligence k vytváření škodlivého či zavádějícího obsahu, pokud firma ztratí kontrolu nad jeho vznikem.
Kdo je podle práva považován za autora obrázku vytvořeného umělou inteligencí?
Podle české právní úpravy je autorem výhradně fyzická osoba, která dílo vytvořila. U děl vytvořených umělou inteligencí zákon výslovnou úpravu nemá a existují k tomu různé právní teorie a názory – především, že autorem by mohl být za určitých podmínek tvůrce systému, který vznik díla umožnil.
Dílo vytvořené čistě umělou inteligencí by mohlo být považováno za dílo bez autora, tedy volné k užití. Existují také úvahy přiznat autorství přímo AI systémům, ale to je kontroverzní téma, které dosud nemá širokou podporu.
Firmy by proto měly být v této oblasti obezřetné, případně si smluvně ošetřit, kdo bude vykonávat majetková autorská práva k dílům vytvořeným umělou inteligencí. Každopádně je vhodné její uvedení jako zdroje a nepředstírání, že jde o čistě lidský výtvor.
Zmiňujete české právo, jak se na to dívá legislativa Evropské unie?
Evropská směrnice o autorském právu v informační společnosti definici autora neobsahuje a tuto otázku ponechává na národních úpravách členských států. Většina se jich ale na tuto otázku dívá stejně jako Česko a považuje za autora pouze fyzickou osobu.
Některé novější unijní směrnice, například o autorském právu na jednotném digitálním trhu, v některých ustanoveních naznačují, že by za autora mohla být považována i právnická osoba nebo AI systém. Jde ale spíše o ojedinělé zmínky.
Americké soudy řešily otázku, zda může být autorem fotografie opice. Jak rozhodly?
Mediálně známý případ Naruto versus Slater, je ukázkový příklad, co nelze podle amerického práva autorskými právy chránit. Ve sporu šlo o status autorských práv selfies, pořízených makakem chocholatým pomocí zařízení patřícího britskému fotografovi přírody Davidu Slaterovi.
Spory se týkaly spolku Wikimedia Commons a blogu Techdirt, kde byly selfies uvedeny po jejich zveřejnění v novinách v červenci 2011. Slater namítal, že držitelem autorských práv je on, proti byla organizace PETA bojující za práva zvířat – tvrdila, že autorská práva by měla být přidělena makakovi. Soud vydal rozhodnutí ve prospěch Slatera a konstatoval, že zvířata nemají zákonnou pravomoc si autorská práva nárokovat.
Jde tedy o podobnou debatu jako v případě autorství umělé inteligence?
Má některé společné rysy. V obou případech jde o entitu odlišnou od člověka, která vytvořila dílo, a tedy vyvstává otázka autorství, kterou je třeba řešit. Rozdílem je, že zvířata jednají čistě instinktivně, tedy bez jakéhokoli tvůrčího záměru.
U umělé inteligence je otázka tvůrčího záměru a originality však složitější: závisí na tom, jak moc autonomně AI jedná a nakolik je dílo ovlivněno člověkem, tedy programátory nebo uživateli. Systémy umělé inteligence jsou lidským výtvorem, zvířata nikoli.
Přiznání autorství zvířatům by bylo v rozporu se samotným smyslem autorského práva, zatímco u AI lze argumentovat, že dílo jí vytvořené je nepřímo dílem člověka.
Zvířata navíc nemohou svá díla ekonomicky zhodnotit.
A to je u umělé inteligence, přinejmenším teoreticky, možné. Situace je ale složitější, protože se dotýká otázek podpory inovací a investic do vývoje AI. V obou případech ale převažuje názor, že autorem může být jen člověk.
Vraťme se tedy k firmám, které chtějí využít obrázky vytvořené AI. Co riskují?
Právní nejistotu a spory. Jednoznačně lze proto doporučit, pokud firma dílo nevytvořila zcela sama, smluvní ošetření převodu práva či licence k užití díla od tvůrce systému či uživatele, který dílo zadal. A je zde také odpovědnost za obsah šířený firmou.
Firma za něj nese plnou odpovědnost, i když ho vytvořila umělá inteligence. Hrozí šíření nevhodného či nezákonného obsahu, jako jsou pomluvy, dezinformace, porušení cizích práv a podobně…
Lze proto doporučit nastavit schvalovací proces obsahu, používat AI pod přímým, tedy lidským, dohledem a proškolit zaměstnance.
Co riziko plagiátorství?
To je obrovský problém, protože systémy umělé inteligence jsou trénované na existujících dílech. Hrozí proto, že vygenerují něco příliš podobného cizímu autorskému dílu. Lze proto doporučit prověřovat vygenerovaný obsah a vědomě nastavit parametry AI tak, aby se podobnosti vyhýbala.
Souvisí s tím i reputační riziko. Pokud firma neuvádí, že obsah vytvořila AI, a vydává ho za svůj vlastní, může po odhalení této skutečnosti ztratit důvěru zákazníků. Doporučuji tedy transparentně uvádět AI jako zdroj a nevydávat díla umělé inteligence za čistě lidská.
Lze se proti zmíněným rizikům pojistit ještě jinak?
Především bych doporučoval vždy pečlivě prostudovat licenční podmínky poskytovatele AI generátoru. Ověřit, zda umožňují komerční využití vygenerovaných děl a za jakých podmínek. A pokud tyto podmínky nejsou jasné, kontaktovat poskytovatele a vyjasnit si rozsah oprávnění.
Rozumné je také zvážit placené verze či licence AI nástrojů, které často poskytují širší práva k užití. Pokud si firma nechává dílo vytvořit na zakázku externím uživatelem, je důležité smluvně zajistit převod či licenci potřebných práv. Ve smlouvě je nutné specifikovat rozsah a účel užití díla, odpovědnost za vady a škody, garance původnosti díla, odměnu autora a podobně.
S tím pak souvisí i prověřování a schvalování obsahu.
Jak konkrétně?
Je vhodné zavést interní proces kontroly a schvalování před použitím generovaného obsahu: aktivně prověřovat, zda neporušuje cizí práva, není nevhodný či zavádějící. Pomoci mohou nástroje pro ověřování originality obsahu a detekci plagiátů.
Pokud jde o komerční pojištění odpovědnosti, je pak namístě zvážit sjednání pojištění odpovědnosti za škody způsobené užitím AI generovaného obsahu. Je nutné si ale ověřit, zda stávající pojistky pokrývají tato specifická rizika.
Jak mohou firmy naopak chránit svá díla vytvořená umělou inteligencí, aby je nikdo nepoužíval dál?
I když je situace ohledně autorskoprávní ochrany děl vytvořených umělou inteligencí stále nejasná, lze především správně nastavit licenční ujednání s poskytovatelem AI. Firma by měla mít smluvně ošetřeno, že získala výhradní či nevýhradní licenci k užití těchto děl a že poskytovatel AI nebude díla licencovat dalším osobám.
Co obchodní tajemství?
Jeho ochrana s tím souvisí. Pokud firma považuje AI díla za své obchodní tajemství (např. interní dokumenty, strategie apod.), může jejich ochranu řešit pomocí dohod o mlčenlivosti se zaměstnanci a obchodními partnery.
Důležitá je také technická ochrana díla. Firma může chránit svá díla pomocí technických prostředků, jako je šifrování, vodoznaky, omezení přístupu apod. Tím ztíží jejich neoprávněné užití a šíření třetími osobami.
Mezi prostředky ochrany lze zahrnout i zmiňované důsledné uvádění zdroje. Pokud firma díla zveřejňuje, měla by u nich vždy uvádět, že vykonává práva k tomuto dílu. To může odradit třetí osoby od neoprávněného užití a dát jim najevo, že firma bude svá práva vymáhat.
Nakolik jsou nároky prakticky vymahatelné?
Je třeba zdůraznit, že jde o poměrně novou a právně nejistou oblast, kde zatím neexistuje ustálená praxe a judikatura. Přesto je vhodné monitorovat, zda díla někdo neužívá bez oprávnění, a v případě, že ano, žádat o stažení díla – případně se domáhat bezdůvodného obohacení a náhrady škody. Kromě porušení autorských práv se může se jednat také o nekalosoutěžní jednání, a za určitých podmínek i o trestný čin.
Je pro firmy z hlediska autorského práva rozdíl, zda si nechávají generovat obraz nebo text?
Z hlediska autorského práva v současnosti ne. Nicméně v praxi mohou být určité rozdíly v prokazování autorství. U fotografií může být snazší prokázat, že jde o výtvor umělé inteligence, například pomocí metadat, specifických znaků generovaných obrazů a podobně.
U textů je prokazování složitější, protože pokročilé jazykové AI modely dokážou generovat texty k nerozeznání od lidských. A neexistuje zatím jednoduchý způsob, jak generovaný text identifikovat.
Na druhou stranu, u textů je riziko neúmyslného plagiátorství vyšší než u obrázků, protože jazykové AI modely se trénují na obrovském množství existujících textů a mohou reprodukovat delší úseky pouze z trénovacích dat. U obrazových AI je toto riziko o něco nižší, protože modely spíše napodobují styl trénovacích obrázků, než že by vytvářely kopie.
U obrazu už navíc existují pokročilé nástroje pro detekci AI původu, které dokážou generované obrázky odhalit s vysokou přesností.
Nakolik už firmy generativní umělou inteligenci využívají?
Využívání roste rychle, ale přesto jde zatím o menšinový trend. Hodně záleží na typu firmy, její strategii a povědomí o umělé inteligenci – ukazuje se, že právě to je v českých firmách stále na relativně nízké úrovni. Firmám často chybí odvaha nebo informace o výhodách a možnostech AI.
Důležité pro firmy je nastavit si správnou datovou strategii, tedy určit, jaká data a za jakým účelem se budou ve firmách shromažďovat. Nezbytné je také školit zaměstnance a seznamovat je s výhodami, ale i riziky umělé inteligence.
Setkal jste se už se sporem vyplývajícím z této problematiky?
Přestože právní spory týkající se umělé inteligence probíhají hlavně v zahraničí, především ve Spojených státech, i v českém právním prostředí se již objevily. Vloni například Městský soud v Praze řešil žalobu na určení, zda je žalobce autorem grafiky vytvořené prostřednictvím AI.
Jak tehdy rozhodl?
Žaloba byla soudem zamítnuta, spolu s nárokem žalobce na odstranění grafiky z webových stránek, kde byla zveřejněna, a s nárokem, aby bylo žalovanému zakázáno jakékoli jiné jednání, při němž by došlo k ohrožení nebo zasahování do práv žalobce jako autora předmětné grafiky.
Soud uvedl, že vyobrazení vzniklo prostřednictvím umělé inteligence, a ta sama o sobě nemůže být autorem. Neuznal argument, že obrázek byl vytvořený podle konkrétního zadání člověka, a uzavřel, že daný obrázek vytvořený umělou inteligencí vůbec není autorské dílo, natož autorským dílem žalobce.
Právě proto, že jej nevytvořil člověk.
Ano. Jde zatím spíše o ojedinělý případ, ale dá se očekávat, že s masovým rozšířením generativní AI bude sporů rychle přibývat.
V dubnu by měl být schválen nový takzvaný Aktu EU o umělé inteligenci. Bude mít vliv na vyžití generativních systémů z hlediska autorských práv či ochrany osobních údajů?
Účelem je nastavit pro vývoj, uvádění na trh, uvádění do provozu a používání systémů umělé inteligence jednotná pravidla v rámci Unie. Ve vztahu k ochraně duševního vlastnictví by měli poskytovatelé AI modelů zavést politiku dodržování právních předpisů Unie v oblasti autorského práva a práv s ním souvisejících. To znamená, že každý by měl tuto povinnost splnit bez ohledu na jurisdikci, ve které působí.
Jak konkrétně?
Zejména v zájmu zvýšení transparentnosti dat, která se používají v předběžném trénování a trénování obecných modelů AI, včetně textů a dat chráněných autorským právem, by měli vypracovat a zveřejnit dostatečně podrobné shrnutí obsahu, tedy takzvané trénovací množiny, kterou pro trénování tohoto modelu použili.
Zároveň má AI Act má za cíl zajistit ochranu základních práv včetně ochrany osobních údajů. Systémy klasifikované jako vysoce rizikové budou podléhat přísnějším požadavkům a jejich poskytovatelé a uživatelé budou muset implementovat vhodná technická a organizační opatření k ochraně osobních údajů.
I když by se měl Akt o umělé inteligenci uplatňovat až od roku 2026, firmy udělají nejlépe, když obrázky nebo jiné výtvory umělé inteligence začnou zřetelně označovat už dnes.
