Vzpomínáte na začátek prosince, kdy sociální sítě náhle zaplavily úžasně propracované digitální portréty? Definici pojmu virální tehdy do písmene naplnil nový nástroj aplikace Lensa AI, který na základě pár selfíček udělal z jejich autora či autorky extrémně realistického superhrdinu, kyborga nebo třeba rockovou hvězdu.

Lensa dokázala na svých „magických avatarech“ vydělat během několika dnů miliony dolarů. Příliš dlouho se však na výsluní neudržela. S exponenciálně rostoucím počtem stažení aplikace přibývaly také stížnosti na umělou inteligenci, která portréty kreslí. Má totiž tendenci přehnaně sexualizovat ženy nebo zesvětlovat tmavé odstíny kůže. A také vykrádá současné umělce.

V prvním prosincovém týdnu si Lensu stáhlo přes 5,8 milionu lidí po celém světě, což je minimálně mezi placenými aplikacemi mimořádný úspěch. Náhlý nárůst popularity i díky trendování na TikToku a Instagramu se rychle projevil na tržbách. Podle dat analytické společnosti Sensor Tower inkasovala Lensa AI ve druhém prosincovém týdnu přes dva miliony dolarů denně. Na absolutním vrcholu to bylo více než 2,5 milionu.

Ještě začátkem listopadu se přitom tržby pohybovaly kolem patnácti tisíc dolarů za den. Lensa však tehdy byla pouze takovým lepším Photoshopem s funkcemi typu retušování obličeje nebo rozmazávání pozadí. Pak přišla velice úspěšná sázka na lidskou marnivost – a začal prodej magických avatarů.

Během necelého týdne katapultoval Lensu v žebříčku nejvýdělečnějších aplikací v USA ze 161. příčky až na absolutní vrchol. S mírným zpožděním se podobný scénář opakoval i v dalších zemích. Soudě podle tržeb se lidé nabažili placených digitálních portrétů někdy ve druhé polovině prosince, kdy zájem opadl.

To už služba stihla minimálně na sociálních sítích znovu oživit debatu o umělé inteligenci a jejím loňském vpádu do světa umění a tvůrčích odvětví – debatu, ve které se kritikou rozhodně nešetří. Lensa AI je trnem v oku především umělcům a umělkyním, kterým vadí, že se umělá inteligence učila i na jejich dílech, aniž by k tomu dali jakékoli svolení.

Takový trénink může ve finále vynášet miliony, z nichž ale původní autoři a autorky nevidí ani cent. Ozvali se například australští tvůrci, kteří označili počínání Lensy za obyčejnou krádež. „Některé výtvory výrazně připomínají práci jiných umělců. Říkají tomu nové původní dílo, ale jde přitom o přesnou repliku stylu stejnými tahy štětcem, barvami a kompozicí,“ popisuje malířka Kim Leutwyler.

Jak vytváří Lensa AI své magické avatary?

  • Díky open-source projektu Stable Diffusion, což je volně dostupný nástroj na vytváření obrázků na základě textových pokynů.
  • Jádrem procesu je obrovský dataset, obsahující celkem 5,85 miliardy párů obrázek–text. Těmi se „krmí“ algoritmy strojového učení, a naučí se tak další miliardy kombinací, kterými lze obrázky a popisky propojovat. Postupně se vytváří takzvaná znalostní báze (knowledge base), gigantický soubor dat.
  • Umělá inteligence z něj dokáže po zadání smysluplných textových pokynů (promptů) vykreslovat bezpočet různých výstupů, podobně jako to umí platformy Midjourney nebo DALL-E od OpenAI.
  • Přidaná hodnota kouzelných avatarů od Lensy spočívá v tom, že aplikace dokáže využít znalostní bázi k tomu, aby zachytila a různě stylizovala rysy z fotografií uživatelů.

V datasetu, na kterém umělá inteligence trénuje své malířské schopnosti, jsou obrázky a fotografie ze všech možných zákoutí internetu. Včetně těch chráněných autorskými právy.

Autoři obří databáze, na které stojí i Lensa AI, argumentují tím, že nehromadí vizuální materiály, ale pouze indexy, tedy seznamy webových adres obrázků plus text, který k nim patří. Takové „luxování“ dat podle nich žádná autorská práva neporušuje.

Podle tvůrců Lensy jejich umělá inteligence rozeznává pouze „specifické vzory a spojení mezi obrázky a popisky, ne individuální umělecká díla“. Velice zjednodušeně řečeno, nebere si kompletní dílo a nedělá jeho repliku, pouze se inspiruje a osvojuje různé principy vytváření vizuálního obsahu. 

V tomto ohledu jim dávají za pravdu i zákony o autorském právu. Pokud ještě chvíli zůstaneme v Austrálii, tamní legislativa jasně praví, že na jednotlivá umělecká díla se copyright vztahuje, ale na stylistické prvky a nápady, které je tvoří, už ne. Stejná pravidla platí již přes padesát let také v USA.

Problémem je, že tvůrci nemají prakticky žádnou možnost vyřazení svých děl z tréninkových datasetů pro sofistikované algoritmy – to by nesměli svá díla umísťovat na internet. Teoretickou šanci mají v tomto směru jen občané Evropské unie, na které se vztahuje GDPR. Pokud v datasetu objeví soubor se svými osobními údaji, mohou požádat o jeho stažení.

Vykrádání lidského duševního vlastnictví však není jediným problémem portrétů od umělé inteligence. Nástroj na kouzelné avatary od Lensy někdy umí být docela rasista. Například desítka uživatelek tmavé pleti se svěřila serveru Wired, že jim vybělil pokožku.

Četné stížnosti přicházejí od žen také na to, že je umělá inteligence na portrétech svléká, přestože si je nechávají generovat na základě selfíček, kde jsou plně oblečené.

„Upozorňujeme, že příležitostná sexualizace je pozorována napříč všemi genderovými kategoriemi, i když různými způsoby. Model Stable Diffusion byl trénován na nefiltrovaném internetovém obsahu. Odráží tedy předsudky, které lidé promítají do obrazů, které vytvářejí,“ reagovali tvůrci Lensa AI.

Kvůli výtkám zavedli podle svých slov nové bezpečnostní prvky, které mají do budoucna zamezit vytváření obsahu, označovaném v internetovém slangu zkratkou NSFW (not safe for work, nevhodný do práce).