Sociální sítě, jako je TikTok nebo Instagram, zaplavují reklamy na aplikace, které dokážou pomocí umělé inteligence vytvořit falešná videa, na nichž se lidé líbají, s kýmkoli chtějí.

Aplikace, které spustily společnosti Meta Platforms a ByteDance, umožňují uživatelům nahrát fotografie dvou libovolných lidí a nechat je umělou inteligencí převést na video, na kterém se tito lidé líbají. Obě firmy je propagují jako nástroje, které vám „umožní okamžitě políbit, kohokoli chcete“ – bez nutnosti souhlasu.

Podobně jako aplikace AI nudifier, která umí vytvořit deepfake pornografii bez souhlasu, vyvíjí umělá inteligence věrohodná videa lidí, kteří dělají něco, co neudělali. A fakt, že uživatelé sociálních sítí tyto nástroje vesele využívají, je znepokojující trend, který prakticky normalizuje deepfake snímky.

Ačkoli tyto reklamy neobsahují explicitní pornografii, mohou být podle Haley McNamary, výkonné pracovnice Národního centra pro sexuální vykořisťování, stejně nebezpečné jako příval erotického obsahu generovaného umělou inteligencí, který zaplavil sociální platformy, jako je Instagram, Reddit či YouTube.

„Nemusí to být explicitní, aby to bylo zneužívání,“ myslí si McNamara. „Pokud je společensky za hranou, když někomu děláte něco offline bez jeho souhlasu, líbáte se, svlékáte a tak dále, pak je za hranou, i když to děláte online,“ tvrdí expertka.

Podle zjištění Forbesu zobrazovala společnost Meta více než dva a půl tisíce reklam na „AI aplikace na líbání“ napříč Instagramem a Facebookem. V současné době je jich aktivních asi tisíc.

TikTok podle své reklamní knihovny zobrazil asi tisícovku reklam milionům uživatelů v evropských zemích. Většina těchto reklam zobrazuje líbající se celebrity, jako jsou herečky Scarlett Johansson, Emma Watson nebo Gal Gadot.

Jiné ukazují videa náhodných líbajících se lidí a hlásají, že umělá inteligence vám umožní „políbit svého bývalého“ či „políbit svou lásku“.

Není jasné, zda jsou jedinci na videích skuteční, nebo je generuje umělá inteligence. Johansson, Watson a Gadot na žádosti o komentář pro tento článek nereagovaly.

Aplikace na objímání

Společnost Meta miliardáře Marka Zuckerberga dále propaguje AI aplikace na objímání, jejichž reklamy ukazují videa vytvořená umělou inteligencí, kde se děti objímají s kreslenými postavičkami, jako je Mickey Mouse nebo Tom a Jerry.

Některé z nich, jako například video ukazující malou dívku objímající staršího muže, slibují rodičům, že aplikace poháněné umělou inteligencí by mohly jejich dětem umožnit „objímat prarodiče, které nikdy nepoznaly“.

Podle rešerše Forbesu vypustila Zuckerbergova firma kolem 1200 reklam na AI aplikace na objímání. Více než tři stovky z nich jsou stále aktivní.

Po sociálních sítích již kolují videa líbajících se a objímajících se celebrit generovaná umělou inteligencí. Video zachycující americkou zpěvačku Taylor Swift objímající severokorejského diktátora Kim Čong-una má na Instagramu asi třicet milionů zhlédnutí.

Koncem prosince se na sociální síti X virálně rozšířilo také deepfake video, na němž se líbají miliardář Elon Musk a italská premiérka Giorgia Meloni.

Mluvčí Mety Daniel Roberts Forbesu sdělil, že tyto reklamy na „AI aplikace na líbání“ neporušují zásady společnosti.

Ačkoli nahota, sexuálně explicitní a sexuálně sugestivní obsah jsou v rozporu s reklamními standardy firmy a Meta nepovoluje reklamy, které „zobrazují, obhajují nebo koordinují sexuální akty bez souhlasu stran“, videa s líbáním a objímáním jsou povolena.

ByteDance po kontaktování Forbesem reklamy odstranil, protože porušovaly zásady jeho sociální sítě. „Platforma pro sdílení videí vyžaduje, aby inzerenti získali souhlas veřejných nebo soukromých osob, které jsou v jejich reklamách zobrazeny, a to i v případě, že jsou reklamy generovány umělou inteligencí,“ uvedla pro Forbes mluvčí TikToku Ariane de Selliers.

Firmy, které stojí za těmito generátory videí, mají podle svých webových stránek sídla v zemích, jako jsou Spojené arabské emiráty, Itálie nebo Čína.

Deepfake proniká do mainstreamu

Aplikace jsou k dispozici zdarma v obchodech App Store od Applu a Play Store společnosti Google a mají již miliony stažení.

Funkce „AI líbání“ je součástí širšího souboru funkcí pro úpravu fotografií v aplikacích založených na umělé inteligenci, jako je retušování starých fotografií, přeměna statických snímků na videa a předpovídání, jak by vypadaly budoucí děti dvou lidí. Apple a Google na žádosti o komentář nereagovaly.

Šíření AI aplikací na líbání, podpořené viralitou sociálních sítí, ilustruje znepokojivý průnik deepfake videí do mainstreamu v éře generativní umělé inteligence.

Používání těchto zdánlivě neškodných aplikací by podle McNamary mohlo otevřít dveře nástrojům, které vytvářejí explicitnější snímky, jako je deepfake porno a další typy obrazového sexuálního zneužívání. „Je to jednoduše absolutní Pandořina skříňka,“ varuje.

„Tento trend normalizuje zneužívající deepfakes a bere nekonsenzuální účast na intimních nebo sexualizovaných snímcích jako vtip,“ doplňuje McNamara.

Je to věc, kterou je snadné banalizovat, když přemýšlíte o cizích lidech.

„Je to věc, kterou je snadné banalizovat, když přemýšlíte o cizích lidech. Ale když se zamyslíte nad tím, že někdo ve vašem vlastním okolí dělá takové záběry, někdo, u koho byste nechtěli, aby taková videa měl, myslím, že každý uzná, že se jedná o porušení práv,“ podotýká odbornice.

Je to obzvláště znepokojivé, když se nebývale zvyšuje počet nelegálních materiálů se sexuálním zneužíváním dětí generovaných umělou inteligencí. Za poslední dva roky obdrželo Národní centrum pro pohřešované a zneužívané děti (NCMEC) více než sedm tisíc hlášení o generování materiálů souvisejících s umělou inteligencí, které se týkají zneužívání dětí.

V jednom případě pedofil údajně natáčel děti v Disneylandu a použil populární nástroj AI Stable Diffusion k vytvoření tisíců jejich nelegálních snímků.

Díky neomezenému přístupu ke generátorům obrázků AI vytvořili dospívající středoškoláci v několika případech deepfake snímky nahých nezletilých spolužáků, přičemž některé z nich vedly k trestnímu oznámení.

Meta se také potýká s kontrolou reklam na takovéto obnažující stránky s umělou inteligencí, z nichž jedna podle zpravodaje Faked Up zaznamenala devadesát procent návštěvnosti pocházející z Instagramu a Facebooku.

Lidé, kteří se při procházení sociálních sítí setkali s reklamami na AI aplikace na líbání, tvrdí, že je považují za znepokojivé.

Například Alice Siregar začala loni v prosinci na TikToku pozorovat nárůst reklam na AI aplikace na líbání. Sama je analytičkou umělé inteligence v konzultační firmě a byla zděšena, když viděla, že se tato technologie používá značně neetickým způsobem. „Byl to neuvěřitelně děsivý pocit,“ popisuje.