skip to main content
Future

Deepfake videa vám můžou zničit život. Čínský gigant Tencent v nich přesto vidí budoucnost

3 minuty čtení

Patří mezi čínskou tech trojku, a navrch stojí za nejpopulárnější čínskou sociální sítí a komunikační platformou WeChat, která má přes miliardu uživatelů. Tencent je vedle Alibaby a Weiba největší technologickou společností v Číně a minulý týden svou hodnotou předskočil i Facebook: tržní kapitalizace Tencentu přesáhla 660 miliard dolarů.

Vyplatí se tedy poslouchat, co 21 let fungující společnost říká. Obzvlášť když její vedení mluví o něčem tak kontroverzním, jako jsou deepfakes, s pomocí umělé inteligence vytvářená falešná videa, která se můžou šířit jako neškodná zábava, pomáhat při vytváření fake news anebo rovnou lidem ničit životy. Tencent přitom o těchto videích mluví ve velkém stylu.

Čínský gigant v posledních letech pracuje na komercializaci různých pokročilých aplikací technologie deepfakes. Věří totiž, že v segmentu umělé inteligence leží zlaté vejce – a oni chtějí být těmi, kteří ho vycashují.

A co to vlastně jsou deepfakes? Napoví úvodní fotografie z filmu Sám doma, ve kterém opravdu nehrál Sylvester Stallone. Deepfakes jsou ve zkratce opravdoví lidé na falešných videonahrávkách, které vypadají dost realisticky na to, aby jim člověk na první pohled uvěřil. Ve skutečnosti jde však o konstrukt z digitálního světa nekonečných možností, kompletně vymodelovaný počítačem pomocí metody deep learningu: strojového učení v sítích umělé inteligence.

Ne, tento projev skutečný Barack Obama nepronesl.

Ve své AI strategii Tencent zdůrazňuje, že strojové učení a neuronové sítě ve službě deepfakes technologií „nejsou pouze o klamání diváka a podvodném obsahu“, i když čínská firma uznává, že umělá inteligence dokáže škodit. To se momentálně děje především na poli deepfake pornografických videí, do kterých za pár dolarů může kdokoli vložit klidně i vaši tvář a výsledek bude vypadat důvěryhodně.

Tencent ale tlačí na čínské úřady, aby kvůli špatné pověsti nezatracovaly samotnou technologii. Ta je „vysoce tvůrčí a skutečně průlomová“, jak se píše ve strategickém materiálu firmy, nabádajícím regulátory, aby v případě deepfake technologií postupovali rozvážně a ohledně jejich zákazu vzali v úvahu taky jejich benefity.

Korporátní newspeak přeložený do češtiny? Tencent se chystá na deepfakes založit byznys. Ve své AI strategii uvádí společnost hned pět příkladů, co deepfake technologie dokáže už teď – na té správné straně zákona a před hranou morální šedé zóny.

Třeba na stříbrném plátně, ať už jako technologie pro filmování se zemřelými herci (použité například ve filmu Rychle a zběsile 7), nebo pro snazší natáčení nebezpečných scén, kdy na obličej kaskadéra počítač prostě domodeluje tvář herce, za kterého odvážlivec zaskakuje.

Reklama
Jak by vypadalo, kdyby Jacka Nicholsona ve slavném hororu nahradil Jim Carrey?

Deepfake technologie umí vytvořit i tzv. fake fakes, tedy počítačem vymodelované avatary, kteří nemají tvář žádného skutečného člověka a jejich vzhled je kompletně vytvořený umělou inteligencí. Toho už dnes využívá třeba módní průmysl, který jednak počítačově generuje modely a modelky pro některé kampaně, ale brzy plánuje umožnit online nakupování 2.0, kdy si vytvoříte svého vlastního avatara a na něm pak virtuálně zkoušíte oblečení, které se vám líbí.

Podobné využití se nabízí také v počítačových hrách nebo při sledování filmů, kde byste si díky technologii záměny tváře mohli zahrát svou oblíbenou postavu. Něco takového už ostatně celkem věrně zvládá třeba čínská aplikace Zao.

Ještě bohulibější užití deepfake technologií se nabízí při generování vlastního hlasu pomocí strojového učení, který na základě krátké nahrávky dokáže vytvořit kompletní řečovou databázi pro pacienty, kteří o svůj hlas třeba kvůli vážné nemoci přišli.

Věrnost deepfake výsledků doposud závisí na kvantitě i kvalitě vstupních dat, ale vývojáři ze Samsung AI centra v Moskvě loni vyvinuli neuronovou síť, která dokázala vytvořit celkem věrohodné pohyblivé portréty i z omezených předloh – stačila jim třeba profilová fotka z Facebooku. Navíc dnes na webu snadno najdete hned několik jednoduchých aplikací, ve kterých si takové deepfake video můžete klidně vyrobit sami, a to dokonce i online, bez nutnosti instalace či kompilování kódu.

Kouzla s videem už nejsou výsadou hollywoodských studií s milionovými rozpočty. Teď to za vás udělá algoritmus. No a když nemáte čas, znalosti nebo výkonný počítač, můžete si až děsivě kvalitní deepfakes jednoduše objednat na různých sítích od 20 dolarů za video.

Kde se vlastně deepfakes vzaly? Hlavní roli hrálo… porno. Pornografické fotomontáže celebrit a pornodvojníků na videích byly na vzestupu už od 90. let – ale teprve s rozvojem umělé inteligence dosáhly dalšího levelu. Zlom přišel v prosinci 2017, kdy se poprvé objevily u anonymního uživatele na Redditu, který sám sebe označoval přezdívkou Deepfakes.

Na otevřené online platformě ukazoval, jak používá algoritmy hlubokého učení k tomu, aby digitálně vyměnil tváře pornoherců za obličeje celebrit. Reddit sice pornografický obsah i účet zveřejňující konkrétní postupy smazal, ale na jiných fórech se rychle rozjela vlna napodobovatelů. Ti jeho postupy díky volně šiřitelnému kódu dál rozvíjeli a rozšiřovali možnosti ohýbání reality. Fenomén deepfakes tak dostal konkrétní tvář.

Reklama
Reklama
Reklama
Reklama