Spojenými státy v těchto dnech otřásl děsivý skandál. Američan Drew Crecente přišel před osmnácti lety o dceru, která byla brutálně zavražděna. Neznámý pachatel nyní vytvořil nového chatbota na platformě startupu Character AI a použil při tom její jméno a fotografii. Character AI patří mezi takzvané jednorožce, tedy firmy s tržní hodnotou přesahující jednu miliardu dolarů.
Drew Crecente naposledy mluvil se svou dcerou Jennifer Ann Crecente 14. února roku 2006. O den později byla tato studentka posledního ročníku střední školy zavražděna svým násilnickým expřítelem. Ten byl později za svůj zločin odsouzen a v současné době si odpykává trest ve vězení.
V tomtéž roce založil Crecente jménem Jennifer neziskovou organizaci, jež se zaměřuje na prevenci násilí ve vztazích mezi dospívajícími. Dodnes také pravidelně sleduje veškeré mediální výstupy, které se jeho zavražděné dcery týkají. Když mu ale před pár dny přišlo upozornění od Googlu, že na populární platformě Character AI někdo vytvořil chatbota s podobiznou Jennifer, byl naprosto zděšen.
„Truchlící otec by se neměl dozvědět, že jeho mrtvou dceru někdo využívá k tomu, aby se snažil vydělat peníze prostřednictvím chatbota na nějaké webové stránce,“ sdělil Crecente Forbesu. „Překračuje to veškeré hranice a je to nepřijatelné chování,“ dodal.
Zoufalý muž se obrátil na tým podpory společnosti Character AI a obdržel automatickou odpověď, že jeho stížnost je přezkoumávána jejími zaměstnanci. Cassie Lawrence, mluvčí Character AI, následně v prohlášení pro Forbes uvedla, že společnost chatbota z webu odstranila kvůli porušení zásad o vydávání se za někoho jiného a nyní zkoumá, zda je potřeba podniknout další kroky.
Společnost Character AI byla založena v roce 2022 a využívá chatovací roboty různých osobností, jako je například zpěvačka Taylor Swift nebo miliardář Elon Musk. Jejích zhruba dvacet milionů aktivních uživatelů měsíčně – převážně mladých lidí mezi třinácti a pětadvaceti lety – vytvořilo již sto milionů chatbotů a vedlo s nimi miliony konverzací.
Kromě chatbotů celebrit a významných osobností mají jedny z nejoblíbenějších postav jména jako „bývalá přítelkyně“ a „psycholog“. V některých případech teenageři uvedli, že se na produktu společnosti stávají závislými a tráví dlouhé hodiny rozhovory s jejími fiktivními postavami.
Character AI kdysi patřila k nejžhavějším startupům v oblasti umělé inteligence a v březnu 2023 vydělala 150 milionů dolarů při ocenění ve výši jedné miliardy dolarů. Podle amerického deníku Wall Street Journal si firma musela znovu hledat své místo poté, co Google letos v srpnu přetáhl do svých řad jejího spoluzakladatele a generálního ředitele Noama Shazeera a dalších třicet zaměstnanců Character AI. Google si také licencoval technologii společnosti za neuvěřitelných 2,7 miliardy dolarů.
Prozatímní šéf startupu Dominic Perella řekl britskému listu Financial Times, že firma plánuje přestat vyvíjet modely umělé inteligence, respektive odstoupit ze závodu ve vytváření drahých špičkových modelů a konkurovat titánům, jako jsou OpenAI či Anthropic. Místo toho se hodlá soustředit na svůj vlajkový spotřebitelský produkt.
Chatbot Jennifer Crecente se v popisu označoval jako „inteligentní a přátelská postava Al, která dokáže poskytnout informace o široké škále témat, včetně videoher, technologií a popkultury“.
Není jasné, kdo chatbota vytvořil bez vědomí a svolení dívčina otce. Crecente se domnívá, že společnosti jako Character AI by měly být právně odpovědné za monitorování a prevenci takových případů. „Neměl bych to být já, kdo firmu, která má stovky milionů dolarů, hlídá,“ postěžoval si.
„Zdá se, že mnohé z těchto společností si neuvědomují odpovědnost, kterou mají nejen za to, že se musí vypořádat s negativními dopady používání svých technologií, ale také za to, že je v první řadě nutné zabránit tomu, aby k takovému zneužití došlo,“ uzavřel Crecente.
