Sex prodává. Právě na starou prodejní poučku hodlá vsadit firma stojící za nejpopulárnějším chatbotem. OpenAI plánuje u ChatGPT zavést verzi pro dospělé, jež umožní sexuálně explicitní konverzace. Šlo by o překročení hranice, které se zatím až na jednu výjimku velká jména v oblasti umělé inteligence vyhýbají.
Pomůže s vařením i počítáním, vytvoří obrázek na míru a od minulého roku pomáhá s nákupy. Paleta schopností ChatGPT by se však měla ještě více rozšířit. Další zastávka: diskuze s hvězdičkou.
Původně plánovala společnost OpenAI rozšířit chatbota o režim pro dospělé v prvním čtvrtletí letošního roku. Už je však jisté, že k tomu nedojde. Firma tento měsíc oznámila, že spuštění verze 18+ odkládá. Přednost dostaly úkoly, „které jsou nyní důležitější pro větší počet uživatelů“.
Společnost však jasně uvedla, že jej nakonec plánuje vydat. „Stále věříme v princip zacházení s dospělými jako s dospělými, ale doladění uživatelského zážitku bude vyžadovat více času.“
Hlavní změna, kterou má nový režim přinést, je to, že by ChatGPT mohl vést s uživatelem sexuální konverzace bez cenzury. Tedy v zásadě umožňovat sex přes internet. Dnes chatbot nic takového nedovoluje.
Jak uvedl deník The Wall Street Journal, zavedení dospěláckého režimu prosazuje šéf společnosti Sam Altman. Jeho snaha o necenzurovanou verzi, o níž zatím není oficiálně známo, zda by byla přístupná jen platícím uživatelům, přichází v době, která je pro OpenAI náročná.
Její technologický náskok před konkurencí z oblasti umělé inteligence se zmenšil, navíc ani finančně to s firmou nevypadá dobře. Její interní odhady podle serveru The Information počítají s tím, že v letošním roce skončí firma ve ztrátě čtrnáct miliard dolarů. Do zisku by se měla dostat až v roce 2030.
S nápadem umožnit populárnímu chatbotovi sexuálně explicitní konverzace (obrázky i videa s takovým obsahem by nadále nebyly možné) přitom už loni Altman narazil u poradců OpenAI pro duševní pohodu a umělou inteligenci. Přesto ve vývoji nadále pokračoval.
Na dalším setkání letos v lednu tak byli poradci rozzuřeni. Podle The Wall Street Journal varují mimo jiné před tím, že by si nezletilí uživatelé mohli najít způsoby, jak se dostat k sexuálně laděným chatům.
I proto společnost pracuje na vybudování systému, jenž bude predikovat věk uživatelů a zabrání tak dětem a mladistvým, aby se dostali k problematickému obsahu.
Rozšířené možnosti chatbota však mohou být rizikové i pro dospělé. Jeden člen zmíněné rady OpenAI podle amerického deníku upozornil na případy, kdy si uživatelé ChatGPT vzali život poté, co si s chatbotem vytvořili intenzivní vazby. Proto také poradce prohlásil, že firma riskuje vytvoření „sexy kouče sebevražd“.
Pozor na digitální vztahy
Nemusí přitom nutně dojít až k tak černým scénářům, aby popuštění uzdy chatbota mohlo být problémem pro lidstvo. „Rozhodnutí OpenAI není jen o změně nastavení filtrů, jde v podstatě o masivní psychologický experiment s lidskou intimitou v přímém přenosu,“ říká psycholog Gabriel Kňažek z Filozofické fakulty Univerzity Palackého v Olomouci.
Pro jedince se sociálními fobiemi nebo hlubokými traumaty přitom nový režim může podle odborníka na chvíli působit jako bezpečný přístav – místo, kde se konečně nemusí stydět.
Jenže v okamžiku, kdy dostanou do rukou nástroj, který jim poskytne absolutní uznání bez jakéhokoliv rizika odmítnutí, vzniká svět, jemuž nemůže ten reálný konkurovat. A to je problém.
„Pokud si někdo zvykne na digitální ‚vztah‘, kde mu protistrana nikdy neřekne ne a v každém detailu se mu přizpůsobí, jeho sociální a ‚emocionální svalstvo‘ nevyhnutelně začne atrofovat (zmenšovat se – pozn. red.),“ varuje psycholog.
V praxi je přitom podle něj klíčové pro zdravý život naučit se snášet frustraci a odlišnost partnera. Umělá inteligence místo toho nabízí bezstarostný prostor, kde uživatel místo konfliktu nalezne submisivní přístup.
„Pokud se naučíme přistupovat k intimitě jako ke službě, která je dostupná na požádání a bez nutnosti brát ohled na druhou stranu, přeneseme tento model i do reality,“ upozorňuje Gabriel Kňažek. Jenže v ní bude člověk s takovým přístupem logicky při seznamování a budování vztahu narážet.
„V dlouhodobém horizontu tak paradoxně riskujeme, že místo řešení osamělosti dostaneme jen velmi přesvědčivou, ale naprosto prázdnou ozvěnu sebe samých, která nás v izolaci ještě víc uzavře do sebe,“ shrnuje Kňažek.
Miliardoví společníci
Dosud se většina nejpopulárnějších chatbotů, tedy Gemini, Claude, Perplexity, Copilot nebo DeepSeek, držela v případě sexuálních témat při zemi a explicitní obsah mají jejich umělé inteligence zapovězené. Jedinou výjimkou je Grok od společnosti xAI nejbohatšího člověka planety Elona Muska.
Ten má oproti jiným mainstreamovým modelům uvolněnější pravidla pro platící uživatele. Nedělá mu potíže mluvit sprostě ani psát peprně i v případě sexuálních témat.
Někde možná až příliš, jak ukázal případ slavistické fanynky na s Grokem propojené sociální síti X. Na její výzvu „Jak bys mě popsal? Neboj se být explicitní a sprostý,“ reagoval chatbot tak, že by se možná začervenali i autoři pornografické literatury.
Grok byl v minulosti globálně kritizován za to, že umožňoval svlékat skutečné lidi na fotkách (generovat jejich nahotu).
Až po tlaku veřejnosti i třeba britské vlády tuto funkci omezil. Elon Musk tento měsíc uvedl, že Grok bude moci generovat obsah, který je „povolen ve filmech s ratingem R“. Ty mohou obsahovat násilí, vulgarity či nahotu.
Zatímco velké technologické společnosti se až na tu Muskovu držely v případě sexualizovaného obsahu u zdi, menší firmy jako například Character.AI rozjely chatboty, které s uživateli navazovaly intimní vztahy, a také pronorgafický průmysl se AI ujal.
Obecně jsou pak AI společníci, nejen ti se sexuálním obsahem, velice populární a firmám, které je nabízejí, přinášejí stále více peněz, jak ukazála analýza společnosti Appfigures.
Za první pololetí loňského roku vygeneroval trh s virtuálními kamarády či milenci 82 milionů dolarů, tedy v přepočtu zhruba 1,8 miliardy korun. Pro celý rok byl pak odhad 120 milionů dolarů, což je 2,6 miliardy korun.
Investiční společnost Ark Invest pak předpovídá, že trh AI společníků dosáhne do konce dekády globálních ročních příjmů přes sedmdesát miliard dolarů, tedy více než jeden a půl bilionu korun.
