Herní platforma Roblox čelí v poslední době vlně kritiky kvůli údajně nedostatečné bezpečnosti dětí. Zejména poté, co zablokovala uživatele, jenž se označuje za lovce dětských predátorů. To vyvolalo odpor části hráčů, žalobu generální prokurátorky státu Louisiana a také výzvu amerického demokratického kongresmana Ro Khanny, aby platforma lépe chránila svoji početnou komunitu dětských uživatelů.
Vše začalo v momentě, kdy videoherní platforma Roblox na svém webu zveřejnila obsáhlé prohlášení, v němž obhajuje zákaz takzvaného „vigilantismu“, tedy praxe, kdy se sami uživatelé na platformě snaží dopadat dětské predátory. Podle firmy tito uživatelé podnikali kroky, které jsou nepřijatelné, a vytvářejí pro uživatele nebezpečné prostředí.
Společnost sice uznala, že tito uživatelé jednali s dobrým úmyslem, ale dodala, že se jejich chování vyvinulo do podoby podobné skutečným predátorům, když se začali vydávat za děti a aktivně vyhledávali kontakt s dospělými. Roblox místo toho vybízí k hlášení podezření prostřednictvím jeho moderátorských nástrojů.
Roblox začal rovněž zavádět moderátorský nástroj využívající umělou inteligenci, která má v uživatelských chatech identifikovat jazykové vzorce a signály možného zneužívání dětí.
Platforma v souvislosti s novými pravidly zablokovala youtubera s uživatelským jménem Schlep, který ve svých videích na platformě vyhledává a odhaluje dětské predátory. Dvaadvacetiletý hráč z Texasu má víc než milion odběratelů. Akcie společnosti se v pátek v reakci na kontroverze propadly o více než sedm procent.
Schlepovo nejsledovanější video ukazuje, jak se pod falešnou identitou mladého uživatele domluví na setkání s mužem, s nímž se seznámil na Robloxu, a na místě ho konfrontuje spolu s policií. Schlep na síti X tvrdí, že pomohl úřadům zatknout šest uživatelů Robloxu, kteří se jevili jako dětští predátoři.
Schlep na síti X zveřejnil údajnou výzvu k zastavení činnosti (cease-and-desist) od Robloxu, která mu oznamuje pozastavení účtů kvůli zapojování se do simulovaných rozhovorů o ohrožení dětí, sdílení či vyžadování osobních identifikačních údajů a směrování uživatelů k přesunu komunikace mimo platformu, což vše podle Robloxu porušuje jeho zásady.
Schlep na X označil prohlášení Robloxu za pobuřující s tím, že srovnávat kroky vigilantů s chováním predátorů je nepřijatelné.
Jeho zablokování vyvolalo na internetu hněv podporovatelů. Někteří protestovali přímo ve hře, kde se hráči sešli pod heslem „Free Schlep“ („Svobodu Schlepovi“). Schlep uvedl si kvůli krokům Robloxu najal právníka.
Schlep tvrdí, že když byl sám teenager, stal se na Robloxu obětí „groomingu“ ze strany uživatele, který mu posílal násilný a pornografický obsah. Roblox podle něj na stížnosti nereagoval, dokud jeho matka nevyhrožovala právními kroky.
co je to grooming?
Grooming je kriminální aktivita, jejímž cílem je pomocí psychické manipulace vylákat z oběti osobní údaje, vyvolat falešnou důvěru a vylákat ji na osobní schůzku, kde většinou dochází k fyzickému násilí, sexuálnímu zneužití, zneužití oběti pro dětskou prostituci, k výrobě dětské pornografie a podobně.
Tisková zpráva rovněž uvádí, že se na Schlepa obrátil Chris Hansen, bývalý reportér pořadu NBC Dateline, který vedl segment To Catch a Predator, s nabídkou spolupráce na chystaném dokumentu o dětské bezpečnosti na Robloxu.
Právní spor
Americký Kongresman Ro Khanna na TikToku uvedl, že Roblox nedělá dost proti predátorům, a na svém webu zveřejnil petici vyzývající platformu, aby více chránila děti.
Khanna pro americký Forbes sdělil, že od tvůrců i znepokojených rodičů slyšel o naléhavé potřebě, aby Roblox posílil ochranu dětí online. Dodal, že bude naslouchat a zkoumat, jaké kroky lze a je nutné přijmout.
Roblox řekl na oplátku americkému Forbesu, že je s Khannovým týmem v kontaktu a sdílí jeho závazek zlepšovat online bezpečnost a transparentnost, nicméně trvá na zákazu vigilantů a uvádí, že úzce spolupracuje s orgány činnými v trestním řízení, aby predátory činil odpovědnými.
Ke kongresmanovi se připojila i generální prokurátorka Louisiany Liz Murrill. Ta ve čtvrtek večer oznámila, že podala na Roblox u státního soudu žalobu s tvrzením, že platforma nedokáže ochránit děti před predátory.
„Roblox je zaplaven škodlivým obsahem a dětskými predátory, protože upřednostňuje růst počtu uživatelů, tržby a zisky před bezpečností dětí,“ uvedla Murrill.
Murrill zároveň uvedla, že policie minulý měsíc prohledala dům muže z okresu v Louisianě podezřelého z držení materiálů o sexuálním zneužívání dětí. Šlo údajně o uživatele Robloxu, který měl technologii měnící hlas tak, aby zněl jako mladá dívka.
Moderátorské zásady Robloxu jsou dlouhodobě předmětem kritiky, zejména kvůli velmi mladé uživatelské základně. Roblox ve své červencové výsledkové zprávě uvedl, že ve druhém čtvrtletí letošního roku měl 111,8 milionu denně aktivních uživatelů, z nichž 36 procent bylo mladších třinácti let.
Loňské vyšetřování agentury Bloomberg zjistilo, že policie ve Spojených státech od roku 2018 zatkla nejméně dvě desítky uživatelů obviněných z vykořisťování nezletilých prostřednictvím Robloxu, z toho sedm případů za posledních třináct měsíců.
Bloomberg citoval anonymní rozhovory s téměř dvěma desítkami zaměstnanců, včetně moderátorky, která uvedla, že její tým denně dostává stovky hlášení týkajících se dětské bezpečnosti. Dokonce až „příliš mnoho na to, aby je dokázali odbavit“.
Mluvčí Robloxu tato tvrzení pro Bloomberg odmítl s tím, že společnost má robustní zásobu bezpečnostních funkcí a že „desítky milionů lidí všech věkových kategorií mají na Robloxu každý den bezpečnou a pozitivní zkušenost“.
