Pravda, dezinformace, nebo čirá lež? Na internet denně přibývají neuvěřitelná kvanta informací, například jen na Facebooku uživatelé denně zveřejní téměř pět miliard příspěvků. A i když člověka zajímá jen malý zlomek z nich, je těžké a časově náročné zjistit, kterým z nich se dá věřit.
Pomoci s tím má software české společnosti Cogniware na rozpoznávání fake news. Funguje na bázi umělé inteligence, která se učí rozeznat relevantní informaci od dezinformace i čiré lži.
Není to navíc žádná hudba budoucnosti. Projekt je už v tuto chvíli reálně nasazen, implementován a je v provozu. Prvního klienta česká společnost našla ve Spojených arabských emirátech a i díky tomu loni dosáhla obratu 37,2 milionu korun.
Teď firma hledá další zákazníky. Typickým klientem je pro Cogniware kupříkladu někdo typu tuzemského ministerstva vnitra, které nicméně prozatím zájem neprojevilo. Cena softwaru se pohybuje ve vyšších desítkách milionů korun.
Foto Cogniware
Walter Pavliš
Pryč jsou časy, kdy vývojáři na zakázku naprogramovali software a tím bylo, až na případné drobnější aktualizace, hotovo. Systém na rozpoznávání fake news není něco, co by se někam položilo a pak už to jen samo fungovalo.
Naopak: tento projekt neustále roste, jak připomíná obchodní ředitel Cogniware Walter Pavliš. „Poté, co se taková věc vyrobí, natrénuje a nasadí, nadchází ještě dlouhé období, řekněme půl nebo tři čtvrtě roku, kdy klient systém dál učí a ladí ho pro své potřeby,“ vysvětluje.
To v praxi vypadá tak, že algoritmus vyhodnocuje všechny zprávy, které přicházejí například ze sociálních sítí, a automaticky se snaží vyhodnotit, zda se jedná o dezinformaci, nebo ne. „Do toho se ale musí zapojit lidé, kteří systém doučují tak, aby byl schopen rozpoznat fake news a správně je vyhodnotil,“ dodává Pavliš.
Nelze tak očekávat, že takový software se nasadí a z čisté vody začne fungovat na jedničku. Obzvláště pokud se má specializovat.
„Do určité míry už natrénován je, ale je nutné jej nadále učit – ať už se jedná o konkrétní kulturní prostředí, nebo o oblasti kriminality, phishingu, zdravotnictví, vojenství či politiky. Ve finále umí systém dát správné doporučení – řekněme že na škále od nuly do stovky upozorní, která zpráva se blíží dezinformaci. Finální rozhodnutí je ale na člověku. A od něj se systém dál učí,“ popisuje obchodní ředitel.
Foto Cogniware
Chceme-li se podívat trochu pod kapotu antifakenewsové mašiny, pracuje systém Cogniware v základu se dvěma modely. Jeden analyzuje obrazové informace a rozpoznává charakteristické vnější prvky definující fake news.„Dezinformace mají například často takový charakter, že se v nich používají kapitálky, vykřičníky či velká písmena v nadpisech,“ vysvětluje Pavliš.
„Druhou oblastí je pak to, jak se zpráva šíří – jak na ni jednotliví příjemci reagují, kam ji přeposílají a jak rychle se šíří,“ dodává. Což je podstatný ukazatel – pro dezinformace je charakteristické, že se šíří rychle jako blesk a často po specifických webech.
Systémy, které proti fake news v současné chvíli nasazují samotné sociální sítě jako Facebook, se však Walterovi Pavlišovi z Cogniware zdají spíše nefunkční. „Stále jdou velmi snadno obelstít,“ říká.
Jejich slabinou je podle něj lidský faktor. Na konci dne je totiž systém stále jen robotem, který vyrazí doprava, když má jít doprava, a doleva, když mu řekněte, aby šel doleva – a nebude řešit, že se řítí vstříc cihlové zdi. „Na konci toho procesu stále sedí člověk, který má v ruce volant,“ říká Pavliš i o vlastním systému proti fake news.
„Systém neobelžete, ale pokud by ho chtěl jeho vlastník potenciálně zneužít tak, aby označoval jako dezinformace něco, co dezinformace nejsou, tak je v jeho silách to udělat. Naučí-li ho například, že kampaň je lživá, i když není, systém ji tak začne označovat,“ uzavírá obchodní ředitel.
