O využívání AI ve firmách se dnes dočtete na každém rohu. Názory na ni jsou ale nyní mnohem smíšenější, než tomu bylo v době prvotního objevování a největšího nadšení. O tom, jak se skutečně žije s umělou inteligencí ve firmě a jaké měřitelné přínosy přináší, mluvíme s ředitelem divize Seznam AI Tomášem Perglerem.
Česká portálová jednička vlastněná miliardářem Ivo Lukačovičem má v současnosti v provozu kolem dvou desítek produktů a funkcí postavených na generativní umělé inteligenci. Se sumarizací neinzertních výsledků vyhledávaných dotazů dokonce na českém trhu předběhla Google, který svoji podobnou funkci, AI Overviews, uvedl v Česku až téměř o pět měsíců později.
Krom toho firma od roku 2023 tvoří rodinu vlastních velkých jazykových modelů SeLLMa, buduje vlastní AI serverovou infrastrukturu a v neposlední řadě se už téměř 30 let zabývá problematikou strojového učení.
A právě kolem těchto modelů se budou točit i naše první otázky. Název vznikl jako slovní hříčka ze slov Seznam a LLM (velký jazykový model) a navzájem se liší především svou velikostí, přičemž ten největší přiznaný disponuje 70 miliardami parametrů. Firma si na jejich trénink již dříve nakoupila stovky výkonných jader Nvidie, zaměstnala vývojem a tréninkem desítky zaměstnanců s podporou dalších několika set a utratila multimilionové částky.
Když přijde řeč na vlastní AI produkty Seznamu, kde vidíte jejich skutečně praktické přínosy?
V Seznamu se díváme na AI ve třech rozměrech. První a nejdůležitější je, jak s jejím využitím zlepšíme život uživatelům. V tomto ohledu je podstatný jak nově budovaný Seznam Asistent, kde uživateli pomáháme prostřednictvím konverzace, tak další funkce na jednotlivých službách napříč naším ekosystémem.
Druhým rozměrem je využití vlastní technologie SeLLMa a třetím pak efektivita našich zaměstnanců, která díky práci s AI roste.
Nejde většinou o samostatné produkty, nové funkce založené na AI postupně prostupují celým naším ekosystémem. Uživatelé se s nimi setkají například na domovské stránce, ve vyhledávání, v e-mailu, v našem prohlížeči nebo mobilní aplikaci.
Kde všude u vás uživatelé na AI narazí?
Například na domovské stránce shrnujeme články a trendující témata, která hýbou českým internetem. Uživatel si může udělat rychlý přehled o aktuálním dění a snáze se zorientuje.
Také vyhledávání prošlo výraznou proměnou. Dnes AI souhrny odbavují přes deset procent všech zadaných hledání a jejich pokrytí bude dále růst. Díky této funkci se nám zvýšil objem pozitivní zpětné vazby o 50 procent. Nově dáváme uživateli možnost se k zobrazeným výsledkům doptat Seznam Asistenta a jít v tématu do větší hloubky nad rámec původního dotazu.
Provoz vlastních LLM je až třikrát levnější než využívání externích modelů.
Na našich obsahových webech, hlavně Seznam Zprávy a Novinky.cz, nabízíme pomocí vlastních AI modelů a syntetických hlasů články v audioverzi, v diskusích k článkům na Lidé.cz sumarizaci témat, jež se v debatě objevují.
Z hlavičky domovské stránky je dostupná i naše nová služba Seznam Asistent, která je aktuálně v beta verzi. Konverzační rozhraní Seznam Asistenta umožňuje uživatelům lépe formulovat jejich požadavky.
Proč jste se rozhodli pro svůj vlastní AI model?
Vývoj vlastních velkých jazykových modelů SeLLMa vede k tomu, že veškeré informace budou zůstávat v České republice. Tyto modely pak učíme na českých ověřených textech a reáliích. Klademe důraz na lokálnost, tedy aby co nejvíce rozuměly českému prostředí, jazyku a uživatelům.
V neposlední řadě naše měření ukazují, že provoz vlastních LLM je až třikrát levnější než využívání externích modelů.
Využíváte uvnitř firmy také AI třetích stran?
Využíváme, ale prakticky jen ke zvýšení produktivity napříč pracovními pozicemi. Slouží jako nástroj, který našim zaměstnancům pomáhá některé činnosti výrazně zautomatizovat a práci až násobně zefektivnit.
Velký přínos vidíme rovněž ve využití AI při programování, díky němuž mohou i méně technické role vytvářet hotová řešení, ať už jako součást upřesnění zadání pro vývoj, nebo rovnou k nasazení do produkce. Vývojářům zase AI usnadňuje práci a za stejný čas dostanou do produkce víc hodnoty. Už teď je vidět, že AI nástroje přinášejí výrazný nárůst produktivity, takže ekonomicky to rozhodně dává smysl.
Jak se nasazení AI projevuje v číslech?
Kvalita Asistenta se každým měsícem zlepšuje. Poměr pozitivní uživatelské zpětné vazby už atakuje hranici 90 procent, což je pro produkt v raném stadiu vývoje skvělé. Očekávání ale rostou velmi rychle, takže držet tempo je klíčové a aktuální čísla nás nesmějí uspokojit.
U zlepšování efektivity pomocí AI nástrojů vidíme, že již teď, kdy jsme na začátku, máme asi o 40 až 50 procent vyšší výkon. Projekty, které bychom dříve dělali rok, nyní zvládáme za čtyři měsíce. Interní aplikace dokážeme zprovoznit v řádu dnů/týdnů, nikoli měsíců. Některé dříve lidmi tvořené anotace už zvládá AI levněji, rychleji a ve srovnatelné kvalitě.
Má Seznam jeden specializovaný AI tým, nebo více spolupracujících menších týmů napříč divizemi?
V podstatě všechny služby Seznamu napříč divizemi postupně využívají možnosti, jež jim nové technologie dávají, ke stavění lepších služeb pro uživatele. Velkou podporu v tom máme ve výzkumu, který se strojovému učení věnuje dlouhodobě.
Tam je týmů hned několik, nejen ty, které stavějí SeLLMu a hlasové technologie. Také máme významný a rostoucí tým, jenž vyrábí Seznam Asistenta. A v neposlední řadě tým, který podporuje adopci AI nástrojů pro zlepšení efektivity každého z nás napříč firmou.
Z inženýrů specializovaných na umělou inteligenci se v posledních letech stalo horké zboží, jakou strategii Seznam používá pro získávání a udržení AI talentů?
Lákáme AI talenty na kombinaci zajímavých dat a reálných projektů – od jednorázových ad hoc výzkumů po dlouhodobé oblasti, jako je LLM či zpracování řeči – podpořených silným hardwarem (stovky špičkových grafických karet) a možností rychle prototypovat i škálovat řešení.
Klíčová je kultura sdílení znalostí a vzdělávání, kde se lidé učí jeden od druhého a mají prostor růst. Pro udržení talentů pak hraje roli stabilní tým, jasně definované kariérní směřování s individuálním přístupem a plochá organizační struktura, díky níž mají odborníci reálný vliv na projekty i strategii firmy.
Investice do AI
Do konce roku 2024 společnost Seznam investovala do výzkumu a vývoje vlastních produktů, kam patří i rodina velkých jazykových modelů SeLLMa, přes 364 milionů korun. Firma si na jejich trénink již dříve nakoupila stovky výkonných jader H100 a L4 od Nvidie.
Jak vám zatím vycházejí přínosy umělé inteligence, když je porovnáte s náklady?
Celkově vnímáme AI jako dlouhodobou investici. Objem operací na interních modelech stále stoupá a v provozu je nasazených zhruba 60 aplikací. Počítáme, že investice do hardwaru a vývoje modelu se vrátí až s dlouhodobým používáním.
Klíčovým faktorem návratnosti je pro nás zvolený obchodní model a podoba reklamních formátů, které v rámci Seznam AI nasadíme. Už dnes máme k dispozici silný a osvědčený reklamní systém, na němž stavíme. Reklamu budeme postupně přesouvat z oddělených formátů do kontextu odpovědí.
Reklamu budeme postupně přesouvat z oddělených formátů do kontextu odpovědí.
Jaká je dlouhodobá vize Seznamu v oblasti umělé inteligence a jak AI zapadá do celkové obchodní a produktové strategie?
Uživatelé dnes chtějí řešit své potřeby rychle a bez zbytečné námahy. Tím, že se Seznamem mohou komunikovat přirozeným jazykem, lépe pochopíme, co potřebují, a pak jim podáme odpověď na míru jak pro konkrétní potřebu, tak postupně pro konkrétního jedince.
Máme výhodu, že disponujeme daty, k nimž se konkurenční AI chatboti dostanou hůře nebo vůbec.
V současnosti máme dvě větve postupu. Zaprvé uživatelům zlepšujeme zážitek na jednotlivých službách. To je například shrnutí článku na domovské stránce, úderné odpovědi ve vyhledávání s možností se dál doptat nebo shrnutí e-mailu. Ten druhý směr reprezentuje zatím jednoduchá možnost zeptat se Seznamu přímo na domovské stránce bez ohledu na službu, ze které čerpáme data. To je naše starost a uživatel ji řešit nemá.
Co konkrétně v AI oblasti Seznam chystá pro letošní rok?
Těch cílů je samozřejmě víc. U Seznam Asistenta je to zejména řádový růst ve frekvenci a míře využití, dále otestování monetizace, zatřetí integrace dat ze služeb Seznamu a nakonec zapojení Asistenta do našich služeb.
Letos by mělo jít zadávat dotazy Asistentovi hlasem a ten bude hlasem odpovídat. Konkrétní hlas aktuálně hledáme. Na to se velmi těším. Samozřejmě nás čeká i rozvoj našich modelů a technologií, abychom se v co největší míře opírali o vlastní řešení.
SeLLMa se kromě dalších kvalitativních vylepšení naučí pracovat s delším kontextem. Kromě produktových a technologických vylepšení se také soustředíme na efektivitu každého z nás a podporujeme adopci AI nástrojů pro produktové týmy, vývojáře i další části firmy.
Mění AI fundamentální obchodní model firmy?
Obchodní model Seznamu zůstane postavený na budování značky a výkonové reklamě, která přivádí konkrétní konverze. Výrazně se ale promění uživatelský zážitek. AI bude v nakupování fungovat jako osobní nákupní asistent a my doufáme, že Seznam Asistent se stane přesně tím místem, kde k téhle změně dojde.
Pomůže uživateli ujasnit si potřebu, vyhledá relevantní možnosti, pomůže doporučit nejlepší produkty a ukáže, kde je výhodné je koupit. To vše časem se znalostí kontextu uživatele. Díky tomu odstraní složitost, nejistotu i únavu z rozhodování. Komerční sdělení, která se v odpovědích objeví, musejí být stejně užitečná jako zbytek odpovědi.
Jaký podíl celkových firemních investic směřuje do AI technologií?
Konkrétní čísla ani řády vám s ohledem na povahu informací nemůžeme říct, ale trajektorie je obecně rostoucí. Už teď víme, že s ohledem na vzrůstající interní využívání SeLLMy bude potřeba dokoupit grafické karty.
Do většiny našich služeb zapojujeme umělou inteligenci k vytváření nových funkcí či k vylepšení těch stávajících. To často realizují existující týmy, tedy investice napříč firmou roste, ale je to přesunem úsilí stávajících lidí a jen někdy zvětšováním týmů. Další investice směřují do nástrojů, které zefektivňují chod firmy. Očekáváme, že letos je budeme využívat násobně víc než doposud.
Řešíte nějak etiku a transparentnost u AI systémů?
Určitě, při trénování si pečlivě hlídáme, že splňujeme všechno stran autorských práv obsahu. Velmi dbáme na bezpečné výstupy pro uživatele. Máme na to virtuálního „securiťáka“, který kontroluje, že odpovědi Asistenta nejsou škodlivé. K tomu uživatele učíme, že AI se i tak může občas splést a nemá na ni slepě spoléhat. Asistent v maximální míře své odpovědi zdrojuje, aby si je každý mohl i sám ověřit.
Naše firma se řídí interní AI chartou, která shrnuje principy využívání i vývoj umělé inteligence – férově, transparentně a s důrazem na potřeby uživatelů, autenticitu obsahu a ochranu soukromí. A jako jedni z prvních na trhu jsme si vytvořili kodex na využívání AI v rámci obsahu, jímž se řídíme.
Dopadá nějak na Seznam při jeho současném využívání AI evropský AI Act?
AI Act pochopitelně dlouhodobě sledujeme. Jako celý trh. Klíčové oblasti, na něž se soustředí, jsou však zatím v souladu s tím, jak k AI sami přirozeně přistupujeme. Třeba transparentnost a označování AI obsahu. Takže nám moc potíží zatím nedělá. Chápeme důvody jeho vzniku, a byť stále obsahuje řadu nejasností, snažíme se v maximálním rozsahu dodržovat principy a povinnosti, které z něho vyplývají.
