Je používání AI ve firmách bezpečné? Jak si ohlídat, že si AI namísto skutečného shrnutí byznysových reportů nevymýšlí? Nejen o tom hovoříme s Markem Rabenem, technologickým ředitelem německého giganta na poli podnikových aplikací, společnosti SAP, pro region střední a východní Evropy.
O generativní umělé inteligenci jako zázračném korporátním supernástroji se už namluvilo opravdu hodně. Jenže reálné zkušenosti od lidí, se kterými se setkávám, jsou rozporuplné. Řada z nich zatím nevidí pro svou práci v generativní AI žádné výhody. Co byste jim na to řekl?
Hodnota generativní AI, a to napříč firemními odděleními, přichází vždy na dvou úrovních. Tou první je efektivita, tou druhou odlišení od konkurence. Mnohým lidem nedochází, jak přesně mohou velké jazykové modely vytěžit.
Začněme třeba tou efektivitou. Generativní umělá inteligence je obrovský skok v automatizaci. Díky umělé inteligenci mizí potřeba řídit každý proces v organizaci. Popravdě řečeno, osmdesát procent všech firemních procesů je dnes bez nadsázky možné díky AI nechat běžet bez zásahů člověka. Lidé se tak mohou soustředit pouze na výjimky z pravidla, což je obrovský nárůst efektivity.
Toto se týká prakticky každého oddělení ve firmě. Začít můžeme u HR, kde vám AI připraví relevantní otázky pro uchazeče a následně za vás projde stovky životopisů, pomůže vytvořit lepší profil pracovní pozice. Ve finančním oddělení AI pomůže optimalizovat extrakci peněz od zákazníků, protože odhalí neefektivity, které může lidský pracovník přehlédnout, nebo ochrání před podvody pomocí detekce anomálií, marketingu vyřeší kreativu a tak dále.
A to odlišení se od konkurence?
Na tento aspekt se občas zapomíná. Uvedu příklad našeho zákazníka Döhler, kterému umožnila generativní umělá inteligence dramaticky zrychlit reakce na zákaznické požadavky a prakticky okamžitě na ně odpovídat hotovým produktem, tedy relevantním receptem. Konkurence zatím nic podobného nedělá.
Firma Döhler se zabývá vývojem příchutí do jídel a nápojů s tím, že všechny její příchutě jsou založeny na přírodních ingrediencích. Dříve, když například přišel pivovar s tím, že potřebuje pro novou sezonu pivo, které bude mít citronovou příchuť, musí se vejít do takové a takové ceny, ale příchuť nesmí být dosažená chemicky, musel počítat s dostatečnou časovou rezervou, než dostal použitelný recept.
Dnes umělá inteligence prakticky lusknutím prstu vyplivne na jeden dotaz zadaný v přirozeném jazyce všechny dostupné recepty, které odpovídají zadání. Döhleru se v minulosti také často stávalo, že vyvíjel některé recepty znovu, protože to bylo rychlejší než procházet obrovské množství receptů, které již má ve své databázi. Interní vyhledávač propojený s AI firmě umožnil dát této neefektivitě vale.
Jak se těmhle dvěma scénářům snaží napomáhat SAP?
SAP nabízí umělou inteligenci skrze dva základní modely. Ten první, zabudovaný, je vhodný pro většinu zákazníků, a pro specifické případy je tu pak řešení přizpůsobené na míru.
Velká výhoda cesty zbudovaného modelu je, že pro každý takový scénář nabízíme hodnotovou analýzu, která zdůvodňuje vyhodnocením přínosů a nákladů, zda se nasazení AI vyplatí. Vidíte tedy rovnou předem, kolik času a peněz ušetříte a kde leží přidaná hodnota umělé inteligence.
To zní až trochu moc ideálně. Můžeme tomu, co nám generativní umělá inteligence předkládá, věřit natolik, abychom na tom mohli stavět byznys? Jak se například vypořádat s halucinováním?
To je přesně ten důvod, proč nedůvěřujeme jednotlivým velkým jazykovým modelům implicitně, ale máme umělou inteligenci, kterou nabízíme, ukotvenou kolem obchodních dat.
Uvedu teď zjednodušený příklad, jak to zhruba funguje. Představte si situaci, kdy potřebujete něco vytáhnout z účetních uzávěrek. Můžete se na to zeptat ChatGPT, ale je třeba jej nejprve trochu zkrotit. Musíte mu předložit správná data, pak jej potřebujete instruovat, aby se držel pouze dat z nahraných dokumentů, a ještě si to pojistíte tak, že jej požádáte, aby každou svoji odpověď doplnil citací z dokumentu a odkazem na stránku, kde informaci nalezl.
Neustálé kontrolování práce po AI by mohlo snadno celý efekt enormní časové úspory vymazat. Rozhodně to není něco, co byste chtěli dělat stále znovu a znovu dokola. Z toho důvodu uděláme za zákazníka tyto kontroly my.
Základem je, že uzemníme umělou inteligenci okolo byznysového kontextu a nikdy nepoužíváme velké jazykové modely, jako třeba ChatGPT od Open AI, Copilot a další tak, jak jsou. Vždy je nejprve omezíme, takže máte jistotu, odkud data pocházejí, a v odpovědích naleznete odkazy na zdroj. Součástí našich etických zásad je také zachování lidského faktoru, takže vždycky můžete na základě referencí od AI ověřit, že nehalucinuje.
Znamená to, že společnosti potřebují vzdělávat své zaměstnance v tom, jak generativní AI funguje a jak správně zadávat prompty?
Ano i ne. Je vždycky dobré, když mají zaměstnanci alespoň základní povědomí o tom, jak prompting funguje, ale to, co SAP dělá v případě zabudovaného modelu integrace AI, je, že předvídáme, jak se bude uživatel ptát. Do našeho AI asistenta Joule máme tyto scénáře vložené. Měly by od něj tedy přicházet relevantní odpovědi i na velmi nepřesně zadané prompty. Joule je vlastně Copilot, je ale modifikovaný tak, aby chápal kontext podnikání a SAP jej zabudoval do řešení, která zajišťují kritické procesy.
Šlo by to přiblížit třeba na příkladu?
Představte si, že dostanete e-mail od naštvaného zákazníka a pověříte AI, ať mu za vás napíše. Za normálních okolností by to mohlo dopadnout všelijak, Joule ale nejprve projede vaši databázi, zjistí skutečnou povahu zákaznického problému a využije tuto informaci, aby poskytl správnou odpověď. Krom toho při samotném zadávání nabízíme zjednodušené volby jako roletové menu, kde může zaměstnanec předvolit, jaký má být například tón odpovědi.
Jak bezpečné je krmit velké jazykové modely našimi byznysovými daty? Nehrozí, že si je pak z modelu vhodnými dotazy vytahá nepovolaná osoba, třeba průmyslový špion?
Pokud bychom hovořili o nahrávání do veřejně přístupných modelů, risk zde je. V případě řešení SAP ale všechna data proudí skrze takzvanou SAP Business Technology Platform. To je naše hlavní technologická vrstva, která spojuje data a analytiku, umělou inteligenci, vývoj aplikací, automatizaci a integraci do jednoho jednotného prostředí. Z hlediska bezpečnosti je důležité to, že se zde všechno včetně AI řídí stejnými bezpečnostními pravidly.
Když se tak například někdo zeptá Joule, jestli by mu nevytvořil shrnující profil specifického zákazníka, tak naše aplikace nejprve ověří identitu zadavatele dotazu a na základě ní ověří, jestli má osoba autorizaci položit takový dotaz. Pokud zjistí, že ne, Joule odpoví, že odpověď sice zná, ale nemůže ji sdělit kvůli nedostatečné autorizaci tazatele.
Pořád se nemohu zbavit dojmu, že šikovný AI hacker by laděním dotazu odpověď nakonec přece jen získal.
Identifikace a autorizace zadavatele transakce je pro bezpečnost klíčová, ale u ní to nekončí. To samé zabezpečení provádíme i na datové úrovni. I v případě, že by tedy tazatel AI model nějak přesvědčil, aby svoji odpověď dostal, stejně narazí. Ukáže se totiž, že nemá autorizaci, aby mohl inkriminovaná data vidět.
Všiml jsem si, že SAP ve své platformě nenabízí jen Joule, ale také další velké jazykové modely. Jaké modely využíváte a jak jejich nasazení koresponduje s vaší striktní politikou ochrany dat vašich zákazníků?
Využíváme celou řadu modelů, je tam Aleph Alpha, Gemini od Google, modely od Mety, ChatGPT od OpenAI, ale také řada menších specializovaných modelů pro lepší chápání kontextu. Se všemi dodavateli máme smlouvu, která zaručuje, že nepoužijí data našich zákazníků k dalšímu dotrénování modelů a k podobným činnostem.
Kromě toho také ale využíváme open source modely a vedle toho SAP vyvíjí vlastní foundation model (typ velkého strojového AI modelu, který je předtrénovaný na rozsáhlých datech a poté může být upraven a specializován pro různé úlohy – pozn. redakce) vyvinutý specificky pro potřeby ERP systému (systém, který integruje podnikové procesy a funkce do jednoho centrálního systému a usnadňuje tak jejich správu a koordinaci mezi odděleními – pozn. redakce).
Problém tradičních velkých jazykových modelů je totiž ten, že sice dobře chápou přirozený jazyk, ale už mnohem hůře si rozumí s tabulkami a strukturovanými daty, kterých jsou korporátní ERP systémy obyčejně plné.
Už je tento vlastní foundation model v nějaké formě hotový? A kdy si jej bude možné otestovat?
To je dobrá otázka, na kterou vám zatím neumím odpovědět. Jsme stále ve fázi výzkumu. Protože to není tradiční jazykový model, jakých dnes vidíme kolem spoustu, probíhá nyní v SAP intenzivní zkoumání, jak něco takového vůbec udělat a kde leží limity AI modelů. Momentálně u nás panuje přesvědčení, že jsme něco takového schopni vyvinout, ale vůbec netušíme, jak dlouho to bude trvat.
