Všudypřítomné chatboty poháněné velkými jazykovými modely dnes velmi dobře umějí porozumět dotazům v přirozeném jazyce. Vzbuzují tak iluzi, že hovoříme se skutečně inteligentní entitou. Stačí ale banální dotaz nebo možnost vícero výkladů a celá iluze se rozpadne.
Říká se, že je generativní umělá inteligence stochastický papoušek přesvědčivě napodobující lidskou řeč, který ale nechápe význam toho, co zpracovává. Ať už to tak je, nebo je pravda výrazně složitější, statistika hovoří jasně.
Umělá inteligence až podezřele často projevuje lepší schopnosti porozumění kontextu než řada lidí. V kombinaci se schopností generovat odpovědi na otázky mnohem rychleji než kterýkoli člověk, je to při správném zacílení jejích schopností velmi silný nástroj. Pro náš mozek je to srovnatelné s tím, jako bychom naše těla oblékli do robotického skafandru, který zesílí naše fyzické schopnosti tisícinásobně.
Spíš než se tedy generativní umělé inteligenci smát, pokud jí uniknou jemné nuance a kontext netrefí nebo pokud se uchýlí k halucinování, dává smysl se zaměřit spíš na to, jak z ní vytáhnout co nejvíce. A právě na to se zaměříme v dnešním článku.
Limity generativní AI
Přes bezesporu mimořádné schopnosti mají generativní AI své limity, na které narazil pravděpodobně každý, kdo je zkoušel. První, co bychom si tedy měli uvědomit dříve, než vložíme do příkazového řádku první prompt nebo než položíme otázku naším hlasem, jsou limity umělé inteligence oproti té lidské. Poskytne nám to dobré vodítko, jak dotazy zadávat.
Rozdíly jsou především následující:
Strojové chápání – Generativní umělá inteligence není silná v interpretaci dvojsmyslů a víceznačných významů.
Nedeterminismus – jednou z neodmyslitelných výhod generativní AI je to, že může produkovat různé výsledky, i když je jí opakovaně zadán stejný vstup. Hovoříme proto o nepředvídatelnosti, nebo, chcete-li, nedeterminismu. Taková vlastnost se možná hodí, pokud celá třída potřebuje vygenerovat různé referáty na stejné téma, ale jinak je spíš na závadu. Problém je to hlavně všude tam, kde si zakládáme na maximální exaktnosti, tedy od zdravotnictví přes inženýrství až po finance.
Halucinace – asi nejznámějším problémem spojeným s generativní umělou inteligencí jsou halucinace, tedy smyšlené, přitom ale často relevantně vyznívající odpovědi. Problém halucinací spočívá v kvalitě dat, na kterých jsou modely pro umělou inteligenci trénovány. Nedostatek kvalitních dat nebo snaha ušetřit vede často k tomu, že jsou modely natrénovány na volně dostupných datech z internetu. Výsledkem jsou občas halucinující chatboti přesvědčivě prezentující halucinace jako fakta.
Bezpečnost – tady máme před sebou značně dvojsečnou zbraň. Z modelů je možné občas vytáhnout citlivé či proprietární informace. K těm se můžeme dostat buď zcela náhodně, například když budeme modelu do úmoru stále dokola zadávat stejný dotaz, nebo za použití pokročilých postupů, jako je generování rozšířeného vyhledávání či velmi jemné upřesňování dotazů. To může být zajímavé, pokud si hrajeme na AI vědce či detektivy, ale docela nebezpečné, pokud AI využíváme například k procházení našich firemních dat.
Komplexní problémy – i když generativní AI dokáže velmi rychle generovat relevantní odpovědi na velmi konkrétní otázky nebo ušetřit čas při procházení stovek stránek dokumentů, je zároveň i dost limitovaná. Má totiž velké problémy, nebo, chcete-li, velmi omezenou schopnost řešit komplexní problémy nebo vícerozměrná společenská témata. K prvnímu jí chybí schopnost strategického rozhodování, v druhém případě jí unikají etické konsekvence.
Generativní AI oproti tomu exceluje při řešení dobře definovaných a úzce vymezených úloh. A zde se pěkně ukazuje hlavní konflikt mezi našimi lidskými požadavky a tím, co skutečně může generativní umělá inteligence nabídnout. Od nás se totiž většinou očekává řešení reálných problémů, které zahrnují chápání hlubších souvislostí. Ty ale za nás generativní AI vyřešit neumí. Zato na ni ovšem můžeme velmi efektivně delegovat „otrockou práci“ s řešením dílčích problémů.
Když už máme představu, co zhruba od umělé inteligence očekávat můžeme a kde si raději dát pozor, pojďme na samotný prompting, tedy zadávání konkrétních požadavků.
Jak tedy správně uvažovat, když zadáváte prompt?
Pomůžeme si analogií z pražských pověstí. Představte si, že jste v roli Rabi Löwa a zadáváte povel golemovi s fenomenální pamětí. Když jej zadáte správně, dokáže pro vás úžasné věci, v opačném případě to ale může skončit katastrofou.
Je tedy třeba být co nejkonkrétnější, myslet na detaily a hlavně nevynechat kontext. Začněme příliš vágně zadaným promptem. K demonstraci použijeme volně přístupnou verzi chatbota ChatGPT od Open AI.
Prompt: Jaká je obchodní strategie společnosti Škoda Auto?
Odpověď na naši špatně položenou otázku je generická, ale jinak překvapivě věcná. Jak ale náš prompt vylepšit?
Anatomie správného promptu má čtyři části. Obsahuje samotnou instrukci (tu jsme zadali), kromě toho ale také kontext (proč nás to zajímá, co může AI naopak vynechat), preferovaný formát odpovědi (AI netuší, zdali se ptá student, obchodní partner společnosti nebo třeba auditor) a v ideálním případě také příklad (co bychom si představovali).
Prompt: Vytvoř tabulku čtyř hlavních obchodních priorit společnosti Škoda Auto podle účetní uzávěrky za rok 2023. Pro každou prioritu vytvoř detailní shrnutí, jak se jich Škoda Auto snaží dosáhnout a jak je v tomto dosahování zatím úspěšná. Navrhni, na co by se společnost měla zaměřit tam, kde zatím příliš úspěšná není. Tabulka by měla být jednoduchá, ale smysluplná a úderná. Počet znaků by neměl překročit 1000.
Druhý výsledek již vypadá mnohem použitelněji, mohli bychom jej ještě vylepšit tak, že AI upřesníme roli, ze které tabulku sestavuje (je například studentem nebo naopak technologickým ředitelem společnosti) a můžeme jí pro jistotu nahrát konkrétní dokument a nespoléhat se na to, že si ten správný najde sama, nebo dále upřesnit dotazování.
Nás ale nyní bude zajímat, jak vyřešit palčivější problém. Můžeme AI věřit, že si celou tabulku nevycucala z prstu? Toho docílíme dalším upřesněním dotazu.
Prompt: Vytvoř tabulku čtyř hlavních obchodních priorit společnosti Škoda Auto podle účetní uzávěrky za rok 2023. U každé priority stručně vysvětli, zdali je skutečně důležitá pro obchodní úspěch firmy a proč. Pro každou prioritu vytvoř detailní shrnutí, jak se jich Škoda Auto snaží dosáhnout a jak je v tomto dosahování zatím úspěšná. Navrhni, na co by se společnost měla zaměřit tam, kde zatím příliš úspěšná není. Tabulka by měla být jednoduchá, ale smysluplná a úderná. Počet znaků by neměl překročit 1500. Zajisti, že každý bod v tabulce bude obsahovat specifickou citaci z výroční zprávy Škoda Auto za rok 2023 s odkazem na konkrétní stránku v dokumentu.
Zajímavý výsledek, že? Z čeho tedy vznikaly předchozí odpovědi? Tak ještě jednou znovu a lépe (s doplněním dokumentu).
Rozhodně lepší, ale ještě by se na tom dalo pracovat. Můžeme pokračovat v upřesňování promptu, nebo by možná stačilo zadat stejný prompt ještě jednou. Pamatujete přece na nedeterminismus zmíněný na začátku článku.
https://forbes.cz/premium/#start
