skip to main content
Technologie

O myších a lidech. Do konce století nás může vyhladit umělá inteligence, říká český vědec z Oxfordu

14 minut čtení

Že deset procent není mnoho? Je-li jimi vyjádřena pravděpodobnost vyhlazení lidstva do konce století umělou inteligencí, rozhodně to není málo. O deseti procentech mluví v této souvislosti vědec Ondřej Bajgar, který na institutu v Oxfordu proti tomuto riziku bojuje. A vysvětlí vám proč.

Ondřej Bajgar vlastně vypráví bajku. Bajku o myších prahnoucích mlsně po sýru. Jako každá správná bajka i tato v sobě nese ponaučení a varování. Zde konkrétně spočívá v tom, jak ohromný rozdíl může být mezi tím, co člověk říká, a tím, co skutečně chce. V komunikaci s umělou inteligencí může být tento rozdíl doslova fatální a může se úzce dotýkat ohrožení lidské existence.

Bajka plyne z úst erudovaného vypravěče. Z úst muže, který moc dobře ví, o čem hovoří. Ondřej Bajgar pracoval na výzkumu umělé inteligence pro IBM Watson a nyní se věnuje výzkumu bezpečnosti umělé inteligence v Institutu budoucnosti lidstva v anglickém Oxfordu. Bajka, na niž záhy dojde, se vztahuje k dlouhodobějším perspektivám, na úvod však ryze aktuální téma.

Reklama

Naschvál to říkám vyhroceně, ale k čemu je nám umělá inteligence, když nás včas nevarovala před pandemií? Nemělo by pro ni být snadné vyhodnotit data tak, že se řítíme do velkého průšvihu, pokud s předstihem nezareagujeme?

Myslím, že jsme varováni byli, byť více než o umělou inteligenci šlo v tomto případě o matematické modely a statistiku. Mnohem větším problémem než nedostatečná predikce byla politická rozhodnutí a z nich vycházející opatření.

Prevence málo pravděpodobných událostí je vůbec něco, v čem jsme jako lidstvo hodně špatní. Politici jsou voleni na čtyři roky, a když v tomto období dají kupu peněz na prevenci pandemie nebo rizik umělé inteligence, nebude za čtyři roky patrně vidět z takto vydaných prostředků žádný efekt.

Čím méně je situace pravděpodobná, tím méně je efekt vidět, ale to, že se takovým situacím z tohoto důvodu nevěnujeme, je systematická chyba, která se nám může vymstít, jak se právě nyní na pandemii ukazuje. Už jsem ale řekl, tato predikce byla učiněna spíš na úrovni matematických modelů, ačkoli je pravda, že mezi nimi a umělou inteligencí nevede zcela zřetelná čára.

A kdybyste měl tuhle čáru přece vyznačit a tím v podstatě definovat umělou inteligenci?

Jednoznačná hranice opravdu není. Umělá inteligence je termín zastřešující činnost počítače, kterou si intuitivně asociujeme s lidskou inteligencí. Hranice tohoto vnímání se permanentně posouvá, takže jeden vtip říká: „Umělá inteligence bude, až…“ a pak, když tohle „až“ nastane, začne se říkat, že to je hloupý algoritmus. Když počítač na sklonku devadesátých let minulého století porazil v šachu Kasparova, tehdy nejsilnějšího hráče planety, byl to jeden z významných symbolických milníků. A povídalo se, že umělá inteligence je definitivně tady, přitom dnes je právě tohle bráno jako víceméně prostý algoritmus.

Reklama

U umělé inteligence hraje patrně roli i záhadnost – že úplně nerozumíme, co a jak to dělá. Nerozumíme přesně postupům, na jejichž základě dochází k určitým rozhodnutím. Podle mě můžeme jmenovat pár znaků umělé inteligence: učí se to, umí se to autonomně rozhodovat, umí se to adaptovat na nové situace. Tyto základní charakteristiky mohou být do určité míry přítomny, a čím víc jich tam je, tím víc bych to nazýval umělou inteligencí.

Kromě abstraktních kritérií se můžeme dívat taky na určité úlohy – tam pak můžeme snáz říct, že už v nich umělá inteligence překonala schopnosti člověka.

Například?

Právě na hrách se dobře měří, kdo je lepší. Nejde už jen o šachy, umělá inteligence triumfovala i ve hře go, potom v pokeru, to byl další symbol, protože poker je hra, u níž je potřeba blufovat, odhadovat kroky protivníka. Teď vítězí i ve hrách, jako jsou StarCraft či Dota, celkem komplikovaných počítačových hrách, při kterých je třeba do sebe kombinovat spoustu informací v reálném čase. K obrovskému pokroku dochází taky v rozpoznání obrazu či generování přirozeného jazyka – dáme umělé inteligenci kus článku a ona ho dopíše.

To se mi jako novináři neposlouchá úplně dobře.

Proběhly testy, zda lidé rozpoznají krátké články vytvořené umělou inteligencí a člověkem, a s rozpoznáním byl problém.
Kdybych měl mluvit obecně, v čem nás umělá inteligence překonává, pak bych to shrnul, že jde o oblasti, kde buď existuje spousta dat, nebo si lze data vytvořit pomocí simulace. Pro lidstvo z toho pochopitelně plyne mnoho užitku, ale současně i velké nebezpečí.

V čem spočívá to nebezpečí?

Jádro problému je v tom, že můžeme stvořit něco daleko inteligentnějšího, než jsme sami. Nabízí se v tomto kontextu podobenství o myších.

O myších?

Představte si, že by se myší vědci snažili vyvinout umělou inteligenci, jako nástroj pro usnadnění jejich života. Protože myši mají rády sýr a chodí ho krást do kuchyně, vyvinou nástroj, který by sýr obstarával za ně. Postupně ho zdokonalují, nástroj se stává stále sofistikovanějším, až jednoho dne bude dosaženo milníku – myši vytvoří umělou myš, díky které už nemusí vůbec chodit do kuchyně, kde je občas někdo klepl lopatou a zabil.

Reklama
Reklama