Zaslechl jsem jakousi debatu o umělé inteligenci – odborník v ní připustil reálnou hrozbu, že po roce 2030 bude AI již tak vyspělá, že převezme vládu nad světem a utne civilizaci lidí. K tomu ovšem podle něj pravděpodobně nedojde, protože to „záleží na nás“. Proboha, horší zpráva snad ani nemůže být! Záleží-li to na nás, abychom pomalu začali zhasínat…
Po závěru debaty jsem si vzpomněl na jiný závěr: na finální scénu Cimrmanovy hry Záskok, kdy Karel Infeld Prácheňský po víceméně hezkém konci deklaruje do hlediště: „V životě našem opáčně to bývá – tam dobrák úpí, vrch má duše křivá. Jak ale říkám na každičké štaci – svět bude lepší, dáme-li si práci. Je marné žehrat, modliti se zdrávas. Vše záleží jen na vás, na nás a hlavně teda na vás.“
Při slovech „hlavně teda na vás“ pohlédne umělec Prácheňský významně do levé strany hlediště – tam dle jeho bohatých zkušeností vždy sedí blbci…
Souhlasím s expertem na AI: vše záleží na nás. Ještě víc však souhlasím s Prácheňským, že záleží především na „těch vlevo“. Pokud vám z toho vychází dobrá perspektiva – a nesedíte-li zároveň vlevo, což váš odhad budoucího vývoje značně limituje – pak vám tenhle nezkalený optimismus žárlivě závidím.
Závidím vám ho i proto, že já jsem založením pesimista, škarohlíd. Asi to není dobrý přístup ke světu, možná se jím řadím do „levé strany hlediště“, ale nemohu si pomoci. Neodpářu od sebe temné vnímání, nepřivařím k sobě světlé.
Vše, co může být lidmi zneužito, stoprocentně zneužito bude.
Jistě je to tedy povahou, ale když se dívám kolem sebe a také do historie, neshledávám příliš důvodů, proč by nás mělo v souvislosti s případným zkrocením umělé inteligence uklidňovat, že to záleží na nás. Upřímně, neshledávám žádný takový důvod.
Neboť jedna z nevyvratitelných pouček zní: Vše, co může být lidmi zneužito, stoprocentně zneužito bude.
Člověk vymyslel demokracii, aby na ní parazitovali populisté a ohýbači pravd, kteří – zaklínající se svobodou slova a právě demokracií – mistrně manipulují „těmi vlevo“, již ochotně a za euforického kejhání demokracii ničí.
Člověk vymyslel justiční spravedlnost, aby se mnozí nešťastníci utopili v bažině paragrafů a ti z právníků, kteří pozbyli čest, mohli za pomoci pokroucených odstavců zákona držet právo daleko za hradbami.
Židovský vědec vymyslel dusíkaté hnojivo a vznikl z toho Cyklon B, jehož použití sloužilo v plynových komorách k zamordování nepředstavitelného počtu lidí; vědcův národ odnesl hrůzu nejvíc.
Člověk vymyslel letadlo a hned bylo z čeho vrhat ničivé bomby na města a katedrály.
Člověk vymyslel léky a přišly drogy a obchod s nimi.
Člověk vymyslel internet a stala se z něj platforma pro srocování trotlů všeho druhu a pro šíření toxických fake news.
A tak by se dalo pokračovat. Aby nedošlo k mýlce: jistěže všechny vyjmenované věci přišly na svět pro dobro a dobru sloužily a slouží. Současně ale platí řečené: bylo-li je možno zneužít, stalo se tak.
Člověk stvořil svého potenciálního vraha.
Teď člověk vymyslel umělou inteligenci. Samozřejmě znovu proto, aby bylo lépe. Neexistuje však jediný relevantní argument k předpokladu, že AI bude výjimkou a zneužita nebude. Ostatně zneužívána už je.
Teď je vše ještě „kouzelnější“. Člověk stvořil svého potenciálního vraha. To už se stalo v případě jaderných zbraní, k nimž rovněž nejprve vedla neskonale obdivuhodná touha po poznání a úchvatná technologická šikovnost, jež se však ukazuje v kombinaci s neměnnou lidskou mentalitou jako vstupenka do pekel.
Jaderné zbraně ovšem nemyslely. Nyní, zdá se, byla stvořena entita, jež si může uvědomit sama sebe. V dobré víře tak vypouštíme z lahve džina, který může být mocnější my. Obracíme zbraň proti sobě, a když prozřeme a uvědomíme si to, už nedokážeme zabránit, aby na nás tato zbraň fatálně nemířila. Na ty vlevo, ale i na ty napravo.
Že to zní jako apokalyptické sci-fi? Ano, i mně to tak zní. Na druhou stranu i odborník přes AI, jehož v úvodu citovaný názor byl spouštěčem tohoto názoru, mluví o všem jako o možné variantě. A to už po roce 2030, což je „za rohem“.
Navzdory svému pesimismu – a protože mám děti – si válku s AI (a jasného favorita této války) nepřipouštím ani já. Nebo mi tuto představu zakazuje vlastní mozek – v rámci pudu sebezáchovy ji vytěsňuje a zabraňuje tím zešílení.
Pokud ovšem katastrofický scénář přece nastane, pak snad už jen dvě věci.
Za prvé: potvrdí se oprávněnost mých úsměvů při tezích, že zemi by mohla zničit srážka s tělesem z vesmíru, případně zlovolný záměr vyspělejší civilizace, jež rovněž přijde odkudsi z hvězd. Na zkázu a zánik si bohatě vystačíme sami mnohem dřív, než si nás vezme za terč asteroid nebo zelení mužíčci.
Za druhé: je-li už po roce 2030 a tento text nemohou číst lidé, ale pouze jimi stvořený původce armagedonu, žádám zdvořile umělou inteligenci, aby kromě slov „čest poraženým“ zajistila můj epitaf v podobě slov, která mají mudrující novináři ze všech nejraději: Já to říkal!
