Nedávná tragédie letu 9525 společnosti Germanwings ukázala, že ani ten nejvyšší stupeň bezpečnostní prověrky – který neumí číst myšlenky – nedokáže podobným neštěstím zabránit. Leckdo včetně New York Times teď proto volá po tom, aby americké pravidlo, které nařizuje, že v kabině pilota musejí být vždy přítomni dva členové posádky, přijaly všechny světové aerolinky. Tenhle požadavek má sice smysl, ale stejně nezabrání tomu, aby dva piloti v budoucnu neprovedli něco podobně strašného.
Jak Timesy správně tvrdí, „letecká doprava je stále neuvěřitelně bezpečná“. Je namístě zopakovat, že Airbus A320 má jedny z nejlepších světových bezpečnostních záznamů a havarovaný letoun měl také plně digitální řídící systém „fly-by-wire“ (systém, který nahrazuje ruční ovládání elektronickým zařízením a nedovolí pilotovi převzít nad letadlem plnou kontrolu, pozn. red.). Tyhle systémy byly už sice mnohokrát kritizovány za to, že kvůli nim piloti příliš spoléhají na technologie, ale do budoucna by mohly právě ony zabránit dalším podobným tragédiím.
Jak uvádí magazín Popular Mechanics, který se věnuje jiné letecké nehodě Airbusu, u systémů fly-by-wire „počítač drtivou většinu času operuje v rámci režimu normal law, což znamená, že neschválí žádné pohyby, které by způsobily, že letadlo opustí svou letovou trasu“. Pokud je však autopilot odpojený nebo vypnutý, jako tomu podle Timesů bylo u letounu Germanwings, může se přepnout do režimu alternate law, který „pilota v tom, co může dělat, omezuje mnohem méně“.
Shodou okolností jsem měl nedávno naplánovaný rozhovor s průkopníkem umělé inteligence (anglicky artificial intelligence neboli AI) Jeffem Hawkinsem, abychom spolu probrali jeho nedávný příspěvek na web RE/code týkající se narůstajících obav z AI a „superinteligence“. „Žádný Terminátor nepřijde,“ hlásá jeho titulek. „Budoucnost nám poděkuje.“ Přemýšlel jsem o jeho příběhu v době, kdy se začaly šířit novinky z Alp. Zdá se mi, že se tolik bojíme dát strojům příliš velkou moc, až nám nedochází, že největší existenciální hrozbou pro člověka jsou jiní lidé. Přesně jako v případě letu Germanwings.
Hawkins je mimo jiné také spoluzakladatelem společnosti Numenta, která se zabývá tzv. strojovou inteligencí. Její první komerční produkt – Grok – dokáže prozkoumat obrovské množství dat o činnosti serveru Amazon Web Services (AWS) a identifikovat neobvyklé vzorce událostí. Stejný postup by se dal použít ke sledování údajů z letadel a k upozornění letové kontroly na neobvyklou aktivitu v reálném čase. Numenta dává svůj software volně k dispozici (viz Numenta.org) a zná ji řada výzkumných agentur, takže by už na podobném systému mohlo pracovat mnoho lidí.
Právě takto fungující systémy budou velmi cenné pro sledování například bludných letadel. Mohla by ale strojová inteligence zabránit tragédii z Alp? Hawkins si myslí, že ano, ale poznamenává, že „žádná inteligence světa v kokpitu nic nezmůže, pokud se ji pilot rozhodne vypnout“. Proto bude potřeba vytvořit letecké systémy „určené pro ovládání ze země“. Čeho se bojíme víc – něčích osobních problémů, nebo systematické kontroly velkého bratra? Podle toho, co se stalo Germanwings, to v tuhle chvíli vypadá, že nedostatečná kontrola ze země je daleko větší hrozba.
Kolega Dan Reed nedávno psal o tom, jak levné by pro letecké společnosti bylo zvýšit sledování letů využitím existujících signálů. (Celý článek Dana Reeda si můžete přečíst zde). Zabýval se také otázkou šířky vlnového pásma, které by bylo potřebné ke spolehlivému ovládání letadla ze země bez větší časové prodlevy. Takový hardware by podle něj vyžadoval značné investic – ovšem největší překážka pro řízení letadel na dálku (i když jen dočasné) je čistě filozofická, říká Reed. I když se stroje stanou statisticky bezpečnější než lidé, „jak dokážete, že budou bezpečnější?“, ptá se.
Podle Hawkinse jsou podobné obavy jen dočasný problém, stejně jako to bylo s platbami přes internet prostřednictvím platebních karet. Jakmile tu jednou budou samořídící auta (které prosazuje například Google) a „samolétající“ letadla, lidi se přes to přenesou, říká. Navíc si myslí, že podobné letecké tragédie jako ta z Alp nás povedou k tomu, abychom „víc a víc přijímali tento způsob automatizovaného řízení“. Ve chvíli, kdy bude systém dostatečně kvalitní, nebude ho už třeba vůbec řídit ze země. Detekce odchylek a software pro kontrolu ovládání by pak mohly být umístěny úplně odděleně a být naprosto nepřístupné letové posádce.
Čím déle jsme se o tom s Hawkinsem bavili, tím víc byl pro tuhle myšlenku zapálený. Říká, že přes GPS data bychom v jeho Groku „mohli sledovat každé letadlo na obloze automaticky, bez zásahu člověka, a kdykoli říct, že se některé chová divně… Mohli bychom najít vzorce, kterých si člověk nemůže všimnout. A taky se nikdy neunaví.“
„Nakonec,“ říká Hawkins, „to takhle jednou budeme dělat.“
Autor: Anthony Wing Kosner
O budoucnosti technologií čtěte také:
Zakladatel Tesly Elon Musk: Lidem nakonec pravděpodobně zakážou řídit auta
