Jsou tomu téměř tři roky, co výkonný ředitel společnosti Google Sundar Pichai učinil slib. V příspěvku na blogu s názvem Umělá inteligence v Googlu: Naše zásady prohlásil, že Google nikdy nebude vyvíjet umělou inteligenci pro použití ve „zbraních či v jiných technologiích, jejichž základním účelem je způsobit člověku zranění“.
Pichaiovo prohlášení přišlo jen pár měsíců poté, co zaměstnanci Googlu protestovali proti zapojení společnosti do projektu Maven – iniciativy amerického ministerstva obrany, která se zabývá možností využití umělé inteligence k identifikaci budov a jiných strategických cílů ze záběrů pořízených drony.
Google měl za účast v projektu během 18 měsíců inkasovat od americké vlády 15 milionů dolarů. Pod protestní dopis adresovaný Pichaiovi se podepsalo přes tři tisíce zaměstnanců. „Věříme, že Google by neměl být součástí válečného byznysu,“ stálo v dopise. Google nakonec od kontraktu ustoupil a Pichai krátce poté zveřejnil výše zmíněný příslib.
Sundar Pichai, CEO Google a Alphabet, musel po propuštění výzkumnice v oblasti umělé inteligence Timnity Gebru hasit další požár. V dopise zaměstnancům napsal, že to byla „bolestivá, ale důležitá připomínka pokroku, který ještě musíme udělat“.| Foto Christian Peacock
Pichai tedy slíbil, že se umělá inteligence firmy Google nebude podílet na ubližování lidem. O čem však v jeho slibu nepadlo ani slovo, byla mateřská společnost Googlu: Alphabet.
Nutno přiznat, že s ní tehdy Pichai neměl zase tolik společného. To se však změnilo na konci roku 2019, kdy se Pichai za současného setrvání v čele Googlu stal generálním ředitelem právě Alphabetu. A Alphabet je podle dostupných informací a zjištění Forbesu do byznysu války stále zásadně zapojen.
Je tomu tak i díky investiční společnosti GV (zkratka pro Google Ventures), která se v roce 2009 oddělila od společnosti Google a nyní spravuje rizikový kapitál právě pro jeho matku Alphabet.
Google i GV mají oba malé podíly ve firmách dodávajících vojenská sledovací zařízení. V roce 2016 GV získal podíl v geoprostorové analytické společnosti Orbital Insight, zatímco Google se stal vlastníkem podílu ve firmě Planet, zabývající se přesným mapováním a zobrazováním Země.
Tyto dvě firmy dohromady získaly v posledních třech letech více než 30,5 milionu dolarů ze spolupráce s ministerstvem obrany na projektech, o kterých se dá v klidu prohlásit, že „jejich základním účelem je způsobit člověku zranění“.
Orbital je softwarová společnost založená bývalým ředitelem Google Books Jamesem Crawfordem. Umělá inteligence Orbitalu denně prohledává obrovské množství satelitních snímků, nahrávek z dronů a agregovaných polohových dat z 800 milionů mobilních telefonů napříč celým světem, aby svým zákazníkům podala zprávu o tom, co se na Zemi fyzicky změnilo a proč je to důležité.
Využití této služby může být velmi různorodé. Orbital může například sledovat severokorejská jaderná zařízení nebo výstavbu tréninkových táborů Talibanu. Může však mít i mírumilovné využití, jako je monitoring úbytku pralesů v Amazonii či rozrůstání městských slumů. Satelitní snímky pro svou analýzu získává od různých poskytovatelů, včetně Planetu, který se nachází právě v investičním portfoliu Googlu.
Planet byl založen inženýry z NASA a v současnosti vlastní 150 zobrazovacích satelitů na oběžné dráze Země. Podle společnosti je to nejpočetnější soustava zobrazovacích satelitů na světě.
Velkou výhodou Planetu je schopnost rychle a levně vysílat nové satelity do vesmíru. Používá totiž satelity Doves, které jsou velké asi jako pecen chleba, a Skysat o velikosti menšího vysavače. Oba typy jsou schopné vysílat zpět na Zemi obrázky ve vysokém rozlišení. Google vlastní 13 procent společnosti.
Jak Planet, tak Orbital spolupracují s americkou armádou a jejími rozličnými zpravodajskými agenturami. Planet má smlouvy s vesmírnými zpravodajskými agenturami, jako je Národní průzkumný úřad nebo Národní geoprostorová zpravodajská agentura, což je agentura bojové podpory ministerstva obrany. Orbital se navíc podle dvou bývalých zaměstnanců ucházel o účast v už zmíněném kontroverzním projektu Maven.
Podle veřejně dostupných záznamů Orbital mezi roky 2017 a 2020 inkasoval 10 milionů dolarů za účelem vývoje umělé inteligence nazvané Datahub pro ministerstvo obrany. Datahub měl za úkol „sledovat nepřátelské subjekty 24 hodin denně za každého počasí, napříč rozsáhlým územím a ve vysoké rychlosti“, jak stojí v rozpočtové dokumentaci Pentagonu.
Výsledné informace měly pomoci urychlit taktický postup ministerstva obrany známý pod zkratkou F3EA, kdy je strategický cíl objeven, sledován, zajat či zabit, případně vyslýchán a nakonec jsou zanalyzovány nové informace získané k odhalení dalších možných cílů. Dalším plánovaným využitím dat z programu Datahub byla automatizace zbraní za účelem „včasného a přesného úderu“.
Popsané investice se přitom mohou Googlu i Alphabetu krutě vymstít. Google totiž opakovaně klopýtá ve snaze dostát očekáváním svých idealistických zaměstnanců. Ještě před projektem Maven se v roce 2017 dostal Google do problémů v souvislosti s projektem Dragonfly, v rámci kterého měl v plánu vydat vyhledávač se zabudovanými nástroji čínské cenzury.
Dalším přešlapem byla spolupráce s přistěhovaleckými agenturami, čímž se Google de facto podílel na prosazování protiimigrační politiky Trumpovy administrativy v roce 2019.
Pozdvižení vyvolal i odchod výzkumnice Timnit Gebru loni v prosinci. Gebru se zabývala možnou rasovou zaujatostí u umělé inteligence Googlu a podle svých slov byla vyhozena poté, co zveřejnila frustraci nad stažením jednoho z jejích výzkumných závěrů. Více než dva a půl tisíce zaměstnanců Googlu podepsalo petici, kde po svém zaměstnavateli požadují upřímnost ohledně jejího vyhazovu.
Mluvčí Googlu k tomu uvedl: „Když hodnotíme rizika svých možných investic, snažíme se porozumět technologiím a byznys plánům společností, do kterých investujeme. Tam, kde je to žádoucí, zkoumáme soulad s našimi zásadami užívání umělé inteligence, jak jsme je oznámili v roce 2018.“
Orbital: Mír i válka, co zrovna vydělává
GV se podílí na financování Orbitalu už od jeho založení v roce 2013. Podle odhadu Forbesu v současnosti vlastní asi třináctiprocentní podíl. Je nutno přiznat, že se Orbital od samého začátku podílí především na humanitárních projektech.
Ve spolupráci se Světovou bankou se snaží kvantifikovat světovou chudobu monitorováním nových budov, silnic a zemědělské půdy v méně rozvinutých zemích. Sleduje také stav světových lesů spolu s Institutem světových zdrojů. A minulý rok jeho umělá inteligence pomáhala monitorovat rozrůstající se čínské „převýchovné“ tábory v regionu Xinjiang.
Avšak ty největší peníze v geoprostorovém byznysu leží ve státní pokladně, a tak Orbital ke svým altruistickým aktivitám pravidelně přibírá i ty lépe placené, ve službách zpravodajských a vojenských agentur.
Ne všichni v samotném Orbitalu jsou z jeho vazeb na americkou armádu nadšení. V etickém kodexu společnosti stojí: „Netolerujeme ani nepřispíváme k záměrům ubližovat lidem, životnímu prostředí ani společnosti.“
Také podle bývalého seniorního zaměstnance se v Orbitalu říkalo, že jejich technologie nikdy nebude použita například na zaměřování bomb. „Nicméně jakmile identifikujete budovu, vláda si s ní provede, co bude chtít. Orbital se změnil ze společnosti, která zachraňuje šimpanze v Indonésii, ve společnost, která hledá vojenské cíle v Afghánistánu,“ sdílí bývalý zaměstnanec svůj náhled na věc.
„Práce pro ministerstvo obrany je velký problém, protože se v ní dá přijít k velkým penězům, ale výměnou za věci, které mohou některým lidem připadat neetické,“ říká bývalý softwarový inženýr.
Podle něj je nyní obtížné přilákat v Sillicon Valley zaměstnance do firmy, která je napojená na americkou armádu. Avšak zároveň chápe obtížné dilema, které mnoho firem řeší. „Když jste si půjčili 120 milionů dolarů, jste dost pod tlakem, abyste nějaké ty peníze vydělali zpět,“ dodává.
Orbital odmítl žádost Forbesu o rozhovor se členem vedení. Mluvčí Orbitalu potvrdil, že „někteří zaměstnanci vyjádřili obavy ohledně práce pro vládu“, nicméně společnost má prý etickou komisi vedenou zakladatelem firmy Jamesem Crawfordem, která každý kontrakt prošetřuje.
Když například americká vláda chtěla najmout technologii rozpoznávání obličejů, aby pomocí dronů identifikovala posádky lodí, Orbital zakázku odmítl s odůvodněním, že firma nesleduje jednotlivce. Mluvčí dále dodal, že Orbital úspěšně dokončil svou práci na programu Datahub, nicméně odmítl poskytnout více detailů. Rovněž se nevyjádřil k otázce, zda právě Datahub nerozporuje jejich vlastní etický kodex.
Ohledně dlouhodobé spolupráce s Pentagonem mluvčí společnosti dodává: „Orbital pomáhá americkému ministerstvu obrany sledovat aktivity po celém světě, aby se vláda vyhnula překvapení a mohla proaktivně reagovat na kritické situace. Precizní sledování změn a přesný obraz dění kdekoli na Zemi jsou nutnou podmínkou k udržení bezpečnosti naší země.“
Orbital sice již svou práci na programu Datahub ukončil, avšak i nadále se aktivně uchází o vládní zakázky. Oficiální záznamy ukazují, že od roku 2018 Orbital utratil 300 tisíc dolarů za lobbistické aktivity v Kongresu. A v červenci minulého roku podepsal dosud největší veřejně známý vládní kontrakt v historii.
Detaily o zakázce za 22 milionů dolarů s úřadem celní a pohraniční ochrany vypátral Jack Poulson, bývalý profesor matematiky na Stanfordově univerzitě, který pracoval v Googlu, dokud neodešel kvůli plánům na cenzurovaný „čínský“ vyhledávač.
Detaily kontraktu ukazují, že úřad celní a pohraniční ochrany používá technologii Orbitalu k analýze dat z dronů, sledovacích balonů a satelitů, které monitorují radiové frekvence. Pohraniční práce Orbitalu bude podle oficiálního dokumentu kombinovat „geoprostorový dohled“ a pomoc při pátracích a záchranných akcích.
Podle mluvčího Orbitalu v rámci tohoto kontraktu firma sleduje zejména záchranu lidských životů. „Chceme pomoci lidem, kteří se ocitnou v těžké situaci na jižní hranici. Chceme pomoci úřadům lépe se orientovat v odlehlých oblastech.“ Mluvčí úřadu celní a pohraniční ochrany pak uvedl, že primárně úřad plánuje technologie Orbitalu využívat v pátracích a záchranných akcích.
Planet: Když zisky převáží rizika
Planet je na tom finančně ještě lépe než Orbital. Od svého založení v roce 2010 vydělal více než 400 milionů dolarů a jeho satelity Doves létají do vesmíru „na zádech“ strojů SpaceX či Rocket Lab.
Každý den přinášejí aktualizované snímky veškeré zemské pevniny a velké části plochy pokryté oceánem, včetně strategických oblastí, jako je Jihočínské moře či Perský záliv.
Podobně jako Orbital, i Planet kombinuje humanitární práci se soukromými zakázkami a vládními kontrakty. Mezi nejvýnosnější kontrakty patří dvacetimilionová spolupráce s Národní geoprostorovou bezpečnostní agenturou či výzkum ve spolupráci s námořnictvem, letectvem a armádou ohledně využití satelitních snímků, za který Planet během uplynulých tří let inkasoval 15 milionů dolarů.
Will Marshall je jedním ze tří vědců NASA, kteří založili Planet. Společnost začínala pod názvem Planet Labs, ale později ho změnila na Planet, zatímco o její vládní zakázky se stará Planet Federal se sídlem ve Washingtonu D.C. | Foto: Eric Piermont, AFP, Getty images
Planet navíc doufá, že se mu povede získat další vládní kontrakt s názvem EnhancedView. Lukrativní dohodu, v rámci které americká vláda nakupuje satelitní snímky od soukromých společností, měla posledních deset let v kapse společnost Maxar Technologies.
V současnosti však probíhá testování, zda bohatá sestava satelitů od Planetu nezvládne poskytovat lepší snímky. „Věříme, že budeme schopni americké vládě poskytnout služby na nejvyšší úrovni,“ okomentoval testování mluvčí Planetu. Maxar Technologies v současné době za EnhancedView inkasují 300 milionů dolarů ročně.
Stejně jako v Orbitalu, i v Planetu se podle zjištění Forbes.com několik zaměstnanců rozhodlo společnost opustit poté, co začala spolupracovat s vojenským sektorem. „Původně to byla velmi altruistická firma. Vysílali satelity na oběžnou dráhu pro dobro všech na světě,“ uvedl jeden z bývalých zaměstnanců. „Pak ale zjistili, že jediný, kdo je ochoten za satelitní snímky platit velké peníze, jsou vlády,“ dodává.
Mluvčí Planetu nicméně jakoukoli změnu v ideologii společnosti popřel. Společnost prý už od samého počátku spolupracovala s vojenskými a bezpečnostními agenturami a neexistují žádné interní záznamy o tom, že by kterýkoli zaměstnanec Planetu odešel z důvodu spolupráce firmy s vládou.
V etickém kodexu firmy stojí: „Naši partneři nesmí používat naše produkty k dalším akcím, které vedou k násilí, zneužití, agresi či jinému porušení lidských práv.“
I Planet má kontrolní komisi, která u existujících či potenciálních zakázek zkoumá možný rozpor s etickými zásadami společnosti. Ta údajně v minulosti zamítla zakázky ze soukromého i veřejného sektoru. Více informací o zamítnutých zakázkách však Planet odmítl poskytnout.
Žádné z těchto etických dilemat nicméně neodradilo Pichaiův Alphabet od dalšího investování do geoprostorového byznysu. GV se dokonce zapojilo do financování dalšího, zatím úplně nejméně prověřeného startupu jménem SpinLaunch.
Ten plánuje zkonstruovat jakési obří otočné rameno, které bude „vrhat“ satelity do vesmíru. Díky investicím od Alphabetu a 2,5milionovému kontraktu s ministerstvem obrany se tak může velmi brzy stát, že Pentagon bude mít na oběžné dráze další spřátelené satelity, díky kterým bude moci ještě lépe monitorovat dění na celé planetě.
Když byl Pichai dotázán na zásady používání umělé inteligence v jeho společnostech, reagoval praktickým sdělením, které naznačuje pružnost jeho etických limitů. „Pokud uvidíme konkrétní riziko újmy, budeme pokračovat pouze tehdy, když očekávané přínosy znatelně převáží rizika. A proti daným rizikům zavedeme odpovídající opatření,“ napsal Pichai.
