Nadcházející aktualizace iOS 15.2 od společnosti Apple je radikální. Není snad proto, že by obsahovala nějaká úžasná nová vylepšení nebo služby, ale proto, že i přes nesčetná varování obsahuje zcela „šokující“ změnu směru pro více než miliardu uživatelů iPhonů.
Pravděpodobně si vzpomenete na kontroverzi, kterou vzbudila nová funkce skenování úložiště, kterou měl původně obsahovat iPhone 13 a měla se spustit s iOS 15. Apple po vlně kritiky zařadil zpátečku a od této novinky upustil. Navíc vedení společnosti slíbilo, že bude o kritice přemýšlet. Teď ovšem bez ohledu na situaci ve svém záměru hodlá pokračovat.
Plány Applu, které mají za úkol zvýšit bezpečnost dětí, zahrnují dvě samostatné aktualizace. První skenuje knihovnu fotografií předtím, než je zálohuje na iCloud. Používá přitom umělou inteligenci, která porovnává obrázky a fotografie s akreditovaným vládním seznamem a má za úkol odhalit a nahlásit materiály týkající se možného sexuálního zneužívání dětí.
Druhá aktualizace umožňuje, také pomocí umělé inteligence, rodičům sledovat iPhony svých dětí a varuje je v případě, že pomocí iMessage na iPhonu přijímají nahé nebo jinak sexuálně explicitní obrázky a fotografie.
Obě chystané aktualizace vzbuzují obavy ohledně možných dopadů na soukromí a bezpečnost uživatelů. Skenování knihovny fotografií v telefonu porušuje dohodu, i když nepsanou, že váš telefon není nijak monitorovaný. Skenování a prověřování fotografií na iCloudu se záměrem odhalit možný nelegální obsah není tak problematické a děje už se dlouho. Navrhované změny v iMessage jsou ale pravděpodobně mnohem závažnější, protože pokud ne technicky, pak ale určitě prakticky narušují samotnou bezpečnost a jakousi nedotknutelnost, na které si iMessage vybudovala svou pověst.
Zarážející je také, že Apple oznámil obě aktualizace naráz. I když obě mají chránit bezpečnost dětí, existují k nim velmi vážné výhrady. Skenování osobních fotografií otevírá dveře vládním zásahům. Podkopává tak dosavadní pocit bezpečí, že věci ve uložené ve vašem iPhonu v něm i zůstanou. Kritici poukazují zejména na to, že domácí i zahraniční vlády v tomto mohou vidět příležitost k vyhledávání nejen materiálů týkajících se sexuálního zneužívání dětí.
I když skenování fotografií zatím není v iPhonech aktivní, nejnovější vývojářská beta verze OS 15.2 představila mírnější podobu sporné aktualizace pro iMessage. Mírnější pouze v tom, že firma odstranila původní aplikaci, která měla upozorňovat rodiče dětí mladších třinácti let na potenciálně nebezpečné obrázky.
To se trochu liší od prohlížení fotografií, které už na iPhonech za pomoci umělé inteligence probíhá. Největší problém je, že iMessage je opatřená koncovým šifrováním a aktualizace Apple do aplikace přidává monitorování umělou inteligencí. Je pravda, že její použití v tomto konkrétním případě je velmi omezené, ovšem technické překážky pro širší monitorování Apple odstranil a iMessage už nikdy nebude jako dřív.
EFF, mezinárodní organizace zabývající se digitálním právem a ochranou osobních svobod na tomto poli, již varovala, že „je nemožné vytvořit systém skenovaní fotografií, který půjde využít pouze pro sexuálně explicitní snímky přijímané dětmi. Je to dobře míněná snaha s velmi dobrým úmyslem, porušuje ale klíčové sliby v oblasti vlastního šifrování zpráv a otevírá tak dveře k širšímu zneužití.“
Koncové šifrování zabezpečuje přenos obsahu z vašeho zařízení do dalšího koncového zařízení. Obě tato zařízení se nachází mimo oblast koncového šifrování, protože zpráva musí být znovu dešifrována, abychom si ji mohli přečíst. Díky tomu Apple může tvrdit, že koncové šifrování zůstává netknuté. Má to ale háček.
Databázi zpráv ve vašem telefonu chrání zabezpečení telefonu, ať už je to heslo, nebo jiný biometrický údaj. Pokud mám plný přístup do vašeho telefonu, mám zároveň přístup i k celému jeho obsahu. To je důvod, proč cloudové zálohy mohou určitým způsobem narušit bezpečnost vašich dat, jak to bylo možné vidět v případě aktualizace šifrovaných záloh u aplikace WhatsApp. A to je také důvod, proč jsou se zprávy dají napadnout až na samém konci řetězce, a nikoli v průběhu posílání. Tam je totiž chrání koncové šifrování.
„I důkladně zdokumentovaná, pečlivě promyšlená a velmi omezeně použitelná zadní vrátka jsou stále zadní vrátka,“ varuje EFF. „Pokud můžu nějak zkompromitovat jeden nebo oba „konce“, nepotřebuji nijak napadat cestu mezi nimi. Proto také Pegasus nepotřebuje prolomit koncové šifrování, aby mohl fungovat.
Pokud otevíráte šifrovanou zprávu, ať už v aplikaci iMessage, WhatsApp nebo Signal, musíte se cítit v bezpečí, že jste stále uvnitř zabezpečeného prostoru zahrnujícího aplikaci. V momentě, kdy je přijímající aplikace sledovaná, byť z dobrého důvodu, vše se mění.
Technicky se koncové šifrování zachovalo, ale celý koncept platformy zabezpečené koncovým šifrováním byl narušený. Co dělat v případě, že se vláda rozhodne hrát hru s „místními zákony“, jako se to už stalo v případě ohrožení AppStore a iCloudu v Číně?
Rozhodně potřebujeme lepší nástroje, které nám pomohou ochránit děti na sociálních sítích a komunikačních platformách. Může to být třeba funkce hlášení, jako má WhatsApp, která umožňuje koncovému uživateli označit závadný obsah, zpráva se potom stáhne ze zabezpečené platformy a odešle se recenzentům. Tam se nic neděje automaticky. Teprve konkrétní akce uživatele spustí bezpečnostní protokol, který se neliší od pořízení snímku obrazovky. Řešení společnosti Apple je ale automatizované a funguje bez jakéhokoli přímého zásahu uživatele.
Toto je výjimečně citlivá oblast, ale jak řekl bývalý policejní digitální forenzní expert Jake Moore: „Bojím se, kde tohle skončí. Začíná to slibně, kdo by nechtěl chránit své děti, že? Ale takový nástroj může být pro uživatele nebezpečný. Kde to skončí? Tohle se opravdu může hodně vymknout z rukou.“
Zmíněnou aktualizaci obsahuje beta verze iOS 15.2, neví se ale, kdy a jestli vůbec ji Apple spustí. A rozhodně by neměl. Alespoň do té doby, než proběhne širší debata. „Není to jen šikmá plocha,“ varuje EEF. „Je to plně rozvinutý systém, který pouze čeká na záminku zvenčí.“
Po velmi silné vlně odporu společnost Apple veřejnost ujistila, že se bude držet původních plánů, ale feedback, který dostala, vezme v úvahu. Stále ovšem nemáme žádné novinky.
Výzkumníci z jedné z předních britských univerzit tvrdí, že jejich nová technologie dokáže rozbít systém skenování podobný tomu od společnosti Apple v 99 procentech případů.
Vědci z Imperial College v Londýně uvedli, že pomocí detekčních technologií jejich „vizuálně nepostřehnutelný filtr“ zamaskoval obrázky tak, že „pro algoritmus vypadaly v 99,9 procenta případů rozdílně, i když pro lidské oko jsou identické.“
Zeptala jsem se týmu, zda budou schopní prolomit i řešení od Applu. „Zmíněný algoritmus společnosti Apple není veřejný, proto jsme svá tvrzení nemohli dokázat. Žádný z pěti algoritmů, které jsme testovali, vůči našemu útoku neobstál. Je tedy pravděpodobné, že současné technologie používané pro skenování úložiště je relativně snadné prorazit.“
Zatím nemáme žádné vyjádření Applu, co se s jejich systémem skenování telefonů jejich klientů stane dále. Doufáme ale, že společnost zůstane u automatického skenování iCloudu, které není problematické.
Podle týmu z Imperial College je hlavním poselstvím výzkumu ukázat, že tvrzení o odolnosti a kompromisech „něco za něco“ je třeba zvažovat a vyhodnocovat, nikoliv je brát jako fakt. Zejména to platí pro invazivní řešení.
Mezitím se můžeme věnovat tomu, co změny v iMessage znamenají v dlouhodobém měřítku. Jako jedna z nejrozšířenějších platforem posílajících zabezpečené zprávy bude první, která bude tímto způsobem monitorovat obsah. A nyní čekáme na argumenty, proč se omezit pouze na sexuálně zaměřené snímky. Co s teroristickými obrázky v boji proti radikalizaci? Co drogy nebo sebepoškozování? Nezaslouží si nová technologie využití i zde?
iMessage, Signal, WhatsApp a další zatím nemají žádnou kontrolu nad tím, co se skrze jejich platformy posílá. V momentě, kdy se to změní, můžeme si položit velmi oprávněnou otázku: „Pokud díky vaší technologii zjistíte, že dítě posílá nebo přijímá sexuálně explicitní obrázky, jak můžete ignorovat svou ohlašovací povinnost?“ A to následně otevře dveře i k dalším právním úpravám, které mohou ohlášení potenciálního zneužívání nařídit.
„Jakkoliv to Apple nazývá,“ říká EFF, „už to rozhodně není zabezpečená komunikace. Jejich kompromis na koncovém šifrování je obratem o 180 stupňů, šokujícím zejména pro uživatele, kteří spoléhali na vedoucí postavení Applu v oblasti soukromí a bezpečnosti.“
