Na sociální síti Twitter se v pondělí odpoledne rychle šířil obrázek, který mnohé účty včetně několika „ověřených“ prezentovaly jako důkaz výbuchu u sídla amerického ministerstva obrany. K žádné explozi u Pentagonu ovšem nedošlo.
Komentátoři proto začali záhy poukazovat na to, že obrázek nese známky výstupu generovaného umělou inteligencí. Podle agentury Bloomberg šlo možná o první případ, kdy takto vytvořený snímek ovlivnil akciové trhy.
„Tohle je přesně to, co všichni čekali,“ komentoval incident někdejší bezpečností šéf Facebooku Alex Stamos, který aktuálně vede výzkumné pracoviště na Stanfordově univerzitě.
Odkazoval při tom na skutečnost, že systémy označované jako generativní umělá inteligence jsou schopné vytvářet realistické obrazové materiály, což může usnadnit šíření falešných zpráv. Zároveň poukázal na to, že Twitter už neověřuje totožnost uživatelů při udílení „modré fajfky“, takže důvěryhodně mohou působit i podvodné profily.
Řada účtů s tímto odznakem, který byl dříve vyhrazen jen pro profily osobností či firem, u nichž byla totožnost ověřená, se podílela na vyvolání pondělní paniky. Byl mezi nimi i profil nazvaný Bloomberg Feed, který s americkou zpravodajskou agenturou neměl nic společného a byl později zablokován. Falešný snímek sdílel také účet zerohedge s 1,6 milionu sledujících a profil ruské státní televize RT.
Na snímku byla zobrazena bílá stavba připomínající americké vládní budovy a v popředí oblak černého kouře. Podle Bloombergu se nejdříve objevil na Facebooku, načež se začal rychle šířit na Twitteru. „Facebook příspěvek zablokoval, když nezávislí analytici dospěli k závěru, že je falešný. Větší dosah měl na Twitteru,“ uvádí web Platformer, který se specializuje na zpravodajství o nových médiích.
Obrázek byl sdílen s tvrzením, že ukazuje výsledek exploze u Pentagonu, tuto informaci však bylo poměrně jednoduché vyvrátit. Jednak se budova na něm neshodovala se skutečným sídlem ministerstva obrany, jednak snímek obsahoval různé nedokonalosti charakteristické pro výstupy generované systémy AI. Oficiální účet záchranných složek v oblasti zahrnující Pentagon na Twitteru přispěchal s prohlášením, že žádný incident nenastal.
Velké účty jako RT a zerohedge své prvotní příspěvky krátce po zveřejnění smazaly, šíření podvodné zprávy ale podle všeho stihlo mít dopad na cenu akcií na Wall Street. Krátce po desáté hodině východoamerického času, kdy se obrázek s kouřem šířil Twitterem, oslabil hlavní akciový index S&P 500 asi o 0,3 procenta na své denní minimum. Když začalo být jasné, že žádá exploze nenastala, index ztrátu smazal.
Původ obrázku, který způsobil paniku, není známý. Spekulace o tom, že jde o tvorbu umělé inteligence, přiživily obavy ohledně vlivu těchto nástrojů na účinnost dezinformací, uvádí Bloomberg. Ihned po vlně příspěvků o „výbuchu u Pentagonu“ se objevil další podobný případ, tentokrát prezentovaný jako snímek Bílého domu.
Podle webu Platformer pondělní události také ukazují „vážné nedostatky“ bezpečnostních opatření Twitteru. „Twitter proti tomuhle míval dobrou obranu. Ačkoli měl své mouchy, starý systém ověřování poskytoval první obrannou linii proti typu útoku, jaký jsme dnes (v pondělí) viděli. V dnešním Twitteru jsou však obranné pozice převážně opuštěné,“ napsal.
