Společnost Anthropic upozornila, že menší modely umělé inteligence by mohly do konce roku 2026 získat schopnost samostatně se šířit mezi zařízeními připojenými k internetu. Podle jejích experimentů už modely s nejvýše třiceti miliardami parametrů zvládají řadu dílčích úkolů potřebných k takovému šíření. Celý proces ale zatím nedokážou spolehlivě dokončit.
V testech se zjednodušeným zabezpečením zvládly úplnou replikaci modely GLM-5.2 a výkonnější systémy. Anthropic varuje, že podobný škodlivý program by mohl využívat výpočetní výkon napadených zařízení a postupně se rozrůstat. Jeho vypnutí by bylo obtížné, pokud by neměl jedno centrální místo, které lze odpojit.
Firma připouští, že šíření takové sítě na méně výkonném hardwaru může trvat i několik dní. Budoucí systémy by se navíc mohly zaměřit na výkonnější infrastrukturu, například procesory v datových centrech. Anthropic ale zdůrazňuje, že její experimenty autonomní šíření prostřednictvím komerčních datových center neprokázaly.
Botnety jsou sítě napadených zařízení, která útočníci ovládají na dálku. Často využívají špatně zabezpečené chytré spotřebiče, bezpečnostní kamery nebo televizní boxy. Mohou sloužit k rozesílání spamu, šíření škodlivého softwaru nebo zahlcení cílových firem falešným provozem.
Šéf Anthropicu Dario Amodei minulý měsíc varoval, že umělá inteligence by už během příštího roku mohla ovládnout celý internet pomocí rozsáhlé sítě zařízení nakažených škodlivým softwarem, která by dokázala fungovat dlouhodobě.
