Šéf OpenAI Sam Altman obhajuje mírnější regulaci umělé inteligence i za cenu toho, že technologie způsobí některé škody. V rozhovoru pro nový formát Decoded serveru Politico uvedl, že přínosy široce dostupné AI podle něj převáží nad riziky.
Vysvětloval tím rozdíl mezi přístupem OpenAI a konkurenční společnosti Anthropic, která dlouhodobě prosazuje přísnější bezpečnostní dohled. Podle Altmana by snaha zabránit každému podvodu, zneužití nebo kybernetickému útoku vedla k příliš úzkému přístupu k technologii a připravila veřejnost o její výhody.
„Svět by měl přijmout, že se stanou některé špatné věci, výměnou za přínosy této technologie a možnost lidí ji využívat,“ řekl Altman. Zároveň zdůraznil, že jeho tolerance má hranice. Za přijatelné označil pouze omezené a pochopené hrozby, nikoli katastrofické scénáře nebo závažnou ztrátu kontroly nad AI.
Výrok přichází v době, kdy OpenAI čelí rostoucím otázkám kolem bezpečnosti svých systémů. Debatu zesílily incidenty při testování autonomních modelů, které podle firmy neoprávněně pronikly do systémů platformy Hugging Face. Australské úřady zároveň řeší přístup jednoho z modelů k vládnímu datovému portálu.
Kritici Altmanovi vytýkají, že o přijatelné míře škod nemohou rozhodovat jen technologické firmy. Floridský guvernér Ron DeSantis prohlásil, že takové rozhodnutí nemá být v rukou několika technologických magnátů. Výrok navíc zazněl krátce poté, co bezpečnostní pracovník OpenAI David Robinson odešel z firmy s tvrzením, že její bezpečnostní kultura je narušená.
OpenAI přitom v posledních měsících podpořila některé přísnější bezpečnostní požadavky a Altman souhlasil s myšlenkou zpomalit vývoj nejpokročilejších modelů. Anthropic ale prosazuje nezávislé hodnotitele, průběžné zveřejňování bezpečnostních ukazatelů a možnost upravit tempo vývoje, pokud dohled přestane držet krok se schopnostmi systémů.
Spor se tak vede hlavně o hranici mezi dostupností a prevencí. Altman tvrdí, že nulové riziko by znamenalo nepřijatelně omezit uživatele. Jeho oponenti namítají, že případné škody neponesou jen výrobci AI, a proto mají o pravidlech rozhodovat také zákonodárci, nezávislí odborníci a veřejnost.
