Rizika spojená s rychlým rozvojem umělé inteligence projedná v pondělí newyorská městská rada. Pod přísahou před ní vystoupí zástupci společností Anthropic, OpenAI, Googlu a Mety. Firmy mají popsat možná nebezpečí spojená s jejich modely a vyjádřit se k návrhům regulace.
Podle programu začne slyšení v jedenáct hodin východoamerického času. Kromě zástupců technologických společností se ho zúčastní také výzkumníci v oblasti umělé inteligence.
Pozornost rady se zaměří především na bezpečnost pokročilých modelů. OpenAI a Anthropic v posledních týdnech čelí zvýšenému zájmu kvůli způsobu, jakým své technologie zabezpečují.
Výzkumníci v září varovali, že závod ve vývoji stále výkonnějších systémů může vést k modelům schopným způsobit mimořádně závažné škody, v krajním případě i ohrozit existenci lidstva. V reakci na tyto obavy se objevily požadavky na přísnější státní dohled.
Předsedkyně newyorské městské rady Julie Menin uvedla, že vzhledem k závažnosti tématu mají technologické společnosti povinnost před radou vystoupit.
Jednotlivé společnosti vyšlou na slyšení své odborníky. Anthropic bude zastupovat Logan Graham, který vede tým Frontier Red Team. Za OpenAI přijde Morgan Dwyer, šéfka pro rozvoj a fungování firemní politiky.
Google vyšle Alici Friend, ředitelku pro politiku v oblasti AI a nových technologií, zatímco Metu bude reprezentovat Shane Cahill, jenž se zabývá legislativou týkající se umělé inteligence.
Meta účast na slyšení potvrdila už koncem září. Anthropic, OpenAI a Google podle Menin souhlasily až poté, co rada pohrozila použitím předvolání. New York už stejný krok podnikl vůči společnosti SpaceX.
Pokud SpaceXAI předvolání nesplní, může se newyorská rada podle Menin obrátit na Nejvyšší soud státu New York a požádat o jeho vymáhání.
