Společnost Anthropic zahájila spolupráci s poradenskou firmou Accenture, jejíž specialisté budou přímo uvnitř firmy prověřovat bezpečnost jejích modelů umělé inteligence.
Jde o první konkrétní realizaci návrhu generálního ředitele Anthropic Daria Amodeiho, který chce zpomalit tempo vývoje nejpokročilejších systémů umělé inteligence.
Do Anthropic se zapojí zaměstnanci společnosti Faculty, specializované AI divize Accenture. Budou testovat zavedené bezpečnostní mechanismy, provádět takzvaný red teaming modelů a posuzovat, zda se jejich chování drží lidských hodnot.
Spolupráce zároveň nebude výhradní. Anthropic uvedl, že o podobném zapojení jedná také s neziskovou výzkumnou organizací METR a dalšími externími partnery.
Úloha externích hodnotitelů je součástí širšího tříbodového plánu, který Amodei představil v sobotu. Jeho cílem je zpomalit rychlost, s jakou technologické firmy zdokonalují své nejvyspělejší modely. První bod návrhu počítá s tím, že nezávislí hodnotitelé získají přístup k firmám na úrovni jejich vlastních zaměstnanců.
Amodei následně uvedl, že se Anthropic k této části plánu „jednostranně“ zavázal. Zároveň vyzval další společnosti vyvíjející umělou inteligenci, aby přijaly stejný závazek.
Anthropic a Accenture plánují v příštích pěti letech společně investovat nejméně miliardu dolarů do budování kapacit v této oblasti. Anthropic však s ohledem na „význam a naléhavost“ tématu zaplatí práci Accenture přímo. Firma zároveň připouští, že současný model financování nemusí být dlouhodobý.
Návrh šéfa Anthropic vyvolal rozdílné reakce i mezi představiteli technologického průmyslu. Podporu mu tento týden vyjádřili například šéf OpenAI Sam Altman nebo šéf Tesly a SpaceX Elon Musk.
Generální ředitel Nvidie Jensen Huang naopak obavy odmítl a uvedl, že podle něj není zapotřebí nová regulace.
Anthropic současně zdůraznil, že přizvání externích hodnotitelů neznamená přenesení odpovědnosti za bezpečnost modelů. Konečná odpovědnost zůstává na samotné společnosti.
