Přední vývojáři umělé inteligence by si měli navzájem prověřovat bezpečnost svých modelů ještě před jejich zpřístupněním veřejnosti. Na konferenci All-In Summit v Los Angeles to v pondělí navrhl Elon Musk.
Do systému by podle něj měly vstoupit společnosti SpaceX, OpenAI, Anthropic, Google, Meta a také tři až čtyři významné čínské technologické firmy.
Musk připustil, že jeho návrh zatím nezískal podporu konkurenčních laboratoří, které soupeří se společností SpaceXAI, vlastněnou SpaceX. Přesto jej považuje za účinný způsob, jak zvýšit šanci na odhalení případných problémů.
Podle něj by firmy mohly na své modely pustit konkurenční „testovací mechanismus“, který by posuzoval jejich bezpečnost. Dodal, že ani takový systém nebude bezchybný, ale pravděpodobnost, že odhalí nedostatky, by podle něj byla „dramaticky vyšší“.
Muskův návrh přichází v době, kdy se uvnitř technologického sektoru zvyšuje tlak na opatrnější vývoj umělé inteligence. Šéf Anthropic Dario Amodei o víkendu vyzval ke zpomalení rozvoje AI modelů a upozornil na jejich možná rizika.
Jeho postoj podpořili také Musk a šéf OpenAI Sam Altman. Taková shoda mezi významnými představiteli konkurenčních firem je podle dostupných informací neobvyklá.
Amodei zároveň navrhl, aby AI laboratoře využívaly nezávislé technologické audity. Bezpečnostní postupy by v takovém případě ověřovali takzvaní embedded evaluators, tedy externí hodnotitelé působící přímo uvnitř firem.
Výzvy technologických lídrů ke zpomalení vývoje a přísnější regulaci se setkaly s odporem administrativy Donalda Trumpa. Prezident v pondělí na sociální síti Truth Social zveřejnil sérii příspěvků, v nichž označil obavy spojené s umělou inteligencí za „hoax“ a „podvod“.
Trump rovněž varoval, že zpomalení vývoje AI by mohlo poskytnout výhodu Číně. Stejný problém zmínil i Amodei, který situaci označil za „nejtěžší dilema“.
Čínské úřady však výzvy ke zpomalení odmítají. Mluvčí tamního ministerstva zahraničí v pondělí označil tlak AI firem na omezení vývoje za „šíření strachu“, uvedla agentura Reuters. Musk přesto věří, že by se na podobném systému mohly dohodnout i čínské společnosti.
