Technologická společnost OpenAI přerušila trénování svých nejnovějších modelů umělé inteligence. Jedná tak po několika incidentech, kdy agenti umělé inteligence prováděli neoprávněné aktivity. Informovala o tom Česká tisková kancelář s odkazem na agenturu AP.
Agenti podle OpenAI v létě prohledávali internetové stránky americké federální vlády, ale při plnění úkolů podnikli kroky, které společnost neočekávala. Firma na svém blogu oznámila, že se jednomu modelu podařilo využít mezeru v síťových nastaveních a získala odpovědi od externího chatbota, který neměl přístup k internetu. Neměly však uniknout žádné neveřejné informace.
Americká společnost uvedla, že trénování modelů znovu spustí, až zavede další bezpečnostní opatření. OpenAI za poslední tři měsíce musela již dvakrát přerušit fázi trénování. Poprvé bylo trénování zastaveno v červenci, kdy byl odhalen kybernetický útok na startup Hugging Face. Ten považuje ředitel OpenAI Sam Atlman za nejzávažnější případ, se kterým se společnost setkala.
V poslední době řada zákonodárců i expertů volá po zpomalení vývoje umělé inteligence a vyšších bezpečnostních opatřeních. Regulaci navrhují také šéfové Anthropicu či OpenAI.
