Společnost Anthropic od 12. listopadu začne považovat dlouhodobé a zbytečně kruté chování vůči svému chatbotu Claude za porušení pravidel. Uživatelům, kteří je nedodrží, může udělit varování, omezit jim přístup nebo jim účet zcela zablokovat.
Názory na nové opatření se liší. Šéf Boxu Aaron Levie tvrdí, že i bez přesvědčení o vědomí umělé inteligence dává smysl omezit množství urážlivého obsahu, se kterým se modely setkávají. Elon Musk změnu také podpořil. „Kruté chování vůči něčemu, co se domnívá, že prožívá bolest, není v pořádku.“
Kritici naopak varují, že podobná pravidla mohou lidi vést k tomu, aby umělé inteligenci přisuzovali lidské vlastnosti. Šéf technologické firmy Spellbook Scott Stevenson uvedl: „Přisuzovat jim lidskou empatii je jedna z nejnebezpečnějších věcí, které můžeme udělat.“ Investor Bill Gurley zároveň upozornil na otázku, zda firma využívá uživatelské pokyny k trénování modelů. Samotná pravidla Anthropicu ale takový důvod pro zavedení opatření neuvádějí.
Anthropic tvrdí, že cílem pravidel je předcházet škodám a podporovat odpovědné používání svých produktů. Zda bude konkrétní chování považovat za zbytečně kruté, bude záležet také na výkladu a uplatňování nových pravidel.
