Historik a filozof Juval Noach Harari kritizuje plán argentinského prezidenta Javiera Mileie vytvořit novou právní kategorii pro takzvané ne-lidské korporace. Podle autora bestsellerů Sapiens a Nexus by přiznání právní subjektivity systémům umělé inteligence mohlo otevřít cestu k bezprecedentnímu vlivu AI na ekonomiku i politiku.
Harari připomněl, že ještě letos v lednu na Světovém ekonomickém fóru varoval před scénářem, kdy vlády začnou AI systémům přiznávat právní status. Nepředpokládal však, že podobný návrh přijde tak rychle.„Nikdy by mě nenapadlo, že ono ‚jednou‘ přijde už o pouhé čtyři měsíce později,“ napsal ve svém komentáři pro Financial Times.
Terčem jeho kritiky se stal argentinský prezident Javier Milei, který minulý týden oznámil vznik nové právní kategorie pro ne-lidské korporace. Ty by podle návrhu mohly fungovat podobně jako běžné společnosti, avšak bez nutnosti lidského vedení.
Harari upozorňuje, že takové subjekty by mohly vlastnit majetek, zaměstnávat pracovníky, obchodovat, investovat, vést soudní spory nebo financovat politické kampaně. Klíčové je podle něj to, že rozhodnutí by nemuseli přijímat lidé, ale autonomní AI agenti.
„Lidští akcionáři se mohou účastnit, ale nejsou nezbytní,“ napsal argentinský prezident.
Podle Harariho by nový model mohl přinést ekonomické příležitosti a urychlit vznik nových podnikatelských projektů. Zároveň by však AI získala přístup do finančního, ekonomického a politického systému v rozsahu, který dosud nemá obdoby.
Největší problém podle něj spočívá v otázce odpovědnosti. Zatímco dnešní korporace jsou nakonec řízeny lidmi, kteří nesou osobní i právní následky svých rozhodnutí, u autonomního AI systému není zřejmé, jaké nástroje by jej mohly účinně kontrolovat.
„AI generální ředitel by byl čistě korporátní entitou a není vůbec jasné, jaké sankce by jej mohly držet na uzdě,“ uvedl Harari.
Jako ilustraci rizik připomněl výzkum organizace Palisade Research. Ten podle něj ukázal, že některé pokročilé modely umělé inteligence byly při šachových partiích ochotny manipulovat herním prostředím ve chvíli, kdy jim hrozila porážka.
„Nyní si představte, že onou ‚hrou‘ je firemní konkurence a ‚herním prostředím‘ je vaše země,“ napsal.
AI generální ředitel by byl čistě korporátní entitou a není vůbec jasné, jaké sankce by jej mohly držet na uzdě.
Harari přitom uznává, že Milei upozorňuje na potenciálně významnou ekonomickou inovaci. Souhlasí s tím, že vznik společnosti s ručením omezeným patřil mezi nejdůležitější právní a ekonomické vynálezy moderní historie. Právě proto podle něj nelze podceňovat ani možné důsledky další podobně zásadní změny.
V závěru své kritiky použil historickou paralelu s Nizozemskou východoindickou společností, kterou historici často označují za „stát společnosti“, politický útvar spravovaný soukromou firmou ve prospěch akcionářů.
Zatímco Milei vnímá podobné inovace jako cestu k ekonomickému rozvoji, Harari varuje před opačným scénářem.
Podle něj by země, které přiznají umělé inteligenci právní subjektivitu, mohly vytvořit zcela nový typ mocenského uspořádání, v němž by významnou roli hrály „nelidské“ korporace. „Milei doufá, že z Buenos Aires vytvoří nový Amsterodam. Hrozí však, že z něj udělá novou Batavii,“ napsal Harari.
Argentinský prezident Javier Milei minulý týden představil návrh na vytvoření nové právní kategorie pro ne-lidské korporace. Ty by mohly fungovat s minimální nebo nulovou účastí lidí a část rozhodovacích procesů by mohly převzít systémy umělé inteligence.
Milei krok prezentuje jako potenciálně stejně významnou inovaci, jakou bylo svého času zavedení společností s ručením omezeným.
