Evropská komise chystá směrnici, která by měla vývoj umělé inteligence svázat novými pravidly. Především je v ní kladen důraz na to, aby u umělé inteligence vždy figuroval prvek lidského kontrolního faktoru, který bude prověřovat mechanismy, podle nichž se rozhoduje.
Cílem je především zamezit tomu, aby se umělá inteligence rozhodovala způsobem, který si bude moci obhájit pouze ona. Ostatně není třeba si sáhodlouze představovat, jak by to v krajním případě mohlo dopadnout. O to už se postaraly stovky autorů sci-fi v čele s Arthurem C. Clarkem a jeho palubním počítačem HAL 9000.
Cokoli umělá inteligence udělá, bude podle návrhu Evropské komise nově spadat do kompetence jejích lidských tvůrců.
„Zjednodušeně řečeno to znamená, že zatímco dnes je testování ukončeno ve chvíli, kdy je umělá inteligence dodána klientovi, pod novou směrnicí bude muset testování probíhat i nadále. Bude se tak muset dít proto, že umělá inteligence se neustále učí a vyvíjí,“ vysvětluje Jiří Voldán, jeden z výkonných ředitelů české společnosti Cleverlance, spadající pod ICT holding Aricoma Group. Ta je součástí skupiny KKCG miliardáře Karla Komárka.
Právě Cleverlance bude jednou ze společností, kterých se bude směrnice týkat, protože se mimo jiné zabývá právě vývojem a testováním umělé inteligence v rozličných aplikacích pro využití v mnoha průmyslových odvětvích.
Pokud se na tom evropští politici shodnou, bude tedy nutné na umělou inteligenci neustále dohlížet. Nebude-li se to dít, hrozí firmám podle chystané směrnice drakonická pokuta až šesti procent z ročního obratu, což může být pro mnohé společnosti v oboru informačních technologií likvidační.
Přitom nejde o první takovou úpravu – česká legislativa u schvalování spotřebitelských úvěrů, které často posuzují hodnoticí algoritmy s prvky umělé inteligence, pamatuje na to, že je nutné důkladně a komplexně posoudit schopnost žadatele úvěr splatit. A algoritmus dokáže vyřadit žadatele, u kterých je vysoká pravděpodobnost, že úvěr nesplatí.
Pro ověření každého jednotlivého žadatele se však na výsledky automatického posuzování musí podívat ještě lidský operátor a udělat konečné rozhodnutí.
Cleverlance se chystaná směrnice týká z toho pohledu, že má asi největší testovací tým v České republice, který prověřuje a vyvíjí i aplikace založené na strojovém učení – čili umělé inteligenci. Aplikace, které prošly testováním v Cleverlance, dnes fungují například u všech českých mobilních operátorů i u většiny českých bank.
Nekonečný dohled
U všech takových aplikací přichází s chystaným návrhem Evropské komise velice zásadní změna. Abychom přesně pochopili, jak bude muset reakce na takovou změnu vypadat v praxi, je nutné se podívat trochu hlouběji pod kapotu některého z takových algoritmů.
Pro příklad uveďme nějakého chatbota. Chatbot je aplikace, která vám během krátkého dialogu dokáže například zarezervovat stůl ve sdílené kanceláři, aniž byste se během procesu museli bavit s jediným živým člověkem. A Cleverlance jednoho takového vlastního chatbota, který se jmenuje Empeena, vyvíjí. Je to takzvaný empatický chatbot, který už několik let funguje v německé centrále Deutsche Telecomu.
„Standardní postup je dnes takový, že při testovacím scénáři nové rezervace vidíme celý strom rozhodování systému,“ říká Michal Čakrt, šéf testingu v Cleverance. „V rámci testování zadáváme jak ideální scénář, kdy má klient nějaký požadavek a algoritmus jej dovede ke správné rezervaci, tak alternativní scénáře, kdy se zadají nesmyslná data, a ověří se, že se systém nikde nezasekne.“
Článek je rozdělen na dvě části, pokud si chcete přečíst jeho zbytek, klikněte na následující tlačítko.
