Správně nastavené etické normy zabrání nadvládě umělé inteligence nad lidmi

Tři zákony robotiky, jak je v roce 1942 definoval spisovatel Issac Asimov, patří do žánru sci-fi, jenže díky rozmachu umělé inteligence (Artificial intelligence – AI) jsou otázky ohledně etiky, odpovědnosti a nadvlády stále aktuálnější a je potřeba na ně hledat odpověď.

Prague (7. května 2019)

Stále více firem i zemí investuje do výzkumu umělé inteligence. Podle odhadů se bude jednat o částku 232 miliard dolarů do roku 2025. S vývojem AI jde ruku v ruce také její masivní zavádění do praxe. „Státy využívají umělou inteligenci ve snaze zajistit bezpečnost a zefektivnit veřejnou správu. Obchodní korporace pak k rozvoji svých produktů a služeb,“ vysvětluje Zuzana Kohutová, CEE Legal Counsel ze společnosti SAS, a doplňuje: „V obou případech nasazení AI je nutná transparentnost ohledně účelu i využitých prostředků.“

Utopická budoucnost zalitá sluncem vs. apokalyptická, kdy stroje převezmou vládu
Nejčastěji zaznívají dva zcela odlišné názory. První proud má vizi, jíž lze označit jako utopickou. Tedy lidé budou osvobozeni od práce, kterou za ně budou vykonávat roboti a systémy umělé inteligence budou umět diagnostikovat nemoci i je efektivně léčit. Urovnají a vyřeší případné spory a pro lidstvo budou přínosem. Na opačné straně stojí skeptici prorokující apokalypsu, kdy umělá inteligence převezme nadvládu nad světem a člověka si podřídí. Dojde k naplnění obrazů známých z hollywoodských filmů, typu Terminátor či Já, robot.

Co svěřit AI a co zanechat lidem
Pravděpodobně se nenaplní ani jedno z toho. „Umělá inteligence, ve smyslu, v jakém se s ní v praxi setkáváme již dnes, je totiž ve svém principu založena na jednoznačně definovaných algoritmech,“ připomíná Zuzana Kohútová ze SASu a dále vysvětluje: „Výzvou při implementaci AI je nastavení relevantních, a přitom nediskriminačních rozhodovacích kritérií.“ Umělá inteligence by měla pracovat s daty a na základě jejich analýzy dodávat výsledky. Člověk by pak měl určit závěry, jak se s tím bude dál nakládat. Zkrátka podle mnohých expertů strojům přísluší práce, ale rozhodnutí by mělo zůstat lidem.

Jenže co, když dojde k chybě a umělá inteligence selže? „Odpovědnost za selhání AI je pro svoji složitost oblíbeným tématem odborné právní veřejnosti už nyní,“ připouští Zuzana Kohútová, CEE Legal Counsel ze společnosti SAS, a problematiku přibližuje: „Prvním úskalím je vymezení produktu ve vztahu k režimu odpovědnosti za vadu výrobku – tedy zda jde pouze o software, resp. jeho část, anebo zda produkt zahrnuje i hardwarovou část. Hledání zavinění za selhání je mnohdy bez znaleckého posudku takřka nemožné. Navíc do provozu technologií založených na AI mohou zasáhnout nepředvídané vnější vlivy, které pak komplikují aplikaci existujících právních norem.“

Legislativa se snaží s vývojem držet krok
Využívání umělé inteligence by mělo být podřízeno nejen legislativě, ale také etickým normám. Boom je však natolik rychlý, že předpisy vznikají postupně a mnohým zemím, včetně Česka, zatím chybí národní strategie pro rozvoj AI. V tu chvíli pomůže EU.

„Evropská komise aktuálně pracuje na vydání zprávy o možných nedostatcích rámce pro bezpečnost a odpovědnost pro umělou inteligenci, která by mohla například téma odpovědnosti za selhání částečně vyjasnit,“ uvádí Zuzana Kohútová a doplňuje: „Také je na místě určitý druh institucionalizovaného dozoru s ohledem na možná rizika spojeného s využíváním umělé inteligence. To je úkolem tzv. Odborné skupiny na vysoké úrovni pro umělou inteligenci („High-level Expert Group on AI“), která působí při Evropské komisi. Ta v loňském roce vydala Návrh Etických pokynů pro zajištění důvěryhodnosti umělé inteligence a má také za úkol nadále monitorovat vývoj v oblasti AI.“

„Rozporuplné“ GDPR znamenalo na poli umělé inteligence pokrok
Předpis, který se promítl do mnoha odvětví, a zvláště pracovníci v marketingu mu nemohli přijít na jméno, se dotkl také nasazení a využívání umělé inteligence. „Přestože Nařízení GDPR je ve všeobecnosti vnímáno rozporuplně, z pohledu AI jde o poměrně pokrokový právní předpis, obsahující důležité principy pro její rozvoj. Například jde o princip ochrany „by design“, resp. ochrany již od návrhu, anebo o princip minimalizace zpracování, dle kterého by nemělo ke zpracování osobních údajů docházet bez jasně stanoveného účelu,“ vysvětluje Zuzana Kohútová a dodává: „GDPR dále třeba stanovuje podmínky, za nichž je možné využívat technologie pro profilování a automatizované rozhodovaní, a poskytuje fyzickým osobám právo na přenositelnost svých osobních údajů k jinému zpracovateli ve všeobecně podporovaném formátu. Obdobné principy je možné pozorovat v Koordinovaném plánu rozvoje a používání AI, který vloni vydala Evropská Komise.“

Kontrola AI v rukou veřejnosti nikoliv elit
Rozmach umělé inteligence, který nás čeká v následujících letech, je nevyhnutelný. Jestliže nyní největší investice míří do AI v bankovním sektoru a maloobchodu, postupně se budou přidávat další odvětví. Patrné to je již nyní ve výrobě a zdravotnictví. Aby se přece jen nenaplnily apokalyptické předpovědi a vize, musí se lidé na změny připravit. „Domnívám se, že kromě dodržování všech základních etických principů, právních norem a odpovídajícího vzdělávaní je nutné, aby přístup k relevantním informacím o využití technologií na bázi AI nebyl výsadou několika veřejných či soukromých subjektů, ale byla zajištěna kontinuální a efektivní kontrola ze strany veřejnosti,“ uzavírá Zuzana Kohútová ze společnosti SAS.