Umělá inteligence (AI) představuje celou řadu rizik, a zároveň nabízí mnoho příležitostí napříč celou společností. Dosud však neproběhla žádná komplexní analýza AI v kontextu lidských práv. Právě o to se od roku 2021 snaží společný výzkum FEL ČVUT, MUNI, Ambis a prg.ai. Projekt „Umělá inteligence a lidská práva: rizika, příležitosti a regulace“ je financovaný Technologickou agenturou ČR a sdružuje technologické a právní odborníky.
Výzkumníci si dali za cíl identifikovat kořenové příčiny rizika porušení lidských práv v rámci všech fází životního cyklu AI. A nezůstanou pouze u vyhodnocení. Výstupem projektu bude sada doporučení, jak AI technologie vyvíjet, používat a regulovat takovým způsobem, aby neohrožovaly lidská práva a naopak pomohly jejich rozvoji a ochraně. Zároveň totiž zkoumají i možnosti dalšího nasazení AI tam, kde by automatizace mohla pomoci lidská práva chránit.
Umělá inteligence jako dobrý sluha, ale špatný pán
„AI může významně pomoci např. v monitorování dodržování a v prosazování lidských práv v oblasti korporátní odpovědnosti, posílení práva na spravedlivý proces odstraněním průtahů v řízení, ochrany zdraví a řadě dalších,“ vyjmenovává potenciál umělé inteligence koordinátorka projektu Martina Šmuclerová z Ambis, která působí i na pařížském Sciences Po.
Zároveň však upozorňuje na rizika. „Například nereprezentativní vstupní data a jejich nevyvážené zpracování může do AI technologie vnést tzv. algoritmickou předpojatost neboli diskriminační bias. To se může projevit např. ve výběrovém řízení do zaměstnání, policejním dohledu založeném na mechanismu rozpoznávání obličejů nebo při hodnocení úvěruschopnosti jednotlivců v bankovnictví. I nasazení AI systému v jiném než v cílovém provozním prostředí, což se týká např. autonomních vozidel, může vnést riziko porušení lidských práv.“
Problémem může být podle výzkumníků také nevysvětlitelnost a netransparentnost modelů umělé inteligence. Pokud člověk namítající porušení lidského práva nemá přístup k informacím a důkazům, na jejichž základě o něm AI rozhodla, může být ohroženo právo na spravedlivý proces.
Právní regulace rizikových AI systémů
Právní regulace systémů na bázi umělé inteligence se nyní připravuje na úrovni Evropské unie v podobě Aktu o umělé inteligenci. Představen byl v dubnu 2021 jako součást širší iniciativy EU zaměřené na posílení regulačního rámce pro nové technologie. Návrh Evropské komise, který 14. 6. 2023 prošel hlasováním Evropského parlamentu, se zaměřuje na evidenci a regulaci vysokorizikových systémů, které mohou představovat hrozbu pro základní práva a bezpečnost občanů EU.
„Rizikovost nasazení systémů automatizace spočívá v jejich kvalitě zpracování a úloze, kterou řeší. To se s nástupem AI nemění. Významně se ovšem rozšiřují oblasti lidských činností a zpracování dat, které lze automatizovat,“ vysvětluje Luboš Král z Centra umělé inteligence FEL ČVUT.
Ačkoliv povinnost dodržovat lidská práva již vyplývá z mezinárodních právních norem, dosavadní výzkum odhalil, že více než 60 procent oslovených českých firem, které dodávají AI řešení a produkty, se lidskoprávní otázkou v kontextu AI vůbec nezabývá a není si těchto rizik vědoma (viz Dílčí výzkumná zpráva). Rychlý vývoj technologií a jejich nasazování do nejrůznějších oblastí navíc přináší zcela nové výzvy, jejichž praktické řešení se teprve vytváří.
„Nyní nám hlavně chybí osvěta. Ta je právě i cílem našeho projektu,“ říká Lukáš Kačena z iniciativy prg.ai, která se dlouhodobě věnuje budování povědomí o umělé inteligenci. „Značné jsou také potenciální dopady na samotného uživatele a je otázkou času, kdy se i v ČR objeví první stížnosti a žaloby na porušení lidských práv, jako se to už děje ve světě i v Evropě, a proto prevence je nutná,“ popisuje závažnost situace.
Doporučení pro firmy i státní správu
Jaké změny tedy vědci konkrétně navrhují? Cílem projektu není vytvářet nové právní normy, ale poskytnout praktická vodítka všem aktérům životního cyklu AI, aby dokázali převést lidskoprávní normy již platné a závazné v naší společnosti na automatizované systémy. Klíčové je zavedení mechanismu hodnocení rizik, který bude jádrem dvou souborů doporučení pro komerční subjekty a pro státní správu. Výzkumníci identifikovali 38 potenciálních rizik pro lidská práva ve všech fázích vývoje a provozování AI systému a pro každé nabízejí možnosti jejich prevence a eliminace.
Zároveň pro 16 vybraných hlavních oblastí porušování lidských práv ve společnosti navrhli nasazení různých typů AI technologií s adekvátní funkcí. Vědci tak i doporučí balíček potenciálních oblastí nasazení a možných AI aplikací, které přispějí k dalšímu posílení a ochraně lidských práv. Dále půjde o vymezení institucionálního a kompetenčního rámce včetně mapy přístupu k nápravným prostředkům.
„Soubory doporučení napomůžou praktické implementaci právně závazných norem, čímž je náš projekt komplementární i k probíhající iniciativě EU. AI Akt jakožto obecný předpis neřeší konkrétní technické provedení toho, jak má být rizikům pro lidská práva v konkrétním nasazení AI technologie předcházeno. Klíčovou roli budou hrát nástroje soft law jako jsou kodexy chování, různé formy certifikací a podobně. A právě této úrovni poslouží výsledky našeho výzkumu,“ vysvětluje Jakub Míšek z Ústavu práva a technologií Masarykovy univerzity.
Průběžné závěry projektu zasazené do odborného rámce jsou publikovány v knize Artificial Intelligence and Human Rights, která vyjde v prestižním univerzitním nakladatelství Oxford University Press na začátku září. Na podzim 2023 také proběhne již druhý workshop s klíčovými aktéry na poli AI a lidských práv, na který se mohou přihlásit firmy i státní organizace, a zapojit se tak do finální podoby připravovaných souborů doporučení.
Web projektu: https://prg.ai/projekty/ai-lidska-prava/
Dílčí výzkumná zpráva: https://prg.ai/wp-content/uploads/2023/02/AI-LP_ResearchReport2022.pdf
Samostatná Fakulta elektrotechnická ČVUT vznikla v roce 1950. V dnešní době se skládá ze 17 kateder umístěných ve dvou budovách: v rámci hlavního kampusu ČVUT v Dejvicích a v naší historické budově na Karlově náměstí. Fakulta elektrotechnická poskytuje prvotřídní vzdělání v oblasti elektrotechniky a informatiky, elektroniky, telekomunikací, automatického řízení, kybernetiky a počítačového inženýrství. Fakulta se dlouhodobě řadí mezi prvních pět výzkumných institucí v České republice. Produkuje přibližně 30 % výzkumných výsledků celého ČVUT a má navázanou rozsáhlou vědeckou spolupráci se špičkovými světovými univerzitami i výzkumnými ústavy. Od roku 1950 Fakulta elektrotechnická vydala cca 30 000 diplomů, které byly vždy vysoce hodnoceny jako doklad prvotřídního vzdělání. Více informací najdete na https://fel.cvut.cz.
České vysoké učení technické v Praze patří k největším a nejstarším technickým vysokým školám v Evropě. Podle Metodiky 2017+ je nejlepší českou technikou ve skupině hodnocených technických vysokých škol. V současné době má ČVUT osm fakult (stavební, strojní, elektrotechnická, jaderná a fyzikálně inženýrská, architektury, dopravní, biomedicínského inženýrství, informačních technologií). Studuje na něm téměř 19 000 studentů. Pro akademický rok 2022/23 nabízí ČVUT svým studentům na 350 akreditovaných studijních programů a z toho přes 100 v cizím jazyce. ČVUT vychovává odborníky v oblasti techniky, vědce a manažery se znalostí cizích jazyků, kteří jsou dynamičtí, flexibilní a dokáží se rychle přizpůsobovat požadavkům trhu. Podle výsledků Metodiky 2017+ bylo ČVUT hodnoceno ve skupině pěti technických vysokých škol a obdrželo nejvyšší hodnocení stupněm A. ČVUT v Praze je v současné době na následujících pozicích podle žebříčku QS World University Rankings, který hodnotil 2642 univerzit po celém světě. V celosvětovém žebříčku QS World University Rankings je ČVUT na 378. místě a na 12. pozici v regionálním hodnocení „Emerging Europe and Central Asia“. V rámci hodnocení pro oblast „Engineering and Technology“ je ČVUT na 175. místě, v oblasti „Engineering – Civil and Structural“ je ČVUT mezi 201.–220. místem, v oblasti „Engineering – Mechanical“ na 201.–250. místě, u „Engineering – Electrical“ na 201.– 250. pozici. V oblasti „Physics and Astronomy“ na 201.–250. místě, „Natural Sciences“ jsou na 238. příčce. V oblasti „Computer Science and Information Systems“ je na 151.–200. místě, v oblasti „Material Sciences“ na 251.–300. místě, v oblasti „Mathematics“ na 251.–300. místě. Více na https://www.cvut.cz/