Projekt českých odborníkov chce pomôcť pri vývoji, používaní a regulácii AI technológií, aby neohrozovali ľudské práva.
Umelá inteligencia v kontexte ľudských práv. Ilustračný obrázok. Zdroj: iStockphoto.com
Umelá inteligencia (AI) predstavuje celý rad rizík, a zároveň ponúka mnoho príležitostí naprieč celou spoločnosťou. Zatiaľ však neprebehla žiadna komplexná analýza umelej inteligencie v kontexte ľudských práv. Práve o to sa od roku 2021 snaží spoločný výskum Fakulty elektrotechnickej Českého vysokého učenia technického (FEL ČVUT), Masarykovej univerzity (MUNI), vysokej školy Ambis a prg.ai. Projekt Umelá inteligencia a ľudské práva: riziká, príležitosti a regulácia je financovaný Technologickou agentúrou Českej republiky a združuje odborníkov z oblasti technológií a práva.
Identifikovanie rizík
Výskumníci si stanovili za cieľ identifikovať prvotné príčiny rizika porušenia ľudských práv v rámci všetkých fáz životného cyklu AI. Nezostane to len pri vyhodnotení. Výstupom projektu bude súbor odporúčaní, ako AI technológie vyvíjať, používať a regulovať takým spôsobom, aby neohrozovali ľudské práva, a, naopak, pomohli ich rozvoju a ochrane. Zároveň totiž skúmajú aj možnosti ďalšieho nasadenia AI tam, kde by mohla pomôcť automatizácia chrániť ľudské práva.
Dobrý sluha, zlý pán
„AI môže významne pomôcť napríklad v monitorovaní dodržiavania a v presadzovaní ľudských práv v oblasti korporátnej zodpovednosti, posilnení práva na spravodlivý proces odstránením prieťahov v konaní, ochrany zdravia a v celom rade ďalších oblastí,“ vymenúva potenciál umelej inteligencie koordinátorka projektu Martina Šmuclerová z vysokej školy Ambis, ktorá pôsobí aj na parížskom Sciences Po.
Pozrite si
Algoritmická predpojatosť a diskriminačný bias
Zároveň však upozorňuje na riziká. „Napríklad nereprezentatívne vstupné dáta a ich nevyvážené spracovanie môže do AI technológie vniesť tzv. algoritmickú predpojatosť alebo diskriminačný bias. To sa môže prejaviť napríklad pri výberovom konaní do zamestnania, policajnom dohľade založenom na mechanizme rozpoznávania tvárí alebo posudzovaní schopnosti splácať úver v bankovníctve. Aj nasadenie AI systému v inom než v cieľovom prevádzkovom prostredí, napríklad v prípade autonómnych vozidiel, môže so sebou niesť riziko porušenia ľudských práv.“
Problémom môže byť podľa výskumníkov tiež nevysvetliteľnosť a netransparentnosť modelov umelej inteligencie. Ak človek namietajúci proti porušeniu ľudského práva nemá prístup k informáciám a dôkazom, na základe ktorých o ňom AI rozhodla, môže byť ohrozené právo na spravodlivý proces.
Právna regulácia EÚ
Právna regulácia systémov na báze umelej inteligencie sa teraz pripravuje na úrovni Európskej únie (EÚ) vo forme Aktu o umelej inteligencii. Predstavený bol v apríli 2021 ako súčasť širšej iniciatívy EÚ zameranej na posilnenie regulačného rámca pre nové technológie.
Návrh Európskej komisie, ktorý 14. 6. 2023 prešiel hlasovaním Európskeho parlamentu, sa zameriava na evidenciu a reguláciu vysokorizikových systémov, ktoré môžu predstavovať hrozbu pre základné práva a bezpečnosť občanov EÚ.
„Rizikovosť nasadenia systémov automatizácie spočíva v ich kvalite spracovania a úlohe, ktorú riešia. To sa nástupom AI nemení. Významne sa však rozširujú oblasti ľudských činností a spracovanie dát, ktoré možno automatizovať,“ vysvetľuje Luboš Král z Centra umelej inteligencie Fakulty elektrotechnickej ČVUT.
Pozrite si
Cieľom je aj osveta
Hoci povinnosť dodržiavať ľudské práva vyplýva z medzinárodných právnych noriem, doterajší výskum odhalil, že viac než 60 percent oslovených českých firiem, ktoré dodávajú AI riešenia a produkty, sa ľudskoprávnou otázkou v kontexte umelej inteligencie AI vôbec nezaoberá a nie je si ani vedomých týchto rizík. Rýchly vývoj technológií a ich nasadzovanie do najrôznejších oblastí navyše prináša celkom nové výzvy, praktické riešenie ktorých sa len utvára.
„Teraz nám chýba hlavne osveta. Práve tá je aj cieľom nášho projektu,“ hovorí Lukáš Kačena z iniciatívy prg.ai, ktorá sa dlhodobo venuje budovaniu povedomia o umelej inteligencii. „Značné sú i potenciálne dosahy na samotného používateľa a je otázkou času, kedy sa aj v Čechách objavia prvé sťažnosti a žaloby na porušenia ľudských práv, ako sa to už deje vo svete aj v Európe, a preto je prevencia nutná,“ opisuje závažnosť situácie.
Odporúčania pre firmy aj štátnu správu
Aké zmeny teda vedci konkrétne navrhujú? Cieľom projektu nie je vytvárať nové právne normy, ale poskytnúť praktické návody všetkým aktérom životného cyklu AI, aby dokázali previesť ľudskoprávne normy, ktoré sú už v našej spoločnosti platné a záväzné, na automatizované systémy.
Kľúčové je zavedenie mechanizmu hodnotenia rizík, ktorý bude jadrom dvoch súborov odporúčaní pre komerčné subjekty a štátnu správu. Výskumníci identifikovali 38 potenciálnych rizík v oblasti ľudských práv vo všetkých fázach vývoja a prevádzkovania AI systému a pre každé ponúkajú možnosti ich prevencie a eliminácie.
Nasadenie technológií s adekvátnou funkciou
Pre 16 vybraných hlavných oblastí porušovania ľudských práv v spoločnosti zároveň navrhli nasadenie rôznych typov AI technológií s adekvátnou funkciou. Vedci tak odporučia aj balíček potenciálnych oblastí nasadenia a možných AI aplikácií, ktoré prispejú k ďalšiemu posilneniu a ochrane ľudských práv. Ďalej pôjde o vymedzenie inštitucionálneho a kompetenčného rámca vrátane mapy prístupu k nápravným prostriedkom.
Závery projektu budú aj súčasťou knihy
„Súbory odporúčaní pomôžu pri praktickej implementácii právne záväzných noriem, čím je náš projekt komplementárny aj k prebiehajúcej iniciatíve EÚ. AI Akt ako všeobecný predpis nerieši konkrétne technické prevedenie, ako sa má predchádzať rizikám v oblasti ľudských práv v konkrétnom nasadení AI technológie. Kľúčovú úlohu budú zohrávať nástroje soft law, ako sú kódexy správania, rôzne formy certifikácií a podobne. A práve na tejto úrovni poslúžia výsledky nášho výskumu,“ vysvetľuje Jakub Míšek z Ústavu práva a technológií Masarykovej univerzity.
Priebežné závery projektu zasadené do odborného rámca budú publikované v knihe Artificial Intelligence and Human Rights, ktorá vyjde v prestížnom univerzitnom nakladateľstve Oxford University Press začiatkom septembra. Na jeseň roku 2023 sa uskutoční aj druhý workshop s kľúčovými aktérmi na poli umelej inteligencie a ľudských práv.
Zdroj: FEL ČVUT
(zh)
