Etika a umelá inteligencia

17. okt. 2019 • Humanitné vedy

Etika a umelá inteligencia

Umelá inteligencia je vedný odbor, ktorý sa zaoberá vývojom algoritmov a strojov, ktoré vykazujú znaky inteligentného správania. Ako pri každej technológii, ktorá prináša zmenu, aj umelá inteligencia môže priniesť nové etické a právne otázky týkajúce sa zodpovednosti alebo potenciálne neobjektívneho rozhodovania. Uvedenými otázkami sa zaoberala aj národná konferencia v Bratislave.

Téma umelej inteligencie je širokospektrálna a dotýka sa mnohých oblastí, akými sú kultúra, priemysel, zdravotníctvo a ďalšie. Umelá inteligencia predstavuje sériu komplexných zmien, najmä vo vzťahu s etikou, ľudskými právami a bezpečnosťou. 

Etika pomáha človeku poznať, aký má v reálnom živote zaujať postoj. Nastoľuje určité normy a ideály ľudského správania, presadzuje idey o tom, čo má byť, čo je a nie je dobré. Úlohou aplikovanej etiky je obohacovať oblasť praxe jednotlivých profesií o etické pojmy, hodnoty, princípy a normy, ako aj praktické, etické odporúčania. 

Národná konferencia na tému Etika a umelá inteligencia 

Slovenský výbor pre bioetiku SK pre UNESCO zorganizoval pod záštitou Slovenskej komisie pre UNESCO Národnú konferenciu pod názvom „Etika a umelá inteligencia“. Konferencia sa uskutočnila dňa 11. októbra 2019 na Ministerstve zahraničných vecí a európskych záležitostí Slovenskej republiky v Bratislave. Moderátorom tohto významného podujatia bol Ondrej Prostredník

Národnú konferenciu otvorila predsedníčka Slovenského výboru pre bioetiku Slovenskej komisie pre UNESCO prof. RNDr. Marta Kollárová, DrSc. V príhovore, okrem iného, uviedla, že umelá inteligencia má mnohé aplikácie v oblasti zdravia (napr. diagnostika ochorení), vzdelávania (nástroje vyučovania, školenia učiteľov), kultúry (3D zobrazovanie využívané pri rekonštrukcii kultúrnych pamiatok), vedy (napr. nové progresívne technológie, neurovedy), environmentálne programy na ochranu životného prostredia (výskum vody zahrňujúci zobrazenie planktónu, detekciu oceánov, vtáctva), ale tiež aplikácie v kybernetike, robotike, certifikačných technológiách (napr. softvéry na rozpoznávanie tváre), zameraných na bezpečnosť, obranu a mnohé ďalšie oblasti života.

Prof. RNDr. Marta Kollárová, DrSc., Národná konferencia o etike a umelej inteligencii v Bratislave

Prof. RNDr. Marta Kollárová, DrSc., Národná konferencia o etike a umelej inteligencii v Bratislave

Prof. Marta Kollárová tiež informovala, že sa zúčastnila na spoločnom zasadnutí dvoch bioetických výborov – medzinárodného a medzivládneho výboru pre bioetiku UNESCO v Paríži v septembri 2018, kde sa po oficiálnom rokovaní uskutočnila po prvýkrát verejná večerná diskusia za okrúhlym stolom na aktuálnu tému umelej inteligencie, za účasti novinárov, médií a zastupiteľských inštitúcií.

Z diskusie vyplynulo, že doteraz nebol určený žiadny medzinárodný etický rámec, platný pre všetky vyvíjané umelé inteligencie a ich aplikácie. V tomto ohľade by mohlo UNESCO zohrať dôležitú úlohu, pretože je významnou inštitúciou, ktorá na jednej strane zastrešuje mnohé z uvedených oblastí umelej inteligencie a na druhej strane chráni základné práva, platné predpisy, etické a spoločenské hodnoty prostredníctvom vydaných troch deklarácií – k ľudským právam v roku 1948, k ľudskému genómu a ľudským právam v roku 1997 a k bioetike a ľudským právam v roku 2005.

Etické problémy úzkej umelej inteligencie

Adam Greif a Juraj Podroužek z Univerzity Komenského v Bratislave (Pygmalios), sa zaoberajú etickými problémami úzkej umelej inteligencie (AI). Ide o problémy a riziká, spojené so strojmi, ktoré využívajú algoritmy na automatizované riešenie špecifickej oblasti ľudských úkonov.  Pripomenuli, že jeden z popredných predstaviteľov AI scény Andrew Ng  pri úzkej umelej inteligencii hovorí o automatizácii úkonov, ktoré človek dokáže bežne vykonať do jednej sekundy. Medzi ne patrí napríklad rozpoznávanie objektu na fotografii, prepis hovoreného slova do textu alebo vyhnutie sa prekážke na ceste.

Pri nasadzovaní umelej inteligencie narážajú na množstvo technických problémov. Na druhej strane, v tejto fáze by už mali vedieť povedať, ktoré použitia AI sa budú pokladať za morálne správne a spoločensky prospešné. Otázky, ktoré si v súvislosti s nasadzovaním umelej inteligencie musíme klásť teda majú nielen svoj technický, ale aj etický rozmer. Prvými z etických problémov je transparentnosť a vysvetliteľnosť rozhodnutí umelej inteligencie, k čomu sa viaže aj problém vysledovateľnosti prípadných chýb v automatickom rozhodovaní stroja. Príkladom toho, ako málo transparentné je rozhodovanie umelej inteligencie a aké to môže mať vážne dopady na ľudí, sú programy, ktoré predpovedajú kriminálne správanie. Môže ísť napríklad o algoritmy, ktoré odhadnú, ktoré osoby sa s najväčšou pravdepodobnosťou zapletú do nelegálnej činnosti, alebo posudzujú pravdepodobnosť recidívy odsúdených kriminálnikov.

Časť prednášajúcich na národnej konferencii o etike a umelej inteligencii

Časť prednášajúcich na národnej konferencii o etike a umelej inteligencii

Medzi takéto nástroje patrí systém, ktorý vypočíta mieru nebezpečnosti odsúdencov pre spoločnosť. Ukázalo sa, že niektoré rozhodnutia umelej inteligencie boli v tomto prípade diskriminačné a rasovo orientované. Jeden z dôvodov mohol byť ten, že umelá inteligencia získava svoje schopnosti pozorovaním historických dát. Do hry tu vstupujú  nielen zdrojové, resp. trénovacie dáta, ale aj samotná konštrukcia algoritmu. Overiť správnosť rozhodovania umelej inteligencie, hlavne v prípade nástrojov, ktoré využívajú neurónové siete, môže byť neľahká, aj keď nie nezrealizovateľná úloha. Podobné modely rozhodovania sa dnes používajú napríklad v bankovníctve alebo poisťovníctve.

Na národnej konferencii odzneli aj ďalšie prednášky

Ivana Budinská: Autonómne vozidlá a umelá inteligencia; Daniela Glavaničová: Viachodnotové logiky pre autonómne vozidlá; Martin Takáč: Fiktívna identita; Miroslav Marcelli: K antropológii digitálneho sveta; Andrej Démuth: Umenie a umelá inteligencia (predniesla Renáta Kišoňová); David Černý: Dôveryhodná umelá inteligencia; Roman Tuchyňa: Výzvy aplikácií umelej inteligencie v zdravotníctve; Martin Majerník: Použitie systémov umelej inteligencie v tvrdo regulovaných odvetviach. (O obsahu prednášok budeme postupne informovať.)

UNESCO - logoUNESCO je jedinou medzinárodnou organizáciou systému OSN, ktorá sa programovo opiera o spoluprácu s národnými komisiami pre UNESCO v členských krajinách. Komisia a jej sekretariát zabezpečujú realizáciu aktivít UNESCO v SR. Koordináciu aktivít v oblasti medzinárodných a medzivládnych programov UNESCO vykonávajú ich slovenské výbory, odborné sekcie a Informačné a dokumentačné stredisko UNESCO pri Univerzitnej knižnici v Bratislave. Poslaním komisie je podporovať a rozvíjať aktivity programov UNESCO v oblasti výchovy a vzdelávania, kultúry, vedy, životného prostredia, informácií a informatiky a za týmto účelom získavať a zapájať do spolupráce na jednotlivých projektoch odborníkov rôznych organizácií, inštitúcií a oddelení príslušných ministerstiev a jednotlivcov.

Spracovala a uverejnila: Marta Bartošovičová, NCP VaT pri CVTI SR

Foto: Marta Bartošovičová

 

Vedecký kaleidoskop

 

Súvisiace:

Hore
Aurelium - centrum vedy
Veda v Centre
Publikácie Veda v CENTRE
kúpa časopisov jún 2016
Quark_2019
Bratislavská vedecká cukráreň
TAG Slovenská veda
banner záhrady
Extrapolácie 2019
Zaujímavosti vo vede
Vodík a kyslík, atómy, ktoré spôsobujú koróziu kovov vyhľadávajú slabé miesta na povrchu kovov.
Zistite viac