Umelá inteligencia mení spôsob, akým spoločnosť pracuje s informáciami, no miera prístupu k jej vnútornému fungovaniu sa výrazne líši.
Ilustrácia širokého spektra úloh, ktoré nám dnes umelá inteligencia (AI) pomáha spracovávať. Zdroj: Istock.com/Boy Wirat
Kým uzavreté systémy ponúkajú používateľský komfort, takzvané open source modely prinášajú dôležitú transparentnosť. Vyžadujú však zverejnenie nielen zdrojového kódu, ale aj rozsiahlych tréningových dát a parametrov.
Keď používateľ zadá požiadavku do chatbota, odpoveď zvyčajne dorazí v priebehu niekoľkých sekúnd. Za týmto na prvý pohľad jednoduchým oknom, v ktorom prebieha komunikácia, sa však skrýva masívny výpočtový systém, obrovské množstvo dát a séria rozhodnutí ľudí, ktorí ho navrhli.
Dôležitá otázka znie: Kto môže zistiť, ako tento systém naozaj funguje, upraviť ho a skontrolovať jeho limity? Práve tu sa jasne ukazuje rozdiel medzi otvorenou a uzavretou umelou inteligenciou.
Čo presne tvorí umelú inteligenciu?
Organizácia pre hospodársku spoluprácu a rozvoj (OECD) definuje umelú inteligenciu ako strojový systém. Z prijatých vstupov dokáže odvodzovať výstupy, akými sú predpovede, odporúčania alebo samostatné rozhodnutia, napríklad schválenie pôžičky bankovým softvérom alebo rozoznanie prekážky v dráhe samojazdiaceho auta.
Kľúčovým slovom je tu práve schopnosť odvodzovať. Pri programovaní bežných aplikácií píšu vývojári presný zoznam krokov, ktoré má program vykonať. Umelá inteligencia však od svojich tvorcov nedostáva takýto vopred daný zoznam pravidiel. Namiesto toho sa učí identifikovať opakujúce sa súvislosti a pravidlá v obrovských množstvách textov, obrázkov či iných informácií, na ktorých trénuje.
Model počas tohto tréningu neustále upravuje svoje vnútorné nastavenia. Tieto nastavenia sa odborne nazývajú parametre alebo váhy, čo si možno predstaviť ako milióny malých matematických prepínačov, ktoré spoločne určujú, ako bude model reagovať na nové podnety. Pri chatbotoch systém napríklad iba matematicky odhaduje, ktoré slovo by malo v odpovedi pravdepodobne nasledovať. Umelá inteligencia teda nerozumie svetu ako človek, ale iba štatisticky spája informácie a vzorce, ktoré predtým „videla” v dátach.
Pozrite si
Prečo bežný open source pri AI nestačí
Pri bežných počítačových programoch, ako sú napríklad internetové prehliadače alebo kancelárske aplikácie, pojem open source znamená, že verejnosť môže čítať, upravovať a šíriť zdrojový kód, teda základný textový zápis príkazov, z ktorých je program zložený.
Pri umelej inteligencii je situácia oveľa zložitejšia. Zverejniť iba zdrojový kód totiž nepostačuje na skutočné pochopenie a na úpravu systému. Bez informácií o tom, na akých dátach sa systém učil a ako má nastavené svoje vnútorné prepojenia, by ho iní odborníci nedokázali reálne spustiť, upraviť ani pochopiť.
Otvorené modely umelej inteligencie vznikajú primárne preto, aby mohli univerzity, menšie firmy či nezávislí výskumníci technológiu prispôsobovať vlastným potrebám, kontrolovať ju a nachádzať v nej chyby bez závislosti od jednej veľkej korporácie. Aby bol však AI systém považovaný za skutočne otvorený, musia byť splnené prísne podmienky.
Nezisková organizácia Open Source Initiative, ktorá už desaťročia tvorí a udržiava štandardy otvoreného softvéru vo svete, preto stanovila prísnejšie kritériá pre tvorcov umelej inteligencie. Vývojár musí sprístupniť detailné informácie o tréningových dátach. Ďalej je nutné zverejniť kompletný kód potrebný na tréning i beh systému a napokon aj samotné parametre modelu. Iba v takom prípade môže odborná verejnosť systém reálne skúmať, lokálne upravovať a kontrolovať jeho bezpečnosť.
Uzavreté systémy a kontrola v rukách poskytovateľa
Uzavretá alebo takzvaná closed source AI funguje na celkom opačnom princípe. Poskytovateľ, napríklad technologická spoločnosť vyvíjajúca danú službu, si ponecháva plnú kontrolu nad vývojom, zdrojovým kódom, dátami i vnútornými váhami, teda nastaveniami, ktoré model získal počas učenia. Bežný používateľ má prístup k službe iba prostredníctvom zhotovenej webovej či mobilnej aplikácie. Nevidí teda pod „kapotu” a môže systém využívať len v takom rozsahu, aký mu firma dovolí.
Takýto plne kontrolovaný prístup prináša aj výhody. Keďže technológiu spravuje iba jedna konkrétna firma, dokáže rýchlo nasadzovať bezpečnostné filtre a niesť za produkt právnu zodpovednosť. Pre mnohé úrady alebo školy je preto jednoduchšie kúpiť si hotové a chránené riešenie so zabezpečenou technickou podporou, než si zložité systémy umelej inteligencie nasadzovať a spravovať svojpomocne.
Z pohľadu vedeckého skúmania a transparentnosti však ide o úplne neprehľadný systém, do ktorého vnútra nikto zvonka nevidí. Človek doň síce zadá vstup a dostane výsledok, ale netuší, akým spôsobom k nemu umelá inteligencia dospela. Externí výskumníci nedokážu presne posúdiť, ako systém reaguje na zriedkavé a nečakané situácie, s ktorými sa nestretáva bežne. Nevedia ani overiť, aké presné obmedzenia či úpravy urobila firma po jeho nasadení. Používatelia a vedci sa tak musia spoliehať iba na dôveru a zmluvné podmienky danej spoločnosti.
Otvorenosť nie je čiernobiela
Rozdelenie na striktne otvorené a uzavreté modely je v praxi skôr teoretické. V praxi neexistujú len čisto uzavreté a čisto otvorené systémy, existuje medzi nimi množstvo prechodných fáz. Výskumníčka Irene Solaimanová vo svojej odbornej štúdii opisuje šesť stupňov prístupu ku generatívnej AI.
Konkrétne ide o šesť úrovní. Prvú tvoria plne uzavreté systémy, druhú postupný prístup iba pre vybraných a schválených odborníkov, tretiu prístup hosťovaný výlučne prostredníctvom webového rozhrania. Štvrtou úrovňou je prístup pre vývojárov, ktorí sa k funkciám modelu pripájajú na diaľku pomocou cloudových služieb. Piata úroveň ponúka modely so stiahnuteľnými nastaveniami, ktoré si už vedci môžu spustiť na vlastných počítačoch. Šiesta úroveň predstavuje plne otvorené systémy, kde sú verejne k dispozícii všetky komponenty vývoja vrátane tréningových dát.
Rôzne úrovne otvorenosti vznikajú preto, lebo vývojári musia neustále hľadať rovnováhu medzi dvoma protichodnými záujmami. Na jednej strane stojí snaha o prevenciu rizík a zneužitia dezinformátormi. Na druhej strane je snaha zabrániť koncentrácii digitálnej moci v rukách niekoľkých nadnárodných korporácií.
Prečo na miere otvorenosti záleží
Ako otvorené, tak aj uzavreté modely umelej inteligencie prinášajú do modernej spoločnosti špecifické benefity i nezanedbateľné riziká. Otvorené modely masívne akcelerujú akademický výskum. Umožňujú tiež technologické prispôsobenie na lokálne či citlivé dáta, no teoreticky môžu obsahovať ľahšie zneužiteľné bezpečnostné slabiny.
Kľúčovou otázkou blízkej budúcnosti preto nebude to, ktorý prístup je plošne lepší. Bude ňou nutnosť zvážiť, ktorý typ modelu je pre konkrétnu úlohu najbezpečnejší a kto zaň ponesie zodpovednosť.
Na bežnú nenáročnú prácu môže stačiť uzavretá technológia, no pri úlohách s veľkým dosahom na spoločnosť, ako je hodnotenie pacientov v zdravotníctve či automatizácia verejnej správy, rastie požiadavka odbornej verejnosti po absolútnej transparentnosti, ktorú aktuálne ponúkajú len otvorené systémy.
Zdroje: OECD.AI, Open Source Initiative, NIST, arXiv
(KAM)
