Igor Farkaš získal ocenenie Vedec roka SR 2023 v kategórii Osobnosť medzinárodnej spolupráce za významné výsledky v oblasti umelej inteligencie, za rozvíjanie spoluprác a medzinárodného magisterského programu.
Ocenenie v kategórii Osobnosť medzinárodnej spolupráce získal prof. Ing. Igor Farkaš, Dr. Zdroj: CVTI SR
Profesor Igor Farkaš patrí medzi popredných slovenských odborníkov v oblasti umelej inteligencie. Od roku 2003 pôsobí na Katedre aplikovanej informatiky Fakulty matematiky, fyziky a informatiky Univerzity Komenského (FMFI UK), kde osem rokov zastával aj funkciu vedúceho katedry. Oblasťou jeho bádania je skúmanie modelov umelých neurónových sietí a ich využitie, v ostatných rokoch najmä v oblasti kognitívnej robotiky. Špecializuje sa na takzvaný subsymbolový, prírodou inšpirovaný prístup.
Vďaka získaným štipendiám pôsobil v Spojených štátoch a v Nemecku, zo zahraničia priniesol na Slovensko mnoho inšpirácie. Viedol viacero národných vedeckých projektov a v súčasnosti je koordinátorom twinningového projektu v rámci programu Horizont Európa. Koordinuje Centrum pre kognitívnu vedu na fakulte a je hlavným garantom úspešného medzinárodného interdisciplinárneho magisterského študijného programu kognitívna veda.
V rozhovore pre portál VEDA NA DOSAH vedec približuje, ako v sebe objavil ducha informatiky, komplexnosť, svetlé aj náročné stránky umelej inteligencie a vysvetľuje fungovanie neurónových sietí. Rozprávali sme sa aj o jeho pôsobení v zahraničí, inšpiratívnych mentoroch, programe pre študentov a kariérnych plánoch do budúcnosti.
prof. Ing. Igor Farkaš, Dr. na slávnostnom oceňovaní Vedec roka SR 2023. Foto: Marián Zelenák, CVTI SR
Cesta za informatikou
Bola práca v oblasti informatiky vždy vaším snom? Ako a kedy ste sa v nej našli?
Ako dieťa som o informatike nevedel. Pamätám si však, že na základnej škole som v dotazníku na otázku, kým by som chcel byť, napísal, že matematikom alebo lekárom neurochirurgom. (úsmev) Asi ma zaujímalo počítanie a mozog. Na skvelom gymnáziu Poštová v Košiciach som sa nezaoberal tým, čo zo mňa bude, užíval som si mladosť. V pamäti mi utkvelo, ako nás zástupca riaditeľa prišiel do triedy v maturitnom ročníku odhovárať od štúdia medicíny a práva. Možno aj to ma ovplyvnilo. Boli sme však veľmi dobrá partia spolužiakov, a tak sme sa spoločne rozhodli ísť študovať na Technickú univerzitu v Košiciach, aj keď na rôzne fakulty. Mne sa najviac pozdávala elektrotechnická, mala bližšie k počítačom.
Po roku som sa rozhodol prestúpiť na STU do Bratislavy, lebo som chcel ísť do sveta, osamostatniť sa a vyskúšať si internátny život, hoci s rodičmi som mal vždy krásny vzťah. A tak som v roku 1991 vyštudoval technickú kybernetiku so zameraním na biokybernetiku.
Bol som v podstate samorast, lebo v tom čase u nás v tejto oblasti takmer nikto nepracoval.
Oslovilo vás niečo konkrétne?
Zaujímal ma mozog, ako funguje a spracováva informácie. Tento záujem som objavil v umelých neurónových sieťach, ktoré tvoria prepojenie medzi matematikou a ľudským mozgom a sú kľúčovou súčasťou umelej inteligencie. V Ústave merania SAV, kde som pôsobil ako pomocná pracovná sila, bola malá skupinka ľudí, ktorá sa týmito témami zaoberala.
Narastajúca zvedavosť vo mne ma primäla prihlásiť sa na doktorandské štúdium. Témou mojej práce bol konkrétny model neurónovej siete, takzvaná samoorganizujúca sa mapa. Bol som v podstate samorast, lebo v tom čase u nás v tejto oblasti takmer nikto nepracoval, aj keď vo svete bolo poznanie ďalej. Odvtedy ma však neuropočítanie, alebo umelé neurónové siete, sprevádza až doteraz.
Smerovanie umelej inteligencie
Umelá inteligencia stále napreduje a jedným z jej prínosov je aj systém na komunikáciu – ChatGPT. Čo ľudstvo motivuje vyvíjať takéto zariadenia? Kde vidíte jeho svetlé stránky a kde jeho úskalia?
Četovací program ChatGPT bol prvý svojho druhu, keď sa o ňom v novembri 2022 dozvedela svetová verejnosť. Veľmi rýchlo oslovil milióny ľudí na celom svete, viac ako ktorákoľvek iná technológia umelej inteligencie predtým. Jeho atraktivita tkvie v jednoduchosti používania a v tom, čo ponúka. Stáva sa už prirodzeným spoločníkom človeka pri práci, lebo dokáže odpovedať na otázky, v niečom lepšie ako vyhľadávač Google, a navyše vie generovať text. Má však svoje obmedzenia, pretože si občas vymýšľa. Hlavní aktéri v tejto oblasti už, samozrejme, pracujú na zlepšeniach.
Hnacím motorom vývoja takýchto technológií je, prirodzene, vedecká zvedavosť, ale aj prestíž a v neposlednom rade zisk, ak sa úspešná idea či výpočtový model premení na produkt. Od vzniku digitálnych technológií a umelej inteligencie pred sedemdesiatimi rokmi sa vývoj zrýchľuje. Špičkový výskum neprebieha na univerzitách, ale v súkromných spoločnostiach a v prvotriednych výskumných pracoviskách, ktoré priťahujú najlepšie mozgy z celého sveta. Súčasný svet sa nestíha pripraviť, aj preto vznikla minulý rok celosvetová petícia na zastavenie trénovania veľkých jazykových modelov na pol roka.
Profesor Igor Farkaš s profesorkou Máriou Bielikovou. Zdroj: archív IF
Myslím si, že prínosy umelej inteligencie pre spoločnosť sú už v súčasnosti nesporné. Existuje veľa príkladov, keď sa už nasadila pri riešení rôznych problémov, niekedy ako podporný systém pre človeka. Umelá inteligencia bude postupne odoberať prácu ľuďom najmä v zamestnaniach, ktoré sú rizikové a automatizovateľné. Preto vyspelé krajiny budú musieť hľadať pre ľudí nové pracovné príležitosti. Osobne si myslím, že je dôležité pre mentálne zdravie každého človeka, aby pracoval.
Súčasný svet sa nestíha pripraviť, aj preto vznikla minulý rok celosvetová petícia na zastavenie trénovania veľkých jazykových modelov na pol roka.
V oblasti umelej inteligencie, pochopiteľne, existujú aj riziká, ako pri každej technológii. Európska únia je v tomto najaktívnejšia a už stihla pripraviť a schváliť dokument o regulácii umelej inteligencie (Artificial Intelligence Act). Na svetovej scéne je situácia komplikovanejšia aj pre narastajúcu polarizáciu sveta. Hrozba zneužitia umelej inteligencie tu bude stále, lebo vo svete je veľa aktérov a neexistuje celosvetová kontrola.
Kam podľa vás vývoj umelej inteligencie smeruje? Kognitívne a emocionálne sa zatiaľ nemôže s ľudským mozgom merať.
Umelá inteligencia je širší pojem a týka sa v podstate akéhokoľvek umelého systému (počítačového programu), ktorý sa nám svojím správaním javí ako inteligentný. Toto je asi dominantný pohľad na definíciu umelej inteligencie, kde ju porovnávame s človekom. My sa považujeme za inteligentné bytosti, aj keď na základe vedeckých poznatkov vieme, že často sa nerozhodujeme racionálne, kontrolujú nás aj emócie. Napriek tomu fungujeme veľmi dobre ako živočíšny druh, ktorý ovládol planétu.
V súčasnosti sa hovorí najmä o umelej inteligencii založenej na strojovom učení. Dominantné postavenie zaujalo v ostatnej dekáde najmä v hlbokých neurónových sieťach. Niektoré modely z hľadiska presnosti už dokázali prekonať človeka, v úlohách, ako napríklad v klasifikácii obrázkov, v hraní počítačových hier alebo v niektorých jazykových úlohách.
Pokračujúcou výzvou však je všeobecná umelá inteligencia, ktorá by dokázala úspešne riešiť viacero rôznych úloh podobne, ako to dokáže človek. Myslím si, že jej dosiahnutie je len otázkou času.
Tak ako emócie ovplyvňujú človeka, môžu ovplyvniť aj umelé systémy.
Dosiahne podľa vás niekedy podobnú komplexnosť prepojenia reči, emócií a uvedomenia?
Ani modelovanie emócií z funkčného hľadiska podľa mňa nie je problém, aj keď z fenomenologického (teda toho, ako sa to subjektu javí) nemusí ísť vôbec o rovnaké emócie, aké má človek. Robot necíti bolesť, ale môže byť skonštruovaný tak, že bude dostávať negatívny signál, keď sa mu napríklad poškodí ruka, aby vedel, že sa mu stalo niečo zlé. Tak ako emócie ovplyvňujú človeka, môžu ovplyvniť aj umelé systémy pomocou systému odmien. Snažíme sa dosahovať stavy spojené s pozitívnymi emóciami (odmenami) a minimalizovať tie negatívne.
Otázka uvedomenia si seba samého je jednou z najzložitejších filozofických otázok. V prvom rade stále presne nevieme, ako funguje vedomie človeka, lebo existuje viacero vedeckých teórií a vo vedeckej komunite neexistuje konsenzus.
Profesor Igor Farkaš na prednáške. Zdroj: archív IF
Aj keby sme vedeli, čo presne z vedeckého hľadiska vedomie je, ako funguje, z jeho subjektívnej podstaty vyplýva, že nikdy nebudeme s istotou vedieť, či nejaký systém umelej inteligencie má vedomie. Budeme to môcť nanajvýš predpokladať, ak sa pokúsime skonštruovať napríklad robota na podobných princípoch ako u človeka (čiže štruktúra umelého mozgu a výpočtové mechanizmy). Musíme akceptovať predpoklad, že existencia vedomia nie je limitovaná na biologické organizmy, ktoré sú výsledkom evolúcie. Čo sa týka inteligentného robota budúcnosti, predpokladám, že ten v nás bude vzbudzovať svojím inteligentným správaním vrátane jazykovej komunikácie jednoznačný dojem, že vedomie má.
Neuropočítanie
Zameriavate sa na oblasť umelej inteligencie so špecializáciou na takzvaný subsymbolový, prírodou inšpirovaný prístup pomocou neuropočítania. Ako by ste jednoduchou rečou vysvetlili, čo to je?
Odpoviem krátkym preletom nad históriou umelej inteligencie. Prvé dekády rozvoja umelej inteligencie sa niesli v znamení takzvanej symbolovej paradigmy, ktorá je založená na princípoch symbolovej reprezentácie znalostí (takzvaných ontológií), logiky a pravidiel. V počiatkoch dominovalo presvedčenie, že prístup zhora umožní priamo naprogramovať umelú inteligenciu na riešenie konkrétnych problémov. Ukázalo sa však, že v zložitejších prípadoch je táto cesta veľmi problematická napríklad preto, lebo počet potrebných pravidiel bude neúnosne vysoký alebo že nebudeme vedieť, aké všetky pravidlá budú potrebné. Zároveň nie všetko sa dá dobre opísať pomocou (hrubých) pravidiel a často existuje veľa výnimiek. Toto závisí aj od typu problému. Napríklad rozhodovací algoritmus na udeľovanie víz môže dobre fungovať, no presná detekcia zhubného nádoru na tomografickej snímke pomocou pravidiel je problematická. Preto začala byť zaujímavá myšlienka nesnažiť sa nadizajnovať riešenie priamo, ale nechať systém naučiť sa ho.
Takýto alternatívny prístup je základom umelých neurónových sietí, ktoré sa vedia učiť na príkladoch podobne ako človek. Neurónové siete sa začali skúmať neskôr ako symbolové systémy a ich vývoj tiež nebol kontinuálny pre vtedajšie problémy, ktoré čakali na svoje vyriešenie (napríklad ako správne realizovať učenie siete). Umelá neurónová sieť pozostáva z množiny navzájom poprepájaných jednoduchých prvkov – umelých neurónov, ktoré navzájom komunikujú cez váhované spojenia a tie predstavujú dlhodobú pamäť systému. Sila siete spočíva práve v interakciách medzi neurónmi a v zmenách sily spojení, ktoré sprevádzajú proces učenia. Znalosť existuje nie v podobe symbolov, ale v podobe reálnych čísel (vyjadrujúcich sily spojení), preto sú neurónové siete subsymbolové. Je tu zrejmá biologická inšpirácia prístupu. Paralelné spracovanie informácie a distribúcia (roztrúsenosť) znalostí predstavujú základný konceptuálny rozdiel v porovnaní so symbolovými systémami. Umelé neurónové siete sú teda prístupom založeným na strojovom učení, ktoré v ostatnej dekáde hrá v oblasti umelej inteligencie primárnu úlohu. Ich nevýhodou je, že sú menej transparentné, teda zrozumiteľné, čo je predmetom skúmania v súčasnosti populárnej vysvetliteľnej umelej inteligencie.
Vzdelávanie samého seba aj študentov
Za dlhoročnú prácu a angažovanosť v zahraničnom priestore ste dostali ocenenie Vedec roka SR v kategórii Osobnosť medzinárodnej spolupráce. Absolvovali ste dlhodobé výskumné pobyty v USA a v Nemecku. Ako sú tieto krajiny na tom s vývojom umelej inteligencie a jej aplikovateľnosti do praxe? Viete vyzdvihnúť zopár myšlienok, ktoré ste sa tam naučili a odniesli si so sebou sem na Slovensko?
Som veľmi rád, že sa mi podarilo získať dve prestížne štipendiá, ktoré ma posunuli dopredu. Vďaka nim som spolupracoval so špičkovými profesormi, ako je profesor Miikkulainen na Univerzite v Texase či profesor Crocker na Saarland univerzite v Nemecku, ktorý je odborníkom v oblasti modelovania procesov v jazyku pomocou neurónových sietí.
Vývoj umelej inteligencie v týchto krajinách je pochopiteľne ďalej ako u nás. USA v tomto hrajú prvé husle z dôvodu lepšieho zázemia, historického kontextu či lepšieho financovania. Veľa závisí aj od inšpiratívneho prostredia a ľudí. Na Univerzite v Texase mi utkvelo v pamäti, ako efektívne dokázal tamojší profesor usmerniť a motivovať študentov vrátane mňa, bol k dispozícii takmer kedykoľvek. V Richmonde ma pobyt naučil, ako sa ponoriť do problému a snažiť sa ho vyriešiť. Môj profesor Li bol vzdelaním psycholingvista. S výpočtovým modelovaním mi síce veľmi nevedel pomôcť, ale napísali sme spoločne po troch rokoch časopisecký článok, ktorý má spomedzi mojich publikácií najviac citácií. V Nemecku som získal ďalšiu inšpiráciu na prácu, štýl vedeckej práce, no pre moju obetavú manželku to bolo ťažké obdobie, lebo ostala s malými deťmi doma na Slovensku, aby sme viac ušetrili.
Najdôležitejšie je, aby človeka bavilo to, čo robí.
Najdôležitejšie je, aby človeka bavilo to, čo robí. Potom je výskum nielen prácou, ale aj hobby, ide to ľahšie a človek ľahko skĺzne aj do vorkoholizmu. Kľúčoví sú tiež ľudia, s ktorými interagujeme, lebo pri spoločnom rozmýšľaní (brainstormingu) vzniká väčší priestor na zaujímavé myšlienky. Dnešná situácia na Slovensku je v mnohom odlišná, prístup k informáciám je takmer neobmedzený a možností na zapojenie sa do projektov je oveľa viac. Aj keď peniaze neležia na stole, treba sa permanentne snažiť, pracovať na sebe a nevzdávať sa.
Od roku 2006 sa podieľate na zabezpečovaní stredoeurópskeho interdisciplinárneho magisterského študijného programu kognitívna veda v rámci štyroch univerzít. Ako vnímate dnešných študentov? V čom je tento odbor špeciálny?
Kognitívna veda mi prišla do cesty po našom návrate na Slovensko z USA v roku 2003, keď som nastúpil na FMFI UK v Bratislave na katedru aplikovanej informatiky. Táto oblasť ma rýchlo zaujala, lebo som vedel, že sa zaoberá interdisciplinárnym skúmaním ľudskej mysle. V tom čase sa na Viedenskej univerzite podarilo získať dvojročný európsky projekt v rámci programu Socrates na vytvorenie študijného programu kognitívna veda, konkrétne Middle European interdisciplinary master programme in cognitive science (MEi:CogSci). Ten bol potom úspešne akreditovaný na štyroch univerzitách konzorcia a začal svoju akademickú púť. V súčasnosti program beží u nás, na Viedenskej univerzite, Univerzite v Ľubľane a ELTE v Budapešti.
Je to jediný program s týmto zameraním na Slovensku.
Študijný program kognitívna veda je výrazne výskumne orientovaný. Študenti počas neho dvakrát prezentujú výsledky svojho výskumu na konferencii konzorcia MEi:CogSci. Okrem toho tretí semester absolvujú povinne na zvolenej partnerskej univerzite, kde riešia výskumný projekt pod vedením zahraničného mentora. Je to jediný program s týmto zameraním na Slovensku, je však už výrazne medzinárodne orientovaný, zhruba polovica prijatých študentov je zo zahraničia, program preto beží už len v anglickom jazyku.
Na Slovensku mala kognitívna veda svoje zázemie zhruba od začiatku milénia, keď boli organizované odborné interdisciplinárne semináre, vznikali rôzne zborníky, učebnice a články. Veľkú úlohu pri tom zohrali nestori kognitívnej vedy ako profesor Vladimír Kvasnička a docent Ján Rybár. V súčasnosti sa na zabezpečovaní programu podieľa tím ľudí z Centra pre kognitívnu vedu, mojimi najbližšími spolupracovníkmi sú docent Martin Takáč a RNDr. Kristína Malinovská.
V programe máme široké spektrum zvedavých študentov s rôznym vzdelaním, pretože magisterský program nekladie obmedzenia na bakalársky diplom. Šikovný motivovaný študent si v prvom semestri doplní chýbajúce znalosti a v programe sa nájde. V tom nás utvrdili predchádzajúce skúsenosti. Študenti sú pomerne nároční, no tešíme sa, že program má dlhodobo veľmi dobré hodnotenie, Snažíme sa ho v rámci našich možností neustále skvalitňovať. Sme radi, že program má podporu na našej fakulte, ale aj na celej univerzite.
Prezentácia o Igorovi Farkašovi na oceňovaní Vedec roka SR 2023. Zdroj: Marián Zelenák, CVTI SR
Aké sú vaše aktuálne pracovné výzvy a plány do budúcnosti?
Máme rozbehnutých viacero vedeckých a rozvojových projektov. Od jesene 2022 mi pomerne veľa času zaberá koordinácia rozvojového projektu (twinning) TERAIS, financovaného Európskou komisiou, ktorý je zameraný na rozvoj našej katedry aplikovanej informatiky smerom k excelentnému pracovisku. Chceme to dosiahnuť starostlivosťou o našich zamestnancov a podporou výskumu, ako aj medzinárodnou vedeckou spoluprácou. Zahraniční partneri projektu z Univerzity v Hamburgu a z Talianskeho technologického inštitútu sú skvelí, získavame potrebné know-how a snažíme sa, aby aj pre nich bola rozvíjajúca sa spolupráca motivujúca.
Moja výskumná orientácia sa v ostatných rokoch preorientovala na spojenie umelej inteligencie a robotiky so zameraním na humanoidných robotov. Vďaka finančnej podpore našej fakulty sme pred dvoma rokmi mohli kúpiť humanoidného robota NICO, ktorý sa stal aj predmetom výskumu v rámci projektu TERAIS. Výskum v oblasti interakcie človeka a robota (human-robot interaction, HRI) výrazne napreduje a prognózy o plánovaných investíciách vo svete jednoznačne rastú. Okrem iného HRI tematicky súvisí s kognitívnou vedou, ktorá môže byť v tomto kontexte veľmi nápomocná. Pri spolupráci s robotom je kľúčová jeho dôveryhodnosť, z čoho vyplýva nutná schopnosť robota správne rozpoznať a interpretovať signály človeka (vizuálne, zvukové a iné), ako aj vedieť správne, čitateľne reagovať. Okrem výskumu plánujem pokračovať v pedagogickej činnosti, lebo interakcia s mladým zvedavým študentstvom a odovzdávanie poznatkov ma bavia.
