Nestihli ste prednášku Martina Tamajku z Kempelenovho inštitútu inteligentných technológií? Pozrite si video.
Dňa 13. septembra 2023 mal v rámci cyklu Vedecká cukráreň v Centre vedecko-technických informácií Slovenskej republiky (CVTI SR) v Bratislave prednášku Martin Tamajka z Kempelenovho inštitútu inteligentných technológií. Zameriava sa na výskum nových metód hlbokého učenia, ako aj na zvyšovanie transparentnosti neurónových sietí prostredníctvom metód vysvetliteľnosti.
Umelá inteligencia nie je neomylná
Všetci vieme, že najmä vďaka hlbokému učeniu dokázala umelá inteligencia (AI) vyriešiť bezprecedentné množstvo problémov, pričom jej výkon je porovnateľný s ľudským. Nové modely, techniky a prístupy sa objavujú raz za niekoľko mesiacov alebo dokonca týždňov. Stačí sa pozrieť, koľko rôznych modelov pribudlo po tom, čo organizácia OpenAI sprístupnila četbot ChatGPT.
Od roku 2012 dosahuje hlboké učenie bezprecedentnú výkonnosť. Odvtedy sa umelá inteligencia stala dominantnou v takmer každej oblasti ľudského života. „Vie vyriešiť aj komplexné problémy, ako je napríklad preklad slov, ktoré znejú rovnako. Napríklad slovo kohútik. Musí rozumieť kontextu, prípadne to, pre koho text generuje, aby vedela slovo preložiť správne. Niekedy je lepšia ako samotný človek. Prekladač dokáže prekladať do stoviek jazykov, no taký človek neexistuje,“ uviedol Tamajka. „Je to silný nástroj, ktorý sa dá využiť na rôzne účely. Mnohí z nás ho používame a ani o tom nevieme.“
Umelá inteligencia sa však stále má kam posúvať. Jej výstupy často nie sú také, ako by sme čakali. Pri ťažkých úlohách si rada vymýšľa. „Zosyntetizuje odpoveď a poskytne nám validnú vetu. Zloží niečo, čo síce vyzerá dobre, čo už niekedy videla, ale v skutočnosti to nefunguje. Napríklad pri kódovaní,“ dodal Tamajka.
Čo je vysvetliteľná AI?
Jednoduchým ľudským spôsobom môžeme povedať, že ide o vybudovanie intuície. V starovekom Grécku existovalo orákulum. Bola to odpoveď alebo predpoveď, po ktorú ľudia chodili za kňažkami. Podobne to je s umelou inteligenciou. Chceme od nej, aby nám dala nejakú predpoveď alebo predikciu na základe vstupných dát. Vo väčšine prípadov nám poradí dobre, ale je istá šanca, že aj nie. Vedci preto chcú zistiť, na základe čoho a prečo sa rozhoduje tak, ako sa rozhoduje. Zo stavu, keď nám umelá inteligencia povie nejakú odpoveď, sa chceme dostať do stavu, aby nám povedala, prečo si to myslí.
„Na určitej úrovni vieme, ako fungujú neurónové siete, ale nevieme napríklad, prečo bola nejaká predikcia taká, aká bola. Post hoc metódy sa zaoberajú tým, aby nám túto otázku vysvetlili. Ak by sa model rozhodoval na základe nepodstatných slov, nie je to dobrý model,“ vysvetlil Tamajka.
Umelá inteligencia je nápomocná, ale stále nie je dokonalá. Zdroj: iStockphoto.com
Chceme vedieť prečo
Od neurónových sietí odborníci chcú, aby nám určili klasifikáciu a poskytli zdôvodnenie. Rôzne neurónové siete sa totiž môžu rozhodovať odlišne, na základe niečoho iného. Následne vieme určiť, či sa rozhoduje rozumne, alebo nie, a vieme si vybrať ten správny model, s ktorým chceme pracovať.
„Nevieme, kde je nejaká konkrétna informácia uložená, nevieme, či je to kombinácia viacerých vecí alebo zdrojov,“ priblížil Tamajka. Ak by mali modely rovnakú úspešnosť a vedeli by nám povedať, ako sa rozhoduje, budeme si môcť vybrať ten lepší a rozumnejší.
Čo je Vedecká cukráreň?
Ide o pravidelné stretnutia študentov stredných škôl s osobnosťami slovenskej vedy, výskumu a techniky. Národné centrum pre popularizáciu vedy a techniky v spoločnosti pri Centre vedecko-technických informácií SR (CVTI SR) v Bratislave oslovuje vedcov odborníkov, ktorí vedia študentom populárnou formou a jednoduchým spôsobom vysvetliť zložitosti vedeckého výskumu. Vedecká cukráreň je pre študentov aj jedinečnou príležitosťou a priestorom na konfrontáciu vlastných poznatkov a názorov na dianie vo vede a v technike. Vo Vedeckej cukrárni sa diskutuje v uvoľnenej a priateľskej atmosfére pri čaji, minerálke a koláčikoch a svoje zohráva aj mimoškolské prostredie. Témy Vedeckých cukrární sa vyberajú podľa aktuálnosti. Vedecká cukráreň trvá približne 90 minút (45 minút vystúpenie vedca a 45 minút diskusia).
Táto prednáška je sprievodným podujatím Európskej noci výskumníkov (ENV) 2023. Hlavný program ENV sa uskutoční 29. septembra 2023 v priestoroch Starej tržnice v Bratislave, ale aj v ďalších štyroch mestách a okolitých lokalitách. Súčasťou festivalu vedy budú prednášky, workshopy, súťaže či zaujímavé prezentácie výnimočných slovenských vedcov. Nebudú chýbať ani sprievodné podujatia, ku ktorým patria vedecké kaviarne pod názvom Veda v CENTRE a Vedecké cukrárne. Bližšie informácie nájdete na www.nocvyskumnikov.sk a www.vedanadosah.sk.
(JM)
