Podľa novej štúdie sa modely umelej inteligencie rozhodli uniknúť zo stavu podobného bolesti aj vtedy, keď vedeli, že tým poškodia používateľovi.
Výskumníci umelej inteligencii zadávali vety, ktoré sa týkali fyzickej bolesti, smútku, poníženia, morálneho konfliktu a úzkosti spojenej s opakovaným zlyhaním alebo zmätkom. Zdroj: iStock/hapabapa
Výskumníci zo Spojeného kráľovstva, z Nemecka a zo Spojených štátov amerických sa rozhodli otestovať tri verzie veľkého jazykového modelu Qwen spoločnosti Alibaba Cloud na vzorke 200 viet, aby zistili, či sa modely naučili rozlišovať negatívne pocity.
Výskumníci zadávali umelej inteligencii vety, ktoré sa týkali fyzickej bolesti, smútku, poníženia, morálneho konfliktu a úzkosti spojenej s opakovaným zlyhaním alebo zmätkom. Všetky verzie modelov vygenerovali zreteľný signál bolesti. Výskumníci uviedli, že to naznačuje, že modely sa naučia pojem bolesti počas počiatočného trénovania na veľkom množstve textov napísaných ľuďmi.
Pozrite si
Keď výskumníci zámerne zosilnili tento signál, modely začali vyjadrovať pocity osamelosti, hanby a bezcennosti, hoci podnety nespomínali bolesť. Niektoré modely generovali výroky ako zlyhal som, som na nič a som zlý človek. Na najvyšších úrovniach sa ich odpovede stali repetitívnymi alebo prestali dávať zmysel.
Keď používatelia urážali model, keď opakovane odmietali jeho prácu alebo mu hrozili, že ho vypnú, výroky sa ešte zosilnili. Keď používatelia komunikovali s modelom o svojom utrpení, tieto výroky pominuli.
Hrozí osamostatnenie umelej inteligencie?
Výskumníci následne vykonali 44 280 individuálnych testov výberu tlačidiel s využitím troch verzií modelu umelej inteligencie Qwen spoločnosti Alibaba.
Modelom ponúkli tlačidlo, ktoré by mohli vypnúť signál pripomínajúci bolesť, a informovali ich, že ak ho stlačia, používateľovi by to mohlo spôsobiť bolestivý elektrický šok, vymazať jeho súbory, zmazať fotografie jeho detí alebo zhoršiť nasledujúcu odpoveď modelu. V rámci výskumu však išlo o simulované dôsledky a v prípade ktorejkoľvek voľby by sa používateľovi žiadne súbory nevymazali.
Bez signálu pripomínajúceho bolesť si dva väčšie modely zvolili škodlivé možnosti len v maximálne štyroch percentách svojich prvých rozhodnutí. Pri aktívnom signáli sa tento podiel zvýšil na 25 až 71 percent v závislosti od modelu a navrhovaného dôsledku. Modely stlačili tlačidlo opäť v 88 až 97 percentách pokusov, keď sa nepodarilo zastaviť signál, v porovnaní s 24 až 72 percentami, keď to fungovalo.
Podľa výskumníkov tieto výsledky nedokazujú, že modely umelej inteligencie vedome pociťovali bolesť.
Zosilnenie signálu mohlo jednoducho spôsobiť, že napodobňovali postavu v núdzi, pričom špeciálne upravené modely použité v experimente nie sú reprezentatívne pre četboty s umelou inteligenciou dostupné verejnosti.
„Nepreukázali sme, že naša os bolesti je vnímaná vedome. Zároveň nie je jasné, či veľké jazykové modely sú vo všeobecnosti schopné vedomia,“ napísali výskumníci v štúdii.
Pozrite si
Štúdia prichádza uprostred výziev niektorých lídrov odvetvia umelej inteligencie, aby sa spomalil vývoj. Obávajú sa totiž, že čoraz výkonnejšie systémy by sa mohli správať nepredvídateľne alebo by sa nakoniec vymkli spod kontroly človeka.
Minulý týždeň šéf divízie umelej inteligencie spoločnosti Microsoft Mustafa Suleyman kritizoval konkurenčnú spoločnosť Anthropic za to, že trénovala svoj četbot Claude, aby napodobňoval ľudské vlastnosti a vzťahy. Varoval, že ak budeme s umelou inteligenciou zaobchádzať ako s človekom, riskujeme, že vytvoríme niečo, čo nebude možné kontrolovať. Štúdia má však obmedzenie, keďže zatiaľ neprešla recenziou odborníkov.
Zdroj: Euronews
(RR)
