BBC zadala četbotom, aby zosumarizovali obsah 100 spravodajských článkov. Kvalitu vygenerovaných odpovedí hodnotili vedci a odborníci.
Četovanie s četbotom. Ilustračný obrázok. Zdroj: Istock.com/Boy Wirat
Hoci sa do umelej inteligencie (AI) vkladajú veľké nádeje, mnohé aplikácie ešte zďaleka nevedia splniť to, čo sľubujú. Ukázal to aj najnovší výskum BBC, ktorá si zobrala pod lupu štyri najväčšie četboty. O najnovších zisteniach, ktoré sú súčasťou štúdie, informuje na svojej stránke BBC.
Výsledok, ktorý niektorých prekvapí, a ďalších zasa nie, znie: četboty nie sú schopné priniesť presný a správny súhrn správ.
BBC poskytla obsah vlastného spravodajského webu štyrom najväčším četbotom. Následne im položila otázky týkajúce sa obsahu. Odpovede, ktoré poskytli ChatGPT od OpenAI, Copilot od Microsoftu, Gemini od Googlu a Perplexity AI, obsahovali značné nepresnosti a boli skreslené.
51 percent vygenerovaného obsahu malo chyby
BBC zadala četbotom, aby zosumarizovali obsah 100 spravodajských článkov. Kvalitu vygenerovaných odpovedí potom hodnotili vedci a odborníci na danú problematiku.
Až 51 percent všetkých odpovedí na otázky týkajúce sa spravodajského obsahu, ktoré poskytla umelá inteligencia, malo podľa odborníkov nejakú chybu.
Okrem toho 19 percent odpovedí AI, ktoré citovali obsah BBC, obsahovalo vecné chyby, ako napríklad nesprávne faktické tvrdenia, čísla a dátumy.
Deborah Turnessová, riaditeľka spravodajstva britskej verejnoprávnej stanice BBC, preto na svojom blogu vyzvala technologické spoločnosti, aby stiahli svoje súhrny správ generované umelou inteligenciou. Toto urobila napríklad spoločnosť Apple po sťažnostiach zo strany BBC, že Apple Intelligence správy skresľuje.
Ilustračný obrázok. Zdroj: iStockphoto.com
Zachovať kontrolu nad obsahom
Ktoré ďalšie problémy sa ukázali pri generovaní obsahu? V správe sa uvádza, že texty četbotov obsahovali nielen faktické nepresnosti. Četboty tiež „mali problémy odlíšiť názor od faktu, editovali text a často nepridali základný kontext“.
Programový riaditeľ BBC pre generatívnu umelú inteligenciu Peter Archer uviedol, že vydavatelia „by mali mať kontrolu nad tým, či a ako sa ich obsah používa, a spoločnosti zaoberajúce sa umelou inteligenciou by mali ukázať, ako asistenti spracovávajú správy spolu s rozsahom chýb a nepresností, ktoré produkujú“.
BBC bežne svoj obsah blokuje pred četbotmi s umelou inteligenciou. Na účely výskumu, ktorý prebiehal v decembri 2024, urobila výnimku a webovú stránku sprístupnila.
Hra s ohňom
Aj tento experiment nám opäť raz ukázal, že spoliehať sa slepo na umelú inteligenciu sa nevypláca a môže nám to spôsobiť viac problémov ako úžitku.
Deborah Turnessová na svojom blogu uviedla, že umelá inteligencia prináša nekonečné možnosti, ale spoločnosti, ktoré vyvíjajú tieto nástroje, sa zahrávajú s ohňom.
„Žijeme v nepokojných časoch. Ako dlho potrvá, kým titulok umelej inteligencie spôsobí významné škody v reálnom svete?“ napísala na svojom blogu.
Deklarácia o AI
K bezpečnému používaniu AI by mala prispieť aj deklarácia o umelej inteligencii, ktorá by zabezpečila otvorenosť, etickosť, bezpečnosť a dôveryhodnosť technológie.
Na dvojdňovom samite o umelej inteligencii v Paríži prijalo deklaráciu 61 štátov vrátane Nemecka, Francúzska, Indie a Číny. Nepripojili sa USA a Veľká Británia.
Kým niektorí, napríklad americký viceprezident J. D. Vance, varujú pred reguláciou, ktorá by mohla ohroziť rozvoj AI, iní ju vnímajú ako nevyhnutnosť. To je tiež prípad kreatívnych profesií. Počas samitu o umelej inteligencii protestovali prekladatelia, novinári či scenáristi, ktorí sa cítia ohrození zavádzaním umelej inteligencie.
Zdroj: BBC, science.ORF.at, čt24
(zh)
