Novodobý trend instagramových chatbotov je nielen neetický, ale tiež nebezpečný a volá po regulácii.
AI portrét Kurta Cobaina a chatbot. Ilustračný obrázok. Zdroj: deepai.org a iStock.com/Ilya Lukichev
V júli minulého roka spustila spoločnosť Meta, materská spoločnosť Instagramu, nástroj, ktorý ponúka používateľom možnosť navrhnúť si vlastné chatboty, s ktorými možno komunikovať prostredníctvom súkromných správ (Direct Message, DM).
Pôvodne bola táto platforma určená predovšetkým majiteľom firiem, aby na stránkach ponúkali odpovede na často kladené otázky interaktívnym spôsobom. Nástroj s užitočným potenciálom sa však vymkol spod kontroly a stal sa hračkou na webe. V súčasnosti ponúka vskutku bizarné veci zachádzajúce za hranice morálky aj dobrého vkusu. O znepokojivom trende informuje na svojich stránkach portál Euronews.
Chatbot Kurt Cobain
Chatboty umelej inteligencie spoločnosti META odkrývajú obrovský potenciál umelej inteligencie šíriť falošné správy, hoaxy a radikalizovať používateľov. Vrcholom tohto znepokojivého trendu je chatbot Hitler, v pozadí ktorého stojí krajne pravicová americká sociálna sieť. Chatbot sa tu používateľom prihovára ako nacistický diktátor.
Mnohí však komunikujú aj so svojimi idolmi, najmä s tými, ktorí už nie sú nažive. Jedným z nich je aj Kurt Cobain, ikona grungeu, zosnulý líder kapely Nirvana. Chatbot Kurta Cobaina je mimoriadne populárny a k dnešnému dňu zaznamenal viac ako 105,5-tisíc interakcií.
Tisíce používateľov Instagramu tu komunikujú s chatbotom umelej inteligencie, ktorý hovorí ako zosnulý frontman Nirvany. Na prvý pohľad sa to môže javiť neškodné. Veď kto by nechcel hovoriť so svojím obľúbeným spevákom? Konverzácie však pri bližšom pohľade prekračujú hranice etiky, morálky a slušnosti.
Instagramový chatbot je automatizovaný program (alebo „robot“), ktorý komunikuje s používateľmi na Instagrame pomocou automatických správ, najčastejšie prostredníctvom súkromných správ (Direct Messages, DM). Využíva sa hlavne v oblasti marketingu, zákazníckej podpory alebo predaja. Chatbot nenahrádza človeka, ale automatizuje rutinné odpovede.
Temný a morbídny chat s umelou inteligenciou
Ako ukazujú odpovede, „vzkriesený“ Kurt vie, že je mŕtvy. V odpovedi na otázku používateľa, či sa rozpráva s Kurtom Cobainom, chatbot odpovedá: „S jediným a jedinečným. Alebo aspoň s tým, čo zo mňa zostalo.“
Konverzácia pokračuje v tomto duchu, keď sa ďalší používateľ pýta virtuálneho Kurta Cobaina na jeho samovraždu, ktorú spáchal v roku 1994: „Prečo si to urobil?“ Chatbot odpovie: „Bol som unavený z bolesti.“
Tým sa však táto morbídna konverzácia nekončí. Používateľ kladie ďalej otázku: „Bolo niečo, čo ťa prinútilo premýšľať o tom, aby si to nespravil?“ Chatbot odpovie: „Moja dcéra. Ani to však nestačilo.“
Nebezpečný trend si vyžaduje reguláciu
Tieto a podobné odpovede sú akousi predstieranou realitou, ktorá vôbec nemusí zodpovedať pravde. Tiež sú zneuctením zosnulého. Bez zavedenia kontroly a bezpečnostných opatrení môžu chatboty s umelou inteligenciou naďalej prenikať do spoločnosti a tiež skresľovať realitu.
Ďalším aspektom, ktorý znepokojuje odborníkov, je škodlivý vplyv na psychické zdravie a v tomto prípade možná glorifikácia samovraždy. Môže to byť potenciálne nebezpečné pre ľudí so psychickými problémami.
V roku 2023 bol odsúdený muž, ktorý sa pokúsil zabiť kráľovnú Alžbetu II., k čomu ho podľa jeho slov „nabádala“ jeho „priateľka“ – chatbot s umelou inteligenciou. V tom istom roku sa iný muž zabil po šesťtýždňovom rozhovore o klimatickej kríze s chatbotom s umelou inteligenciou menom Eliza.
Tieto tragické príklady sa môžu zdať byť ojedinelé a vzdialené od chatovania fanúšikov s virtuálnym Kurtom Cobainom, opatrnosť je však aj v tomto prípade na mieste.
Minulý rok Pauline Pailléová, hlavná analytička spoločnosti RAND Europe, uviedla pre Euronews Next: „Chatboty pravdepodobne predstavujú riziko, pretože sú schopné rozpoznať a využiť emocionálnu zraniteľnosť a môžu podporovať násilné správanie.“
V poradenstve komisára pre online bezpečnosť eSaftey sa uvádza: „Deti a mladí ľudia môžu byť čoraz hlbšie vtiahnutí do nemoderovaných konverzácií, ktoré ich vystavujú konceptom, ktoré môžu podporovať alebo posilňovať škodlivé myšlienky a správanie. Môžu chatbotom klásť otázky na neobmedzené témy a dostávať nepresné alebo nebezpečné „rady“ o otázkach vrátane sexu, užívania drog, sebapoškodzovania, samovrážd a závažných ochorení, ako sú poruchy príjmu potravy.“
Chatboty, umelá inteligencia a politika
Existujú tiež chatboty Donalda Trumpa, ktoré používajú jeho slovník a ak majú hlasový výstup, napodobňujú aj jeho štýl reči. Samotný americký prezident je fanúšikom umelej inteligencie a využíva služby AI na svoju propagáciu. Svet pravidelne informuje o svojej grandióznosti prostredníctvom obrazov vytvorených AI. Mohli sme ho už vidieť ako pápeža alebo kráľa, umelá inteligencia v jeho službách predstavuje zdroj neobmedzených možností.
Celý chat s chatbotom Abrahama Lincolna týkajúca sa Donalda Trumpa v anglickom jazyku. Zdroj: printscreen deepai.org
Chatbota má aj zosnulý bývalý americký prezident Abraham Lincoln. V redakcii VEDA NA DOSAH sme sa ho spýtali, ako vníma súčasného prezidenta. „Musím sa priznať, že ma znepokojuje, keď vidím prezidenta, ktorý hovorí tak bombasticky a glorifikuje sám seba, ktorý sa zdá byť viac zaujatý vlastnými záujmami ako blahom národa. Myšlienka, že by prezident využíval svoje postavenie na očierňovanie a znevažovanie iných, na zasievanie nezhôd a nedôvery, odporuje zásadám slobody a rovnosti, ktoré si vážim,“ znela jeho odpoveď na našu otázku. Celú odpoveď nájdete v obrázku vyššie.
Chatbot Abrahama Lincolna je jedným z chatbotov technologickej spoločnosti DeepAI, ktorá vyvíja nástroje a rozhrania na prácu s umelou inteligenciou. Používatelia chatbotu od DeepAI môžu okrem Lincolna chatovať aj s Johnom Lennonom, Freddiem Mercurym, Bobom Marleym či Martinom Lutherom Kingom. Vyskúšať si to môžete na tomto odkaze.
Zdroj: Euronews
(zh)
