Interaktívne spomínanie alebo biznis so smrťou? Avatary zosnulých môžu byť rizikom nepochopenia samotnej smrti pre nekonečnú dostupnosť simulácie.
Ilustračný obrázok. Zdroj: iStock. Autor: fizkes
Umelá inteligencia (AI) sa čoraz viac používa na zachovanie hlasov a príbehov mŕtvych. Od textových chatbotov, ktoré napodobňujú blízkych, až po hlasové avatary, ktoré umožňujú „rozprávať sa“ so zosnulými, nám rastúci digitálny posmrtný priemysel sľubuje, že pamäť bude interaktívna a v niektorých prípadoch večná.
V nedávnom výskume, publikovanom v časopise Memory, Mind & Media, výskumníci skúmali, čo sa stane, keď je spomínanie na mŕtvych ponechané na algoritmus. Dokonca sa pokúsili hovoriť s digitálnymi verziami seba samých, aby to zistili.
Deathboty sú systémy umelej inteligencie určené na simuláciu hlasov, rečových vzorcov a osobností zosnulých. Čerpajú z digitálnych stôp osoby – hlasových nahrávok, textových správ, e-mailov a príspevkov na sociálnych sieťach –, aby vytvorili interaktívne avatary, ktoré sa zdajú byť „hovoriace“, akoby boli pozostalí stále na blízku. Ako povedal mediálny teoretik Simone Natale, tieto „technológie ilúzie“ majú hlboké korene v spiritualistických tradíciách, ale umelá inteligencia ich robí oveľa presvedčivejšími a komerčne životaschopnejšími.
Syntetická minulosť
Táto práca je súčasťou projektu s názvom Syntetická minulosť, ktorý skúma vplyv technológie na zachovanie osobnej a kolektívnej pamäti. Autori sa v štúdii zamerali na služby, ktoré pomocou umelej inteligencie zachovávajú alebo znovu vytvárajú hlas, spomienky alebo digitálnu prítomnosť osoby. Aby výskumníci pochopili, ako fungujú, stali sa vlastnými testovacími subjektmi.
Nahrávali vlastné videá, správy a hlasové poznámky, čím si vytvorili „digitálnych dvojníkov“ seba samých. V niektorých prípadoch hrali úlohu používateľov, ktorí si pripravujú vlastné syntetické posmrtné životy. V iných pôsobili ako smútiaci, ktorí sa snažia hovoriť s digitálnou verziou niekoho, kto zomrel. To, čo zistili, bolo fascinujúce aj znepokojujúce.
Niektoré systémy sa zameriavajú na zachovanie pamäti. Pomáhajú používateľom zaznamenávať a ukladať osobné príbehy usporiadané podľa témy, ako je detstvo, rodina alebo rady pre blízkych. Umelá inteligencia potom indexuje obsah a vedie ním ľudí ako v archíve s vyhľadávačom. Iné používajú generatívnu umelú inteligenciu na vytváranie prebiehajúcich konverzácií.
Algoritmy nerozumejú ľudskej bolesti
Nahráte údaje o zosnulej osobe – správy, príspevky, dokonca aj hlasové vzorky – a systém vytvorí chatbota, ktorý dokáže reagovať jej tónom a štýlom. Chatbot používa podmnožinu umelej inteligencie nazývanú strojové učenie (ktoré sa zlepšuje praxou), aby sa jeho avatary v priebehu času vyvíjali. Ako píše portál Tech Explore, niektoré môžu pôsobiť až strašidelne intímne.
Všetky platformy sľubovali „autentické“ emocionálne spojenie, no čím viac sa usilovali o personalizáciu, tým umelejšie pôsobili. Používatelia sa podelili o osobné údaje, len aby im bot mechanicky opakoval ich vlastné slová. Tón bol často neprimeraný – napríklad veselé emotikony pri rozhovoroch o smrti odhaľovali, že algoritmy nerozumejú ľudskej bolesti.
Testované nástroje, ktoré boli viac založené na archívoch, ponúkali pokojnejší zážitok, ale zároveň vnucovali rigidné kategórie a obmedzené nuansy. Ako poznamenal vedec digitálnych médií Andrew Hoskins, pamäť vo veku umelej inteligencie sa stáva interakciami medzi človekom a strojom „konverzačnou“ – formovanou. V experimentoch však tieto rozhovory často pôsobili plocho a odhaľovali hranice syntetickej intimity.
Keď sa spomienka premieňa na produkt
Za týmto úsilím sa skrýva obchodný model. Nejde o charitatívne organizácie na podporu pamiatok, ale o technologické startupy. Poplatky za predplatné, úrovne „freemium“ a partnerstvá s poisťovňami alebo poskytovateľmi starostlivosti odhaľujú, ako sa spomienka premieňa na produkt. Ako tvrdia filozofi Carl Öhman a Luciano Floridi, digitálny posmrtný priemysel funguje tak, že dáta naďalej generujú hodnotu dlho po skončení života človeka.
Pamäť sa stáva službou – interakciou, ktorú treba navrhnúť, merať a speňažiť. Ako ukázal profesor technológie a spoločnosti Andrew McStay, je to súčasť širšej ekonomiky „emocionálnej umelej inteligencie.“
Nepochopenie smrti
Prísľubom týchto systémov je druh vzkriesenia – oživenie mŕtvych prostredníctvom dát. Ponúkajú návrat hlasov, gest a osobností, nie však v podobe vyvolaných spomienok, ale vo forme prítomností simulovaných v reálnom čase. Tento druh „algoritmickej empatie“ môže byť presvedčivý, dokonca dojímavý, no existuje v medziach kódu a ticho mení zážitok zo spomínania, vyhladzuje nejednoznačnosť a rozpor.
Tieto platformy demonštrujú napätie medzi archívnymi a generatívnymi formami pamäti. Všetky platformy však normalizujú určité spôsoby spomínania, pričom uprednostňujú kontinuitu, koherenciu a emocionálnu citlivosť a zároveň vytvárajú nové, dátami riadené formy osobnosti. Ako poznamenala mediálna teoretička Wendy Čunová, digitálne technológie sľubujú dokonalé spomínanie a zároveň vymazávajú úlohu zabúdania – neprítomnosti, ktorá umožňuje smútok aj spomínanie. V tomto zmysle digitálne vzkriesenie riskuje nepochopenie samotnej smrti: nahrádza konečnosť straty nekonečnou dostupnosťou simulácie, kde sú mŕtvi vždy prítomní, interaktívni a aktualizovaní. AI môže pomôcť zachovať príbehy a hlasy, ale nedokáže replikovať živú komplexnosť osoby alebo vzťahu.
Zdroj: Tech Explore, Memory, Mind & Media
(LDS)
