Experiment, v ktorom ľudí na sociálnej sieti nahradili výhradne chatboty, má pesimistický záver. Toxicite v online svete sa nedá vyhnúť.
Každý používateľ sociálnych sietí si uvedomuje, že nenávisť v online priestore je všadeprítomná. Zdroj: iStockphotos.com. Autor: NikVector
Nie je žiadnym tajomstvom, že sociálne médiá sa premenili na toxické ohnisko dezinformácií a nenávistných prejavov. Ako by však vyzerali sociálne siete, keby namiesto ľudí boli používateľmi softvérové roboty (boty)?
Bez akéhokoľvek zmysluplného tlaku na vytvorenie účinných ochranných opatrení a vynútiteľných politík sa platformy sociálnych médií rýchlo zmenili na hnevom naplnené a polarizujúce ozveny s jediným cieľom: udržať pozornosť používateľov aj za cenu ustavičného napätia, pobúrenia a ohlupovania, aby mohli zobrazovať viac reklám.
Sociálna sieť bez ľudí by vyzerala rovnako
Vzhľadom na výsledky nedávneho experimentu výskumníkov z Amsterdamskej univerzity je budúcnosť v tejto oblasti značne pesimistická. Spoluautori Petter Törnberg, odborný asistent pre umelú inteligenciu a sociálne médiá, a výskumný asistent Maik Larooij zverejnili výsledky štúdie, ktorá ešte nebola recenzovaná. V nej simulovali platformu sociálnych médií, ktorá bola úplne obývaná chatbotmi s umelou inteligenciou, poháňanými modelom veľkého jazyka GPT-4o od OpenAI, aby zistili, či existuje niečo, čo by sme mohli urobiť, aby sme zabránili súčasnému toxickému stavu sociálnych médií.
Vyskúšali šesť špecifických intervenčných stratégií – vrátane prechodu na chronologické spravodajské kanály, podpory rozmanitých názorov, skrytia sociálnych štatistík, ako je počet sledovateľov či odstránenia životopisov účtov –, aby zabránili platforme premeniť sa na polarizované peklo.
Na ich zdesenie žiadny zo zásahov nefungoval uspokojivo a iba niektoré vykazovali mierne účinky. A, čo je ešte horšie, ako uvádza Ars Technica, niektoré z nich situáciu ešte zhoršili. Napríklad chronologické zoradenie spravodajského kanála znížilo nerovnosť pozornosti, ale extrémny obsah sa aj tak dostal na vrchol.
Toxicite v online priestore sa nedokáže vyhnúť ani umelá inteligencia. Zdroj: iStock/Kagehito
Krutá realita
Je to triezva realita, ktorá je v rozpore so sľubmi spoločností o vybudovaní „digitálneho námestia“, ako ho kedysi nazval miliardár a majiteľ siete X Elon Musk, kde všetci pokojne koexistujú. S intervenciou alebo bez nej môžu byť platformy sociálnych médií odsúdené na to, aby sa premenili na vysoko polarizovanú živnú pôdu pre extrémistické myslenie. „Dokážeme identifikovať, ako zlepšiť sociálne médiá a vytvoriť online priestory, ktoré skutočne spĺňajú sľuby o poskytovaní verejnej sféry, kde môžeme konštruktívne rokovať a diskutovať o politike?“ opýtal sa Törnberg.
Docent umelej inteligencie a sociálnych médií pripustil, že používanie umelej inteligencie nie je „dokonalým riešením“ pre „všetky druhy predsudkov a obmedzení“. Táto technológia však dokáže zachytiť „ľudské správanie uveriteľnejším spôsobom“.
Bludný kruh
Törnberg vysvetlil, že nejde len o spúšťanie jednotlivých častí obsahu, ktoré vedú k vysoko polarizovaným online komunitám. Toxický obsah „formuje aj sieťové štruktúry (usporiadanie a prepájanie používateľov), ktoré sa vytvárajú,“ čo „spätne ovplyvňuje obsah, ktorý vidíte, čo vedie k toxickej sieti“.
Následkom je „extrémna nerovnosť pozornosti“, kde najväčšiu viditeľnosť získava nepatrná menšina príspevkov. Vo veku generatívnej umelej inteligencie by sa tieto účinky mohli stať ešte výraznejšími. „Už teraz vidíme veľa aktérov – na základe tejto monetizácie platforiem ako X –, ktorí používajú umelú inteligenciu na produkciu obsahu, ktorý sa snaží len maximalizovať pozornosť,“ povedal Törnberg pre Ars Technica.
Zdroj: Futurism, Ars Technica
(LDS)
