Podľa nedávnej správy existuje takmer stopercentná pravdepodobnosť, že AI ukončí existenciu ľudstva. Iné názory dávajú tomuto scenáru menšiu šancu.
Ilustračný obrázok. Zdroj: iStockphoto.com. Autor: Maksim Tkachenko
Okrem obáv týkajúcich sa bezpečnosti a ochrany súkromia v súvislosti s rýchlym rozvojom generatívnej AI zostáva veľkým rizikom aj možnosť ďalšieho pokroku v tejto oblasti.
Špičkové technologické spoločnosti ako OpenAI, Google, Anthropic a Microsoft do tejto oblasti investujú veľa peňazí, ale dosiaľ nejestvujú dostatočné pravidlá, ktoré by riadili jej vývoj. To je veľmi znepokojujúca kombinácia okolností, pretože bez vopred stanovených pravidiel by mohlo byť ťažké AI ovládnuť, keď sa vymkne spod kontroly.
Najväčší strach, pochopiteľne, spôsobuje predstava, že AI jedného dňa skoncuje s ľudstvom. Znie to ako veta vytrhnutá zo sci-fi filmu, ale podľa rôznych odhadov existuje šanca, že sa to stane, hoci percentuálna pravdepodobnosť týchto odhadov sa odlišuje.
Dátová analýza. Zdroj: iStock. Autor: Khanchit Khirisutchalual
Názory sa rôznia
Nedávna správa naznačila 99,999999-percentnú pravdepodobnosť, že AI ukončí existenciu ľudstva. Roman Jampolskij, výskumník v oblasti bezpečnosti AI, ktorý stojí za touto štúdiou, ďalej uviedol, že po dosiahnutí hranice superinteligencie bude prakticky nemožné AI kontrolovať. Dodal, že jediný spôsob, ako tento problém obísť, je AI nevytvárať.
Vedci navrhli nový benchmark AGI, ktorý hodnotí, či by akýkoľvek budúci model umelej inteligencie mohol spôsobiť katastrofálne škody. Zdá sa, že OpenAI je na najlepšej ceste odstrániť benchmark AGI zo svojho zoznamu. Na rozdiel od všeobecného presvedčenia Sam Altman tvrdí, že benchmark bude mať prekvapivo malý spoločenský vplyv. V nedávnom článku naznačil, že superinteligencia tu môže byť len o niekoľko tisíc dní.
Šanca, že AI ovládne planétu alebo urobí niečo, aby nás zničila, napríklad vytvorí biologickú zbraň alebo začne jadrovú vojnu, je podľa Yanna LeCuna mizivá. Yann LeCun, jeden z troch krstných otcov AI, ktorý v súčasnosti pracuje v spoločnosti Meta, dáva AI len 0,01-percentnú šancu na záhubu ľudstva, čo je menej pravdepodobné, ako zrážka s likvidačným asteroidom.
Geoffrey Hinton, ďalší z troch krstných otcov AI, je menej optimistický. Podľa neho existuje 10-percentná šanca, že nás AI vyhladí, a to už v nasledujúcich 20 rokoch. Yoshua Bengio, tretí krstný otec AI, zvyšuje toto číslo na 20 percent.
Robot a žena počas spolupráce. Zdroj: iStock. Autor: demaerre
AI má hrozbu vyriešiť sama
Generálny riaditeľ OpenAI Sam Altman verí, existenčné hrozby, ktoré predstavujú superinteligentné systémy AI, sa podarí obísť. „Verím, že výskumníci prídu na to, ako sa tomu vyhnúť. Myslím si, že existuje súbor technických problémov, na ktorých budú pracovať najinteligentnejší ľudia na svete. Viete, som od prírody možno priveľký optimista, ale predpokladám, že na to prídu,“ uviedol.
Zároveň dodal, že v tom čase by už AI mohla byť dostatočne inteligentná na to, aby krízu vyriešila sama.
Robot počíta peniaze. Zdroj: iStock. Autor: Dragon Claws
Finančná kríza pre AI
OpenAI bola nedávno na pokraji bankrotu s prognózami straty 5 miliárd dolárov v najbližších mesiacoch. Viacerí investori vrátane spoločností Microsoft a NVIDIA predĺžili jej životné lano prostredníctvom kola financovania. Získali 6,6 miliardy dolárov, čím sa jej trhová kapitalizácia nakoniec zvýšila na 157 miliárd dolárov.
Trhoví analytici a odborníci však predpovedajú, že záujem investorov o bublinu umelej inteligencie sa vytráca. V dôsledku toho môžu nakoniec stiahnuť svoje investície a nasmerovať ich inde. Niektorí dokonca tvrdia, že 30 percent projektov s tematikou umelej inteligencie bude po overení konceptu do roku 2025 zrušených.
Objavujú sa aj tvrdenia, že špičkové laboratóriá AI vrátane OpenAI majú problémy s vytváraním pokročilých modelov AI z dôvodu nedostatku kvalitných údajov na tréning. Generálny riaditeľ OpenAI Sam Altman tieto tvrdenia vyvrátil a uviedol, že „neexistuje žiadna prekážka“, ktorá by bránila dosahovaniu nových výšok a pokroku vo vývoji AI.
Zdroj: Windows Central, Tech Radar
(LDS)
