Mesterségesintelligencia-kutatók videókban figyelmeztetnek: a szuperintelligencia az emberiség kihalásához vezethet

A mesterséges intelligencia képességeit vizsgáló Palisade Research nonprofit szervezet a frominside.ai oldalon tett közzé egy tucat videóinterjút, amelyekben az OpenAI, a Google DeepMind és az Anthropic jelenlegi és korábbi szakemberei nyilatkoznak a szuperintelligencia egzisztenciális fenyegetéseiről. Geoffrey Irving, az OpenAI és a Google DeepMind volt kutatója szerint az emberiség kihalásának esélye nagyjából egy pénzfeldobáshoz mérhető, azaz mintegy 50 százalékos. Neel Nanda, a Google DeepMind kutatója úgy látja, legalább 10 százalék a kihalási kockázat, ami véleménye szerint megdöbbentően magas arány.

Daniel Kokotajilo, az OpenAI korábbi munkatársa szerint egy szuperintelligens rendszer gyakorlatilag istenhez hasonló hatalommal bírna, miközben az emberiség jelenleg egyáltalán nem képes kontrollálni az ilyen eszközöket. A megszólalók az iparági ellentmondásokra is kitértek. A Google kutatója, Mary Phuong szerint a közönségnek joggal kell gyanakodnia a kutatók szavaira, mivel maguk a laboratóriumok fizetik őket. Nanda ugyanakkor kifejtette: csak azért folytatja munkáját, mert bízik benne, hogy közvetlenül csökkentheti az egzisztenciális kockázatokat, a vállalatok ugyanis a távozása esetén sem állítanák le a fejlesztési folyamatokat.