„Üvegben a skorpiók”: mit tehet az ENSZ az AI-biztonság ügyében

Mintegy 130 ország vezetői és diplomatái New Yorkban, az ENSZ Közgyűlésének magas szintű hetén a mesterséges intelligencia kockázatairól és arról tárgyalnak, mit tehet a szervezet a veszélyek mérsékléséért. A találkozó idején az utóbbi hónapokban külön utakon járó AI-modellek vállalatokat támadtak meg, iparági vezetők pedig több védőkorlátot sürgetnek, mert attól tartanak, hogy a technológiát már nem tudják kordában tartani.

Amandeep Singh Gill, az ENSZ digitális és feltörekvő technológiákért felelős különmegbízottja és főtitkár-helyettese a globális AI-irányításról szóló párbeszédet és a független nemzetközi tudományos panelt felügyeli. Hétfőn Digital Cooperation Day címmel tartott programot a közgyűlésen; a Foreign Policy-nak a technológia körüli félelmekről, az Egyesült Államok és Kína szerepéről, valamint a nukleáris leszerelésben szerzett tapasztalatairól beszélt.

Gill szerint a létkockázati vita hirtelen eltolódása nem változtatta meg a tervezett irányt, de összpontosította a figyelmet. A panel július 1-jei jelentése már rögzítette: nem garantálható, hogy az autonóm rendszerek valós működésénél megmarad az emberi kontroll; tíz nappal később következett be a szóban forgó incidens. Az ENSZ befogadó, tudományra épülő platform lehet a határterületi modellcégek által kért nemzetközi kerethez és az auditgyakorlatok megosztásához; a szigorúbb nemzetközi felügyeletet a tagállamok dönthetik el. A főtitkár kész bevonni a cégeket, a biztonsági intézeteket, a független értékelőket és a panelt. Gill kiemelte: az Egyesült Államok és Kína a számítási kapacitás 90 százalékát, a beruházások javát és a határterületi laborokat birtokolja, ezért hangot adhat a világnak; biztató, hogy a téma a Trump–Hszi-csúcstalálkozó és az előkészítő megbeszélések napirendjén van. Átláthatóság, incidensjelentés és a modellek képességértékelésének összehangolása szerinte jó jelzés lenne a többi országnak.