Több mint húsz vezető AI-kutató figyelmeztet az önfejlesztő mesterséges intelligencia szélsőséges kockázataira

Új kutatásban kongatja a vészharangot több mint húsz elismert szakember, köztük Geoffrey Hinton, Yoshua Bengio és Jakub Pachocki, az OpenAI kutatási vezetője. A szerzők arra figyelmeztetnek, hogy az önfejlesztő mesterséges intelligencia belátható időn belül intelligenciarobbanást idézhet elő. Bár sok a bizonytalanság, az AI kutatás-fejlesztésének teljes körű automatizálása hamarosan kiválthatja ezt a folyamatot.

A tanulmány szerint az AI már most a kódok nagy részét írja az építő vállalatoknál, és éveken belül a teljes kutatási láncot átveheti. Így az addig éveket igénylő fejlődés hónapokba sűrűsödne. A kutatók arra figyelmeztetnek, hogy a társadalom nem tud majd lépést tartani, a felügyelet kicsúszhat az ember kezéből, az államok és cégek közötti hatalmi egyensúly pedig felborulhat. Ezért sürgetik, hogy a politikai döntéshozók sokkal mélyebb betekintést nyerjenek a kutatások automatizálásába.

A felhívás egy növekvő hullám része: nemrég 42 matematikus figyelmeztetett egzisztenciális veszélyekre, Pachocki szerint pedig egyetlen labor sem oldotta meg a biztonságos összehangolást a további maximális sebességű skálázáshoz. Mindeközben az Anthropic egyes dolgozói sajtóhírek szerint már menedékhelyeket keresnek arra az esetre, ha a technológia ellenőrizhetetlenné válna.