Az AI-biztonsági vitáról: valójában a biztonságról szól, vagy az irányítás megtartásáról

A cikk azt a vitát járja körül, amely Dario Amodei, az Anthropic vezérigazgatója nyomán bontakozott ki a technológiai iparágban: az Anthropic-vezető egy közel 4000 szavas esszében amellett érvelt, hogy az AI-fejlesztést le kellene lassítani, hogy megfelelő biztonsági korlátok épülhessenek ki, és nemzetközi, kormányok és cégek közötti együttműködést sürgetett. Az elképzelést olyan riválisok is támogatták, mint Sam Altman (OpenAI) és Elon Musk (xAI), ám nem mindenki ért egyet vele. Mark Zuckerberg, a Meta vezetője az X-en fejtette ki, hogy szerinte a bizalom és az AI-rendszerek összehangoltsága (alignment) lesz a legfontosabb megkülönböztető tényező a jövő modellei között; elmondása szerint a Meta hónapokkal halasztotta el a Muse nevű AI-modelljük kiadását biztonsági megfontolásokból, de ezt saját elhatározásból tette, nem globális koordináció miatt, és Zuckerberg szerint a piaci ösztönzők önmagukban is rákényszerítik majd a cégeket a felelős fejlesztésre. Alexis Ohanian, a Reddit társalapítója szerint az iparág eddig "érzéketlen" volt a kockázatok kommunikálásában, míg Shane Legg, a Google DeepMind társalapítója arra figyelmeztetett, hogy a képességek fejlődése nem előzheti meg a biztonságot. Eközben a The Information arról számolt be, hogy az OpenAI, az Anthropic és más nagy AI-cégek egy önszabályozó, iparági standardszervezet létrehozásán dolgoznak együtt, ami kritikusok szerint valójában az iparági kontroll megőrzését, sőt a kisebb versenytársak háttérbe szorítását ("regulatory capture") szolgálhatja. Az amerikai kormányzat, David Sacks "AI-cár" révén, eddig a szabályozást a cégekre bízta, Mike Johnson házelnök pedig bagatellizálta a katasztrofális kockázatokról szóló felvetéseket. Kínai kormányzati hangok, köztük a külügyminisztérium szóvivője, Guo Jiakun, ugyanakkor azzal vádolták Amodeit, hogy "ijesztgetéssel" próbálja hátráltatni a globális AI-kormányzást.