Felmondott az OpenAI biztonsági jelentéseinek korábbi szerzője
David Robinson, aki korábban az OpenAI nagy modellkiadásait kísérő biztonsági jelentéseket írta, ezen a héten távozott a vállalattól. A szakember a The Atlanticban megjelent véleménycikkében azt írta, hogy az MI-iparág problémája nem oldható meg néhány új szabállyal vagy korlátozással, mert maga a működési kultúra hibás. Szerinte a Szilícium-völgyet a „szélsőséges magabiztosság”, a folyamatos versenyfutás és a fejlődés akadálytalan optimizmusa jellemzi, miközben a vállalatok hajlamosak alábecsülni a nagy teljesítményű modellek lehetséges veszélyeit.
Robinson úgy véli, az MI-fejlesztőknek nagyobb alázatra lenne szükségük, és ki kellene lépniük a technológiai iparág zárt, „gyorsan haladj és törj össze dolgokat” szemléletéből. A legfejlettebb modelleket fejlesztő laboratóriumok szerinte olyan biztonsági rendszerben működjenek, mint az atomerőművek vagy a forgalmas repülőterek: több, egymástól független védelmi réteggel, tartalékmegoldásokkal és lassabb, alaposabb tervezéssel. Így egy elkerülhetetlen emberi hiba sem vezetne könnyen súlyos következményekhez.
Robinson távozása egy szélesebb folyamat része. Az elmúlt időszakban több kutató és biztonsági szakember hagyta el jelentős MI-cégeknél betöltött állását, majd nyilvánosan is figyelmeztetett a fejlesztések kockázataira. Köztük volt Jacob Coxon, aki azt mondta, hogy az MI az évtized végéig akár az emberiség pusztulását is okozhatja, valamint Robert O’Callahan, Bilal Chughtai és Josh Engels a Google DeepMindtől, illetve Joe Benton az Anthropicstól.
Folytasd az appban — szavazz és szólj hozzá ➔