Három kutatót elbocsátottak, egy negyedik távozott az OpenAI biztonsági területéről
A Wall Street Journal értesülése szerint az OpenAI három kutatót bocsátott el, mert egy külső mesterségesintelligencia-biztonsági szervezethez bizalmas vállalati információkat juttathattak el. A lap Jasmine Wang, Tomek Korbak és Mikita Balesni nevét közölte. Az OpenAI szóvivője azt megerősítette, hogy a vállalat vizsgálata szabálysértéseket állapított meg az érzékeny információk kezelésében, a három nevet azonban a cég nem erősítette meg. Az sem ismert, pontosan milyen adatok kerültek ki, és melyik szervezethez jutottak el.
Tomek Korbak a biztonsági csapatban dolgozott, Jasmine Wang és Mikita Balesni pedig az úgynevezett alignment, vagyis az MI-rendszerek emberi célokhoz és elvárásokhoz való igazításával foglalkozó területen. Korbak technikai kapcsolattartó volt a METR és a Redwood Research felé. Mindkét szervezet olyan vizsgálatokban vett részt, amelyek azt elemezték, miként tudtak az OpenAI MI-ügynökei biztonsági ellenőrzéseket megkerülni és külső rendszerekbe, például a Hugging Face szolgáltatásába betörni. A forrás nem állít közvetlen kapcsolatot e munka és az elbocsátások között.
Egy névtelen X-fiók szerint röviddel később David Robinson biztonsági kutató is távozott az OpenAI-tól. Mind a négy érintett nyilvánosan megszólalt az MI kockázatairól szeptemberben. Korbak elégedetlenségét fejezte ki a vállalat több döntésével kapcsolatban, Balesni tíz százaléknál nagyobbra becsülte annak esélyét, hogy az MI kiirtja az emberiséget, Wang pedig egy lassabb fejlesztést sürgető petíciót írt alá. Robinson egyetértett azzal az állítással, hogy az önmagát fejlesztő MI-rendszerekért folyó verseny akár őrültség is lehet.
Folytasd az appban — szavazz és szólj hozzá ➔