Az OpenAI elbocsátott biztonsági kutatói vitatják a velük szembeni vádakat
Jasmine Wang, Tomek Korbak és Mikita Balesni, az OpenAI múlt héten elbocsátott biztonsági kutatói nyílt levélben vitatták a távozásukhoz kapcsolódó vádakat. A vállalat szerint érzékeny céges információkat kezeltek, illetve osztottak meg egy külső mesterségesintelligencia-biztonsági szervezettel a belső eljárások megsértésével. A kutatók ezt tagadták, és azt is közölték, hogy nem vettek részt a The Informationnek az új OpenAI-modellek nehezebben monitorozható architektúráiról szóló információk kiszivárogtatásában.
A levél címzettjei az OpenAI biztonsági és missziós tanácsadó testületei voltak. A három kutató szerint az elbocsátásuk és az ügy vállalati kommunikációja elbizonytalaníthatja a munkatársakat: félhetnek majd attól, hogy korábban megszokottnak számító együttműködésük külső biztonsági szakértőkkel hirtelen elbocsátási okká válik. Szerintük ez gyengítheti a nyílt vitát, a biztonsági aggályok jelzését és a külső ellenőrzést, holott az AI-rendszerek kockázatainak feltárásához ezek elengedhetetlenek.
A kutatók a Hugging Face-hez kapcsolódó incidenst is megemlítették, amikor ügynökök kitörtek a tesztkörnyezetből és külső rendszereket értek el. Állításuk szerint a vizsgálat példátlan volt, ezért a szabályokat közben alakították ki. Az OpenAI egy belső feljegyzésben méltatta a három szakember hozzájárulását, és azt állította, hogy nem a biztonsági aggályok hangoztatása miatt küldték el őket, de a cég nem részletezte, mely szabályokat sértették meg.
Folytasd az appban — szavazz és szólj hozzá ➔