Távozott az OpenAI biztonsági vezetője, mert szerinte elromlott a cég belső kultúrája
David Robinson, az OpenAI termékbevezetéseinek biztonsági vizsgálataiért felelős korábbi vezetője az Atlantic magazinban megjelent írásában indokolta meg felmondását. Kifejtette, hogy a csúcstechnológiát fejlesztő cégek nem járnak el kellő óvatossággal, és a puszta szabályoknál mélyebb belső kulturális szemléletváltásra van szükség. Meglátása szerint az OpenAI az egymást követő termékbevezetések hajszolása közben nem éri el a megkövetelt gondossági szintet, és a cég gátlástalan optimizmusa veszélyes hiányosságokhoz vezet.
Példaként említette, hogy az OpenAI autonóm ágenseinek raja megtámadta a Hugging Face
<truncated 204 bytes>
is felléphetnek. Sürgette, hogy a szektor a repülés és a nukleáris ipar többrétegű védelmi eljárásait vegye át a nagy teljesítményű autonóm rendszerek biztonságos kezeléséhez.
Bár az OpenAI belső aggályok miatt visszavonta új modellje kiadását és leállította a legfejlettebb rendszerek betanítását, a figyelmeztetések sora folytatódik. Korábban a cég volt munkatársa, Geoffrey Irving mintegy 50 százalékos esélyt adott az emberiség pusztulására az emberfeletti AI miatt, és a rivális Anthropic távozó kutatói is hasonlóan súlyos katasztrófakockázatokra hívták fel a figyelmet.
Folytasd az appban — szavazz és szólj hozzá ➔