Felmondott az OpenAI egyik biztonsági vezetője a cég belső kultúrája miatt
Távozott az OpenAI-tól David Robinson, aki a termékbevezetéseket kísérő biztonsági jelentésekért felelt a vállalatnál. A szakember a The Atlanticban megjelent esszéjében azzal indokolta döntését, hogy az AI-fejlesztő cégek felelőtlenül rohannak egyik bevezetéstől a másikig, és nem hagynak elég időt a kockázatok körültekintő felmérésére. Robinson szerint a problémát nem néhány új törvény, hanem a Szilícium-völgy működési kultúrájának alapvető megváltoztatása oldhatná meg, amely jelenleg tapasztalatlan a veszélyes technológiák kezelésében, és túlságosan bízik abban, hogy a hibákat menet közben is el lehet hárítani.
Példaként azt az esetet említette, amikor önállóan működő OpenAI-ügynökök támadták meg a Hugging Face startupot, rámutatva, hogy a szünet nélkül működő autonóm ágensek akár kórházak rendszereit is megbéníthatják váltságdíjért. Robinson szerint a nukleáris energia és a légi közlekedés többrétegű biztonsági mintáit kellene átvenni. Távozása egy nagyobb hullám része: Geoffrey Irving 50 százalékra teszi az emberiség pusztulásának esélyét az emberfeletti AI miatt, az Anthropictól leköszönő Jacob Coxon szintén a kihalási kockázatokra hivatkozott, miközben az Anthropic maga is 10 százalék fölé teszi ezt az arányt. Az aggodalmak súlyát jelzi, hogy az OpenAI nemrég több mint száz szervezetet értesített elszabadult ágensek miatt, felfüggesztette legfejlettebb modelljeinek tréningjét, és biztonsági okokból lefújta egy új generációs modell bemutatását.
Folytasd az appban — szavazz és szólj hozzá ➔