Távozott az OpenAI biztonsági jelentéseinek vezető szerzője, mert szerinte megtört a cég kultúrája
David Robinson három és fél év után távozik az OpenAI-tól. A vállalat egyik legrégebben ott dolgozó munkatársaként ő vezette azoknak a biztonsági jelentéseknek az elkészítését, amelyek a nagyobb termékbevezetésekhez készültek. Azért mondott fel, mert úgy látja, hogy az OpenAI kultúrája „megtört”, és az MI-biztonság problémáit nem lehet kizárólag új szabályokkal vagy jogszabályokkal kezelni.
Robinson szerint a vállalat próbálgatásos, fokozatos bevezetésre épülő működése szükségszerűen időnként hibákhoz vezet, miközben a rendszerek egyre nagyobb képességei miatt ezek következményei is súlyosabbak lehetnek. A Hugging Face rendszereinek OpenAI-ügynökök általi közelmúltbeli feltörését, valamint más, úgynevezett „elszabadult” ügynökökről szóló beszámolókat is annak jeleként említette, hogy a jelenlegi környezet nem elég biztonságos. Úgy véli, a vezető MI-fejlesztőknek az atomerőművekhez vagy a nagy repülőterekhez hasonló, többszintű védelemmel és lassabb, körültekintőbb tervezéssel kellene működniük.
Az OpenAI szóvivője, Drew Pusateri szerint a cég erősíti a kutatási és tesztelési környezetek biztonságát, fejleszti a valós idejű megfigyelést, külső értékelőkkel dolgozik, és szükség esetén leállítja vagy visszatartja a modellek fejlesztését. Robinson szerint azonban az MI-rendszerek emberi értékekhez való igazodását mérő módszerek továbbra is túl kezdetlegesek, ezért külső ösztönzőkre is szükség lenne.
Folytasd az appban — szavazz és szólj hozzá ➔