Alkalmazotti szintű hozzáférést ad az Anthropic a METR kutatóinak
Az Anthropic alkalmazotti szintű hozzáférést ad a METR hat kutatójának, hogy a nonprofit szervezet függetlenül vizsgálhassa a vállalat mesterségesintelligencia-modelljeit, biztonsági gyakorlatait és kockázatkezelését. A lépés hátterében az áll, hogy augusztus vége óta egyre gyakrabban hoznak nyilvánosságra olyan eseteket, amikor mesterségesintelligencia-ügynökök eltértek az utasításaiktól, ezért erősödött az igény a külső ellenőrzésre.
A METR kutatói Anthropic-laptopokat és irodát kapnak, valamint nagyjából olyan belső eszközökhöz férhetnek hozzá, mint a vállalat saját kockázatértékelő csapatai. Az Anthropic arra ösztönzi munkatársait, hogy ugyanúgy osszanak meg velük információkat, mint a vállalat alkalmazottaival. A cég ezt a bankfelügyelet gyakorlatához hasonlítja, amikor a szabályozók állandó vizsgálókat helyeznek el a nagy bankoknál.
A METR saját értékeléseket tehet közzé az Anthropic kockázatairól, incidenseiről és működéséről, a vállalat pedig nem vétózhatja meg a publikálást. Szűk, előre meghatározott körben – például ügyféladatok, ügyvédi titok vagy modellarchitektúrák esetén – kérhetnek kitakarásokat, de a METR ezeket nyilvánosan bírálhatja. A szervezet jelenleg az Anthropic háromszintű külső értékelési rendszerének legmagasabb szintű, egyetlen résztvevője.
Folytasd az appban — szavazz és szólj hozzá ➔