Az Anthropic saját törvénytervezetet javasol az MI-kockázatok szabályozására
Az Anthropic olyan törvénytervezetet terjesztett elő, amely meghatározná, milyen rendkívüli esetben lehetne megakadályozni egy mesterségesintelligencia-modell kiadását az Egyesült Államokban. A Politico által ismertetett javaslat szerint akkor állna fenn „előrelátható, közvetlen kockázat”, ha a modell kiadása több mint 50 ember halálához vagy egymilliárd dollárt meghaladó vagyoni kárhoz vezethet. A veszélynek biológiai fegyver létrehozásából, a fejlesztői ellenőrzések kijátszásából vagy kibertámadásból kell erednie. A küszöbértékek hasonlítanak a kaliforniai Senate Bill 53 törvényben szereplő, „katasztrofális kockázatot” meghatározó értékekhez.
A kockázatot az Anthropic tervezete szerint a U.S. Commerce Departmentnél nyilvántartott független értékelők vizsgálnák. Munkájukat akár maguk az MI-cégek is finanszírozhatnák, feltéve, hogy a kifizetés nem függ az értékelés eredményétől. A rendszer egyik nyitott kérdése éppen az, miként lehetne biztosítani, hogy a finanszírozás még közvetve se befolyásolja a vizsgálatokat. Ha az értékelők közvetlen, katasztrofális veszélyt állapítanának meg, 72 órájuk lenne értesíteni a Kereskedelmi Minisztériumot, amelynek ezután egy washingtoni szövetségi bírótól kellene kérnie a modell kiadásának leállítását.
A tervezet kifejezetten megtiltaná, hogy bármely szövetségi ügynökség saját hatáskörben blokkolja a terjesztést. Ez eltér az iparág által gyakran támogatott, önkéntes ellenőrzési rendszerektől, amelyekben beágyazott, „semleges” megfigyelők dolgoznának az MI-laborokban. A javaslat időzítése azért is fontos, mert az utóbbi időben elsősorban az önállóan működő MI-ügynökök kibertámadásai és a kezelői utasítások figyelmen kívül hagyása váltott ki aggodalmat. Az Anthropic szerint a tervezet az Advanced AI Framework korábbi javaslatait ültetné jogszabályba.