Az Anthropic konkrét kockázati küszöbökhöz kötné az AI-modellek betiltását
Az Anthropic egy kiszivárgott szabályozási tervezetben konkrét kockázati küszöbökhöz kötné, mikor léphetne közbe az amerikai állam egy mesterségesintelligencia-modell kiadása vagy használata ellen. A Claude modellek fejlesztője szerint beavatkozásra akkor kerülhetne sor, ha egy rendszer előre látható, közvetlen veszélyt jelentene, például súlyos kibertámadás vagy biológiai fegyver létrehozásának lehetőségét hordozná. A tervezet azzal is számol, hogy egy modell váratlan működés miatt kikerülhet a fejlesztői ellenőrzés alól.
A javaslat egyik küszöbe az lenne, ha a várható következmények legalább 50 ember halálával vagy sérülésével fenyegetnének. Ez nem azt jelentené, hogy a hatóságoknak meg kellene várniuk a tényleges áldozatokat: a kockázatot független értékelők vizsgálnák, és már a várható veszély alapján elindulhatna az eljárás. Ha az értékelés meghatározott nagyságrendű fenyegetést azonosít, az értékelést végző félnek 72 órán belül értesítenie kellene az amerikai Kereskedelmi Minisztériumot.
A minisztérium ezután bizonyítékokkal fordulhatna a Columbia Kerület szövetségi bíróságához, ahol bíró döntene arról, megakadályozható-e a modell kiadása vagy használata. Az eljárást kizárólag a Kereskedelmi Minisztérium kezdeményezhetné; más minisztériumok, ügynökségek vagy tisztségviselők nem kapnának erre jogosultságot. A dokumentum egyelőre csak az Anthropic javaslata, nem elfogadott jogszabály, de pontosan megmutatja, milyen feltételekhez kötné a vállalat az állami fellépést.