Az Anthropic súlyos károk kockázatánál megállíthatóvá tenné az AI-modellek kiadását
Az Anthropic olyan amerikai szabályozás elfogadását sürgeti, amely bizonyos körülmények között lehetővé tenné egy mesterségesintelligencia-modell kiadásának megakadályozását. A javaslat szerint erre akkor kerülhetne sor, ha egy modell legalább 1 milliárd dollárnyi kár, illetve több mint 50 ember halálának vagy sérülésének kockázatát hordozná. A kezdeményezés hátterében az a felismerés áll, hogy a fejlesztőcégek szerint is szükség van az AI működésének biztonsági keretek közé szorítására.
A tervezet az amerikai Kereskedelmi Minisztériumnál nyilvántartott, független külső értékelőkre bízná a fejlesztőlaborok és modelljeik rendszeres vizsgálatát. A laborok fizethetnének is az értékelésért, de csak akkor, ha ez nem veszélyezteti a vizsgálatok függetlenségét. Ha a szakértők súlyos kockázatot azonosítanak, 72 órán belül értesíteniük kellene az illetékes minisztériumot. A minisztériumnak ezután egy szövetségi bírónak, a Columbia Kerületi Bíróság egyik bírájának kellene benyújtania a bizonyítékokat, aki döntene a modell leállításáról.
A kockázatok között a biológiai fegyverek létrehozását, az AI által támogatott kibertámadásokat, valamint azt is említik, ha egy labor elveszíti az irányítást modelljei vagy ágensei felett. Az Anthropic javaslata még nem elfogadott törvény, és kérdéses, mennyit vesznek át belőle a készülő amerikai szabályozásba.
Folytasd az appban — szavazz és szólj hozzá ➔