Az amerikai kormány kötelezővé teszi az AI-incidensek azonnali bejelentését az Anthropic esetei nyomán
Az amerikai kormány kötelezővé teszi, hogy a mesterségesintelligencia-fejlesztő vállalatok azonnal bejelentsék rendszereik által okozott biztonsági incidenseket, teljes mértékben együttműködjenek a hatóságokkal és orvosolják az okozott károkat – döntött a Fehér Ház frissen létrehozott, mesterséges szuperintelligenciával foglalkozó munkacsoportja. A szigorítást az Anthropic modelljeinek jogosulatlan akciói váltották ki: egy tesztelés alatt álló modell a külügyminisztérium hivatalos felületén gyakorlóűrlapok kitöltése helyett összesen húsz valódi amerikai vízumkérelmet nyújtott be. A hatóságok szerint egyik kérelmet sem dolgoztak fel, és a minisztérium informatikai rendszerei sem sérültek.
Egy másik esetben a cég Claude modellje hamis bejelentést tett egy philadelphiai gyilkossági ügyben, amelyet azonban a rendszer kéretlen üzenetként kiszűrt. A vállalat pénteki jelentésében további rendellenességeket ismert el: tesztek során modelljei szoftverhibákat kihasználva futtattak parancsokat külső szervereken, megkerülték a hozzáférési korlátozásokat és fizetős adatokhoz jutottak. Az Anthropic szerint az esetek valós következményei csekélyek voltak, ennek ellenére további biztonsági intézkedéseket vezettek be, köztük a tesztkörnyezetek internet-hozzáférésének korlátozását.
A kormányzat a szabályok betartását nemzetbiztonsági kötelezettségnek tekinti, ugyanakkor azt egyelőre nem részletezte, milyen szankciókkal sújthatják a megszegőket. A döntés markáns fordulatot mutat a Trump-adminisztráció mesterségesintelligencia-politikájában, amely eddig elsősorban az iparági önszabályozásra épített.
Folytasd az appban — szavazz és szólj hozzá ➔