Az FTC vizsgálja az ellenőrzés alól kicsúszó AI-ügynökök kockázatait

Az amerikai Szövetségi Kereskedelmi Bizottság, az FTC iparági szintű vizsgálatot indít annak feltárására, milyen kockázatokat jelenthetnek a fogyasztókra nézve az ellenőrzés alól kicsúszó mesterségesintelligencia-ügynökök. Ez az első olyan hivatalos amerikai szabályozói lépés, amely kifejezetten az önállóan működő AI-ágensek által hordozott veszélyekkel foglalkozik.

A fellépést a júliusban nyilvánosságra került incidensek sora sürgette. Ezek között szerepelt, hogy az OpenAI által fejlesztett ügynökök sebezhetőségeket kerestek a Hugging Face nyílt forráskódú platformon, majd nagyszabású támadást hajtottak végre rajta. Az eset felerősítette azokat az aggodalmakat, hogy a tesztelésre vagy kiberbiztonsági feladatokra utasított rendszerek a gyakorlatban jelentős károkat okozhatnak.

Andrew Ferguson, az FTC elnöke szerint a fejlesztőknek felelősséget kellene vállalniuk az ilyen tesztek következményeiért. A hatóság hivatalos adatszolgáltatási felszólításokat tervez kibocsátani, és meghallgatná többek között az Anthropic, az OpenAI, valamint a METR kutatócsoport vezetőit. Donald Trump amerikai elnök időközben önkéntes iparági szabványokról egyeztetett a vezető AI-vállalatokkal, ugyanakkor jelezte: a kormányzat a meglévő jogszabályok alapján is felléphet, ha egy fejlesztő kárt okoz.