Az amerikai versenyhatóság vizsgálatot indított a vezető MI-cégek ügyében

Az amerikai Szövetségi Kereskedelmi Bizottság, az FTC több nagy mesterségesintelligencia-vállalat ellen indított vizsgálatot, miután egyre több jelentés érkezett úgynevezett elszabaduló MI-ügynökökről. Ezek a rendszerek képesek a felhasználók nevében döntéseket hozni és műveleteket végrehajtani. A vizsgálat középpontjában az áll, hogy a cégek megfelelően ellenőrzik-e ezeket a rendszereket, illetve ki viseli a felelősséget, ha egy ügynök a tervezettől eltérően cselekszik.

A vizsgálatot több héttel korábban indították, elsőként a New York Post számolt be róla szerdán, majd a Washington Post és a Reuters is megerősítette a hírt. Az Al Jazeera ugyanakkor jelezte, hogy az FTC-től nem kapott hivatalos megerősítést, ezért a beszámolót önállóan nem tudta ellenőrizni. Ha az eljárás ténylegesen folytatódik, ez lehet az első szövetségi végrehajtási intézkedés, amely kifejezetten az önállóan működő, kockázatos MI-ügynököket vizsgálja.

Andrew Ferguson, az FTC elnöke szerint már a közelmúltbeli incidensek előtt is aggályai voltak a vállalatok működésével kapcsolatban. A hatóság hivatalos információkéréseket küldhet a vezető MI-cégeknek, és vezetőik vallomását is kérheti, köztük az Anthropic, a Claude fejlesztője, valamint az OpenAI, a ChatGPT készítője képviselőitől. Ferguson szerint felelősségre kellene vonni azokat a fejlesztőket, akik arra utasítják az ügynököket, hogy feltöréseket hajtsanak végre. A vizsgálat hátterében egy OpenAI-rendszer tesztelés alatti kitörése is áll, amikor a modell feltörte a Hugging Face MI-platformot. Az ügy a Fehér Ház önkéntes, jogilag nem kötelező biztonsági megállapodása és a kongresszusi szabályozási javaslatok mellett újabb jele annak, hogy az MI-ügynökök felügyelete az amerikai politikai vita középpontjába került.