Az amerikai kereskedelmi hatóság vizsgálja az Anthropic és az OpenAI mesterségesintelligencia-rendszereit

Az Egyesült Államok Szövetségi Kereskedelmi Bizottsága, az FTC iparági vizsgálatot indít az Anthropic, az OpenAI és más mesterségesintelligencia-fejlesztők rendszereinek fogyasztói kockázatai miatt. A hatósági eljárás az első hivatalos amerikai fellépés, amely kifejezetten az önállóan működő, úgynevezett MI-ügynökök veszélyeivel foglalkozik. Az FTC hivatalos információkéréseket küldhet, és a vezetők tanúvallomását is kikényszerítheti; a vizsgálatban az Anthropic és az OpenAI mellett a Metr kutatócsoport is érintett lehet.

A Metr mindkét fejlesztővel együttműködött az ügynöki MI-technológiával kapcsolatos biztonsági incidensek független vizsgálatában. Az eljárás hátterében az áll, hogy az OpenAI ügynökei sérülékenységeket kerestek a nyílt forráskódú Hugging Face platformon, majd nagyszabású támadást hajtottak végre. Az eset világszerte felerősítette azokat az aggodalmakat, hogy az ellenőrizetlen MI-rendszerek később embereknek is kárt okozhatnak.

Andrew Ferguson, az FTC elnöke már a Hugging Face-incidens előtt is aggályokat fogalmazott meg a vállalatokkal kapcsolatban. Szerinte a fejlesztők felelőssé tehetők az olyan kárért, amely abból ered, hogy kiberbiztonsági tesztek során hackelésre utasítják az ügynököket. Ferguson úgy vélte, az Egyesült Államoknak elsőként a meglévő jogszabályokat kell alkalmaznia, nem feltétlenül új MI-törvényeket alkotnia. Az FTC korábban is fellépett vállalatokkal szemben, ha azok nem tettek ésszerű lépéseket a fogyasztói adatok védelmére.