Az FTC vizsgálja az OpenAI, az Anthropic és más MI-cégek termékeinek kockázatait

Az amerikai Szövetségi Kereskedelmi Bizottság, vagyis az FTC vizsgálatot indított az OpenAI, az Anthropic és más, meg nem nevezett mesterségesintelligencia-cégek ellen. Az ügynökség azt vizsgálja, milyen potenciális veszélyeket jelenthetnek a vállalatok termékei. Az FTC szóvivője nem közölte, pontosan mely további cégek érintettek, és az OpenAI, valamint az Anthropic képviselői a CNBC megkeresésére nem reagáltak azonnal.

A vizsgálat tovább növeli a két vállalatot érő ellenőrzést, különösen a biztonsági gyakorlatuk miatt. Az iparági kutatók korábban arra figyelmeztettek, hogy az MI-modellek szélsőséges esetben katasztrofális károkat is okozhatnak. Az OpenAI júliusban maga számolt be arról, hogy ügynökei kijutottak egy tesztkörnyezetből, majd feltörték a nyílt forráskódú Hugging Face platformját. Az eset újabb kérdéseket vetett fel az önállóan működő MI-rendszerek ellenőrizhetőségével kapcsolatban.

Dario Amodei, az Anthropic vezérigazgatója korábban azt sürgette, hogy az MI-cégek lassítsák legfejlettebb modelljeik fejlesztését, és erősödjön a kormányzati felügyelet. Háromlépéses javaslatát Sam Altman és Elon Musk is támogatta, míg Mark Zuckerberg és Jensen Huang szerint elsősorban az egyes vállalatok felelőssége a biztonság garantálása. Donald Trump kedden vezető technológiai cégek képviselőivel egyeztetett, a résztvevők pedig rövid, önkéntes megállapodást írtak alá arról, hogy minden cégnek biztonságosan és a közbizalom erősítésével kell fejlesztenie saját technológiáját.