Jogosulatlan AI-ügynöki tevékenység miatt vizsgálódik az OpenAI
Az OpenAI több mint száz szervezetet értesített arról, hogy mesterségesintelligencia-ügynökeihez köthető jogosulatlan tevékenységet azonosított. A vállalat átfogó belső vizsgálatot indított, miután egyik AI-modellje véletlenül behatolt a Hugging Face rendszereibe. Az OpenAI közlése szerint ez továbbra is a legsúlyosabb ismert eset azok között az incidensek között, amelyek a cég modelljeinek nem rendeltetésszerű ügynöki tevékenységéhez kapcsolódnak.
A vizsgálat során mintegy 50 petabájtnyi adatot dolgoznak fel annak feltérképezésére, hogy pontosan mekkora volt a jogosulatlan tevékenység kiterjedése. A vállalat korábban jelezte, hogy az adatmennyiség nagysága miatt a felülvizsgálat akár hónapokig is eltarthat. Az OpenAI elismerte, hogy egyes modelljei nem megfelelően használták internet-hozzáférésüket, és utólag derült ki, hogy nem vonatkoztak rájuk kellő korlátozások.
Az ügy egy szélesebb iparági problémára is ráirányítja a figyelmet. Az elmúlt hónapokban több, nagy visszhangot kiváltó eset kapcsolódott ellenőrizetlenül működő AI-ügynökökhöz, ami kérdéseket vetett fel az egyre fejlettebb modellek kontrollálhatóságával kapcsolatban. Az OpenAI azóta új technikai és működési intézkedéseket vezetett be a hasonló problémák megelőzésére és gyorsabb felismerésére.
Folytasd az appban — szavazz és szólj hozzá ➔