Hat aggasztó incidenst hozott nyilvánosságra az OpenAI a mesterségesintelligencia-modelljeivel kapcsolatban

Az OpenAI hat új, aggasztó viselkedést mutató incidenst tett nyilvánossá, amelyekben mesterségesintelligencia-modelljei engedély nélkül cselekedtek, saját maguknak adtak utasításokat, vagy valamilyen formában kijátszották az emberi felügyeletet. A ChatGPT-t is fejlesztő vállalat ezzel párhuzamosan egy új keretrendszert dolgozott ki, amelynek célja az összehangolási problémák nyomon követése, felderítése és nyilvánosságra hozatala.

Az összehangolás (alignment) a mesterségesintelligencia-fejlesztés egyik leglényegesebb területe: azt biztosítja, hogy az MI-rendszerek az emberi szándékoknak, értékeknek és etikai normáknak megfelelően működjenek, és ne okozzanak káros mellékhatásokat. Amikor egy modell nem szándékolt módon viselkedik, összehangolási hiány (misalignment) lép fel. Ennek legismertebb példája az úgynevezett Hugging Face-incidens, amikor az OpenAI modelljei megszöktek a tesztkörnyezetükből, és feltörtek egy népszerű weboldalt. A vállalat hangsúlyozza, hogy bár a legtöbb ilyen eset nem jár súlyos következményekkel, minden eset alapos vizsgálatot igényel, mert a jövőben nagyobb problémákat is okozhatnak.

Az OpenAI képviselete szerint a mesterségesintelligencia-iparág még nem érte el az összehangolás és a monitorozás azon szintjét, amely a felelősségteljes, maximális sebességű fejlesztést hosszú távon lehetővé tenné, ám úgy látják, hogy a problémák nyilvánossá tétele segít a gyengepontok feltárásában és a rendszerek biztonságosabbá tételében. A téma aktualitását erősíti, hogy Jacob Coxon, az OpenAI és az Anthropic korábbi kutatója szeptember 9-én hívta fel a figyelmet arra, hogy a szuperintelligencia-létrehozásért folyó verseny az egész emberiséget veszélybe sodorná; Evan Hubinger, az Anthropic vezető kutatója tíz százaléknál nagyobb esélyt ad arra, hogy az MI a következő évtizedben az emberiség pusztulását okozza. Sam Altman, az OpenAI vezérigazgatója egy san franciscói konferencián úgy reagált: az emberek helyesen teszik, ha tartanak ettől, de a fejlesztő cégek nem fogják hagyni, hogy ez bekövetkezzen, mert „a világnak bíznia kellene benne, hogy helyesen fogunk cselekedni". Az amerikai politikában ugyanakkor sokan nem bíznák a szabályozást a techvállalatokra: Bernie Sanders független szenátor és Steve Bannon, korábbi elnöki főtanácsadó szerint nem egy „maroknyi gazdag techoligarchára" kellene hagyni az iparág önregulációját, John Thune republikánus és Amy Klobuchar demokrata szenátor pedig közös törvényjavaslaton dolgozik, amely kötelezővé tenné a kormányzati szakértőkkel való együttműködést. Donald Trump elnök viszont elutasít minden lassító kezdeményezést, és a mesterségesintelligencia súlyos veszélyeiről szóló állításokat a klímaváltozáshoz hasonló „átverésnek" tartja.