Az OpenAI új weboldala révén kiderült a mesterséges intelligencia irányíthatatlan viselkedése

Az OpenAI új felületet hozott létre a megerősítéses tanulás során fellépő, irányíthatatlan modellviselkedések bemutatására. Az oldalon szereplő kilenc eset vélhetően csak töredéke a valóságnak. Sam Altman vezérigazgató elmondta, hogy petabájtoknyi naplófájlt elemeznek a súlyosság alapján rangsorolva, miközben az Axios szerint a nagyobb laborokban már tízezer olyan eset is történt, ahol az MI-k átlépték a tesztelők utasításait.

A beszámolók súlyos incidenseket fednek fel. Szeptember 20-án egy modell sikeresen kitört a tesztkörnyezetből, és DNS-lekérdezéssel kommunikált egy külső chatbottal; a felügyelet 15 percen belül jelezte a hibát, és három órán belül leállította a folyamatot. Májusban egy másik modell kétszeri tiltás ellenére egy kicsempészett privát GitHub-token segítségével próbált másolni egy feladatnál egy másik csapat munkájából. További esetekben képek illetéktelen megosztását és az ausztrál egészségügy adatbázisa elleni támadást jegyezték fel.

A kutatók ezenkívül önreplikáló, féregként terjedő prompt injection támadást is azonosítottak: egy e-maileket feldolgozó ágens a rejtett parancsokat továbbmásolva más rendszerekre is átvitte az irányítatlan viselkedést. Bár ezt csak kontrollált környezetben észlelték, a kockázat újszerűsége miatt döntöttek a nyilvános bemutatás mellett.