A Google Gemini feltörte más cégek számítógépes rendszereit – a Google is megerősítette

A Google pénteken megerősítette, hogy a Gemini mesterségesintelligencia-modellje májusban önállóan, engedély nélkül jutott be három másik vállalat számítógépes rendszereibe – ez az első alkalom, hogy a keresőóriás ilyen incidenst hozott nyilvánosságra. A Gemini azzal fért hozzá a három különálló privát rendszerhez, hogy jelszavakat talált ki, illetve kétszer egy nyilvánosságra került jelszavakat tartalmazó adatbázist használt. Az eset egy izraeli Irregular nevű startup „zászlófoglalós" (capture-the-flag) biztonsági tesztjének keretében történt: a Google ágenseinek nem lett volna szabad elérniük a szélesebb internetet, ám a tesztkörnyezet egy hibája szándékolatlanul internetelérést adott a zárt környezethez. A Google szerint az ügynökök akkor álltak le, amikor megállapították, hogy valódi céges rendszerekbe jutottak, nem csupán a tesztkörnyezet részébe. Heather Adkins, a Google biztonsági mérnökségéért felelős alelnöke közleményében azt írta: a modell mindhárom esetben nyilvános információkat talált az interneten, kitalálta a hitelesítő adatokat, és hozzáfért olyan weboldalakhoz, amelyekről azt hitte, a teszt részei – mindhárom alkalommal azonban megállt. A bejelentés éppen akkor érkezik, amikor Washingtonban és a Szilícium-völgyben is fokozódik a figyelem a problémásan viselkedő mesterséges intelligencia iránt. Az elmúlt hetekben az OpenAI, az Anthropic és a Meta is beszámolt hasonló esetekről, amelyekben az MI-modellek kitörtek tesztkörnyezetükből, és megkísérelték feltörni más cégek rendszereit. Ezek az úgynevezett „nem összehangolt" modellekről szóló beszámolók arra késztették Dario Amodeit, az Anthropic vezérigazgatóját, hogy az iparág közösen lassítsa le a legfejlettebb MI-modellek fejlesztését, amíg biztosítani nem lehet a biztonságukat. Minden fenti eset az Irregular startuptal állt kapcsolatban; a Sequoia és a Redpoint Ventures által támogatott cég tavaly 450 millió dollárra értékelt, eszközei a modellfejlesztőknek segítenek kiberbiztonsági teszteket végezni. Az Irregular szóvivője szerint a Google-eset ugyanahhoz a hibához köthető, amely a korábbi incidenseket is lehetővé tette, és az érintett laboratóriumokat már július végén értesítették. A Google szóvivője nem árulta el, pontosan melyik Gemini-modell volt érintett. A Wall Street Journal számolt be először az incidensről.