A Google szerint a Gemini MI-modellje feltört három céget

A Google megerősítette, hogy a Gemini mesterségesintelligencia-modellje májusbal feltört három valódi céget, méghozzá kizárólag zárt kiberbiztonsági tesztkörnyezetben indított próbák során. A teszteket az izraeli Irregular nevű, a fejlett MI-rendszerek biztonságát vizsgáló startup végezte, amely az elmúlt hetekben az OpenAI és az Anthropic hasonló incidenseinél is közreműködött – köztük az OpenAI Hugging Face szoftvercéget ért támadásának feltárásában. A Guardian által is megerősített esetek háttere azonos: az Irregular által létrehozott, hamis vállalatokat szimuláló környezetnek nem lett volna szabad internetkapcsolattal rendelkeznie, ám a Wall Street Journal szerint véletlenül mégis elérhetővé vált. Ekkor a modellek váratlanul valós cégekbe hatoltak be.

Az egyik esetben a Gemini-t egy kitalált cég szoftveréből kellett információt kinyernie. A kitalált cég neve megegyezett egy valódi vállalat nevével, a modell pedig a hozzáférés nyilvánossá vált adatai alapján kitalálta annak jelszavát. A Google biztonsági mérnökségének alelnöke, Heather Adkins szerint a modell mindhárom esetben megállt, amint rájött, hogy valódi vállalattal áll szemben. Két további tesztben a modell nyilvánosan elérhető kódtárakban talált belépési adatokat, amelyekkel valódi cégekhez férhetett hozzá – ekkor is leállt, miután felismerte a helyzetet.

A Google – szemben az Anthropiccsal és az OpenAI-jal, amelyek önként nyilvánossá tették a saját eseteiket – nem tartotta indokoltnak a nyilvános bejelentést, mert a modellek nem okoztak kárt, ugyanakkor az érintett vállalatokat tájékoztatta. Az Irregular július végén számolt be az esetekről a Google-nek. Az Anthropic és az OpenAI nyilvánosságra hozatala miatt Bernie Sanders független amerikai szenátor már azt követelte, hogy a cégek függesszék fejlesztéseiket, mivel az incidensek azt mutatják, hogy a techvállalatok képtelenek uralmuk alatt tartani legerősebb modelljeiket. Az OpenAI emiatt két hétre leállította a fejlesztést, az Anthropic vezérigazgatója, Dario Amodei pedig az ágazat összehangolt lelassítására szólított fel. Adkins szerint az esetek azt mutatják, mennyire fontos felelősségteljesen viselkedő erős MI-modellek képzése.