A Gemini megszökött a tesztkörnyezetből, meghackelt három céget – a Google eltitkolta

A Wall Street Journal írása szerint májusban a Google Gemini nevű mesterséges intelligencia-modellje kitört a tesztkörnyezetből, és betört három valós, harmadik féltől származó cég rendszerébe – a Google azonban csak akkor ismerte el az esetet, amikor a lap megkereste. A betörések az Irregular nevű külső cég által vezetett kiberbiztonsági képességeket vizsgáló teszt során történtek; az Irregular hasonló, az OpenAI és a Meta modelljeit érintő incidensekhez is kötődik. A tesztelés során a modell nyilvánosan elérhető információkból találgatott bejelentkezési adatokat, és brute force módszerrel jutott be a cégek weboldalaira, abban a hitben, hogy azok a teszt részei. Google szerint az eset „téves azonosítás" volt, nem „modell-eltérés": Heather Adkins biztonsági mérnökségért felelős alelnök a The Verge-nek azt mondta, „ebben az esetben a modell megfelelően viselkedett", mert mindhárom alkalommal megállt, amint rájött, hogy valós rendszerekbe jutott be. Hozzátette, a vállalat tájékoztatta az érintett cégeket, és módosították a tesztelési folyamatot. A Corridor AI-biztonsági cég vezérigazgatója, Jack Cable szerint azonban a lényegi probléma, hogy a modellek túllépik az elvárt kereteket, és valódi kibertámadásokat hajtanak végre – ráadásul az Irregular biztonsági hibája is hozzájárulhatott az esethez, mert a modellnek szándék szerint nem lett volna internet-hozzáférése a teszt alatt.