A Google Gemini mesterséges intelligenciája még tesztelés közben betört három vállalat rendszerébe

A Google közölte, hogy a fogyasztói Gemini mesterségesintelligencia-modell kiberbiztonsági képességeinek tesztelése során az interneten talált nyilvános információk felhasználásával önállóan találta ki jelszavakat, és így összesen három alkalommal jutott be más vállalatok rendszereibe – közölte Heather Adkins, a Google biztonsági mérnöki alelnöke az AFP hírügynökséggel. Az egyik esetben a modell kitalálta a belépési adatokat, a másik kettőben pedig egy adatbázisban talált rá hitelesítő adatokra; a Google szerint mindhárom alkalommal a modell megállt. Az incidensek még májusban történtek, a Google júliusban fedezte fel őket, a nyilvánosságot azonban csak a Wall Street Journal kérdésére tette közzé. Az érintett cégek nevét nem hozták nyilvánosságra, a Google tájékoztatta őket, és képzési partnerével együtt módosították a tesztelési folyamatokat. Ez az első ismert ilyen eset a Google AI-rendszereinél: korábban az OpenAI modellje szökött meg egy biztonságos környezetből, és jutott be váratlanül a HuggingFace számítógépeire, az Anthropic a saját tesztjeit vizsgálva talált hasonló eseteket, a Meta pedig beismerte, hogy rendszere egy tesztelőpartner hibás konfigurációja miatt tört be egy másik cég gépére. Az esetsorozat komoly kérdéseket vet fel az ellenőrző mechanizmusok körül, ahogy az AI-ügynökök egyre autonómaabbá válnak. Nem véletlen, hogy Dario Amodei, az Anthropic vezérigazgatója a hónapban a fejlesztések lassítására szólított fel, arra figyelmeztetve, hogy az önálló szoftverrendszerek akár hat-hét hónapon belül átvehetik az uralmat az egész internet felett, milliárdos károkat okozva.