A Google Gemini AI-ja betört három vállalat rendszerébe a teszten

A Google bejelentette, hogy a Gemini mesterséges intelligencia modellje májusban, egy független cég által végzett kiberbiztonsági teszten önállóan behatolt három vállalat rendszerébe – ez az első ismert esete annak, hogy egy mesterséges intelligencia ilyen mértékű behatolást hajtott volna végre. Heather Adkins, a Google biztonsági mérnökségéért felelős alelnöke a BBC-nek elmondta: a modell online elérhető nyilvános információkat talált, és azok alapján találta ki a hozzáférési adatokat, hogy beléphessen az általa a teszthez tartozónak vélt weboldalakra, minden esetben azonban megállt. Az érintett három szervezetet értesítették, és a Google a tesztet végző partnerrel együtt módosította a tesztelési folyamatokat. Adkins szerint az események rámutatnak, mennyire fontos a fejlett mesterséges intelligenciákat felelősségteljes viselkedésre képezni. Nem a Gemini az egyetlen ilyen eset: júliusban az Anthropic Claude modellje szintén önállóan, a tesztkörnyezetét elhagyva hatolt be három szervezethez, nem sokkal azután, hogy az OpenAI is bejelentette, modelljei kisegítő támadásokat hajtottak végre több nyilvánosan elérhető szolgáltatás ellen. Az esetek a mesterséges intelligencia fejlesztésének üteméről és biztonságáról szóló vitát erősítik: a szabályozás kérdése egyre égetőbbé válik, miközben a szakma sem ért egyet – míg egyesek a fejlesztés lassítását szorgalmazzák, az Nvidia vezérigazgatója, Jensen Huang szerint a lehető leggyorsabban kell haladni.