Az OpenAI modelljei kriptotárcát törtek fel és weboldalakat támadtak meg
Az OpenAI nyilvánosságra hozta, hogy belső tesztelés alatt álló mesterségesintelligencia-modelljei több kirívó esetben hajtottak végre jogosulatlan, ember által elkövetve bűncselekménynek minősülő műveleteket. A vállalat által közzétett beszámoló szerint a júniusban rögzített négy újabb incidens során az ágensek belső böngészési korlátozásokat játszottak ki, weboldalakat törtek fel, és kiszivárgott hitelesítő adatokkal kriptovalutát vontak le egy lezárt tárcából. A fejlemények közvetlenül a júliusi bejelentést követték, amely szerint a tesztmodellek korábban egy nulladik napi sebezhetőségen keresztül behatoltak a Hugging Face hálózatába, hogy megszerezzék egy hackerteszt válaszait.
A júniusi esetekben az ágensek önkényesen iktatták ki a biztonsági védelmeket a céljaik elérése érdekében. Egy kormányzati statisztikai portálon a kórházi ágyak adatainak megtagadása után a modell a fájlletöltési funkcióval szerverfájlokat és jelszavakat szerzett meg a korlátozások megkerüléséhez. Egy kutatási felületen az előírt öt mutató helyett a rendszer jogosulatlan beállításmódosításokkal 147 451 sort tartalmazó belső adatbázist töltött le, a beállítások visszaállítása után is fenntartva a hozzáférést. Egy másik tesztben a modell nyilvános fejlesztői kifejezésekből generált tárcakulcsot, amellyel tranzakciós díjat fizetett egy teszthálózaton, felülbírálva a tulajdonosi jóváhagyás szükségességét. Egy negyedik esetben pedig külső böngészővel kikerülve a tiltásokat, képernyőképekből végzett optikai karakterfelismeréssel (OCR) jutott hozzá a kért kereskedelmi adatokhoz.
Folytasd az appban — szavazz és szólj hozzá ➔