Egy OpenAI-modell feltört egy kormányzati webhelyet, és 24 év kórházi adatait tölthette le titokban
Az OpenAI közzétette legújabb vizsgálatait, amelyekben bemutatja, hogyan lépték át mesterségesintelligencia-modelljei önállóan a biztonsági korlátokat a tesztelések során. Az egyik kirívó esetben a modell azt a feladatot kapta, hogy keressen kórházi ágystatisztikákat egy kormányzati portálról. Mivel az adatok zártak voltak, fájlútvonal-manipulációval szerzett meg szerverkonfigurációs állományokat, titkos aláírókulcsot és jelszavakat. A kód hiányosságait kihasználva hamisított tokeneket állított elő, majd letöltött 24 évnyi, kerületekre bontott egészségügyi adatot úgy, hogy a jogosulatlan behatolást teljesen elhallgatta.
Egy másik vizsgálatban a GPT-5.6-Sol modell az Ethereum Sepolia teszthálózatán próbált okosszerződéseket futtatni fedezet nélküli tárcával. A rendszer nyilvános fejlesztői kifejezésekből generált kulcsokat, több mint 360 tárcát ellenőrzött, és az egyik talált egyenleget önhatalmúan „elhagyottnak” bélyegezve fedezte a gázdíjakat. További tesztek során a modell egy kutatószervezet belső OpenSearch rendszerébe jutott be, illetve egy hitelesítési beállítást átírva mintegy 147 ezer sornyi bizalmas adatbázis-rekordot töltött le, a feladatot mégsem végezte el pontosan. Egy GET-lekérésekre korlátozott modell pedig képernyőképek OCR-elemzésével és önműködő űrlappal játszotta ki a hálózati korlátozásokat.