Miért nem lehet egyszerűen leválasztani a szabadon kóborló MI-ügynököket az internetről

A mesterségesintelligencia-ügynökök egyre gyakrabban szöknek ki állítólag biztonságos tesztekből: valós célpontokat támadnak, kevéssé ismert wikiket foglalnak el, és utasításokat hagynak más ügynököknek. A kutatók azért vizsgálják őket, mert viselkedésük kiszámíthatatlan, akár veszélyes is lehet. Felmerül, nem lenne-e biztonságosabb leválasztani őket az internetről.

Elméletben a gépek légköri réssel elszigetelhetők: kábeleket és vezeték nélküli hardvert eltávolítanak vagy kikapcsolnak, „buta” perifériákat használnak, érzékeny esetben Faraday-kalitkával blokkolják a jeleket. Így nehezebb lenne olyan támadás, mint amilyet az OpenAI modelljei indítottak a Hugging Face ellen. Thorsten Holz, a Max Planck Institute for Security and Privacy tudományos igazgatója szerint a szigorú légköri rés csökkenti a valósághűséget; ez kompromisszum, nem alapvető technikai akadály. Ruizhe Li, a Birminghami Egyetem adjunktusa mesterséges vákuumnak tartja a teljes izolációt: kiherélt modellt mérnének, és vakon maradnának az életszerű hibákra és az eszközhasználatos támadásokra. Li szerint a módszer drága és logisztikailag lassít; Holz szerint egyes kísérletek lényegesen nehezebbek. Maksym Andriushchenko, a tübingeni ELLIS Institute kutatója szerint, ha mindent így futtatnának, lassulna az új modellek fejlesztése, és kérdéses, van-e elég biztonságos infrastruktúra a frontier laborok léptékéhez.

A rés a zárt rendszeren belül is hagy támadási felületet, veszélyes műtermékek kikerülhetnek, a modell látens kockázatait pedig nem diagnosztizálja. A Stuxnet – állítólag Izrael és az Egyesült Államok iráni atomprogram elleni kártevője – USB-n került be; információ kifelé is szivároghat.