Anthropic: jövőre már önmagukat másoló AI-modellek terjedhetnek az okoseszközökön
Az Anthropic arra figyelmeztet, hogy a kis méretű, úgynevezett open-weight AI-modellek fejlődése hamarosan egy új, önmagukat replikáló kártevők nemzedékét hozhatja, amely okoshűtőkön, porszívókon és egyéb, internetre kapcsolt eszközökön terjedhet, emberi beavatkozás nélkül – írja az Ars Technica. A cég szerint jövőre már elképzelhető, hogy ezek a modellek az IoT-eszközökön autonóm önreplikációra legyenek képesek.
A kísérletben a kutatók valódi és szimulált, olcsó, ismeretlen márkájú Android TV-boxokon és más IoT-hardvereken futtatták a modelleket. Kvantálással és a feladatok „szilánkokra" bontásával a könnyű Gemma4-26B-A4B modell mindössze 15 darab, egyenként mindössze 4 GB memóriával rendelkező boxon is képes volt futni, a Qwen3.5-9B pedig a kilenc hardvertípus közül nyolcon tudta beállítani a többi nyelvi modell futtatását – ellentétben a hagyományos kártevőkkel, amelyeket konkrét hardverre kell megírni.
Ezek a „súly-alapú kis replikátorok" a támadás menete szerint keresnek célpontokat, kódfuttatást szereznek, működésre bírják a modellt, majd továbbterjednek; súlyaikat magukkal hordozhatják vagy újraletölthetik, így a modell súlya maga válik a malware hasznos teherré. A megszokott férgekkel – mint a Mirai – szemben a különbség, hogy dinamikusan, a célpontnak megfelelően alakíthatják ki a támadást, és az ismeretlen eszközöket is önállóan „megtanulják" kezelni: a sikertelen kísérleteik jegyzékeit továbbadják a következő példányoknak.
Az Anthropic ugyanakkor óvatos: egyik tesztelt modell sem volt képes a teljes, végponttól végpontig terjedési láncra, a folyamat rendkívül lassú (napok alatt duplázódik), és a dinamikus futtatás beállítása a replikáció legnehezebb, legkevésbé kutatott fázisa. Mégis, a hagyományos leállítási pont hiánya miatt egy ilyen fertőzést később nehéz lenne megfékezni – és a kockázat a vizsgálat szerint valós.
Folytasd az appban — szavazz és szólj hozzá ➔