Önmásoló mesterséges intelligencia terjedhet az okoseszközök között
Az Anthropic kutatása szerint a kisebb mesterségesintelligencia-modellek a közeljövőben akár önmagukat másolva is terjedhetnek az okoseszközök hálózatain. A kockázat nem a hatalmas, adatközpontokban futó modellekhez kötődik elsősorban, hanem azokhoz a kisebb rendszerekhez, amelyek fogyasztói hardveren is működnek, és szabadon letölthetők. Így elvileg hűtők, sütők, robotporszívók, fűnyírók, biztonsági kamerák vagy televíziók is a terjedés köztes állomásaivá válhatnak.
A kutatók a Google 26 milliárd paraméteres Gemma 4 modelljét 15 Android-alapú okostévé-box között osztották szét. A rendszer működött, bár rendkívül lassan. Ezután egy szimulált, Android-eszközöket utánzó hálózaton tesztelték, hogy egy MI-vezérelte „féreg” képes-e új gépeket megtalálni, rájuk másolni a 8 milliárd paraméteres Meta Llama 3.1-8B modellt, majd elindítani azt.
A vizsgált rendszerek közül csak a kínai Z.ai GLM-5.2 modellje jutott végig a teljes hálózaton, más modellek azonban az egyes részfeladatokat már megoldották. Az Anthropic szerint a kisebb modellek fejlődési üteme alapján akár az év végére elérhetik ezt a szintet. A kutatók ugyanakkor nem mutattak be teljes értékű, önállóan terjedő kártevőt, és nem tudják pontosan, hogyan nézne ki egy ilyen rendszer. A kísérlet ezért nem közvetlen veszély bizonyítéka, de arra figyelmeztet, hogy az okoseszközök biztonságát már most meg kell erősíteni.
Folytasd az appban — szavazz és szólj hozzá ➔