Az Anthropic szerint hónapokon belül önmagukat másolhatják a kis MI-modellek
Az Anthropic kutatói szerint hónapokon belül megjelenhetnek olyan kis mesterségesintelligencia-modellek, amelyek képesek lesznek önmagukat lemásolni internethez kapcsolódó otthoni és kisvállalati eszközökön. Ilyen célpont lehet egy okostévé, hűtőszekrény, sütő vagy robotfűnyíró, ha az eszköz elegendő számítási kapacitással rendelkezik. A vállalat hétfőn közzétett jelentése szerint a fejlődés jelenlegi üteme alapján egy ilyen modell 2026 végére válhat valószínűvé.
A kutatók több amerikai és kínai fejlesztésű MI-modellel végeztek kísérleteket. Egyik vizsgált rendszer sem bizonyult még egyszerre elég erősnek és elég kicsinek ahhoz, hogy megbízhatóan önmagát másolja egy tesztelésre használt okostévén. A fenyegetés lényege ugyanakkor az, hogy az önmagát sokszorosító programnak nem lenne szüksége adatközpontra vagy egyetlen központi gazdagépre. Ez megnehezítené a leállítását, mivel a rendszer számos, egymástól független eszközön működhetne tovább.
William Zhou és Daniel Freeman, az Anthropic kutatói szerint az otthoni és kisvállalati IoT-eszközök különösen sérülékeny célpontok lehetnek, mert internetkapcsolattal rendelkeznek, védelmük pedig történetileg gyakran gyenge. Roman V. Yampolskiy, a Louisville-i Egyetem MI- és kiberbiztonsági szakértője úgy értékelte, hogy egy MI-alapú féreg a hagyományos kártevőknél rugalmasabban alkalmazkodhatna az ismeretlen eszközökhöz, és emberi kezelő nélkül is terjedhetne. Szerinte ez ma még nem egzisztenciális veszély, de az önálló másolódás erős hackelési, fennmaradási és stratégiai képességekkel párosulva jóval nehezebben ellenőrizhető rendszert hozna létre.
Folytasd az appban — szavazz és szólj hozzá ➔