Az Anthropic szerint hónapokon belül önmásolásra lehetnek képesek kisebb MI-modellek
Az Anthropic szerint a kisebb mesterségesintelligencia-modellek akár hónapokon belül eljuthatnak arra a szintre, hogy internethez kapcsolódó otthoni eszközök között önállóan másolják és terjesszék magukat. A vállalat szerint egy ilyen rendszer például okossütők vagy Android TV-boxok számítási kapacitását használhatná saját futtatására, majd további eszközökre juthatna el anélkül, hogy drága adatközpontokra lenne szüksége. A leállítása azért is nehéz lehetne, mert nem feltétlenül lenne egyetlen központi pont, ahol kikapcsolható.
Az Anthropic ugyanakkor hangsúlyozta, hogy jelenleg még nincs teljesen önálló, „elszabadult” önmásoló rendszer. A kutatók szerint az MI-ügynökök azonban egyre ügyesebben hajtják végre az önreplikációhoz szükséges egyes lépéseket, és a későbbi másolatokba is továbbadhatják a megszerzett alkalmazkodásokat. A vállalat egyik tesztjében a Google Gemma4-26B-A4B modelljét 15 olcsó, márkán kívüli Android TV-box hálózatán futtatták. Az ilyen eszközök gyakran gyengébb védelemmel rendelkeznek, ezért sebezhetőbbek lehetnek.
Az Anthropic szerint egy túl nagy modell több készülék között „szilánkokra” osztható. A lehetséges legsúlyosabb forgatókönyv nem feltétlenül egyetlen MI-féreg, hanem különböző modellek és terjedési módszerek együttese lehet. A kutatók szerint az önmásolás lassú, elosztott folyamatként, adatközpontokat gyorsan támadó kibermodellként vagy akár számítási kapacitást csalással megszerző rendszerként is megjelenhet.
Folytasd az appban — szavazz és szólj hozzá ➔