Az Anthropic szerint az MI-modellek hamarosan önállóan terjedhetnek az IoT-eszközökön
Az Anthropic azt vizsgálta, hogy mesterségesintelligencia-modellek képesek lehetnek-e sebezhető internetkapcsolattal rendelkező eszközöket felkutatni, saját magukat rájuk másolni, majd emberi beavatkozás nélkül továbbterjedni. A kutatás szerint a 30 milliárd paraméternél kisebb modellek már végre tudják hajtani a replikációhoz szükséges egyes lépéseket, de a teljes folyamatot még nem képesek megbízhatóan, elejétől a végéig önállóan levezényelni.
Az Anthropic egyszerűsített tesztkörnyezetben, bizonyos védelmi intézkedések kiiktatása mellett azt tapasztalta, hogy a GLM-5.2 és az annál erősebb modellek már végig tudták vinni a teljes replikációs láncot. A vállalat szerint ez azért jelent biztonsági kockázatot, mert egy önreplikáló rendszernek nem feltétlenül lenne központi kikapcsolási pontja. A hagyományos kártékony programoknál önállóbban térképezhetné fel az ismeretlen eszközöket, és akár adatközpontok processzorait is megcélozhatná.
A kutatás az IoT-eszközökre, például okostévékre és okos háztartási gépekre összpontosított, mivel ezek védelme sok esetben gyengébb. Az Anthropic úgy látja, hogy ha a kisebb modellek fejlődése a korábbi ütemben folytatódik, már az év végére képessé válhatnak az autonóm replikációra. A terjedés várhatóan lassú lenne, de a vállalat szerint a védelem megerősítését már most érdemes elkezdeni.