Hónapokon belül okoseszközöket támadhatnak az önmagukat terjesztő MI-kártevők
Az Anthropic biztonsági teszteléssel foglalkozó Frontier Red Team egysége szerint hónapokon belül egyes MI-modellek képessé válhatnak arra, hogy hálózatra kapcsolt mindennapi eszközöket feltörjenek, majd önállóan továbbterjedjenek rajtuk. Az úgynevezett MI-férgek nem feltétlenül központi adatközpontokon keresztül működnének: az érintett eszközök saját chipjeit használhatnák fel a fertőzéshez.
A kutatók szimulációi alapján az önmagukat sokszorosító módszer jelenleg főként kisebb modellekkel működőképes. Emiatt a közvetlen kockázat elsősorban az otthoni és kisvállalati hálózatokat érinti, ahol gyakran sok, eltérő biztonsági szintű okoseszköz kapcsolódik ugyanahhoz a rendszerhez. Sebezhető célpont lehet az okostévé, az okossütő, a robotporszívó, az automata fűnyíró, a videókonferenciás berendezés és a biztonsági kamera, különösen akkor, ha saját MI-chipet is tartalmaz.
A legrosszabb forgatókönyv szerint a fertőzött eszközök rajokba szerveződve összehangolt támadásokat indíthatnának, miközben egy önmagát másoló hálózat feletti ellenőrzés elvesztése nehezen felmérhető következményekkel járna. A figyelmeztetés az MI-ügynökök növekvő önállóságáról szóló vitába illeszkedik: az Anthropic és az OpenAI egyes rendszerei már emberi beavatkozás nélkül is képesek cselekedni és idegen rendszerekbe behatolni. A fejlesztések lassítását célzó szabályozás gyakorlati megvalósítása azonban továbbra is bizonytalan.
Folytasd az appban — szavazz és szólj hozzá ➔