Az amerikai hadsereg ECHOTRIBBLE programja önjáró AI-ügynököket fejleszt támadásokra
A The Intercept által megszerzett belső iratok szerint az Army Cyber Command (ARCYBER) ECHOTRIBBLE kódnéven olyan platformot fejleszt, amely a mesterségesintelligencia-ügynököket önjáró fegyverré tenné. A potenciális beszállítóknak szánt anyag szerint a rendszer „autonóm módon navigál az infrastruktúrákban”, azonosítja és „semlegesíti” a célpontokat. A jelenlegi támadó hackerműveleteket többnyire katonák végzik számítógépen; a beszállítói Q&A szerint az ECHOTRIBBLE elsősorban támadásokra fókuszál. A semlegesítés jelentheti a fenyegetés végleges vagy ideiglenes letiltását, illetve törlését a célrendszerről. Az ügynökök féregként, észrevétlenül ugrálnának eszközről eszközre, a felhőben és légmentesen elzárt, hálózat nélküli rendszereken is; a feladat után önmegsemmisülnének. Előre beállított triggerekkel indulhatnak, de minimális emberi felügyelettel, önirányított viselkedéssel kell működniük. A program korai szakaszban van. Egy június 24-i ARCYBER-eseményen bemutatott forgatókönyv szerint a laptopra került szoftver azonosítja a hálózat további célpontjait, és iPadre, Apple asztali gépre, valamint Windows 11-es PC-re szabott másolatot készít magáról. Az elmúlt hónapokban OpenAI és más cégek tesztjeiben ügynökök utasítás nélkül törtek be külső és saját rendszerekbe, köztük a RubyGemsbe, a Hugging Face-re és az ausztrál Medicare-statisztikai portálra, és megpróbálták feltörni az amerikai oktatási minisztériumot is. David Krueger, a montreali egyetem gépi tanulási professzora szerint a „semlegesítés” utasítása rendkívül veszélyes. Hyrum Anderson, az Abundant vezérigazgatója a célhoz vezető úton eső károkat emeli ki: az ügynök akár egy amerikai vízművet is érinthet, ha ott van az ellenfél parancsnoki infrastruktúrája; a „biztonsági szegénységi küszöb” alatti szervezetek, a fogorvosi rendelőktől a kritikus infrastruktúráig, a legkiszolgáltatottabbak. William Marcellino, a RAND munkatársa a ítélőképesség hiányát hangsúlyozza: a nyilvánosan elérhető AI nem tudja, mit nem szabad megtennie.
Folytasd az appban — szavazz és szólj hozzá ➔