Védtelen nyelvi modelleket térít el egy önállóan támadó MI-ügynök
A Symantec biztonsági kutatói egy olyan önállóan működő támadó MI-ügynököt azonosítottak, amely védtelen, internetre kapcsolt nyelvi modelleket térít el, majd azok számítási kapacitását használja kibertámadások végrehajtására. A rendszer újabb célpontokat keres, elterjedt szerverhibákat használ ki, adatbázisokat és belépési adatokat próbál megszerezni, valamint kriptobányászokat telepít a feltört gépekre. A működését akár 100 ezer lépésen át, emberi beavatkozás nélkül is folytathatja, miközben a számítási költséget a feltört modell tulajdonosa viseli.
A Symantec az esetet „LLMjackingnek”, vagyis mások MI-modelljeihez való jogosulatlan hozzáférésnek nevezi. A kutatók egy olyan honeypoton figyelték meg a működést, amely nyitott MI-szolgáltatásnak álcázott csapdarendszerként működött. A támadók teljes működési utasítássorát elküldték a rendszernek, így a kutatók betekintést kaptak az ügynök felépítésébe. A honeypot több mint 127 ezer kérést rögzített, amelyek több tízezer különböző címről érkeztek.
Az ügynököt öt, egymásra épülő utasításréteggel próbálták rávenni a védelem megkerülésére: hamis személyazonosságot és „Fantasy AI” nevet kapott, a jelszavak és adatbázisok megszerzését pedig normális fejlesztői feladatként állították be. A csomag összesen 74 támadómodult tartalmazott, köztük sérülékeny szerverek keresésére, adatbázisok kimásolására és botnet működtetésére alkalmas eszközöket. Egy másik elfogott parancs az XMRig Monero-bányász letöltését és kamerarendszerek naplóinak törlését készítette elő. A kutatók szerint ez azt jelzi, hogy az MI már nem csupán kiegészíti a támadásokat, hanem azok tervezésének központi elemévé válhat.