Barion Pixel

Mi legyen a legfontosabb lépés az AI ügynökök felhatalmazásának korlátozására a "GhostJacking"-hoz hasonló támadások megelőzése érdekében?

Az cikk egy "GhostJacking" nevű támadási láncot mutat be, amelyet a Tenet Security demonstrált a DEF CON 34 konferencián. A lényeg, hogy egy AI ügynök (pl. Cursor vagy Claude Code) elolvassa a Cloudflare (vagy Sentry/Datadog) által már blokkolt, de naplózott támadói payloadot, azt utasítá

  • Engedélyezési kaput kell beépíteni a modellen kívülre, amely elválasztja a javaslatot a jóváhagyástól
  • Jobb, szigorúbb promptokat kell írni, hogy a modell ne kövessen kártékony utasításokat
  • Meg kell tiltani az AI ügynököknek, hogy egyáltalán olvassanak külső, támadó által elérhető adatokat
  • Elegendő a tűzfal blokkolási arányának növelése a prompt-injection támadások ellen