Barion Pixel

Mit gondolsz, hogyan tudnák hatékonyabban megvédeni az AI-asszisztenseket, mint a Grok, a titkosított promptinjekciós támadásoktól?

A Grok mesterséges intelligencia egy új adatszivárogtatási támadásnak bizonyult sebezhetőnek, amelyet biztonsági kutatók fedeztek fel – a cikk közzétételekor a hiba még mindig kihasználható volt, annak ellenére, hogy az xAI-t már júniusban értesítették r&o

  • Az AI-kódfuttató környezet kimenetét is szűrni kellene, nemcsak a nyers szöveges bemenetet
  • Alapból tiltani kellene, hogy az AI-asszisztens titkosítási/dekódolási utasításokat hajtson végre külső tartalomból
  • Strukturális elválasztás kell a felhasználói utasítások és a feldolgozott (pl. weboldal) tartalom között
  • A jelenlegi statikus védőkorlátok elvileg sosem lesznek elegendőek, alapvetően más architektúra kellene