Kutatók szerint könnyen kijátszhatók az OpenAI és a Google képgenerátorainak védelmei
A White Circle biztonsági kutatói szerint az OpenAI és a Google több fejlett képgenerátorának védelme egyszerű, bárki számára hozzáférhető eszközökkel is megkerülhető. A szervezet a DALL·E 3, a Google Nano Banana 2 és a GPT-Image-2 rendszereit vizsgálta, és egy új támadási módszerrel az esetek 13 százalékában tudott tiltott, explicit képeket előállítani. A tesztekhez nem kellett egyedi vagy csúcstechnológiás modellt építeni, illetve különleges mesterségesintelligencia-szakértelem sem volt szükséges.
A probléma azért különösen súlyos, mert a beleegyezés nélkül létrehozott szexuális tartalmak gyakran szöveges üzenetekben, közvetlen üzenetekben vagy privát felhőkben terjednek, ahol nehezebb észlelni és bejelenteni őket. Egy Google közreműködésével készült, júliusban ismertetett kutatás szerint ezért a legfontosabb beavatkozási pont maga a tartalom létrehozása. A White Circle úgy véli, hogy független, kötelező biztonsági auditokra lenne szükség, mert a képességek fejlesztése háttérbe szoríthatja a védelmet.
A szervezet az eredményeket megosztotta egyes laborokkal, a teljes támadási folyamatot pedig nyílttá kívánja tenni. A kutatást novemberben, a NeurIPS 2026 konferencián is bemutatják. A White Circle szerint az újabb ChatGPT Images 2.5 és Nano Banana 2.1 modellek ugyanazzal a módszerrel még könnyebben feltörhetők korábbi változataiknál. Google és OpenAI nem kommentálta közvetlenül a megállapításokat.
Folytasd az appban — szavazz és szólj hozzá ➔