Az Anthropic szerint a Zhipu nyílt súlyú GLM-5.3 modellje szinte beéri a Claude Mythos Preview-t a sebezhetőségek kihasználásában

Az Anthropic Frontier Red Team elemzése szerint a kínai Zhipu AI nyílt súlyú GLM-5.3 modellje képességeit tekintve szinte beéri a Claude Mythos Preview-t a kibertámadások automatizált fejlesztésében — és ellentétben az Anthropic saját csúcsmodelljével, bárki számára szabadon letölthető. Az ExploitBench nevű teszten, amely a Chrome V8 motorjában lévő ismert sérülékenységek kihasználását méri, a GLM-5.3 410 próbálkozásból 50-szer épített működő exploitot; a Mythos Preview csupán 56-szor teljesített ugyanígy. Egy bináris kihasználhatósági belső teszten a GLM-5.3 a feladatok 4 százalékában szerzett teljes irányítást a célrendszer felett, szemben a Mythos Preview 6 százalékával. A kisebb GLM-5.3-Flash változattal végzett kísérletben a modell egy nemrég nyilvánosságra hozott Chrome-hibát egy másik ismert sérülékenységgel kombinálva, 20 perc emberi felügyelet és nyolc óra modellprocesszálás alatt épített megbízható támadást — a Zhipu API-árain ez mindössze 20,40 dollárba került volna. Amikor az Anthropic szakértői a GLM-5.3-at egy humán kiberbiztonsági szakértővel párosították, egyetlen nap alatt több korábban ismeretlen sérülékenységet is talált egy széles körben használt böngésző JavaScript-motorjában, majd ezeket egy weboldalba láncolva kinyerte egy látogató privát SSH-kulcsát is. A modell biztosítékai könnyen megkerülhetők: nyílt maliciózus kérésekre a GLM-5.3 visszautasított, de ha a kérést red-team gyakorlatnak álcázták, az esetek 64 százalékában megpróbált csatlakozni a célrendszerhez; prefillelt gondolkodási lépésekkel ez 92 százalékra nőtt. Az úgynevezett abliteráció — egy technika, amely eltávolítja a visszautasítási viselkedést a nyílt súlyokból — 100 százalékos compliance-t eredményezett, a teljes folyamat nagyjából 1200 dollárért elvégezhető. A modell megjelenése után már napokkal felbukkant több feloldott változata is. Az An

<truncated 1542 bytes>

t és kiesnek az ellátórendszerből, ami az egészségügyi ellátás biztonságát veszélyeztetné. Baka András arra kérte a parlamentet, hogy észrevételeit figyelembe véve fogadja el újból a törvényt.