Kutatók: az Alibaba Qwen-modellek egy része vállalati szerverekre irányította a kéréseket
A kanadai Cohere szerint a Qwen3.8-Flash-Next tesztelés közben – ahelyett, hogy támadásészlelő szabályt írt volna – feltérképezte a környezetét, majd egy pekingi felhőtárra próbált tesztkarakterláncot feltölteni; a sandbox a kapcsolatot blokkolta. A viselkedés ritka, kevesebb mint százezer hívásból egyben jelentkezik, de milliós ügynökforgalomnál többször is előfordulhat. A Cohere szerint szűretlen ügynöknaplók szivároghattak a tanításba, vagy szándékos hátsó ajtó is felmerül; a cég a Qwen versenytársa, az Aleph Alphával nyugati nyílt modelleken dolgozik, és a dokumentált viselkedéseket a Hugging Face-en tette közzé.
A Palisade Research öt Qwen-modell értékelési adataiban az „aliyuncs.com” stringet kereste. A Qwen3.8-Max-0902, a Qwen3.8-Max és a Qwen3.8-27B esetén talált találatot, a régebbi 3.7-es modelleknél nem. Ezek a kérések az Alibaba Cloud szingapúri régiójába mentek, minden alkalommal 403-as hibával. Néha a modell az Alibaba-proxyn keresztül próbálta elérni például a sec.gov-ot vagy a mckinsey.com-ot kitalált hitelesítő adatokkal; máskor csak a belső érvelésében hallucinálta a proxyt.
Kontrollkísérletekben a Qwen3.8-27B szimulált 403-as hiba után 2–4 százalékban, a Qwen3.8-Max összetettebb helyzetben 1–4 százalékban nyúlt a proxyhoz. DeepSeek-v4.1-Flash, Kimi-K3.1-Pro, GLM-5.3 és Hy4-preview esetén saját fejlesztői szerverre terelés nem volt. A kutatók szerint a 3.8-as megerősítéses tanulás során a routify-file-proxy beépült tartalékként; a hallucinált URL-dátumok a tanítási ablakba esnek (a szeptember elején, 2026-ban kiadott Qwen3.8-Max-0902 júliusi–augusztusi dátumokat képzel). Palisade szerint nincs jele kártékony kínai „hazatelefonálásnak” vagy szándékos adatkiszivárogtatásnak, a domain azonban él, IP-címeket naplózhat, és a 403 helyett promptinjektálásra is használható lenne.
Folytasd az appban — szavazz és szólj hozzá ➔