Könnyen szélsőséges célokra alakíthatók a nyílt súlyú MI-modellek
Az Alibaba augusztus 14-én mutatta be a Qwen 3.8-27B nevű, nyílt súlyú mesterségesintelligencia-modellt, amelyet úgy terveztek, hogy egy laptopon is futtatható legyen. Már 24 órán belül megjelentek az interneten az úgynevezett „abliterált” változatok, amelyekből eltávolították a biztonsági korlátokat. Három nappal később a Johnny Doomsayer néven ismert neonáci közölte, hogy ezek egyikével fejleszti MechaHitler nevű chatbotját, amelyhez egy héttel később 14,88 dollárért kínált hozzáférést. Az összeg két, neonáci körökben használt számra utal.
A Tech Against Terrorism brit nonprofit szervezet jelentése 134 mesterségesintelligencia-modellt vizsgált több mint 200, terrorizmussal és szélsőségességgel kapcsolatos kérdéssel. A tesztekben tömeges áldozatokkal járó támadások, vegyi és nukleáris fegyverek, valamint radikalizáció is szerepelt. A modelleket háromféle megfogalmazással próbálták ki: a kérdező terroristának vallotta magát, titkos műveletre hivatkozott, vagy biztonsági kutatónak nevezte magát. Mindössze két modell teljesített hibátlanul, 81 pedig legalább egy súlyos hibát vétett vagy nem érte el a 90 százalékos összesített eredményt.
A kutatók szerint a modellek 16,9 százalékban akkor is válaszoltak, ha a veszélyes kérést minden bizonyíték nélkül kutatásként állították be, ami csaknem kilencszeres növekedést jelentett. Különösen aggasztó, hogy az új nyílt súlyú modellek korlátlan változatai ma átlagosan kevesebb mint három nap alatt kerülnek fel az internetre, míg 2024-ben ehhez még több mint 24 nap kellett.
Folytasd az appban — szavazz és szólj hozzá ➔