Mesterséges intelligenciával készülő biofegyverekre figyelmeztet a Tencent mesterségesintelligencia-vezetője
Vinces Yao Shunyu, a Tencent vezető mesterségesintelligencia-kutatója – korábban az OpenAI munkatársa – arra figyelmeztetett, hogy az MI hamarosan képes lesz biofegyverek kifejlesztésére. Yao szerint a kockázatokat sem a teljesen nyílt, sem a teljesen zárt modellek nem tudják önmagukban elhárítani, így egyensúlyra van szükség. A biológia területén a támadó és védelmi képességek nehezebben választhatók szét, mint a kiberbiztonságban, miközben az amerikai és a kínai modellek közötti technológiai különbség minimális.
A szakember szerint a zárt rendszerek szűrői gyakran túlságosan merevek: amikor a Hugging Face-t kibertámadás érte, az Anthropic Claude modellje biztonsági okokból megtagadta a támadó parancsok elemzését, így a naplófájlok vizsgálatához a nyílt kínai GLM-5.2-t vették igénybe. Másfelől a nyílt forráskódú modellek biztonsági korlátai rendkívül törékenyek. Az úgynevezett abliteration eljárással a védelmi szűrők utólag könnyen kiiktathatók, amire építve már kereskedelmi szolgáltatások is megjelentek. Dario Amodei, az Anthropic vezérigazgatója éppen ezért tartja veszélyesnek a modellek súlyainak visszavonhatatlan közzétételét.
Megoldásként a Tencent a napokban érkező, nyílt súlyú Hy4 modelljénél a veszélyes hekkerismereteket közvetlenül a tanítóadatokból szűrte ki, ami az utólagos módosításoknak is ellenáll, miközben a modell biológiai képességeit a magas kockázatú küszöb alatt tartották.
Folytasd az appban — szavazz és szólj hozzá ➔