Az Anthropic akár 99 százalékkal visszaszorította a Claude képességeinek kinyerését
Az Anthropic újabb részleteket közölt arról, hogyan próbálják megakadályozni, hogy más vállalatok tömegesen lemásolják a Claude képességeit saját, kisebb mesterségesintelligencia-modelljeik betanításához. A cég szerint az úgynevezett desztillációs támadások során a támadók több százezer hamis fiók hálózatával kérdeztek le nagy mennyiségű választ a rendszertől, hogy azokból következtessenek a modell működésére.
Az Anthropic állítása szerint az új védelmi intézkedések 90–99 százalékkal csökkentették a Claude belső következtetési lépéseinek, vagyis a reasoning tokeneknek a kinyerését. A vállalat két kínai céget, a Zhiput és a Moonshotot is megnevezte az akciókkal összefüggésben. Állításuk szerint a Zhipu vezető amerikai modellek kiberbiztonsági képességeit használhatta fel GLM-5.3 nevű modelljéhez, a Moonshot pedig titokban Claude-on keresztül továbbíthatta a lekérdezéseket. Anthropic szerint az így megszerzett képességek külföldi katonai és megfigyelőrendszerekben is megjelenhetnek.
A cég korlátozta a Claude belső következtetési lépéseihez való hozzáférést, külön osztályozóval keresi a kinyerési kísérleteket, a gyanús fiókokat pedig automatikusan letiltja. Eddig több tízezer fiókot tiltottak ki, miközben Anthropic elismeri, hogy a szigorítások jogszerű felhasználókat is érinthetnek.