A GPT-6 Astra közvetlenül képes átírni más MI-modellek súlyait
MIT-kutatók bemutatták, hogy az OpenAI GPT-6 Astra egy másik MI-modell belső súlyait közvetlenül is képes elemezni és módosítani, hagyományos újratanítás nélkül. A „Weight-Space Programming” néven leírt módszerben a nyelvi modell a több ezer vagy akár millió számból álló mátrixokat vizsgálja, majd célzottan átír bizonyos értékeket. A kutatók szerint Astra több esetben azonosítani tudta, milyen játékra, képi alakzatokra vagy nyelvre tanítottak egy hálózatot, még akkor is, ha nem férhetett hozzá az adatokhoz, és nem futtathatta magát a modellt.
A rendszer egyszerű játékokhoz teljesen új súlyokat is létrehozott a szabályok és a forráskód alapján. Breakoutban az így készült modell átlagosan 517 pontot ért el, miközben a hagyományos módszerrel tanított alapmodell 25 pontot szerzett. Kilencszer kilences Go-táblán Astra egy mintegy 1,5 millió paraméteres hálózatot javított 50 tesztkörben, és felülmúlta a nagyjából 20 millió játszmán betanított, hasonló méretű modellt.
A leglátványosabb eredményt a Qwen3.5-0.8B nyelvi modellen érték el. Astra a súlyok mindössze 0,016 százalékát módosította, így a MATH-500 teszten a pontosság 7,9-ről 48,1 százalékra, az utasításkövetés pedig 21-ről 62 százalékra nőtt. A modell ismétlődő gondolkodási ciklusai azonban nem tűntek el teljesen: a válaszok egyharmada továbbra is elérte a maximális hosszt, bár korábban ez 93 százalék volt. A módszer egy kisebb, Gemma 3 270M modellen nem hozott mérhető javulást, ami arra utal, hogy alapvetően hiányzó képességeket nem feltétlenül lehet néhány súly átírásával létrehozni.
Folytasd az appban — szavazz és szólj hozzá ➔