Egy mesterséges intelligencia más neurális hálózatok belső működését értelmezi és módosítja
Az MIT Cambridge-i kutatói új módszert mutattak be a mesterségesintelligencia-modellek működésének vizsgálatára. A GPT-6 Astra nevű rendszer képes volt más neurális hálózatok nyers belső értékeit elemezni, és ezek alapján megjósolni, hogy a modellek egyes részei milyen feladatokat látnak el. Ez azért jelentős, mert a nagy AI-rendszerek belső működése általában nehezen értelmezhető: a kutatók sokszor csak a bemenetekre adott válaszokat látják, azt nem, hogy a hálózat pontosan milyen belső folyamatokon keresztül jut el hozzájuk.
A kísérletben az Astra nemcsak értelmezte ezeket a belső struktúrákat, hanem módosítani is tudta a vizsgált modelleket. A kutatók szerint ezzel javítani lehetett bizonyos képességeiken, köztük a matematikai teljesítményükön. A megközelítés új irányt jelenthet a modellek fejlesztésében, amely ma jellemzően kétféleképpen zajlik: a rendszereket apró lépésekben továbbtanítják, vagy teljesen új hálózatot építenek. Az eredményeket november 2-án közölték preprintként, vagyis olyan tanulmány formájában, amely még nem esett át a szakmai folyóiratok szokásos bírálati folyamatán.
Folytasd az appban — szavazz és szólj hozzá ➔