A Google szerint a teljesen önfejlesztő mesterséges intelligencia még messze van
A Google DeepMind mérnöke, Haydn Belfield szerint a teljesen önfejlesztő mesterséges intelligencia még messze van: a cégnél nincs mérhető jele annak, hogy az AI önmagában gyorsítaná az AI-kutatást. A termelési kód több mint 75 százalékát már AI írja, a változtatások mintegy 88 százalékához azonban emberi felügyelet vagy ellenőrzés kell, és minden módosítást ember néz át beküldés előtt. A teljesen AI-ra bízott kódváltoztatások aránya 7,5-ről 11,9 százalékra nőtt.
A bonyolultabb, időigényesebb feladatoknál az automatizálás meredeken gyengül. 1389 belső Argon-ügynökfutásnál a sikeresség emberi beavatkozás nélkül a komplexitás növekedésével élesen esett. Belfield szerint az emberek továbbra is nélkülözhetetlenek a kreatív kutatáshoz, az új kísérlettervezéshez, a finom tréning-instabilitások diagnosztizálásához és a hosszú távú tervezéshez. Tizenkét vezető DeepMind-kutató felmérése szerint a jól definiált, ellenőrizhető feladatoknál a legmagasabb, a nyílt tudományos ötletelésnél a legalacsonyabb az automatizálás.
A 74 realisztikus gépi tanulási mérnöki feladatot tartalmazó belső RE-Bench teszten az Argon körülbelül a felét oldja meg, a Gemini 3.7 Flash 27 százalékához képest; ez még távol van a teljes automatizáláshoz kellő, közel tökéletes teljesítménytől. A 123 modellt és 92 benchmarkot lefedő General Capability Indexen a Gemini-képességek havi kb. 0,1 GCI-ponttal nőnek, hirtelen gyorsulás nélkül. A Gemini 4 Argon enyhén a trendvonal fölött áll; ezt a csapat több számítási kapacitással és szervezeti beruházással magyarázza, nem AI-vezérelt gyorsulással. A kutatási automatizálás kockázatát jelenleg alacsonynak ítélik. Belfield megállapításai nem egyeznek mindenkivel: több mint húsz kutató, köztük Geoffrey Hinton, Yoshua Bengio és az OpenAI-tól Jakub Pachocki egy tanulmányban „intelligenciabummról” figyelmeztetett, és arról, hogy az AI néhány éven belül automatizálhatná a teljes AI-kutatást.
Folytasd az appban — szavazz és szólj hozzá ➔