A METR szerint az AI fejlődése gyorsabb, mint a biztonsági vizsgálatok
A METR kutatószervezet szerint a mesterségesintelligencia-modellek gyorsan javulnak az AI-kutatási feladatokon, miközben egyre nehezebb őket megbízhatóan mérni. A nyilvános adatok nem zárják ki, hogy a következő években drasztikusan felgyorsuljon az AI-kutatás; ez azzal járhat, hogy az emberek nem tudják érdemileg megérteni, felmérni és kezelni az új rendszerek katasztrofális kockázatait. A vezető modellek, például az Opus 5.5 és a GPT-6 Astra, egyértelmű kódolási és számítási feladatokon, közvetlen visszajelzés mellett a METR szerint a legtöbbször már legyőzik a tapasztalt szakembereket, de nagy, csúcsszintű szakértői csoportokat még nem. Az embereknek hosszabb időt igénylő feladatoknál a modellek által kezelhető feladathossz 3,6 hónaponként megduplázódik; naiv extrapoláció szerint a 200 órás, leghosszabb feladatokon 2027 júliusára 50 százalékos sikerráta várható. A rendszerek továbbra is gyengék a nyitott, azonnali visszajelzés nélküli, valódi ítélőképességet igénylő kérdéseken és a nehezen betanítható helyzetekben. A szervezet arra is figyelmeztet, hogy a könnyen futtatható, gyakori tesztek túlbecsülhetik a valós teljesítményt, mert a fejlesztők nagyon hasonló környezetekben tanítják a modelleket.
Folytasd az appban — szavazz és szólj hozzá ➔