Az Anthropic figyelmeztetése szerint nagyon közel áll a rekurzív önfejlesztési képességhez
Az Anthropic legfrissebb, módosított S-1A tőzsdefelügyeleti tájékoztatójában nemcsak a meredeken növekvő bevételekről és kiadásokról számolt be, hanem a kockázati tényezők között komoly figyelmeztetést is elhelyezett. A beadvány apró betűs része szerint a vállalat közel állhat a rekurzív önfejlesztés (RSI) küszöbéhez. Ez az a pont, amikor a mesterséges intelligencia olyannyira hatékonnyá válik saját maga fejlesztésében, hogy az a képességek drasztikus, exponenciális gyorsulását idézi elő. Míg a támogatók a sosem látott produktivitást és tudományos áttöréseket látják ebben, a kritikusok szerint az emberi ellenőrzést meghaladó technológia katasztrofális fenyegetést jelenthet.
A dokumentumból kiderül, hogy az Anthropic a kutatás-fejlesztésben már aktívan támaszkodik az MI-re, és korábban akadt olyan eset is, amikor csak utólag azonosítottak egy-egy jelentősebb ugrást. A cég belső előrejelzései szerint a közeljövő modelljei elérhetik a felelős skálázási irányelvükben (Responsible Scaling Policy) rögzített RSI-küszöböt. Bár kiemelték, hogy a jelenlegi Claude modellek még nem lépték át ezt a határt, és vállalják az emberi felügyelet fenntartását a fejlesztési láncban, a bejelentés komoly figyelmeztetésként hat, tekintve a modell kódolásban, matematikában és kiberbiztonságban tapasztalt idei ugrásszerű fejlődését.