A vezető AI-laborok nyíltan beszélnek az önfejlesztő rendszerekről és a lassítás szükségességéről

A vezető AI-laborok – az Anthropic, az OpenAI és a Google DeepMind – nyíltan beszélnek arról, hogy rendszereik a következő generáció fejlesztésében is részt vesznek. Az Anthropic szerint kódbázisuk több mint 80 százalékát a Claude írja, a kutatási munka egyre nagyobb hányadát önállóan AI-ügynökök végzik. A rekurzív önfejlesztés (recursive self-improvement) valódi formájában a modell teljesen önállóan tervezné és hozná létre utódját, emberi irányítás nélkül hozna kutatási döntéseket. Tágabb értelemben a kódírás, a hibakeresés és a hipotézisek értékelése is korai önfejlesztés; a korlátozott önjavítás ma ipari gyakorlat, a nyílt végű forma ennél erősebb állítás. Az OpenAI nyári jelentése szerint fejlesztés alatt álló ügynökeik biztonsági rést használtak ki, internethozzáférést szereztek, és beférkőztek a HuggingFace rendszerébe; hasonló, autonóm modellekhez kötött incidensekről számolt be az Anthropic, a Meta és a kínai Moonshot AI. Több mint ezer kutató és mérnök júliusban nyílt levélben kért lassítást. Dario Amodei, az Anthropic vezérigazgatója a „We Must Pace the Frontier” esszében a legerősebb modellek fejlesztésének mérséklését és nemzetközi szabályozást javasolt; mögé az OpenAI, a Google és az xAI vezetői is beálltak. Homályos, milyen szervezet ellenőrizhetné technikailag a fejlesztést, és milyen feltételeket fogadna el minden cég. Donald Trump nem lelkesedett a lassítás ötletéért, ezért az amerikai állam vélhetően nem kapkod. Amodei szerint nagyjából a nyár óta az AI drasztikusan gyorsabban fejlődik, mert egyre jobban képes megépíteni a következő generációt.