A METR jelentése aggodalmat kelt: az Anthropic gyorsabban fejleszti a saját mesterséges intelligenciáját
A mesterségesintelligencia-biztonsággal foglalkozó METR csütörtökön közzétett jelentése szerint az Anthropic saját AI-rendszereivel gyorsítja a még erősebb modellek fejlesztését, és ez látványosan működik. A szervezet tizenegy hetes, a cégnél végzett vizsgálata alapján a modellek nagyjából kétszer olyan gyorsan javulnak, mint egy évvel korábban, és kevés jel utal lassulásra. A teljesítményadatok szerint az Anthropic az elmúlt évben nagyjából két évnyi történelmi előrehaladást ért el. A kutatók szerint az gyorsulás nem csupán a betanításhoz használt számítási kapacitás növeléséből adódik: októberre a gyorsulás többsége magának az AI-nak tulajdonítható, és ez a hozzájárulás idővel nőtt.
Ezt belső Slack-felmérések és munkatársi interjúk is alátámasztották. A legfejlettebb belső modellt használó alkalmazottak átlagosan úgy becsülték, hogy munkájukban körülbelül tizenkétszer produktívabbak, mint AI-segítség nélkül; ez nagyjából a duplája annak, amit néhány hónappal korábban a Mythos 5 mellett jeleztek. A gyorsulás egyelőre főként az emberi kutatók támogatása, nem az önálló AI-munka, de a METR szerint vannak jelek arra, hogy a teljesen autonóm hozzájárulás hamarosan nagyobb szerepet kaphat. Egyértelmű hozamcsökkenést vagy szűk keresztmetszetet nem találtak, amely megakadályozhatná a még gyorsabb tempót.
Az elmúlt fél évben az Anthropic három, még ki nem adott modell betanítását fejezte be: a Model 2, Model 3 és Model 4 kódnevű rendszerek júliusban, augusztus–szeptemberben, illetve szeptember–októberben készültek el. A kutatók egy 2022-es, Unreleased 2022 nevű kiadatlan modellt is azonosítottak. A vizsgálat külön állt attól a programtól, amely a nyári, nagy figyelmet kapott hackertámadások után „alkalmazotthoz hasonló” hozzáférést kínált biztonsági kutatóknak. A jelentés ritka betekintést ad a vezető laboratóriumok működésébe, de az Anthropic a megállapodás alapján részeket kitakarhatott, és ezzel láthatóan élt is. A cég tőzsdére készül, miközben vezérigazgatója, Dario Amodei nyilvánosan arra szólította a laboratóriumokat, hogy fékezzék az AI-fejlesztést.
Folytasd az appban — szavazz és szólj hozzá ➔