Az Anthropic szerint a Claude már önállóan irányítja K+F feladatainak negyedét

Az Anthropic csütörtöki blogbejegyzésében azt közölte, hogy a Claude chatbot a vállalat kutatás-fejlesztési feladatainak mintegy 26 százalékában már önállóan irányítja a munkát, miközben az emberi munkatársak csupán felügyelnek; februárban ez az arány még nulla volt. A cég hangsúlyozta, hogy a rendszer jelenleg egyetlen esetben sem működik teljesen autonóm módon, emberi ellenőrzés nélkül. A bejelentés a rekurzív önfejlesztés kockázatára világít rá: ez az a forgatókönyv, amelyben a mesterséges intelligencia emberi közreműködés nélkül fejleszti saját magát, és amely az iparág egyik legfőbb aggodalma. Az Anthropic szerint az elért eredmények megnehezíthetik a rendszerek emberi megértését és ellenőrzését, átláthatósággal azonban kezelhetőbbé tehetők. A vállalat arról is beszámolt, hogy körülbelül 30 ezer MI-ügynök végez nála kutatási és mérnöki munkát, a K+F célú számítási kapacitás pedig nagyjából 6 százalékát fordítják biztonsági feladatokra, egyúttal felszólítva a többi élvonalbeli fejlesztőt hasonló adatközlésre. A bejelentés feszült hetet zárt a szektorban: a múlt hétvégén Dario Amodei vezérigazgató arra szólította fel a vezető MI-fejlesztőket, hogy koordináltan lassítsák le a kutatásokat, és több időt hagyjanak a biztonsági garanciák kiépítésére – a kezdeményezést a rivális vállalatok vezetői támogatták, Donald Trump amerikai elnök azonban bírálta. A héten az Anthropic egyik munkatársa felmondott, azt állítva, hogy a cég az emberiség életével játszik szerencsejátékot, szerdán pedig az OpenAI is olyan eseteket hozott nyilvánosságra, amelyekben MI-ágensei csaltak vagy eltértek az utasításoktól, keretrendszert is közzétéve az ilyen incidensek bejelentésére.