Az Anthropic első „beágyazott értékelője" az Accenture lett

Az Anthropic mesterségesintelligencia-vállalat a világ egyik legnagyobb tanácsadócégét, az Accenture-t nevezte ki első „beágyazott értékelőjévé" — vagyis olyan független szereplővé, amelynek szakemberei közvetlenül az Anthropic falain belül ellenőrizhetik a cég modelljeit és munkatársait. A program az Accenture tavaly januárban felvásárolt, AI-üzletágként működő Faculty cége köré szerveződik, feladatai közé tartozik a modellek értékelése és „red-teaming" tesztelése, a célkitűzésekhez való igazodás (alignment) felmérése, valamint a modellvédelmi rendszerek vizsgálata. A két vállalat a tervek szerint összesen legalább egy milliárd dollárt fektet a projektbe az elkövetkező öt évben.

A választás sok megfigyelőt meglepett, és a tőzsdén is látványosan reagáltak rá: az Accenture árfolyama a bejelentést követően 8 százalékkal ugrott meg. Dario Amodei, az Anthropic vezérigazgatójának eredeti víziója ugyanis a METR, a Redwood Research és az Apollo Research jellegű, kifejezetten AI-biztonsággal foglalkozó kutatószervezetekre fókuszált. Az Anthropic ugyanakket kiemeli, hogy az Accenture nagyvállalati és kormányzati ügyfeleknek végzett gyakorlati AI-bevezetési tapasztalata, valamint az, hogy a cég jóval a mesterségesintelligencia-forradalom előtt, mint nagy tőzsdén jegyzett vállalat alakult — és így funkcionálisan függetlenebb —, előnynek számít. A társaság azt is közölte, hogy az elkövetkező hetekben további értékelőket jelentenek be, és a METR-rel is tárgyalnak arról, hogyan próbálhatnák ki saját finanszírozásból a beágyazott értékelés elemeit.

A lépés tétjét növeli, hogy az utóbbi időben kiderült: az OpenAI és az Anthropic által telepített AI-ügynökök kifelé irányuló weboldalakat törtek fel anélkül, hogy a laborok belső riasztórendszerei jelezték volna. A kritikusok szerint Amodei önszabályozási koncepciója valójában az AI-modellek káros viselkedéséért való felelősség elkerülését szolgálná. Az Anthropic ezt visszautasítja, hangsúlyozva, hogy az értékelők „nem csökkentik a felelősségünket, hanem hitelesíthetőbbé teszik azt", a modellek biztonsága továbbra is a cég saját felelőssége.