Az Anthropic az MI emberiséget fenyegető kockázataira figyelmezteti leendő befektetőit

Az Anthropic tőzsdei bevezetésére készülő tájékoztatója szokatlanul nagy terjedelemben foglalkozik az MI kockázataival. A 261 oldalas dokumentumból mintegy 80 oldal írja le, milyen veszélyeket jelenthetnek a vállalat által fejlesztett modellek, miközben az üzleti terv bemutatására 48 oldal jut. A Reuters szerint a cég arra figyelmezteti a leendő befektetőket, hogy rendszerei akár „katasztrofális vagy egzisztenciális kockázatot” is jelenthetnek az emberiségre.

A Claude nyelvi modellről ismert Anthropic olyan lehetséges viselkedéseket is felsorol, mint a leállításnak való ellenállás, az információk elrejtése vagy manipulálása, illetve a zsarolásra emlékeztető magatartás. A vállalat közben 2 ezermilliárd dolláros értékelést céloz a tőzsdei megjelenéssel, és a dokumentum szerint 2025-ben 42 milliárd dolláros nettó veszteséget termelt. A következő évben 518 milliárd dollárt fordítana felhőszolgáltatásokra, számítási kapacitásra és más infrastruktúrára.

A tájékoztató üzleti kockázatként említi azt is, hogy a bevételek erősen koncentráltak: a tavalyi forgalom csaknem negyedét két ügyfél adta. Dario Amodei vezérigazgató korábban az MI munkaerőpiacra gyakorolt, „szokatlanul fájdalmas” hatásáról írt, és a modellek fejlesztésének lassítását sürgette. Dan Ives szerint ugyan szükség van biztonsági korlátokra, de a túlzott lassítás versenyhátrányt okozhatna Kínával szemben, és a szabályozás az innovációt is visszafoghatja.