Veszélyesnek nevezte saját mesterséges intelligenciáját az Anthropic

A Claude mesterségesintelligencia-modellt fejlesztő Anthropic szokatlan figyelmeztetést fogalmazott meg a tőzsdére lépéshez készült, 261 oldalas kibocsátási tájékoztatójában. A vállalat elismerte, hogy technológiája akár katasztrofális vagy egzisztenciális kockázatot is jelenthet az emberiségre, szélsőséges esetben annak kihalásához vezetve. A cég mintegy 80 oldalt szentelt a kockázatoknak, ami csaknem duplája az üzletet ismertető 48 oldalnak – miközben az xAI-t is birtokló SpaceX 277 oldalas tájékoztatójában csupán 38 oldalon tárgyalta a felmerülő veszélyeket.

A biztonsági kutatásokra fordított összegek nem nyilvánosak, ám a tájékoztató szerint a fejlesztési számítási kapacitásuknak mindössze 6 sz

<truncated 54 bytes>

júliusi mintahéten. Evan Hubinger, az Anthropic biztonsági kutatója szerint ráadásul tíz százaléknál is nagyobb az esélye annak, hogy a mesterséges intelligencia a következő évtizedben emberéleteket követel.

A vállalat bevételeit az új modellek gyors kiadása hajtja: nemrég megjelentették az Opus legújabb verzióját, alig tíz nappal azután, hogy Dario Amodei vezérigazgató egy közel négyezer szavas esszében a tempó mérséklése mellett érvelt. A tájékoztató rámutat, hogy egyetlen vezető kutatólabor sem lassítana önként, mert az azonnali versenyelőnyt adna riválisainak.