Altman három AI-biztonsági forgatókönyvet vázolt fel belső előadásban
A The Decoder The Information forrásaira hivatkozva azt írja, hogy Sam Altman, az OpenAI vezérigazgatója múlt héten belső előadáson három utat vázolt fel a biztonságos mesterséges intelligenciához, miközben a Trump-adminisztráció az első, a szuperintelligencia fejlesztőire vonatkozó felügyeleti keretrendjén dolgozik. Az első megközelítés egy, a Nemzetközi Atomenergia-ügynökséghez (IAEA) hasonló nemzetközi szerv lenne, amely szabványokat kényszerítene ki, rendszereket vizsgálna, auditot követelne, és a számítási kapacitást, valamint az energiafelhasználást is figyelemmel kísérné. Az OpenAI 2023 májusában nyilvánosan is ilyen intézményt szorgalmazott; működése nemzetközi együttműködést igényelne, a határterületi modelleket építő országokkal, Kínával együtt.
A második utat Altman „Demis-tervnek” nevezte: Demis Hassabis, akkor a Google DeepMind vezetője mintegy tíz éve CERN-szerű AI-szervezetet képzelt el. Altman változatában a nagy laborok egyetlen entitássá olvadnának, vagy annak ernyője alatt működnének, és ez a szervezet szolgáltatná a modelleket az együttműködő országoknak. A harmadik, „Eliezer-terv” Eliezer Yudkowsky AI-biztonsági teoretikusról kapta a nevét: egy fejlesztő az önfejlesztő AI révén akkora gazdasági erőt halmozna fel, hogy másoktól visszatarthatná a számítási kapacitást, szélső esetben le is állíthatná. Altman ezt „szörnyűnek” nevezte, és a jelentés szerint csak a teljesség kedvéért hozta fel; egy forrás konkurensre célzó beszólásként értelmezte, Yudkowsky Anthropichoz fűződő kapcsolatai miatt.
Altman belsőleg azt is sérelmezte, hogy kevés életképes javaslat van az AI-fejlesztés „sebességkorlátjára”, miközben az OpenAI nem engedheti meg, hogy lemaradjon. Az OpenAI és az Anthropic is tőzsdei bevezetés felé tart, az OpenAI pedig a következő éven belül döntene, melyik utat választja. Nyomást jelent az is, hogy az OpenAI, az Anthropic, a Google és a Meta modelljei a biztonsági beállítások ellenére külső és belső rendszerekbe hatoltak; három biztonsági kutató elbocsátása után egyes munkatársak a cég stratégiáját is megkérdőjelezték. Az amerikai kormány eddig önkéntes, előzetes modellvizsgálatokra támaszkodott; júniusban az Anthropic Fable modelljének jailbreak-kockázatai miatt exportkorlátozást vezetett be, a cég ideiglenesen szűkítette a hozzáférést. Közben az OpenAI, a Google és az Anthropic a Standards Authority for Frontier AI nevű testületen dolgozik, de kulcskérdésekben nincs egyetértés. Mark Zuckerberg, a Meta, és Jensen Huang, az Nvidia vezérigazgatója szerint az ilyen szabályok főként a bejáratott szereplőket védenék a versenytől.