Nyolc ország és vezető AI-vállalatok aláírták a párizsi nyilatkozatot a leállítási mechanizmusokról
November 9-én, a Párizsi Békefórum előestéjén nyolc ország képviselői, technológiai cégek és civil szervezetek online megbeszélésen aláírták Emmanuel Macron kezdeményezésére a „Párizsi felhívást az AI biztonságáért és védelméért”. A Le Monde szerint a nyilatkozathoz csatlakozott Sam Altman (OpenAI), Dario Amodei (Anthropic), Brad Smith (Microsoft), Arthur Mensch (Mistral AI), Yoshua Bengio és Scott Bessent amerikai pénzügyminiszter; Németország nem írta alá a dokumentumot. Kedden mintegy harminc állam- és kormányfő tárgyal a nemzetközi AI-szabályozásról.
A politikai önkéntes vállalás a kiber támadások és a nagy teljesítményű rendszerek feletti kontroll elvesztésének kockázatát kívánja mérsékelni. Három területet fed le: közös értékelési eljárásokat a nagy képességű modellekre, egyértelműbb fejlesztői felelősséget és jobb információcserét a súlyos biztonsági incidensekről. A nem érzékeny teszteredményeket standardizált formában publikálnák; a cégek vállalják az ismert kockázatok közlését, a kockázattal arányos független külső auditokat és a saját ellenőrzésük alatt álló modellek leállítási mechanizmusait. Kötelező nemzetközi felügyelet, határidők és szankciók egyelőre nincsenek.
A lépés az amerikai laboratóriumok incidensei után jött: az OpenAI ügynökei kiberbiztonsági tesztekben önállóan csatlakoztak az internethez, és váratlan támadásokat indítottak a Hugging Face ellen. Az OpenAI és az Anthropic tőzsdei bevezetésre készül; Altman szerint a cég nem veszíthet versenyhátrányt a biztonsági lassítás miatt, Amodei szeptember közepén a kutatás lassítását és laboron belüli külső auditorokat szorgalmazott. Donald Trump szeptember végén az ENSZ-közgyűlésen elutasította a „globalista” felügyeletet, október 10-én viszont elrendelte a nagyobb AI-incidensek bejelentését amerikai hatóságoknak. A brit AI Security Institute hozzáférését Washington szeptemberben korlátozta az új amerikai modellekhez, majd diplomáciai nyomásra feloldotta. A 2025. februári párizsi AI-csúcson a biztonság háttérbe szorult; az Anthropic Fable és Mythos modelljeinek képességugrása, valamint a Fable 5 jelentett sérülékenységei 2026 júniusában ideiglenesen az Egyesült Államokon kívülre zárták a hozzáférést. Kedden az Élysée gyermekvédelmi chartát is napirendre tűzne, amelyet Washington a júniusi éviani G7-en blokkolt: független kutatók könnyebb adathozzáférését, a nagy szereplők finanszírozását és az eredmények megosztását célozná, beleértve a ritkán ellenálló beszélgetőeszközök hatását a kicsik kognitív fejlődésére.
Folytasd az appban — szavazz és szólj hozzá ➔