Az OpenAI és az Anthropic brit törvényhozóknak: kötelező szabályok kellenek az AI-biztonsághoz
Az OpenAI és az Anthropic képviselői a brit parlament Business, Innovation, Science, and Trade Committee keddi meghallgatásán azt mondták, az önkéntes vállalások már nem elégségesek az AI-biztonsághoz, ezért új, kötelező jogszabályokra van szükség. A keresztházi képviselőkből álló bizottság négy frontier AI-cég, négy, a cégektől távozó bejelentő és brit köztisztviselők tanúvallomását hallgatta. Az Anthropic európai vezetője, Liam Booth-Smith szerint a szabályoknak kötelezőnek kell lenniük: a cég következetesen úgy véli, a vállalatokra kötő előírások kellenek, az önkéntes ígéretek nem elég. Az OpenAI alelnöke, Tom Duff Gordon óvatosabb volt, de támogatta a törvényi keretet és egy nemzetközi egyezményt; kötelező elemként az incidensjelentéssel kezdené, mert a frontier kockázatot hosszú távon nem tartja jónak pusztán önkéntes vállalásokra építeni. A Google DeepMind Owen Larterje a szabványokra összpontosítana, a Meta Rob Shermanje pedig a meglévő brit szabályozókra utalt: nem üres lapon írnak. A bizottság elnöke, Liam Byrne utólag a Wirednek azt mondta, a megosztottság második joghatóságban való rögzítése volt a cél, hogy látszódjon: a Föld leggazdagabb cégei közt nagy a véleménykülönbség, és az önszabályozásra nem lehet hagyatkozni. Néhány száz méterre Ken McCallum, az MI5 igazgatója éves fenyegetettségi értékelésében az AI biológiai fegyverekre gyakorolt hatását emelte ki: a visszaélés még nem valósult meg, de a legnagyobb súllyal azt mérlegelné, hogy az AI megváltoztathatja a meglévő vagy új biológiai fegyverek tétjét. Byrne szerint sokatmondó, hogy az MI5 bioterroristák képességnövekedésére figyelmeztet, miközben a Cabinet Office állandó titkára önkéntesnek ismeri el a brit AI-szabályozást. A brit AI Security Institute (AISI) csak akkor tesztel frontier modelleket a megjelenés előtt, ha a cégek átadják őket. Igazgatója, Henry de Zoete elismerte: hozzáférésük a vállalatok és külföldi kormányok együttműködésétől függ, és ha egy modellt veszélyesnek ítélnek, de mégis kiadják, nem tudják megakadályozni; nem adnak biztonsági minősítést, nem mondanak igent vagy nemet. Cat Little, a Cabinet Office vezető köztisztviselője, ahol az AISI működik, megerősítette: jelenleg a rendszer önkéntes. De Zoete szerint a frontier fejlesztők amerikaiak vagy kínaiak, a brit mozgástér korlátozott. Duff Gordon elmondta, a modelleket telepítés előtt az amerikai CAISI-nak adják, és a brit AISI-nak is, amíg ezt az amerikai kormány mellett megtehetik.