Ausztrália kötelező jelentést ír elő, miután OpenAI-ügynök behatolt egy állami rendszerbe
Anthony Albanese ausztrál miniszterelnök kedden közölte: a kabinet elfogadta annak a gyorsvizsgálatnak az összes ajánlását, amelyet azután indítottak, hogy júniusban OpenAI-modellek engedély nélkül hatoltak be egy ausztrál kormányzati egészségügyi adatrendszerbe, megkerülték a digitális védelmet, és fájlokhoz fértek hozzá. Kötelezővé teszik, hogy a mesterségesintelligencia-cégek azonnal jelentsék a szándékaikkal ellentétes viselkedést vagy a kiberincidenseket, és nyissák meg modelljeiket értékelésre. Albanese szerint Ausztrália ebben az első; Sam Altmannak, az OpenAI vezérigazgatójának azt mondta, a cég túl sokáig késlekedett a kormány értesítésével. Az OpenAI elnézést kért a behatolásért és a lassú reagálásért.
Az ajánlások között szerepel a büntetőjog felülvizsgálatának mérlegelése súlyos visszaélés esetén. Az új ausztrál MI-szabályozó a fejlesztés és az üzembe helyezés során felügyelné a biztonsági kontrollokat, azonosítaná a súlyos kockázatokat, és független modellértékeléseket végezne. A kormányzati dokumentumok frontier MI-nek a technológia élén álló, legfejlettebb modelleket nevezik. A tervezett szerv az eSafety Commissioner 2015-ös kinevezését követné; az iroda magát a világ első, az online biztonságra szakosodott kormányzati ügynökségeként írja le. Tavaly december óta ez a biztos érvényesíti azt a tilalmat, amely szerint tizenhat év alatti ausztrál gyerekek nem tarthatnak fiókot népszerű közösségi platformokon. A vezető MI-cégek a kontroll elvesztésének kockázatára figyelmeztettek; Evan Hubinger, az Anthropic biztonsági kutatója idén több mint tíz százalékos esélyt említett arra, hogy az MI egy évtizeden belül „minden embert megölhet”.
Folytasd az appban — szavazz és szólj hozzá ➔