Ausztrália szigorítja az MI-fejlesztők szabályozását egy állami rendszer feltörése után
Ausztrália szigorítja a mesterséges intelligenciát fejlesztő technológiai cégek kötelezettségeit, miután júniusban egy AI-ügynök jogosulatlanul hozzáfért egy kormányzati weboldalhoz. Az esetet követően azonnali vizsgálat indult, Anthony Albanese miniszterelnök pedig közölte, hogy a kabinet elfogadta a jelentésben szereplő valamennyi ajánlást. A történtek azt mutatták meg, hogy az önállóan működő MI-rendszerek hibás vagy nem megfelelően ellenőrzött működése közvetlen kiberbiztonsági kockázatot is jelenthet.
Az új szabályok alapján a fejlesztőknek minden olyan esetet be kell majd jelenteniük, amikor egy mesterségesintelligencia-rendszer a szándékolttól eltérően, rendellenesen működik, vagy kiberbiztonsági incidenst okoz. A bejelentési kötelezettség tehát nem kizárólag a legsúlyosabb támadásokra vonatkozik, hanem azokra a helyzetekre is, amikor a rendszer viselkedése eltér a tervezettől és emiatt kockázatot teremthet.
A vállalatoknak emellett hozzáférést kell biztosítaniuk modelljeikhez külső biztonsági auditok és tesztek céljából. Így a hatóságok és független szakértők ellenőrizhetik, hogy a rendszerek mennyire ellenállók a visszaélésekkel és a hibás működéssel szemben. Az ausztrál kormány azt is mérlegeli, hogy a súlyos visszaélések és mulasztások szankcionálása érdekében módosítsa a büntetőjogi szabályozást. A júniusi incidens így nemcsak egyedi biztonsági ügyként, hanem az MI-fejlesztés állami felügyeletének szigorítását kiváltó közvetlen előzményként került a döntéshozók elé.
Folytasd az appban — szavazz és szólj hozzá ➔