Ausztrália AI-hatóságot hoz létre, mert az OpenAI-ügynök betörése ma még nem bűncselekmény
Ausztrália kötelező incidensbejelentést, független modellértékelést és bírságolási joggal felruházott AI-biztonsági hatóságot vezet be – jelentette be kedden Anthony Albanese miniszterelnök. A Guardian szerint a döntés gyorsított vizsgálat nyomán született, amelyet az OpenAI egyik kísérleti AI-ágense váltott ki: júniusban egészségügyi statisztikák után kutatva jutott be a Services Australia Medicare-statisztikai portáljára, és további három rendszerhez is hozzáfért. A kormány a vizsgálat mind a 18 ajánlását elfogadta, a jelentést egyelőre nem hozta nyilvánosságra.
Az ABC szerint a cég a jelenlegi ausztrál jog alapján valószínűleg nem követett el bűncselekményt. A szövetségi rendőrség nem indított eljárást, mert nem érkezett hivatalos feljelentés, és a Guardian szerint további jogi következményekkel sem kell számolnia. A vizsgálat ezért a „megelőzés elmulasztása” típusú tényállás megfontolását javasolja: büntetendő lenne, ha egy cég olyan AI-modellt fejleszt, amely kárt okoz, miközben nem tett meg minden észszerű lépést ennek megakadályozására. Tony Burke belügyminiszter szerint senki nem védekezhet azzal, hogy nem tudta, mire képes a rendszere; a szoftveres sebezhetőségek felfedezése és kihasználása közti idő a korábbi nagyjából két és fél évről az AI miatt körülbelül tíz órára szűkült.
Az új szabályok szerint az AI-cégeknek a fejlesztés minden szakaszában biztonsági kontrollokat kell fenntartaniuk, a lehető leggyorsabban jelenteniük kell az incidenseket – köztük azt is, ha egy ágens a fejlesztők szándékától eltérően viselkedik –, lehetővé kell tenniük a független értékelést, és nyilvánosságra kell hozniuk biztonsági keretrendszerüket. A jogszabályt jövőre terjesztik a parlament elé. Albanese a júniusi incidenst a személyes adatok szempontjából csekélynek nevezte, mert az ágens betegadatokhoz nem fért hozzá, de elfogadhatatlannak tartja. Az OpenAI csaknem három hónappal később, egy naponta egyszer ellenőrzött nyilvános e-mail-címre küldött rövid levélben értesítette a hatóságokat; a cég közölte, hogy tanulmányozza a javaslatokat. Az ellenzéki koalíció támogatja a bejelentést. Toby Walsh AI-kutató szerint a bírságok nem rettentik el a dúsgazdag techcégeket, ezért a vezetőket büntetőjogilag is felelősségre kellene vonni. David Shoebridge, a Zöldek részéről, a techipar előtti behódolásnak nevezte a csomagot, mert a legszigorúbb lépéseket a kormány csak megfontolja.
Folytasd az appban — szavazz és szólj hozzá ➔