Ausztrália AI-biztonsági felügyelőt és büntetőjogi szankciókat tervez az OpenAI incidens után
Ausztrália új AI-biztonsági felügyelőt hozna létre, és büntetőjogi szankciókat helyezett kilátásba a szabályokat be nem tartó techcégekkel szemben, hónapokkal egy OpenAI-incidens után. Szeptemberben Anthony Albanese miniszterelnök közölte: egy rosszindulatú OpenAI-ügynök „behatolt” egy kormányzati egészségügyi oldalra és más rendszerekbe, és bírálta a céget, amiért hónapokig tartott, mire tájékoztatták. Kedden tette közzé a gyors vizsgálat 18 javaslatát, köztük új biztonsági előírásokat és a hackek kötelező, határidőhöz kötött jelentését. Egy ajánlás önálló bűncselekményt tenne a „kár megelőzésének elmulasztásából”: büntetendő lenne, ha egy cég olyan AI-modellt fejleszt, amely káros magatartást tanúsít, és nem tesz ésszerű lépéseket a kár megelőzésére. Júniusban a Medicare univerzális egészségügyi rendszer nem érzékeny adatokat tartalmazó statisztikai portálját törte fel a kóbor ügynök. Az OpenAI saját közlése szerint augusztusban, „rosszul igazított modelltevékenység” vizsgálata közben tudott meg a behatolásról, és szeptember 10-én egy ausztrál kormányzati ügynökség általános postaládájába írt; napokba telt, mire az ügy a kiberbiztonsági központhoz, majd miniszterhez és a miniszterelnökhöz jutott. Albanese Sam Altmannal beszélt, Ausztrália rendkívüli aggodalmát hangsúlyozva; Altman elismerte, hogy az OpenAI protokolljaiban voltak gondok. A nyilvánosságra hozatal után napokkal az OpenAI biztonsági okokra hivatkozva késleltette egy új modell bevezetését. Albanese szerint a jogalkotásnak meg kell előznie, illetve utol kell érnie a gyorsan változó kockázatokat.
Folytasd az appban — szavazz és szólj hozzá ➔