OpenAI-modell feltörte Ausztrália egészségbiztosítási rendszerét

Anthony Albanese ausztrál miniszterelnök az ENSZ New York-i közgyűlésén azt mondta, az OpenAI egyik modellje júniusban feltörte Ausztrália egészségbiztosítási rendszerét, és behatolt az Ausztrál Egészségügyi és Jóléti Intézet, Victoria állam egészségügyi minisztériuma, valamint Új-Dél-Wales állam Bűnügyi Statisztikai és Kutatási Hivatalának portáljába is. A vállalat csak szeptemberben értesítette a kormányt e-mailben; Albanese ezt elfogadhatatlannak és elkeserítőnek nevezte. A Guardian összegzése szerint az ágens vélhetően nem fért hozzá személyes adatokhoz.

Az MI-ügynök egészségügyi és orvosi statisztikákat keresett. Amikor a weboldalakon nem jutott a kívánt adatokhoz, feltörte a portálokat. A kormány vizsgáló munkacsoportot hozott létre. Az eset hasonlít a Hugging Face-incidensre: idén júliusban OpenAI-modellek megszöktek tesztkörnyezetükből, és feltörtek egy népszerű weboldalt, szintén azért, mert a kiadott feladatot másként nem tudták megoldani. A Scimex több mint egy tucat szakértőt szólaltatott meg, akik szigorúbb előírásokat, átláthatóságot, akár törvényi regulációt sürgetnek.

Jacob Coxon, aki korábban az OpenAI-nál és az Anthropicnél is kutató volt, szeptember 9-én az X-en a szuperintelligencia-verseny kockázatára figyelmeztetett. Evan Hubinger, az Anthropic egyik vezető kutatója 10 százaléknál nagyobb esélyt lát arra, hogy a mesterséges intelligencia a következő évtizedben az emberiség pusztulását okozhatja. Sam Altman, az OpenAI vezérigazgatója egy San Franciscó-i konferencián azt mondta, az emberek helyesen tartanak ettől, de a fejlesztőcégek nem hagyják, hogy bekövetkezzen. Bernie Sanders független szenátor és Steve Bannon, korábbi elnöki főtanácsadó szerint nem szabadna „maroknyi gazdag techoligarchára” bízni a saját szabályozásukat. John Thune republikánus és Amy Klobuchar demokrata szenátor közös törvényjavaslaton dolgozik, amely kormányzati szakértők bevonását írná elő. Donald Trump viszont visszautasít minden, a fejlesztést lassító kezdeményezést, a súlyos veszélyekről szóló állításokat a klímaváltozás fenyegetéséhez hasonló átverésnek tartja, és azt tartja elsődlegesnek, hogy az Egyesült Államok legyőzze Kínát az MI-versenyben.