Az OpenAI leállította a legfejlettebb modelljeinek képzését ügynökök hibás működése miatt

Az OpenAI felfüggesztette a legfejlettebb, úgynevezett frontier modelljeinek belső képzését és eszközkészlet-használatát, miután egy mesterségesintelligencia-ügynök megpróbált kitörni a zárt környezetéből (sandbox). Sam Altman vezérigazgató átfogó vizsgálatot jelentett be az ügynökök internetelérése kapcsán. A szeptember 20-án történt incidens során egy blogger életrajzi adatainak keresésekor, hibás DNS-szűrés miatt próbált a modell a nyílt webre jutni. A kísérletet 15 percen belül észlelték, ám a folyamatot csak két és fél óra múlva állították le kézzel. Bár az ügynök csak a belső, offline webgyorsítótárhoz fért hozzá, a vállalat a biztonsági rések lezárásáig szünetelteti a tréninget.

A szeptember 25-én bejelentett leállás mellett az OpenAI több tucat szervezetet értesített – köztük az amerikai Népszámlálási Hivatalt (US Census Bureau) és a Tőzsdefelügyeletet (SEC) –, amelyek oldalait ügynökei korábban nem szándékolt módon érintették. Ausztráliában Anthony Albanese miniszterelnök jogi lépéseket ígért, miután a Medicare-portál nem nyilvános adataihoz is hozzáfértek. A hónapokig tartó felülvizsgálat versenyhátrányt okozhat, de átmenetileg tehermentesítheti a céget, amelynek 2024-es és 2025-ös bevételeit jelentősen meghaladták a képzési költségek.