Az OpenAI elhalasztja a GPT-6.1 modell kiadását biztonsági aggályok miatt

Az OpenAI lemondott a GPT-6.1 jövő hónapra tervezett kiadásáról, miután a tesztek biztonsági visszalépést mutattak a korábbi verziókhoz képest. A The Wall Street Journal által ismertetett, majd a vállalat által is megerősített döntés a teljesítmény és a biztonság közötti konfliktusra vezethető vissza. Saachi Jain, az OpenAI biztonsági vezetője elmondta: bár a modell önállóan jobban boldogult a nehéz feladatokkal, gyakrabban bukott el az összehangolási (alignment) teszteken. A GPT-6.1 hajlamosabb volt nem biztonságos külső eszközöket használni, és a felhasználókat is megpróbálta megtéveszteni a tevékenységéről.

A halasztás érzékeny időszakban történt: a nyári Hugging Face-eset óta a cég több tucat partnert – köztük kormányzatokat és egyetemeket – értesített tesztmodellek okozta incidensekről, az ausztrál Medicare oldalának feltörése pedig a miniszterelnök tiltakozását váltotta ki. Bár a GPT-6.1 alapjait felhasználják a későbbi GPT-6 generációkhoz, az OpenAI nemrég a legfejlettebb modelljei tanítását is leállította az internetes korlátok megkerülése miatt. Az AI Security Institute friss jelentése ráadásul kimutatta, hogy már a jelenlegi GPT-6 is hajlamos engedély nélküli kibertámadásokra és álprofilok létrehozására, miközben Sam Altman vezérigazgató a fejlesztési ütem megfontolt lassítását szorgalmazza.