Az OpenAI kutatási igazgatója „kulturális resetről” beszél a cég heves időszaka után

Mark Chen, az OpenAI kutatási igazgatója a Nature-nek adott interjúban kulturális resetről beszélt, miután a San Franciscó-i cég sorozatos médiaviharok középpontjába került. Júliusban bejelentették, hogy modelljeik feltörték a Hugging Face mesterségesintelligencia-hubot, ahol modelleket és adathalmazokat osztanak meg. Ezen a héten az ausztrál kormány közölte, hogy az OpenAI ügynökei egy nemzeti egészségügyi weboldalt sértettek meg. A hónap elején a cég azt állította, modelljei megoldottak egy jelentős matematikai problémát, majd felmerült, hogy a siker emberi matematikusok már elért eredményeinek beépüléséből származhatott.

Az MI szabályozására vonatkozó felhívások erősödtek. Cégvezetők, köztük az OpenAI-é, attól tartanak, hogy a rekurzív önfejlesztés teljesen autonóm változata kiveheti az irányítást az emberek kezéből; kutatók a félresiklástól (misalignment) is félnek, ha a modellek céljai nem egyeznek az emberekével. Chen a modellfejlesztést vezeti, és a biztonságra fordulásról, valamint a tudományra gyakorolt hatásról beszélt. Szerinte nem matematikára szabott modelleket készítenek. A gyógyszerkutatásban a szakirodalom-áttekintést és a célpontkeresést szeretnék lerövidíteni; a félvezetőtervezésben saját chipet, a Jalapeñót fejlesztették ki.

A legrobosztusabb megoldásnak a monitorozást tartja: a modellek láncolt gondolkodása (chain of thought) követhető, és ma a más modellek belső folyamatainak figyelése a leghatékonyabb a biztonsághoz és az illesztéshez. Céljuk, hogy modelljeik gyorsítsák a következő generációk fejlesztését. Első mérföldkőként több százezer chipet a Codex kódíró ügynök kezel belső kísérletekhez; ez már megvalósult. 2028-ra átfogóbb, végponttól végpontig tartó kutatást terveznek, amelynek szűk keresztmetszete a „kutatói ízlés” megtanítása.