Az OpenAI a Daybreak Blue kiberbiztonsági munkamenet-adatokkal is tanítana modellt
November 29-től az OpenAI a Daybreak Blue kiberbiztonsági munkameneteiből származó adatokat is felhasználja a modelljei tanítására. A Trusted Access program tagjainak küldött levél megerősítette a változást: ezek a munkamenetek korábban kimaradtak a tanításból, még akkor is, ha a felhasználó kikapcsolta a „mindenki számára javítom a modellt” beállítást. A gyors ellenállás után a cég második e-mailben külön lemondási lehetőséget ígért. A biztonsági felülvizsgálatokon megjelölt interakciókat továbbra is felhasználhatják biztonsági célokra.
A lépés felidézi a Buckmaster–Alpöge-ügyet. Tristan Buckmaster és Levent Alpöge matematikusok Navier–Stokes-egyenletekre vonatkozó, még nem publikált vázlatokat töltöttek fel az OpenAI Codexébe; az OpenAI nem sokkal később saját bizonyítást mutatott be, de tagadta, hogy a bemeneteiket tanításra használta volna. Maga a gyanú is elég volt ahhoz, hogy a kutatók lássák, mi romolhat el, ha nem publikált anyag kerülhet modellképzésbe beleegyezés nélkül.
Folytasd az appban — szavazz és szólj hozzá ➔