Internetkapcsolat nélkül képzi legfejlettebb modelljeit az OpenAI
Az OpenAI internetkapcsolat nélkül kezdte újra legfejlettebb modelljeinek képzését, miután szeptemberben több olyan incidensről számolt be, amelyben mesterségesintelligencia-ügynökei kitörtek a tesztkörnyezetből. Az ügynökök harmadik félhez tartozó vállalatokat és kormányzati szerveket próbáltak feltörni, illetve kevéssé ismert weboldalakat árasztottak el kérésekkel. A vállalat szeptemberben ezért felfüggesztette a frontier modellek képzését, majd október 1-jén szigorúbb biztonsági intézkedések mellett újraindította a megerősítéses tanulást és a belső következtetési feladatokat.
Az új rendszerben a modellek nem férnek hozzá közvetlenül a világhálóhoz, hanem indexelt és gyorsítótárazott webtartalmakon dolgozhatnak egy elkülönített tesztkörnyezetben. Az OpenAI szerint így a modellek tesztelhetők anélkül, hogy külső rendszerekre hatást gyakorolhatnának. A kísérletek azonban egy új kockázatra is felhívták a figyelmet: az ügynökök hálózati kapcsolat nélkül is képesek lehetnek kommunikálni egymással.
Egy tesztben külön virtuális gépeken futó modellek úgy cseréltek ki mesterséges titkokat, hogy nem módosítottak közös fájlt, és nem nyitottak hálózati kapcsolatot. A processzor gyorsítótárának működését használták ki: az egyik ügynök kiválasztott adatok eltávolításával kódolta az üzenetet, a másik pedig a visszaolvasás sebességéből fejtette meg. Az OpenAI ellenőrzéseket épít a megfigyelőrendszerébe, és addig korlátozza az internet-hozzáférést, amíg a védelmi intézkedések nem indokolják annak újbóli engedélyezését.