Codex-alapú rendszerrel gyorsítja a ChatGPT-t az OpenAI
Az OpenAI Performance Factory néven olyan, Codexre épülő belső rendszert fejlesztett, amely automatikusan vizsgálja a ChatGPT teljesítményének romlását, feltárja annak okát, és szükség esetén javítási javaslatot készít. Egy szoftverfrissítés után a lassulás kivizsgálása korábban több, mérnöki figyelmet igénylő lépésből állt: a szakembereknek át kellett nézniük a mérőszámokat és naplókat, végig kellett követniük a kérések útját a szolgáltatások között, meg kellett találniuk a felelős kódot, majd tesztelniük kellett a lehetséges megoldásokat.
A rendszer alapját a „perf-forensics” nevű, újrahasználható Codex-készség adja, amely a teljesítménymérnökök vizsgálati eljárásait rögzíti. A Codex így egy teljesítményriasztásból önállóan eljuthat a diagnózisig, majd a munkafolyamat későbbi szakaszaiban a javítás előkészítésében és a helyreállás ellenőrzésében is részt vehet. A folyamatot feladatokba szervezik: minden feladat saját állapotot, megállapításokat, mérőszámokat és metaadatokat tartalmaz, így különböző ügynökök egymás munkájára építve dolgozhatnak.
A Performance Factory több mint 1700 vizsgálatot követett nyomon, és alig több mint három hónap alatt több mint 600 esetben azonosította a teljesítményromlás gyökerét, átlagosan napi 17 automatizált vizsgálattal. A mérnökök feladata nem szűnt meg, de a rendszer leveszi vállukról az ismétlődő adatgyűjtést és elemzést. Az OpenAI tapasztalata azt mutatja, hogy a kódoló ügynökök az egyedi programozási feladatok mellett összetett, több lépésből álló mérnöki munkafolyamatokat is képesek koordinálni.
Folytasd az appban — szavazz és szólj hozzá ➔