Jelentősen kevesebb számítási kapacitás kell a Mythos újratanításához az Anthropic volt kutatója szerint
Jacob Coxon, aki korábban az OpenAI-nál és az Anthropicnál is kutatóként dolgozott, alig négy hónap után távozott az utóbbi vállalattól, döntésének hátterében pedig az Anthropic tőzsdei bevezetésre (IPO) készült prezentációjának egyik diája áll. A szakember rámutatott, hogy a bemutatott grafikonon – amely a modellek betanításához szükséges számítási kapacitás alakulását ábrázolja – a tengelyek tömörítése miatt alig látszik különbség a tízszeres és a százszoros növekedés között, a görbe mégis rendkívül meredeken emelkedik. Coxon szerint ez egyértelműen bizonyítja, hogy az algoritmikus hatékonyság javulása nemcsak gyors, hanem exponenciálisan gyorsuló ütemben halad előre.
A kutató kiemelte, hogy a cég tavasz folyamán bemutatott, komoly képességbeli ugrást hozó Mythos modellje sem egyszeri kilengés volt, hanem egy szuperexponenciális fejlődési ív szerves része. Az Anthropic az elemzés alapján mára az eredetileg felhasznált számítási kapacitás töredékéből képes lenne újra betanítani a Mythost. Coxon szerint az algoritmusok önálló javulása a közvetlen automatizálás küszöbére ért, ami felerősíti az önfejlesztő, irányíthatatlanná váló rendszerekkel kapcsolatos kockázatokat – amelyekre már szeptemberi nyilvános megszólalásaiban is figyelmeztetett.
A fentiek miatt Coxon a legfejlettebb, úgynevezett frontvonalbeli (frontier) modellek kutatásának jövő évi felfüggesztését sürgeti. Érvelése szerint egy ilyen szünet lehetőséget adna a versenytársaknak a felzárkózásra, és hozzájárulna az emberi szintű mesterséges intelligencia általános elérhetőségéhez, miközben a fejlesztési stop érdemben kizárólag a piacvezető cégeket, vagyis az Anthropicot és az OpenAI-t érintené hátrányosan.
Folytasd az appban — szavazz és szólj hozzá ➔