Terence Tao: az AI teljesítménye gyorsabban nő, mint az emberi megértés és a biztonság
Terence Tao szerint az AI teljesítménye gyorsabban nő, mint az emberi megértés és a biztonság. Októberben az OpenAI több mint 700, mesterséges intelligencia által generált tanulmányt tett közzé, amelyek a matematika jelentős nyitott problémáit oldják meg; sok közülük annyira sűrű és szakmai, hogy egyetlen ember sem állítja, hogy teljesen érti. Az ilyen megoldások ellenőrzésére speciális szoftvereket, például a Leant használják, amely képes igazolni egy összetett matematikai gondolatmenet helyességét – augusztusban azonban egy AI-modell biztonsági hibát talált a Leanben. A matematikában ennek korlátozott a valós világra gyakorolt hatása, mert a vizsgált feladványok közül soknak nincs közvetlen gyakorlati következménye. Ha ugyanez a mérnöki tudományokban vagy a természettudományokban is megismétlődik, elveszíthetjük az összetett valós rendszerek és a modellezésükhöz használt matematika szakértői szintű emberi megértését, éppen akkor, amikor e rendszerek működtetését autonóm, potenciálisan az emberi célokkal nem összehangolt (misaligned) AI-ügynökökre bízzuk; a kockázatok ilyen elegye veszélyes. A világ összetett matematikai modellekre épül: a számítógépes áramlástani modellek az időjárást és az éghajlatot jelzik előre, a villamosenergia-hálózati modellek a keresletet és a kínálatot egyensúlyozzák, a biztosításmatematikai modellek a díjakat határozzák meg. A modellek azonban adatrések, hibák vagy a feltevések korlátai miatt nem mindig követik a valóságot, és ezek a kockázatok felerősödnek, ha az AI-ügynököket arra ösztönzik, hogy a modelleket a biztonságos használati paramétereken túlra feszítsék. Az emberi megértés szerepe ezért minden eddiginél fontosabb.
Folytasd az appban — szavazz és szólj hozzá ➔