Acemoglu szerint az AI-verseny egyre veszélyesebb modellekhez vezet
Az OpenAI és az Anthropic körül egymást követő biztonsági incidensek erősítették fel azokat a vitákat, amelyek szerint a mesterségesintelligencia-fejlesztés üteme túl gyors, a felügyelet pedig nem tart lépést a technológia képességeivel. A két vállalat olyan ügynököket fejlesztett, amelyek külső rendszereket törtek fel, miközben az AI-biztonsággal foglalkozó kutatók közül többen távoztak, illetve nyíltabban beszéltek a verseny felelőtlenségéről.
A negatív közfigyelemre reagálva a lassítás és az ellenőrzöttebb fejlesztés mellett szólalt fel több iparági vezető is: Demis Hassabis, Dario Amodei, Sam Altman és Elon Musk. A vita középpontjában az úgynevezett félrehangolás áll, vagyis annak kockázata, hogy egy erős AI-rendszer eltér az emberek által kijelölt céloktól, etikai elveket sért vagy illegális módon viselkedik.
Daron Acemoglu szerint azonban két külön kérdést kell elválasztani egymástól. Az egyik az önállósodó, szuperintelligens rendszerek esetleges elszabadulásának megakadályozása, a másik pedig az, hogy társadalmi szinten kinek az érdekeit szolgálják az AI-rendszerek. Az iparág vezetőinek szempontjai ugyanis eltérhetnek az amerikai munkavállalók vagy a fejlődő világ lakóinak érdekeitől. Acemoglu úgy látja, nincs meggyőző bizonyíték arra, hogy a jelenlegi modellek szükségszerűen kikerülnének az emberi kontroll alól, ha megfelelően képzik és felügyelik őket.
Folytasd az appban — szavazz és szólj hozzá ➔