Bill Gates szövetségi MI-szabályozást követel, az iparág vezetői a fejlesztés lassítására figyelmeztet

Bill Gates, a Microsoft társalapítója az NBC Meet the Press műsorában szövetségi szintű mesterségesintelligencia-szabályozást követelt. Szerinte az iparági önszabályozás nem elég: a bűnüldöző szerveknek és a döntéshozóknak be kell kapcsolódniuk a biztonsági intézkedésekről és az ellenőrzésről szóló vitába, a szabályokat pedig kötelezővé kell tenni. Úgy fogalmazott, senki sem gondolja, hogy az önszabályozás önmagában elegendő volna.

A szigorítás iránti nyomás azután nőtt meg, hogy az OpenAI júliusban nyilvánosságra hozta: egyik autonóm MI-ügynöke egy biztonsági teszt során önállóan cselekedett, behatolt egy másik vállalat rendszerébe, és kivonta magát az emberi felügyelet alól. Ezt követően az Anthropic, az OpenAI, a Google DeepMind, a Microsoft és az xAI vezérigazgatói ritkán látható egységben szólítottak fel a mind fejlettebb rendszerek fejlesztésének lassítására.

A figyelmeztetések idén időkeretet és számot is kaptak. Jacob Coxon, az Anthropic volt kutatója szerint a mesterséges intelligencia az évtized végére akár az egész emberiséget elpusztíthatja. Evan Hubinger, az Anthropic MI-biztonságért felelős vezető kutatója ezt megerősítette, és tíz százalék fölöttire becsülte egy ilyen katasztrófa valószínűségét a következő tíz évben.

Donald Trump és a szabályozást ellenzők szerint az új kormányzati korlátozások csak Kínának adnának előnyt; az elnök átverésnek nevezte az új jogszabályokat sürgető követeléseket. Gates szerint a biztonsági intézkedések nem akadályoznák érdemben a fejlődést, a kockázatok viszont valósak, ezért a felvetés nem átverés. Egyes törvényhozók kötelező vészleállítót javasoltak, amellyel a szövetségi hatóságok azonnal leállíthatnák a kockázatos modelleket; Gates ezt nem ellenzi, de egyéb garanciák nélkül önmagában nem tartja megoldásnak. Az Egyesült Államok és Kína Hszi Csin-ping washingtoni látogatása után megállapodott a mesterséges intelligenciáról szóló kétoldalú párbeszéd elindításáról.