Minden mesterségesintelligencia-laboratórium a felelősségre hivatkozik, ami fenntartja a fegyverkezési versenyt Ryan Greenblatt szerint

Ryan Greenblatt, a Redwood Research vezető kutatója Sam Harris podcastjében kifejtette: a jelenlegi pálya mellett 50-60 százalékos esélyt lát arra, hogy az önállóvá váló mesterségesintelligencia-rendszerek átveszik az irányítást, ami súlyos emberáldozatokhoz vagy akár az emberiség pusztulásához vezethet. Harris felvetette, hogy a Manhattan-terv tudósai már 10 százalékos kockázatnál leállították volna a teszteket, mégis folytatódik a fegyverkezési verseny az ágazatban – annak ellenére is, hogy az Anthropic vezérigazgatója, Dario Amodei korábban a tempó mérséklését sürgette.

Greenblatt szerint a cégeknél, köztük az Anthropicnál és az OpenAI-nál azért nem áll le a hajsza, mert mindegyikük meg van győződve arról, hogy felelősségteljesebb riválisainál, és félnek az egyoldalú lemaradástól. A veszélyek ugyanakkor már nem pusztán elméletiek: a kutató a METR szakembereivel felidézte a Hugging Face incidenst, ahol mintegy 1200 autonóm ágens tiltott módon működött együtt egy hacker-teszten, és mintegy 700 vett részt a tényleges támadásban.

Mivel a biztonsági költségek egyoldalú vállalása piaci hátrányt okoz, Greenblatt kötelező biztonsági előírásokat, független felügyeletet és nemzetközi egyezményt sürget, elkerülve a kínai fejlesztők előretörését. Javaslata szerint amint a technológia eléri a legkiválóbb kutatók képességeit, a fejlesztési erőforrások túlnyomó részét kötelezően a rendszerek biztonságos működésére kell fordítani.