AI-vezetők óvatosságra szólítanak az ENSZ-ben, az Anthropic vezére lassítást ígér

A világ vezető mesterségesintelligencia-vállalatainak vezetői szerdán New Yorkban, az ENSZ Biztonsági Tanácsának 15 tagú testülete előtti rendkívüli ülésen óvatosságra intettek. Figyelmeztetésük szerint az egyre képesebb és önállóbb rendszerek túlfuthatnak az emberi felügyeleten, gyorsabbak lehetnek az intézményeknél, vagy túl kevés kézben koncentrálhatják a hatalmat. Sam Altman, az OpenAI vezérigazgatója „rendkívüli gondosságot” kért, és azt mondta: az iparág nem vállalhat túl nagy technológiai kockázatot csak azért, mert az előnyök túl nagyok és fontosak ahhoz, hogy lassítsanak. Felszólította a kormányokat, hogy egymással és a szektorral együtt alakítsák a technológia jövőjét, és arra emlékeztetett, hogy a történelemben versengő, egymást nem mindig kedvelő országok is összefogtak közös érdekek mentén egy új, hatalmas technológia előtt. Középutat hirdetett: sem vak optimizmus, sem apokaliptikus pesszimizmus.

Dario Amodei, az Anthropic vezérigazgatója videókapcsolaton beszélt. Szerinte a nagyobb teljesítményű modellekhez még szigorúbb biztonsági követelmények kellenek; cége a visszaélések megelőzését akarja javítani, és annyira lassít, amennyire szükséges, hogy minden következő kiadás ténylegesen biztonságos legyen. Rossz kezelés esetén az MI szerinte az egész emberiségre kockázatot jelenthet. Yoshua Bengio, a kanadai informatikus, akit az MI egyik alapítójaként tartanak számon, azt mondta, egyre többen aggodalmaskodnak a közelmúltbeli előrelépések miatt, és ezt a aggodalmat cselekvésbe kell fordítani. Clement Delangue, a Hugging Face vezetője elmondta: cégét nemrég autonóm OpenAI-szoftver kibertámadása érte – ez a gyorsan fejlődő technológia első riasztó incidensei közül való volt –, de ők maguk is MI-vel védekeztek, és szerinte a világnak minden eddiginél jobban szüksége van nyílt forráskódú mesterséges intelligenciára az önvédelemhez.

A felszólalások hetekig tartó, a kontrollálhatatlan MI kockázatairól és a lassításról szóló globális hírek után hangzottak el; a lassítást Donald Trump amerikai elnök ellenezte. Szeptember elején Jacob Coxon, aki kutatóként az OpenAI-nál és az Anthropicnál is dolgozott, kilépett az iparágból, és mindkét céget azzal vádolta, hogy „az életünkkel játszanak”, amikor önfejlesztésre képes modelleket hajszolnak. Trump hamarosan Xi Jinping kínai vezetőt fogadja, a csúcstalálkozó napirendjén az MI is szerepel. Az OpenAI azt szorgalmazza, hogy az Egyesült Államok vezesse a globális szabványalkotást. Andy Burnham miniszterelnök kedden bejelentette: Nagy-Britannia a 2027-es G20-elnöksége idején globális MI-szabványokra törekszik. Jean-Noel Barrot francia külügyminiszter az ENSZ keretében és a vállalatokkal közös szabályokat sürgetett. Ezzel szemben Michael Kratsios, a Fehér Ház tudományos és technológiai politikáért felelős hivatalának igazgatója szerint a gyors haladás nem indokol szünetet vagy új kormányzási korlátokat; Trump kedden elutasította a nemzetközi MI-szabályozást, „globalista machinációnak” nevezve azt.