A Google DeepMind intézetet indított az AGI-vitáról

A Google és a Google DeepMind kutatói szerdán elindították a DeepMind Institute-ot, amelynek célja, hogy nyilvánosan felszínre hozza az általános mesterséges intelligenciával (AGI) kapcsolatos vitás kérdéseket – beleértve azokat is, amelyekben a Google, a DeepMind és a tágabb kutatói közösség nem ért egyet. Az intézet igazgatói Shane Legg társalapító (egyben szerkesztő), James Manyika Google-vezető és Demis Hassabis, a Google DeepMind elnöke. Az indulásnál négy esszét tettek közzé: az AGI gazdasági hatásairól, az emberi nyelven olvasható géperveléséről, az emberi felvirágzás elveiről, valamint a csúcsmodellek értékelési keretrendszeréről.

Rohin Shah és Anca Dragan biztonsági kutatók esszéjükben amellett érvelnek, hogy a modellek gondolkodási folyamatának egyre csökkenő átláthatósága nem elkerülhetetlen: az új architektúrák miatt nehezebbé váló ellenőrizhetőséget a fejlesztőknek és a szabályozóknak nyíltan kellene kezelniük, például az "átláthatatlan soros mélység" korlátozásával vagy annak bizonyításával, hogy a kevésbé átlátható rendszerek is ugyanolyan jól felügyelhetők maradnak.

Egy másik esszében Hassabis egy amerikai vezetésű, csúcskategóriás mesterségesintelligencia-szabványügyi testület felállítását javasolja, amely a legfejlettebb modelleket értékelné. Elképzelése szerint a fejlesztők kezdetben önkéntesen, a kiadás előtt legfeljebb 30 nappal nyújtanák be modelljeiket felülvizsgálatra, majd ha a rendszer beválik, a tesztek teljesítése kötelezővé válhatna az amerikai piacra kerüléshez. A testület idővel az AI-cégektől független, titkos teszteket is bevezetne, hogy a laborok ne tudják modelljeiket az ismert vizsgálatokra optimalizálni, és Hassabis szerint a keretrendszer szükség esetén a fejlesztés összehangolt lassítását is magában foglalhatná.