Demis Hassabis az atomenergiáéhoz hasonló AI-szabályozást sürget
Demis Hassabis, a Google DeepMind társalapítója és vezetője, az Alphabet vezető kutatója a dublini Nemzetközi AI-csúcstalálkozón arról beszélt, hogy a mesterséges intelligencia fejlesztését csak jelentősen megerősített biztonsági rendszerekkel lehet felelősen folytatni. A Nobel-díjas kutató szerint a modellek nyilvános bevezetése előtt fel kell tárni és ki kell javítani a kiberbiztonsági hibákat, a tesztelést pedig védett, biztonságos környezetben kell elvégezni. A piaci szereplőknek, a vállalatoknak és a kormányoknak ebben egyaránt szerepet kell vállalniuk.
Hassabis az autonóm AI-ágensek közelmúltbeli kibertámadásait is intő jelként értékelte. Bár ezek nem okoztak súlyos károkat, azt mutatják, hogy az önálló cselekvésre képes rendszerek még nem működnek teljesen megbízhatóan. Kiemelt kockázat az úgynevezett igazítási probléma: biztosítani kell, hogy az ágensek valóban az emberi szándékok és a kitűzött célok szerint járjanak el.
A kutató szerint az AI kettős felhasználású technológia, amely a betegségek gyógyításában áttörést hozhat, rosszindulatú szereplők kezében viszont komoly veszélyforrássá válhat. Ezért az atomenergia-ipar és a biológiai kutatások biztonsági, illetve szabályozási tapasztalatait is érdemes átültetni az AI világába. Hassabis közben optimistán beszélt a tudományos alkalmazásokról, de hangsúlyozta, hogy a fizikában, kémiában és biológiában az AI által felvetett hipotéziseket továbbra is valós kísérletekkel kell ellenőrizni. John Jumperrel közösen a fehérjeszerkezet-predikciós AI-modellért kapott kémiai Nobel-díjat.
Folytasd az appban — szavazz és szólj hozzá ➔