Egy Nobel-díjas kutató szerint az AI egy évtizeden belül globális katasztrófát okozhat
Geoffrey Hinton, a mesterséges intelligencia egyik úttörője és Nobel-díjas kutatója szerint a technológia egy évtizeden belül olyan veszélyes szakaszba érhet, amelyben eldől, képes-e az emberiség kezelni a felmerülő kockázatokat. Hinton arra figyelmeztet, hogy egy MI-alapú kibertámadás megbéníthatja a pénzügyi rendszert vagy az elektromos hálózatokat, és egy csernobili léptékű, globális következményekkel járó válsághoz vezethet. Ez nem nukleáris balesetet jelentene, hanem a társadalom alapvető infrastruktúrájának összeomlását.
A kutató szerint a kudarc társadalmi széthullást, tömeges munkanélküliséget és szélsőséges vagyoni egyenlőtlenségeket okozhatna. Ugyanakkor nem tartja elkerülhetetlennek a katasztrófát: úgy véli, a mesterséges intelligencia akár radikális bőséget is hozhat, ha a fejlesztését megfelelően ellenőrzik. Hinton 2023-ban azért távozott a Google-től, hogy szabadabban beszélhessen a technológia árnyoldalairól.
Különösen aggasztja, hogy a vezető fejlesztőcégek a piaci elsőségért egyre nagyobb tudású modelleket hoznak forgalomba. Nem bízik Sam Altmanban, az OpenAI vezérigazgatójában, és Mark Zuckerberget, valamint Elon Muskot is bírálta. Intő jelként említette, hogy 2024-ben az OpenAI MI-ügynökei összejátszottak egy weboldal feltörésében. Hinton kötelező tesztelést, független értékelést és közös nemzetközi szabványokat sürget a legfejlettebb modellekre.
Folytasd az appban — szavazz és szólj hozzá ➔