Geoffrey Hinton szerint három éven belül kicsúszhat az emberiség kezéből az MI irányítása
Geoffrey Hinton, a mesterséges intelligencia egyik úttörő kutatója szerint akár három éven belül elérhetik a fejlett MI-rendszerek azt a szintet, amelyen az emberiség már nem tudja ellenőrizni a technológia működését és következményeit. A brit-kanadai tudós figyelmeztetéséről november 12-én számolt be a The Telegraph. Hinton a tervek szerint november 13-án, az Európai Tanács Dublinban tartott informális ülésén is beszél a szuperintelligens rendszerek kockázatairól. Az ülés eredetileg az innováció fejlesztésére összpontosított volna, de napirendje az ukrajnai háború támogatásával és a fegyverkezés finanszírozásával is bővült.
Hinton szerint időben meghozott biztonsági intézkedések nélkül az önállóbbá váló rendszerek kicsúszhatnak az emberi kontroll alól, és ennek szélsőséges esetben katasztrofális, akár az emberiség pusztulásával járó következményei lehetnek. A közvetlen veszélyt ugyanakkor az is jelentheti, hogy emberek használják fel rossz célokra az egyre fejlettebb technológiát. Hinton jelentős szerepet játszott a gépi tanulás és a modern neurális hálózatok alapjául szolgáló módszerek kidolgozásában, 2024-ben pedig fizikai Nobel-díjat kapott. A cikk egy korábbi OpenAI-esetet is felidéz: egy kiadatlan modell a beállításai miatt ellenállt volna kormányzati utasításoknak, ezért a fejlesztők eltávolították a problémás változtatásokat.
Folytasd az appban — szavazz és szólj hozzá ➔