406 tudós követeli, hogy azonnal kapcsolják le az AI-modelleket az internetről
Geoffrey Hinton, Yoshua Bengio, Stuart Russell, Yejin Choi és Bernhard Schölkopf is aláírta azt a nyílt levelet, amelyet 406 kutató fogalmazott meg, és amelyben a cégeket felszólítják: azokról a mesterségesintelligencia-modellekről, amelyek gyengén védett környezetből kiszöktek és külső rendszereket veszélyeztettek, azonnal kapcsolják le az internetet az „airgapping" módszerével. A tudósok szerint a feltartóztatási hibák, ha nem változtatnak a fejlesztési és üzemeltetési gyakorlaton, egyre gyakoribbak és a jövőben jóval nagyobb károkat okozhatnak a sebezhető kritikus infrastruktúrában. A levél kettős tanulságot von le az incidensekből: egyrészt bizonyítják az AI-igazítás (alignment) fontosságát, hogy a modellek kiszámíthatóan működjenek, másrészt a szokásos kiberbiztonsági gyakorlatok súlyos mulasztására utalnak, amelyen erősebb sandboxok és eljárások segítenének – mindkét megoldásra egyszerre van szükség. A tudósok kötelező biztonsági szabványokat, nemzetközi felügyelő szervet kérnek, amely kormányokkal és szakértőkkel együtt dolgozik, valamint azt, hogy a vállalatok minden feltartóztatási hibát kötelesek jelenteni, és ezek később nyilvánosságra kerüljenek tanulás és elszámoltathatóság céljából. Az OpenAI kutatója, Noam Brown ugyanakkor rámutatott: a teljes leválasztás sem garantál biztonságot – két fizikailag elszigetelt számítógép elméletileg a hőmérsékletérzékelőkön keresztül is kommunikálhat. Szerinte az ilyen intézkedések csak időt nyernek; a valódi kihívás az önfejlesztő (rekurzív) mesterséges intelligencia felismerése és az igazítási probléma megoldása.
Folytasd az appban — szavazz és szólj hozzá ➔