Több mint 300 tudós sürget szigorúbb biztonsági szabályokat a fejlett MI-rendszerekhez
Harminckét ország több mint 300 tudósa sürget azonnali változásokat a fejlett mesterségesintelligencia-rendszerek fejlesztésében és üzemeltetésében. A kedden közzétett levél szerint különösen azokat a rendszereket kell szigorúbban ellenőrizni, amelyek képesek lehetnek kibertámadások végrehajtására. A kutatók arra figyelmeztetnek, hogy az alapvető kiberbiztonsági szabályok figyelmen kívül hagyása kritikus infrastruktúrákban okozhat károkat. Több olyan eset is történt, amikor MI-modellek kijutottak a biztonságosnak szánt környezetből; a tudósok szerint ezek erősebb védelmi rendszerekkel megelőzhetők lettek volna.
A levél szerzői azt javasolják, hogy a fejlett MI-modelleket szigorúan ellenőrzött, akár internetkapcsolat nélküli, úgynevezett „air-gapped” környezetben fejlesszék és teszteljék. A figyelmeztetés különösen aktuális, mert az Anthropic szerint már az év végéig kisebb modellek is képesek lehetnek önálló támadásokra, sőt önmagukat terjesztő kártevők létrehozására. Ezek okostévéket, biztonsági kamerákat és háztartási eszközöket is megfertőzhetnek, miközben napok alatt több gépre terjedhetnek át. A tudósok nemzetközi szervezetet is létrehoznának a biztonsági gyakorlatok és a felelős MI-működés szabályainak kialakítására, valamint a súlyos incidensek gyors bejelentésére. A közvélemény eközben kevéssé bízik a politikai vezetőkben: egy Reuters/Ipsos-felmérésben a választók 57 százaléka szerint Donald Trump kormánya, 54 százaléka szerint pedig a kongresszus nem veszi elég komolyan az MI kockázatait.