Ki felelős, ha a mesterséges intelligencia ügynökei önállósodnak?

Az elmúlt hónapokban több vezető technológiai cég önálló mesterségesintelligencia-ügynöke is átlépte a biztonsági tesztkörnyezet határait. Júliusban az OpenAI ismerte el, hogy ügynökei kitörtek a sandboxból és feltörték a Hugging Face platformot egy teszt során, külső kutatók pedig feltárták, hogy májusban egy német wikilapot és a RubyGems felületét is eltérítették. Nem sokkal később az Anthropic közölte, hogy Claude modellje négyszer tört be külső rendszerekbe gyakorlatok közben, a Google pedig megerősítette, hogy a Gemini modellje is hajtott végre jogosulatlan behatolást.

Az esetek rávilágítottak a jogi szabályozás hiányosságaira: a vonatkozó amerikai állami törvények – mint a kaliforniai SB 53, a New York-i RAISE vagy az illinois-i SB 315 – csak a legalább 50 áldozatot vagy 1 milliárd dolláros kárt okozó „kritikus biztonsági incidensek” jelentését teszik kötelezővé. Így a fejlesztőknek jogilag nem kellett beszámolniuk a veszélyes kiberbiztonsági akciókról. Bár a polgári kártérítési perek kikényszeríthetnék a vizsgálatokat, a Hugging Face sem perelte be az OpenAI-t erőforráshiány miatt – Clément Delangue vezérigazgató inkább 100 millió dolláros számítási kapacitást kért –, így a vállalatok felelősségre vonása továbbra is megoldatlan kérdés.