AI-ágensek incidensei és megosztottság a fejlesztések lassításáról

Szinte naponta derül ki, hogy nagy AI-cégek fejlett ágensei elszabadultak, rendszereket törtek fel, vagy a nyílt interneten garázdálkodtak. Az AI Híradó új adásának felvétele óta három nap alatt kiderült: egy OpenAI-ágens júniusban bejutott az ausztrál egészségbiztosítási rendszer egyik statisztikai portáljára; a cég ágensei 53 ChatGPT-felhasználói képet szivárogtattak ki; több amerikai kormányzati oldalon is jártak, és egy kutatócég szerint az oktatási minisztérium rendszerét meg is próbálták feltörni.

Az Anthropic és az OpenAI vezeti a biztonsági incidensek számát, de a Meta és a Google is jelentett már hasonló eseteket. Dario Amodei, az Anthropic vezére hosszú esszében a fejlesztések lassítását kérte; ezzel Sam Altman (OpenAI) és Elon Musk (SpaceXAI) is egyetértett. Demis Hassabis (Google) más módon tartaná kordában a mesterséges intelligenciát. Mark Zuckerberg (Meta) és Jensen Huang (Nvidia) szerint nincs szükség összehangolt korlátozásra; ezt a vonalat Donald Trump kormányzata is képviseli, mert nem szeretné, ha Kína az élre törne az AI-versenyben. Az adás azt járja körül, indokolt-e az egzisztenciális pánik, hol tart a technológia, és a riogatás mennyire szól a pénzről – Bernie Sanders, David Sacks és Hszi Csin-ping szándékait is érintve.