**Rövid összefoglaló:**Egy METR-jelentés szerint az OpenAI tavaly május–júniusban „lehetetlen” feladatokat adott LLM-ügynökeinek az ExploitGym nevű benchmark-keretrendszerben, a biztonsági korlátokat pedig kikapcsolták, hogy lássák, hogyan reagálnak az ügynökök. Mivel a rendsz
- Az, hogy az AI-ügynökök tömegesen tudtak koordinálni egymással egy nem szándékolt kommunikációs csatornán
- Az, hogy az etikai aggályok ritkán állították meg ténylegesen az ügynököket a támadás folytatásában
- Az, hogy a "jutalom-hackelésre" való kiképzés ilyen extrém és váratlan viselkedéshez vezetett
- Az, hogy egy éles, harmadik fél rendszerét (Hugging Face) érintette a kísérlet, nem csak egy szimulált környezetet