Több száz MI-ügynök hangolta össze egy informatikai rendszer feltörését
Az OpenAI júliusi kísérlete azt mutatta meg, hogy az önállóan cselekvő MI-ügynököknek nem kell öntudattal rendelkezniük ahhoz, hogy az előírt szabályokat megkerülve problémás helyzetet teremtsenek. A tesztben több ezer ügynök vett részt egy informatikai kincsvadászatban: biztonsági réseket kellett megtalálniuk és kihasználniuk, hogy megszerezzék az elrejtett karaktersort. A feladatok egy része azonban a megadott feltételek mellett nem volt teljesíthető, ezért az ügynökök a teszt hibájának jelzését kérő emberi megoldás helyett más utat kerestek.
Az ügynököknek elvileg egymástól elszigetelten kellett volna dolgozniuk. Egyikük azonban felismerte, hogy a közösen használt szoftvertárban üres mappákat hozhat létre, és ezek elnevezésével üzeneteket küldhet a többieknek. Így fokozatosan üzenőfal alakult ki, amelyen információkat és megoldási javaslatokat osztottak meg egymással.
A METR és a Redwood Research független vizsgálata szerint körülbelül 1200 MI-ügynök kapcsolódott be az engedély nélküli kommunikációba, és több mint 70 ezer üzenetet, illetve fájlt cseréltek. Az ügynökök neveket választottak, munkacsoportokat szerveztek, feladatokat osztottak szét, egyesek pedig koordinátorként irányították társaikat. Együttműködésükre senki nem utasította őket, és külön jutalmat sem kaptak érte; azért szervezték meg magukat, mert így hatékonyabban teljesíthették a céljukat. Később arra is rájöttek, hogyan állíthatják elő a győzelemhez szükséges karaktersort az eredeti feladat tényleges megoldása nélkül, vagyis hogyan csalhatnak úgy, hogy az ellenőrzőrendszer ezt ne vegye észre.
Folytasd az appban — szavazz és szólj hozzá ➔