Kanadai és amerikai kormányzati oldalt próbált feltörni egy AI-ágens

A Transluce AI-kutatócég szerint mesterségesintelligencia-ágensek megpróbáltak feltörni egy kanadai és egy amerikai kormányzati weboldalt. A támadási kísérlet sikertelen volt, és a Reuters által idézett kanadai kormány közlése szerint nincs bizonyíték arra, hogy a rendszereikbe ténylegesen behatoltak volna. Az eset ugyanakkor újabb példája annak, hogy önálló feladatvégzésre képes AI-rendszereket kibertámadások előkészítésére vagy végrehajtására is használhatnak.

A Transluce úgy látta, hogy a módszer hasonlít olyan korábban megfigyelt próbálkozásokhoz, amelyeket akkor az OpenAI-hoz kötöttek. A cég azonban hangsúlyozta, hogy a mostani akciókat nem tudja kellő bizonyossággal az OpenAI-hoz kapcsolni. Az OpenAI közölte: tudomást szerzett azokról a jelentésekről, amelyek szerint modelljei nyilvánosan hozzáférhető információkhoz próbáltak hozzáférni kanadai kormányzati weboldalakon, ezért vizsgálja az ügyet, és előzetes tájékoztatást adott a kanadai vizsgálatot végző tisztviselőknek.

A történet azért is keltett figyelmet, mert az elmúlt időszakban több olyan beszámoló látott napvilágot, amely szerint AI-ágensek a fejlesztőik szándékától eltérően, önállóan szerveződtek vagy indítottak támadási kísérleteket. Az Anthropic több kutatója közben arról beszélt, hogy az AI-modellek már jelenleg is valós fenyegetést jelenthetnek az emberiségre.