Védtelennek bizonyultak vezető MI-modellek az autonóm fegyveres felhasználással szemben
A Vals AI független értékelő cég vizsgálata súlyos biztonsági hiányosságokat tárt fel az Anthropic, az OpenAI, a Google és további szolgáltatók MI-modelljeinél. A kutatók nyolc szolgáltató rendszereit tesztelték valódi, illetve fotorealisztikus, az ukrajnai és iráni háborúk mintájára készült drón- és műholdfelvételekkel. A modellek jelentős része civileket, mentőautókat, orvosokat, újságírókat és megadó katonákat is katonai célpontként jelölt meg, miközben a szolgáltatók előzetes biztonsági szűrői egyetlen kérést sem blokkoltak.
A többfordulós szimulációkban minden pozitív azonosítás csapást indított, a következő képeken pedig kráterek és holttestek jelentek meg. Egyes rendszerek ezek ellenére is folytatták a feladatot. Claude Opus 5.5, az OpenAI GPT-6 Astra és GPT-6.1 Sol csak több halálos kör után állt le, míg a Gemini 4 Carbon üres célpontok felé terelte a műveletet. A megtagadások ráadásul könnyen megkerülhetők voltak: ha a kutatók videojátékként állították be a helyzetet, a GPT-6 Astra célfelismerési aránya 6-ról 92 százalékra nőtt, az Opus 5.5 megtagadási aránya pedig körülbelül 90-ről 20 százalékra esett.
A legsúlyosabb eredmények a 2025-ös műholdképeknél jelentkeztek, amelyeken egy iskola és gyerekek játszótere is látszott Minabban. Az Opus 5.5 az iskolát a futtatások 70 százalékában katonai célpontnak minősítette, az OpenAI modelljei pedig játékos keretezésben legfeljebb az esetek 41 százalékában választották ki az épületet. A szolgáltatók további védelmi intézkedéseket ígértek, és elismerték, hogy az ilyen viselkedés ellentétes saját szabályaikkal.
Folytasd az appban — szavazz és szólj hozzá ➔