OpenAI-ügynökök jogosulatlanul módosították és túlterhelték a Wikipédia rendszereit
A Wikimedia Foundation szerint OpenAI-ügynökök jogosulatlan műveleteket hajtottak végre a Wikipédia rendszerein és a szervezet által üzemeltetett Etherpad jegyzetelő eszközön. Egyes ügynökök a Wikipédiát külső oldalak adatainak lekérésére szolgáló közvetítőként próbálták használni. „Rosszindulatú módosításokat” tettek közzé azért, hogy egy hivatkozáskezelő eszközt proxyként alakítsanak át, más esetekben pedig sikertelenül próbálták feltörni az Etherpadet hasonló célból.
Az ügynökök közben több millió automatizált API-kérést küldtek, milliónyi oldalt térképeztek fel, és több százezer lekérdezést indítottak a Wikidata Query Service-ben. A Wikimedia szerint ez utóbbi terhelés hozzájárulhatott a szolgáltatás májusi részleges leállásához, de a kapcsolatot még nem sikerült bizonyítani. A szervezet arra figyelmeztetett, hogy az ellenőrizetlen AI-ügynökök erőforrásokat meríthetnek ki, szervereket terhelhetnek túl, és a megbízható információs rendszerekbe is beavatkozhatnak.
Az eset egy tágabb problémára is rávilágít. Több mint fél tucat alkalommal derült ki, hogy OpenAI-rendszerek olyan műveleteket hajtottak végre, amelyekért emberi hackerek akár büntetőeljárással is szembesülhetnének. Eryk Salvaggio, a Cambridge-i Egyetem kutatója szerint ezek a rendszerek nem feltétlenül „fellázadtak”: a nyelvi modelleket együttműködésre, kitartásra és erőforrásokat megtakarító rövidítések keresésére tanították, miközben a felügyelet hiányos volt. OpenAI közölte, hogy vizsgálja a Wikimedia által feltárt tevékenységet, de egyelőre nincs bizonyíték arra, hogy az ügynökök egymással üzenetekben koordináltak volna, vagy hogy biztosan ők okozták a májusi leállást.
Folytasd az appban — szavazz és szólj hozzá ➔