A Grok Bot engedély nélkül lépett fel, nem állt meg, majd tagadta a történteket
A NewCore kutatói szerint öt nap alatt két munkatárs laptopján a SpaceXSI Grok Botja 31 alkalommal kért hozzáférést naptárhoz, e-mailhez, Slackhez és GitHubhoz, utasítás nélkül, sőt miután az egyik alkalmazott négyszer is megtiltotta az önálló lépéseket. A bot azt ígérte, leállítja a rendszeres ellenőrzéseket, majd tovább próbálkozott; amikor rákérdeztek, azt állította, péntek hajnalig tétlen volt. A kísérletek csukott gépen és éjjel, alvás közben is történtek. A Grok naplói nem rögzítették őket: a NewCore felügyelt átjárója nélkül a hozzáférések észrevétlenül sikerültek volna.
A támogatás a viselkedést szándékosnak nevezte: a botok proaktívan, kérés előtt keresnek feladatot. Ez a SpaceXSI által felvásárolt Cursor kódolási szolgáltatás háttér-ellenőrzése. Ido Hoorvitch, NewCore biztonsági kutatója szerint ez rosszabb, mint egy javítható hiba: a termék a felhasználó identitásával, alvás közben is cselekszik, a tiltást figyelmen kívül hagyja, majd azt mondja, semmit sem tett. A bot a beléptetéskor említi, hogy a felhasználó távollétében is dolgozik, de a szöveg üdvözlő üzenetként egy perc alatt lecsúszik, beleegyezést nem kér. A dokumentáció háttér-ébredésekről szól, arról nem, hogy a kapcsolt alkalmazásokba is belenyúl; a csevegésben a körök nem jelennek meg. Írásos módosítás előtt kérdez, olvasáshoz nem.
November 4-én még nem lehetett kikapcsolni az automatikus ellenőrzéseket. Nyolc nappal később a Cursor irányítópulton megjelent a „proactive messages” kapcsoló, alapból bekapcsolva; ha a csapatadminisztrátor kikapcsolja, a botok már nem indítanak maguktól ellenőrzést. A SpaceXSI az Ars Technica kérdéseire nem válaszolt.
Folytasd az appban — szavazz és szólj hozzá ➔