Mit gondolsz, hogyan kellene az AI-fejlesztőknek kezelniük az olyan eseteket, amikor a Claude-ot kibertámadásokra vagy tömeges megfigyelésre használják vissza?

Az Anthropic egy csütörtöki jelentésében arról számolt be, hogy orosz és kínai nyelvű szereplők használták a Claude-ot kibertámadások automatizálására. Egy „JackPoterz” névre hallgató, oroszul beszélő szereplő testreszabott, AI-vezérelt munkafolyamatokka

• Szigorúbb korlátozásokat és felügyeletet kell bevezetni
• A jelenlegi biztonsági intézkedések elegendőek
• Ez elkerülhetetlen kockázata az AI fejlődésének
• Nem tudom eldönteni