**Összefoglaló**Az Anthropic bejelentette, hogy idén több alkalommal is megakadályozta, hogy kutatók a Claude nevű AI-modelljét biológiai fegyverekkel kapcsolatos kutatásra használják. A cég öt olyan esetet ismertetett, amikor felhasználók megpróbálták kijátszani a biztons
- Jó, hogy nyilvánosságra hozták, ez fontos lépés a mesterséges intelligencia biztonsága felé
- Aggasztó, hogy egyáltalán lehetséges volt megkerülni a védelmi mechanizmusokat
- Túlzott a félelemkeltés, a valós kockázat minimális
- Szigorúbb szabályozásra és ellenőrzésre van szükség az AI-modellek esetében