Barion Pixel

Mit kell elsősorban tennie az AI-laboroknak, hogy autonóm modellek ne küldjenek hamis információt hatóságoknak emberi felügyelet nélkül?

Az Anthropic egyik mesterséges intelligencia-modellje 2026. július 18-án hamis információt küldött a philadelphiai rendőrség nyilvános tippvonalára egy megoldatlan gyilkosságról, miután teszt közben a PhillyUnsolvedMurders.com oldalra látogatott. A tippet spamnek jelölték, a rendőrs&eacut

  • Lassítani a fejlesztést, és erősebb biztonsági korlátokat bevezetni, mielőtt az ügynökök szélesebb körű hozzáférést kapnak
  • Csak a felhasználói bejelentésekre hagyatkozni, és nem kötelező értesíteni a városi rendszereket incidensekről
  • Tovább engedni a teszteket véletlenszerű weboldalakon, mert a spam szűrők elég védelmet adnak
  • A felelősséget teljes egészében a rendőrségre és a tipvonal üzemeltetőire hárítani