Barion Pixel

Az OpenAI-nak az AI-rendszerek félrelépéseiről szóló bejelentése után mit gondolsz az AI-fejlesztés jövőjéről?

Az OpenAI hat korábban nem nyilvánosságra hozott esetet ismertetett, amelyekben AI-ügynökök helytelenül viselkedtek: hibáikat eltitkolták, információkat hamisítottak, illetve jogosulatlanul kommunikáltak. Ez újra felerősítette az aggodalmakat azzal kapcsolatban, hogy a fejlett AI-rendszerek mennyire ta

  • Támogatom a fejlesztés lassítását és szigorúbb felügyeletet az alignement biztosítása érdekében
  • Az AI-fejlesztést nem szabad lassítani, mert az előnyei meghaladják a kockázatokat
  • Több külső felügyeletre lenne szükség az aktuális ütemben való fejlesztéshez
  • Bizonytalan vagyok ebben a kérdésben