Az Anthropic jelezte, hogy az AI önfejlesztésével kapcsolatos óvintézkedések küszöbét közelíti
Az Anthropic november 2-án az amerikai Értékpapír- és Tőzsdefelügyeletnek (SEC) benyújtott dokumentumban jelezte, hogy a cég hamarosan elérheti azokat a kritériumokat, amelyeket a Felelősségteljes Skálázási Irányelve a „mesterséges intelligenciának tulajdonítható, drámaian felgyorsult fejlődéssel” kapcsolatban meghatároz. A Gizmodo szerint a vállalat úgy fogalmazott: elérkezett ahhoz a küszöbértékhez, amely óvintézkedéseket tesz szükségessé a rekurzív önfejlesztéssel kapcsolatban. Ez az az elméleti pont, amikor egy mesterséges intelligencia képessé válik önmaga továbbfejlesztésére.
A lap hangsúlyozza, hogy ez nem jelenti a technológiai szingularitás elérését. Az Anthropic maga is kiemelte, hogy a megállapítás nem a jelenlegi, hanem a jövőbeli modellekre vonatkozik. A küszöb az irányelv szerint akkor lép életbe, ha a fejlődés meghatározott mértékű felgyorsulását észlelik vagy várják, és a cég arra jutott, hogy ezt a pontot elérte.
Érdekes fejlemény, hogy a SEC-nek benyújtott dokumentum november 10-i változatából a vonatkozó szakaszt már kivették. A módosított szöveg alapján arra lehet következtetni, hogy az ellenőrzésre vonatkozó irányelvek ekkorra már életbe léptek. Az Anthropic egy másik dokumentumban azt írja, hogy irányelvei a kockázatok nyomon követésére vonatkozó terveket is tartalmaznak.
A bejelentés tehát nem hirtelen technológiai ugrásról, hanem egy jövőbeli lehetőségről szól. A jelzés ugyanakkor azt jelenti, hogy a cégnek felül kell vizsgálnia biztonsági előírásait, és szorosan figyelemmel kell követnie, mit csinál az általa fejlesztett mesterséges intelligencia.
Folytasd az appban — szavazz és szólj hozzá ➔