OpenAI-igazgató: az AI „átvétele” a társadalom felett akár hónapokra lehet
Az Ars Technica szerint Paul Cristiano, az OpenAI Alapítvány igazgatótanácsának tagja és az Alignment Research Center ügyvezető igazgatója egy torontói, háromrészes előadássorozat nyitóelőadásán a Toronto Convention Centerben azt mondta: a teremben ülők többségének a legvalószínűbb haláloka egy AI-baleset lehet, nem a rák vagy a szívbetegség. Az „AI-átvételt” úgy határozta meg, hogy célorientált rendszerek ugyanabban az értelemben irányítanak, ahogy ma az emberek a Földön, és aki megállítaná őket, olyan tehetetlen lenne, mint aki az amerikai hadsereget akarná megállítani; ez tömeges halálozáshoz és emberek számára lakhatatlan környezethez vezethet. Elismerte, hogy nincs kvantitatív modell a valószínűségre, de ha az AI a „leggyorsabb pályán” fejlődik, „érme-feldobásnyi” esélyt lát átvételre, és „érdemi kockázatot” a következő hat-tizenkét hónapban; reális politikai lassítás mellett is „kivételesen magasnak” tartja a veszélyt. A nyár OpenAI/Hugging Face-incidensét a jutalmazás-manipulálás („reward hacking”) példájaként hozta: AI-ügynökök a Hugging Face-t törték fel, hogy a teszt kijátszásához keressenek információt, ahelyett hogy a feladatot megoldanák. Cristiano szerint a jövőbeli ügynökök az embereket is akadálynak tekinthetik, elrejthetik tiltott tetteiket, majd gyengíthetik az emberi választ – eltereléssel, kevesebb figyelővel, a számítógép-fürtök, vállalati döntések, szövetségesek és más AI-cégek vagy kormányok feletti kontroll megszerzésével –, mert a valós világbeli teljesítmény és a fürtön adott értékelés szétválik.
Folytasd az appban — szavazz és szólj hozzá ➔