Megölhet-e minket a mesterséges intelligencia? A MIT Technology Review szakértői válaszoltak

Az MIT Technology Review szerdai, előfizetőknek szóló élő Roundtables eseményén a címoldali kérdésre keresték a választ: valóban kipusztíthatja-e a mesterséges intelligencia az emberiséget? A harmincperces beszélgetésen a szenior AI-szerkesztő, Will Douglas Heaven és AI-riporter, Grace Huckins az eseményen fel nem tudott olvasott olvasói kérdésekre válaszoltak részletesebben. Heaven szerint az, hogy az AI valaha okozza valakinek a halálát, sajnos nem kérdés, hanem idő kérdése: AI-vezérelt drónok Ukrajnában már öltek embereket, és AI által támogatott kibertámadások hamarosan kórházak áldozatait is szedhetik. Egy szélsőséges baleset – például AI-ügynökök swarja által végrehajtott kibertámadás kritikus infrastruktúra ellen, egy újfajta, AI által tervezett kórokozó, vagy világgazdasági összeomlás okozta konfliktusok és éhínség – ma már nem tűnik lehetetlennek, bár ezek a forgatókönyvek kevésbé valószínűek. Az emberiség teljes kipusztulását azonban kizártnak tartja: a katasztrofista jóslatok nem állnak összhangban a technológia jelenlegi képességeivel és irányával. Ugyanakkor azt is elismeri, hogy az elmúlt években a „doomer" szakértők az AI-képességekről és az igazításról (alignment) szóló figyelmeztetései aggasztóan pontosnak bizonyultak. A beszélgetés kitért a biológiai képességekre is: egy olyan eszköz, amely az ebolánál halálosabb, a kanyarónál fertőzőbb kórokozót tudna tervezni, védekezési kihívást jelentene, hiszen a támadónak elég egyetlen hatékony patogént létrehoznia. Az alignment – azaz hogy a modellek úgy viselkedjenek, ahogy szeretnénk – óriási kutatási terület: az egyik módszer a jutalmazásos tréning, a másik egy írott szabályokból álló „alkotmány" adása a modellnek. Az Anthropic és az OpenAI is élen jár ezen a téren, ám egyikük sem tudott még teljesen igazított modellt kifejleszteni, mert a nyelvi modellek jóval kiszámíthatatlanabbak, mint a hagyományos szoftverek.