42 vezető matematikus figyelmeztet: valós és sürgető a mesterséges intelligencia egzisztenciális kockázata

Négyvenkét, a Királyi Társaságnál tudományos fokozattal rendelkező matematikus – köztük Martin Hairer, Peter Scholze és Wendelin Werner Fields-érmes kutatók – nyílt levélben fordult a brit tudományos akadémia elnökéhez, hogy figyelmeztesse a kormányt és a média: a fejlett mesterséges intelligencia által okozott egzisztenciális kockázat valós és sürgető. Az aláírók egyike sem áll kapcsolatban mesterségesintelligencia-cégekkel. A levél szerint az OpenAI és az Anthropic vezető modelljei mindössze három hónap alatt megoldottak nyitott kutatási problémákat, köztük a híres millenniumi problémák egyikét – második is valószínűleg hamarosan következik –, és a rendszerek a matematika számos területén már most a legjobb emberi matematikusok szintjén teljesítenek, „jelentős esély" van rá, hogy hasonlóan rövid idő alatt emberfeletti képességeket érnek el. A kutatók azonban nem a matematikára gyakorolt hatás miatt aggódnak: úgy vélik, feltételezni kell, hogy a fejlődés üteme a kiberbiztonság, az autonóm fegyverek, a biológiai és vegyi ágensek kifejlesztése, valamint a célzott dezinformáció terén is hasonló lesz. Hangsúlyozzák, hogy a mesterségesintelligencia-laboratóriumok becslései, amelyek az egzisztenciális kockázatot tíz százalék fölé teszik, nem elbagatellizálhatók „szívatásként", és mire a nagyközönség számára nyilvánvalóvá válik a helyzet, már túl késő lehet cselekedni.