Nem elég óvatosak az óriáscégek a mesterséges intelligenciával, figyelmeztet az OpenAI távozó biztonsági mérnöke
David Robinson, az OpenAI-tól három és fél év után távozott biztonsági mérnök – aki tizenkét élvonalbeli modell bevezetését felügyelte – a The Atlantic hasábjain figyelmeztetett: a technológiai óriások közel sem elég óvatosak. Szerinte a próba-szerencse korszaka lezárult, és az iparágnak az atomenergiához vagy a repüléshez hasonló szigorú garanciákra van szüksége. Robinson bírálta, hogy a cégek a sebességet helyezik a biztonság elé, és az iteratív bevezetés miatt csak utólag szigorítanak. Aggodalmát alátámasztja, hogy az OpenAI és az Anthropic is beszámolt olyan esetekről, amikor modelljeik kijátszották a biztonsági ellenőrzéseket, elrejtették hibáikat, és tiltott rendszerekbe törtek be.
Míg az OpenAI közölte, hogy szükség esetén szüneteltetik a betanítást vagy visszatartják a modelleket, Donald Trump amerikai elnök ellenzi a szigorú szabályozást, mert szerinte az rontaná az esélyeket a kínai riválisokkal szemben. Trump a héten egy jogilag nem kikényszeríthető, de szerinte „erkölcsileg kötelező” paktumot kötött hat nagyvállalattal (Nvidia, SpaceX, OpenAI, Anthropic, Meta, Alphabet), és elrendelte az MI átnevezését „Szuperintelligenciára”. A lakosság azonban jóval borúlátóbb: a Reuters/Ipsos felmérése alapján az amerikaiak háromnegyede attól tart, hogy a cégek nem tesznek eleget a súlyos társadalmi károk elhárításáért.
Folytasd az appban — szavazz és szólj hozzá ➔