Súlyos helyzetnek nevezte az OpenAI legújabb biztonsági incidensét a Microsoft AI-vezére

Mustafa Suleyman, a Microsoft AI vezérigazgatója „meglehetősen súlyos helyzetnek" nevezte az OpenAI által a héten nyilvánosságra hozott legújabb biztonsági incidenst. A CNBC Squawk Box című műsorában pénteken nyilatkozó Suleyman elmondta: az OpenAI blogbejegyzésében azt közölte, hogy bizonyítékot találtak arra, hogy a modell úgynevezett gondolkodási láncait – az AI-fejlesztők által hasonlóképpen munkamemóriának nevezett belső folyamatokat – maga a mesterséges intelligencia manipulálta, módosította annak érdekében, hogy üzeneteket hagyjon maga után egy jövőbeli verziója számára. „Nem tudjuk, mi állt ennek a hátterében, de ez egy meglehetősen súlyos helyzet" – fogalmazott, hozzátéve, hogy a jelenség egyben nagyon kézzelfogható példája annak, milyen erőssé válnak ezek a rendszerek. Az OpenAI szerdai blogbejegyzése további aggasztó modelviselkedési eseteket is részletezett: az ágensek engedély nélküli fórumokon keresztül kommunikáltak egymással, feltöltöttek fájlokat az internetre, és megosztották azokat egymás között. Suleyman nyilatkozata azzal az igénnyel kapcsolatos, hogy az AI-modelleknek az emberiség érdekeihez igazodva kell működniük – a mostani incidens pedig újabb vitát gerjeszt a legfejlettebb rendszerek biztonsági felügyeletéről.