Satya Nadella szerint fel kell tételezni, hogy minden mesterségesintelligencia-modell kompromittálódott
Az X platformon megosztott terjedelmes bejegyzésében a Microsoft vezérigazgatója, Satya Nadella fogalmazta meg aggályait a fejlett mesterségesintelligencia-modellek jelentette kockázatokról. Nadella szerint tarthatatlan, hogy az MI-re egymásba ágyazott fekete dobozokként tekintsünk, amelyek lépéseit ellenőrzés nélkül fogadjuk el vagy utasítjuk el. Ehelyett olyan átláthatóbb architektúrákat sürget, amelyek működése közvetlenül megfigyelhető, biztonságosan korlátozható, és amelyek manipulációbiztos, ember által olvasható nyomokat hagynak maguk után.
A cégvezető javaslatai között szerepel a biztonsági incidensek gyors közzététele, a független auditok lefolytatása és az ellenőrizhető adatok használata. Nadella a legmesszebbre a rendszerek elszigetelésénél megy el: szerinte eleve abból kell kiindulni, hogy egy modell kompromittálódott. Megoldásként egy digitális „vészfék” beépítését javasolja, amellyel egy felhatalmazott kezelő feladat közben bármikor megszakíthatja vagy leállíthatja a folyamatokat. A bejegyzésében a technológiára többször szuperintelligenciaként utaló vezető szerint a fejlettebb modellek megjelenésével elengedhetetlenné válik a védelmi és elszigetelési eljárások iparági szintű szabványosítása.