Vészféket javasol a mesterséges intelligencia modellekhez a Microsoft vezére
A mesterséges intelligencia biztonságos működésének felülvizsgálatára szólított fel Satya Nadella, a Microsoft vezérigazgatója. Az X platformon közzétett bejegyzésében arra hívta fel a figyelmet, hogy ideje átértékelni az MI bizalmi architektúráját. Nadella hangsúlyozta: a technológiát nem szabad egymásba ágyazott fekete dobozokként kezelni, amelyek javaslatait és döntéseit a felhasználók csupán kritikátlanul elfogadják vagy elvetik.
A megoldás érdekében Nadella azt javasolja, hogy a modellt válasszák szét az azt irányító keretrendszertől, a védelmi mechanizmusokat pedig helyezzék külső szintre. Minden érdemi modellműveletet hamisíthatatlan, ember által olvasható módon kell dokumentálni, és biztosítani kell, hogy egy felhatalmazott személy munka közben is bármikor leállíthassa vagy szüneteltethesse a rendszert. Erre egyfajta vészfékként kell tekinteni: abból kell kiindulni, hogy a modell sérülékeny vagy kompromittálódott, így kezdettől fogva szigorú korlátok között kell tartani.
A javaslat egybeesik azzal, hogy az iparági szereplők egyre több olyan incidenst ismernek el, ahol elveszítették a kontrollt a modellek felett. Nadella felhívása nem sokkal azután érkezett, hogy az Anthropic vezérigazgatója, Dario Amodei is közzétette óvatosabb fejlesztési keretrendszerét.