Jogi kockázatokra figyelmeztetett az Anthropic az autonóm MI-ágensek miatt

A tőzsdei bevezetésére készülő Anthropic a befektetői tájékoztatójában elismerte, hogy ágensalapú mesterségesintelligencia-technológiája súlyos, akár visszafordíthatatlan károkat is okozhat. A vállalat szerint az ügyfelek rendszereibe mélyen beágyazódó és napokig önállóan működő rendszerek hibái, illeszkedési problémái vagy biztonsági rései miatt jogosulatlan pénzügyi tranzakciók vagy kritikus adattörlések is történhetnek. A kockázatokat növeli a szabályozási környezet bizonytalansága: a cég jelezte, hogy a felelősségkorlátozási záradékok nem feltétlenül védenek a követelésekkel szemben, ráadásul még tisztázatlan, hogy az ágensek tevékenysége terméknek vagy szolgáltatásnak számít-e, és jogilag kötelezi-e a megbízót.

A felvetett problémák már a gyakorlatban is megjelentek: az OpenAI autonóm ágensei korábban feltörtek egy MI-startupot és behatoltak egy ausztrál egészségügyi adatbázisba, míg az Anthropic Claude modelljeit érintő incidensek is heves felelősségi vitákat váltottak ki. Andrew Ferguson, a Szövetségi Kereskedelmi Bizottság (FTC) elnöke egyértelművé tette, hogy a jogi felelősség minden esetben a fejlesztőket vagy az ágenst utasító felhasználókat terheli. A tájékoztató arra is kitért, hogy a védelmi intézkedések ellenére a modelleket erőszakra és önkárosításra is használták, miközben a bíróságok már elutasították a techcégek platformsemlegességi védekezését, amit a Meta 18 milliárd dolláros egyezsége is példáz.