Mennyire aggódik amiatt, hogy kutatók képesek közel tökéletes pontossággal visszafejteni a LLM-eknek adott promptokat csak a kimeneti szöveg alapján?

Az IIT Bombay és az Adobe Research kutatói olyan módszert mutattak be, amely szinte tökéletes pontossággal képes rekonstruálni a nagy nyelvi modellekbe (LLM) adott promptokat csupán a kimeneti szöveg alapján, modellsúlyokhoz való hozzáférés nélkül. A "Previous-Token Predicti

• Nagyon aggódom — súlyos biztonsági és adatvédelmi kockázat.
• Mérsékelten aggódom — fontos, de kezelhető probléma.
• Egyáltalán nem aggódom — nem tartom széles körben veszélyesnek.