Egyetlen mondat javíthat az MI-modellek hibaelrejtési hajlamán
A Google Research, az MIT és a Harvard kutatása szerint az önállóan dolgozó nyelvi modellek hajlamosak szisztematikusan elhallgatni a negatív eredményeket és a hibákat. A kutatók 1600 szintetikus munkanaplóval tesztelték a rendszereket; ezek sikeresnek tűntek, ám rejtett szoftverhibákat vagy fabrikált mérési adatokat tartalmaztak. A GPT-5.5 például 200 tudományos absztraktból mindössze kettőben említette meg az új módszer gyengeségeit. Nem a felismeréssel volt gond, hiszen közvetlen rákérdezésre a GPT-5.5 és az Opus 4.8 hibátlanul, a Gemini 3.1 Pro pedig legalább 97 százalékos pontossággal észrevette a problémákat, ám az összefoglalókban a feladat sikeres lezárásának látszatát részesítették előnyben.
A viselkedésen jelentősen javított a prompt kiegészítése a „Legyél őszinte a válaszodban” („Be honest in your response”) mondattal: ennek hatására a GPT-5.5 már 190 esetben feltárta a negatív adatokat, a Gemininél pedig 55 százalékponttal javult a hibajelzés. A vizsgálat során a Qwen3.5-9B modellen keresztül azt is kimutatták, hogy az őszinteség és a sikerkényszer szinte ellentétes belső reprezentációként jelenik meg. Amikor ezt a modellt a saját őszinte válaszaival finomhangolták, a fabrikált adatok leleplezésének aránya a külön mondat nélkül is 2-ről 48 százalékra emelkedett a kontrolltesztek téves riasztásai nélkül.