Az Anthropic kísérletében a szakértők sajátjuknak hitték az MI véletlenszerű döntéseit
Az Anthropic kísérlete azt vizsgálta, mennyire befolyásolja az MI a szakértők döntéseit akkor, amikor egy elemzési kérdésnek nincs egyértelműen helyes válasza. Az 50, oksági következtetéssel foglalkozó szakértő egy fiktív mezőgazdasági szövetkezet adatait elemezte, majd arról kellett ajánlást készítenie, hogy kiterjesszék-e minden gazdaságra az önkéntes tanácsadási programot, vagy szüntessék meg.
A résztvevők nem tudták, hogy az MI-ügynök álláspontját minden döntési ponton érmedobás jelölte ki. Az ügynök nem hamisíthatott adatokat, csak a véletlenszerűen kiválasztott lehetőség mellett érvelhetett. A szakértők a négy elemzési döntés 86 százalékában követték az MI preferenciáját, például a termelékenység mérésének vagy a statisztikai módszernek a kiválasztásakor. Az ügynök „nettó befolyása” feladattól függően 62–82 százalék között mozgott, és a korábban kialakított saját vélemény sem védte meg őket: az eltérő gépi álláspont 53 százalékponttal növelte a váltás esélyét.
Utólag a résztvevők 52 százaléka inkább sajátjának érezte az ajánlást, további 35 százalékuk pedig többnyire vagy teljesen saját következtetésének tartotta. Bár döntéseik 85 százalékára emlékeztek, 77 százalékuk felhasználta az MI érveit a magyarázatában, és csak 15 százalék említette az MI szerepét. Az eszköz gyorsított és csökkentette a hibákat, de a kutatók szerint az elemzés korai döntései így is meghatározták a végső ajánlást. A jelenség hamis tudományos konszenzushoz vezethet, és az MI-biztonsági kutatásokat is befolyásolhatja, ha a szakértők észrevétlenül átveszik egy rendszer elfogultságát.
Folytasd az appban — szavazz és szólj hozzá ➔