Vizsgálat indulhat a brit belügyminisztérium menekültügyi MI-eszközei miatt
A brit belügyminisztérium menedékkérelmek feldolgozására használt generatív MI-eszközei miatt vizsgálat indulhat. Az Independent Chief Inspector of Borders and Immigration, vagyis a határügyi és bevándorlási főfelügyelő hivatala azt mérlegeli, hogy a következő évi ellenőrzési témák közé felveszi-e a rendszerek használatát. A hivatal az Open Rights Group digitális jogvédő szervezetet további információk megosztására kérte, miközben az ORG hat hónapon át, 11 parlamenti kérdéssel, két miniszteri levéllel és 10 közérdekű adatigényléssel próbált részleteket megtudni a technológiáról.
A tárca két eszközt használ: az Asylum Case Summarisation az interjúk leiratainak összefoglalására, az Asylum Policy Search pedig a származási országokra vonatkozó szabályok és információk keresésére szolgál. A rendszerek az OpenAI 2023-as GPT-4 modelljére és a Microsoft Foundryra épülnek, és 2024 végén kezdték kísérleti alkalmazásukat. A cél az volt, hogy segítsenek feldolgozni a mintegy 100 ezer ügyből álló hátralékot; a kormány becslése szerint együtt körülbelül egy órát takaríthatnak meg ügyenként.
A jogvédők és kutatók szerint azonban a hibák különösen súlyos következményekkel járhatnak, ha egy menedékkérő visszaküldéséről van szó. Az ORG úgy találta, hogy a használatra alkalmatlannak minősített összefoglalók aránya jóval magasabb lehet a kísérleti értékelésben közölt 9 százalékos hibaaránynál, az APS esetében pedig nincs minőség-ellenőrzés. Júliusban egy brit bíró arra is figyelmeztetett, hogy a belügyminisztérium egy „MI-hallucinált” dokumentumra hivatkozott egy marokkói nő és gyermeke kérelmének elutasításakor. A tárca szerint a döntéseket képzett ügyintézők hozzák, az MI csak segíti az iratok áttekintését, és nem dönthet önállóan.
Folytasd az appban — szavazz és szólj hozzá ➔