A PayPal a mesterséges intelligencia-asszisztens pontosságát 43-ról 95 százalékra emelte anélkül, hogy cserélt volna modellt
A PayPal belső kérdés-válasz pontossága 43 százalékról 95 százalékra nőtt anélkül, hogy a mögöttes nagy nyelvi modellt lecserélték volna: a vállalat saját üzleti kontextust adott hozzá, és azt elkülönítve tartotta a modelltől. Ren Zhang, a PayPal alelnöke és AI-termékek globális vezetője a VentureBeat október 8-ai AI Impact sorozatában elmondta: a belső adatelemző asszisztens már korábban is ellenőrzött, jó minőségű adatokhoz fért hozzá, mégsem tudott megbízhatóan üzleti kérdésekre válaszolni. Hiányoztak a definíciók, lekérdezési minták és elemzési eljárások, amelyekkel a munkatársak az adatokból választ készítenek; ezek hozzáadása után érte el a 95 százalékot. A szétválasztás célja, hogy a tudás a modellek fejlődésével is megmaradjon, ne kelljen minden új kiadás köré újraépíteni. Zhang szerint a szellemi tulajdon lényege ez a tudásréteg, az asszisztenst szándékosan modellfüggetlenre tervezték: jobb modellnél „bedugja és játszik”, a tudást nem cseréli. Példa: „új számlák” esetén az ügynök lekérheti a rekordokat, de rossz definíciót alkalmazhat; a válasz üzleti szabályokon múlik. A réteg egyik eleme a „golden query”, a másik az analitikai playbook, amely szegmenseket, termékeket vagy viselkedéseket — például belépési hibákat és passkey-használatot — vizsgál. Külön, ügyféloldali kereskedelmi ügynöknél négy-öt modellt teszteltek; a nagyobbak képesek voltak, de körülbelül 15 másodperces késleltetéssel. Egy 8 milliárd paraméteres modell javította a késleltetést, de rontotta a pontosságot; finomhangolás után sem volt elég, és a gyakori újramodellezés költséges. Deepika Khera, az AI senior igazgatója az október 28-ai Agentic Infrastructure Stack Summiton elmondta: a platform ellenőrzi a döntéseket hiteles forrásokkal, és megszabja, mikor kell emberi jóváhagyás. Incidenskezelésben hétügynökös munkafolyamat vizsgál riasztásokat több mint 33 000 szolgáltatásnál, Datadog, ServiceNow és belső naplók alapján; egy külön biztonsági felülvizsgálat akár 18 ügynököt használ. Minden javasolt döntést a forrásigazsághoz mérnek, mert téves diagnózis téves javításhoz vezethet.
Folytasd az appban — szavazz és szólj hozzá ➔