Proaktívan szólal meg a Meta, az OpenAI és az Uber új AI-ügynöke

A Meta Muse szeptember 8-án debütált, képes foglalni, e-mailezni és zárt alkalmazásokkal is dolgozni, emellett emlékszik részletekre és jóváhagyásra váró javaslatokat tesz. Az OpenAI Dots szeptember 29-én jelent meg, proaktív kutatást végez, figyeli az alkalmazásokat, és figyelmeztet elfelejtett számlákra vagy Slack-hibákra. Az Uber sofőrasszisztense valós idejű piaci jeleket alakít át tanáccsá, például egy 33 perces tétlenség után jobb zónát ajánlva a sofőrnek. Az ügynökök célja, hogy mindig a sofőr oldalán álljanak, proaktívan kínáljanak lehetőségeket, és mérjék a sofőr cselekvéseit. (MarkTechPost)

Az értéknek felül kell múlnia a zavarás költségét

A chatbotok korábban húzó interfészként működtek: a felhasználó választotta meg a pillanatot, a csatornát és a kérdést. A proaktív ügynökök ezt megfordítják. Ha túl gyakran zavarnak, a felhasználók némíthatják őket, ha túl későn, az ajánlat már elévülhet. Az LLM-ek képesek megírni az üzenetet, de rossz eszközök a döntéshez, hogy mikor küldjék el.

A kulcs az, hogy az üzenet várt értéke haladja meg a zavarás költségét. Az értéknek négy összetevője van: tét nagysága, a felhasználó cselekvésének valószínűsége, az ajánlat gyorsasága és az, kinek az értékét szolgálja (felhasználó vagy platform). Az érték határozza meg a döntést: magas értékű, lejáró ajánlatok azonnal mennek, mérsékeltebbek gyűjtőbe kerülnek, a többit el sem küldik.

Döntésmodellek a hatékony kommunikációért

A „mikor” és „hogyan” kérdések predikciós problémák, amelyeket a klasszikus gépi tanulási modellek, mint az uplift modellek, a kontextuális banditok és a receptivitás modellek már évek óta megoldanak. Ezek becslik, hogy egy üzenet kiváltja-e a kívánt cselekvést, megtanulják a legjobb pillanatot és csatornát, valamint előrejelzik, hogy a felhasználó képes-e éppen foglalkozni az üzenettel.

Az új döntésmodellek, mint a TypeSafe Jev és a Supersonic Labs Julia 1, nem szöveget adnak vissza, hanem egy típusú ítéletet, például egy választási lehetőséget vagy egy igen/nem választ, valószínűséggel. A Julia 1 CPU-n fut, mindössze 33 ezredmásodperc alatt döntést hozva.

Az ügynökök így rengeteg kiváltó okot értékelnek, mielőtt egy LLM-hívást indítanának. Olcsó, strukturált kérdésekkel döntenek: „Érdemes megzavarni?”, „Milyen értékes, sürgős?”, „Küldjem most, várjak, kötegeljem, vagy dobjam?”, „Kártya, csevegés, SMS vagy hanghívás?”. Ezek a modellek csak a megadott kontextust értékelik, így óvatosan kell bánni a keresztteljesítéssel, és kerülni kell a felhasználó zavarását.

Az elsőként szóló ügynökök erős terjesztési csatornát jelentenek. A Meta a Muse-zal a kereskedelem felé tapogatózik, az OpenAI a Dots-ot egy 500 dolláros havi előfizetési csomaggal vezette be, az Uber pedig promóciós célokra használhatja az ügynököt. Azonban egy ajánlat is csak egy üzenet, amelynek meg kell felelnie az érték/zavarás költsége egyensúlyának. Ha a felhasználók gyanítják, hogy az ügynök inkább eladni, mint kiszolgálni akar, az minden üzenet hitelességét rombolja.

Az OpenAI a Dots-ot egy 500 dolláros havi előfizetési csomaggal vezette be.