Kevésbé költséges és pontosabb ajánlórendszerrel kísérletezik a Netflix

A rendszer a felhasználók viselkedését szöveggé alakítja, elhagyva a kézzel készített jellemzők ezreit. A Netflix szerint ez egy szélesebb körű elmozdulás az általános célú nyelvi modellek felé, eltávolodva a speciálisan erre a feladatra épített architektúráktól. (The Decoder)

Az ajánlórendszer korlátai és a megoldás

A Netflix jelenlegi ajánlórendszere rengeteg, kézzel definiált jellemzőre támaszkodik a felhasználókról, tartalmakról és interakciókról. Ez a komplexitás megdrágítja az új tartalomtípusok – mint a játékok, élő formátumok vagy podcastok – bevezetését, és megnehezíti az új területekre való terjeszkedést az interfészen. A nyelvi modellek azonban önmagukban nem tökéletesek ajánlásokra: hajlamosak a népszerű tartalmakat túlsúlyozni, nem létező címeket kitalálni, és figyelmen kívül hagyják az üzleti szabályokat. A GenRec ezeket a problémákat hivatott orvosolni.

A Netflix egy saját fejlesztésű modellt tanít be két szakaszban. Először egy megnevezetlen, nyílt súlyú (open-weight) nyelvi modellt finomhangolnak Netflix-adatokkal, hogy megértse a katalógust és a felhasználói viselkedést. Ezt követően egy második, speciális betanítási kör alakítja az alapmodellt ajánlási rangsorolóvá. Ez a második szakasz gyakrabban frissül az új címek és a változó preferenciák figyelembevétele érdekében.

Adatfeldolgozás és teljesítmény

A GenRec ahelyett, hogy a felhasználói adatokat sűrű numerikus vektorokként kódolná, egyszerű szöveggé alakítja át. A lejátszások, megtekintési időtartamok, kedvelések vagy nem kedvelések, listához adások és eldobások egyfajta párbeszéddé válnak a felhasználó és az ajánlórendszer között. A modell önállóan fedezi fel a mintázatokat, mint a műfaji preferenciák vagy a változó érdeklődések, anélkül, hogy ezeket manuálisan definiált jellemzőkkel kellene megadni.

A modell kontextusablakának túllépésének elkerülése érdekében a Netflix szigorúan szűri az adatokat. A magas jelértékű események, mint a hosszú megtekintési időtartamok, teljes részletességgel megmaradnak, míg a rövid érintések vagy gyors görgetések kiesnek, a binge-sessionöket pedig sűrítik. Annak érdekében, hogy a modell ne javasoljon nem létező címeket, egy különálló komponenst adtak hozzá, amely csak a katalógusban szereplő elemeket pontoz.

Hét évnyi finomhangolás után a jelenlegi rendszerhez képest offline tesztekben a GenRec körülbelül 1,6%-kal jobb rangsorolási minőséget ért el. Ehhez a második betanítási szakaszban nagyjából 40-szer kevesebb címkézett adatmennyiségre volt szüksége. Ez a megállapítás erre a specifikus fázisra vonatkozik, nem az összes betanítási adatra.

Az online tesztelés során a Netflix négy héten át futtatott A/B kísérletet forgalmának körülbelül 10%-án, kizárólag előre kiszámított ajánlási felületeken. Az otthoni képernyőn a felhasználói viselkedést mérő rövid távú metrika 0,115%-kal, míg egy hosszú távú alapvető metrika 0,006%-kal javult. Mindkét növekedés túl nagy ahhoz, hogy véletlennek lehessen tulajdonítani.

A GenRec a vLLM-en fut, olyan módban, ahol a modell egyszer olvassa be az inputot, és minden jelöltet egyetlen passzban pontoz anélkül, hogy bármilyen szöveget generálna, ami alacsonyan tartja a költségeket. A Netflix a GenRec-et egy szélesebb körű elmozdulás részeként kezeli, amely más területeken is megfigyelhető, például a PLUM, GLIDE és OneRec-Think munkálatainál. Ahelyett, hogy minden ajánlási feladatra egyedi architektúrákat építenének, egyetlen nyelvi modell kezeli a többféle felhasználási esetet.