Netflix öneri sistemini dil modeli temelli bir mimariye taşıyor

Netflix'in öneri sistemi, şirketin en önemli teknik varlığı sayılıyor: kullanıcının ne izleyeceğine karar verdiği ekran, aboneliğin sürüp sürmeyeceğini doğrudan etkiliyor.

Şirketin GenRec adlı çalışması, bu sistemi büyük dil modelleri temelli bir mimariye taşıma yönündeki adımı anlatıyor. Klasik öneri sistemleri, kullanıcı ile içerik arasındaki geçmiş etkileşimlerden matematiksel benzerlikler çıkarıyor; dil modeli temelli yaklaşım ise içeriğin ve kullanıcı davranışının anlamını da hesaba katmayı hedefliyor.

Bu geçişin pratik zorluğu ölçek ve gecikme. Öneri sisteminin milyonlarca kullanıcı için milisaniyeler içinde yanıt vermesi gerekiyor; dil modelleri ise doğaları gereği yavaş ve pahalı. Bu tür çalışmaların büyük bölümü bu iki kısıtı uzlaştırmaya ayrılıyor.

Klasik öneri sistemleri, kullanıcı ile içerik arasındaki geçmiş etkileşimlerden matematiksel benzerlikler çıkarıyor: benzer şeyleri izleyen kullanıcıların bundan sonra da benzer şeyler izleyeceği varsayımına dayanıyor. Bu yaklaşım büyük veri kümelerinde iyi çalışıyor ancak içeriğin ne anlattığını bilmiyor — yalnızca kimin neyi izlediğini biliyor.

Dil modeli temelli yaklaşımın vaadi bu boşluğu kapatmak: içeriğin konusunu, tonunu ve kullanıcının davranışındaki örüntüyü anlamlı biçimde değerlendirebilmek. Bu, özellikle az izlenmiş yeni yapımlarda fark yaratabiliyor — geçmiş etkileşim verisi olmayan bir içerik, klasik sistemlerde görünmez kalma eğiliminde.

Geçişin pratik zorluğu ise ölçek ve gecikme. Öneri sisteminin milyonlarca kullanıcı için milisaniyeler içinde yanıt vermesi gerekiyor; dil modelleri ise doğaları gereği yavaş ve pahalı. Bu alandaki çalışmaların büyük bölümü, modelin anlama kapasitesini korurken bu iki kısıtı karşılamaya ayrılıyor.