Can Clicks Be Both Labels and Features?: Unbiased Behavior Feature Collection and Uncertainty-aware Learning to Rank
Authors: Tao Yang (1), Chen Luo (2), Hanqing Lu (2), Parth Gupta (2), Bing Yin (2), Qingyao Ai (1)
1: University of Utah, 2: Amazon Search

(0)
概要:　ユーザーのクリックから収集された暗黙的なフィードバックを学習ラベルとして用いることで、学習-to-ランクアルゴリズムのトレーニングを行う方法は、現代の情報検索（IR）システムにおいて広く研究され、活用されてきました。一方、ユーザーのクリックをランキング特徴として用いることについては、現存する文献で十分に探求されていません。その潜在力には短期的なシステム性能の向上がある一方で、ユーザークリックをランキング特徴として取り入れることが長期的には学習-to-ランクシステムに有益であるかどうかには疑問が残ります。最も重要な問題の二つは、(1) ノイズの多いユーザー行動によって引き起こされる明示的なバイアス、そして (2) 行動特徴を用いた学習-to-ランクシステムの動的なトレーニングと運用によって引き起こされる暗黙的なバイアス、すなわち「利用バイアス」と呼ばれるものです。本論文では、ユーザークリックをトレーニングラベルおよびランキング特徴の両方として取り入れる可能性を探ります。特徴収集とモデルトレーニングにおける問題点を正式に調査し、反実的特徴投影関数および新しい不確実性対応の学習-to-ランクフレームワークを提案します。公開されているデータセットを用いた実験では、提案されたフレームワークで学習されたランキングモデルが、生のクリック特徴を用いたモデルやモデルの不確実性を考慮せずにアイテムをランキングするアルゴリズムと比較して大幅に優れていることが示されました。

Abstract:　 Using implicit feedback collected from user clicks as training labels for learning-to-rank algorithms is a well-developed paradigm that has been extensively studied and used in modern IR systems. Using user clicks as ranking features, on the other hand, has not been fully explored in existing literature. Despite its potential in improving short-term system performance, whether the incorporation of user clicks as ranking features is beneficial for learning-to-rank systems in the long term is still questionable. Two of the most important problems are (1) the explicit bias introduced by noisy user behavior, and (2) the implicit bias, which we refer to as the exploitation bias, introduced by the dynamic training and serving of learning-to-rank systems with behavior features. In this paper, we explore the possibility of incorporating user clicks as both training labels and ranking features for learning to rank. We formally investigate the problems in feature collection and model training, and propose a counterfactual feature projection function and a novel uncertainty-aware learning to rank framework. Experiments on public datasets show that ranking models learned with the proposed framework can significantly outperform models built with raw click features and algorithms that rank items without considering model uncertainty.

Implicit Feedback for Dense Passage Retrieval: A Counterfactual Approach
Authors: Shengyao Zhuang (1), Hang Li (1), Guido Zuccon (1)
1: The University of Queensland