検索システム 実務者のための開発改善ガイドブック 11章 検索を成功させるための支援¶

A taxonomy of web search¶

A taxonomy of web search (A. Broder, IGIR Forum, 2002.) [Google Scholar], [PDF] の分類を紹介している。

この論文の目的は以下

1. ウェブ検索意図を3型タクソノミー(分類学、分類法的な意味)で定義・分析すること

2. 実際の検索クエリを調査し、各型の出現比率を定量評価すること

3. 検索エンジン技術の世代的進化を、このタクソノミーの観点から再解釈すること

検索エンジンの進化の考察

• 第1世代 (1995–97): ページ内要素のみを用い、Informational 型中心。　クエリの高速・高精度解決はブランドロイヤルティに寄与。

• 第2世代 (1998–): リンク解析・アンカーテキスト・クリック率を利用し Navigational 型にも対応（Google、DirectHit 等）。

• 第3世代 (2001–): 意図推定と外部DBブレンディングにより Transactional 型を直接支援（ホテル予約、地図、天気などを統合表示）。直接収益化しやすく、エンジン各社が重点投資。

どう使うかについては11.1節では特に言及なし

さらに細かい分類として、

Understanding user goals in web search¶

Understanding user goals in web search (D. E. Rose and D. Levinson, WWW, 2004) [Google Scholar], [PDF] を紹介している。

概要

• 従来のWeb検索研究は、ユーザが「どのように検索するか」「何を探しているか」に注目されていた。

• 一方で「なぜ検索するか（検索の背後にある目的＝goal）」は十分に扱われていなかった。

• この研究は Broder (2002) の三分法（navigational／informational／transactional）を出発点に、検索目標をさらに細分化して扱う枠組みを提案。

目的

• ユーザ検索目標を体系化する概念を提示

• 実際の検索ログに適用して分類可能性と分布傾向を評価

• 最終的には検索エンジン側で goal-sensitive なランキングや UI を実現する基盤知識を得ることを目指す。

わかりやすい [論文紹介: Understanding User Goals in Web Search 書いた人: @nikezono]

一方でこの論文が明らかにしたのは,キーワード型の検索エンジンにおいて同じクエリが入力されていても，その目的(Goal)は異なる という点である. この問題意識について,インタフェースの側からユーザに寄り添い, たとえばかつてのディレクトリ型検索のような発展を遂げていくのか それともキーワード型の「思いついたものは何でも入力できる」検索ボックスというインタフェースは変えずに 検索エンジン自体の仕組みを考えていくのか，というアプローチの違いが存在するわけである. – https://the-weekly-paper.github.io/jekyll/update/2017/08/20/understanding-user-goals-in-web-search.html

手法

• AltaVista(かつて存在したロボット型全文検索エンジン、Googleに淘汰されたひとつ、Yahoo Inc.に買収され運用後サービス終了)のログを使う

• 人手によってユーザーの行動ログ(クエリそのもの、クリックログ、後続クエリ等)を分析し、ユーザーの目的を100~200に分類

• それを上位3カテゴリ→下位9カテゴリに分類

雑感等

• 両論文とも「分類結果をどう活かすか」の設計方針は提示するが、モデルの特徴量, 設計学習・推定アルゴリズムといった詳細までは踏み込んでいない。

• 「Advice ならリンク/利用ログ重視」などランキング要因の優先度切替を具体例で示唆し、 Broder は「外部 DB ブレンド」「アンカーテキスト依存」は言及がある。

• ChatGPT先生に実際どうするか聞いてみた結果

  1. クエリ＋クリックログで多クラス分類器を訓練（既存研究では SVM／BERT 系が主流）。

  2. 推定 Goal をフィーチャに持つ Learning-to-Rank（LambdaMART など）を構築。

  3. Goal ごとに UI コンポーネント（リッチカード、ショッピングタブ等）のトリガールールを設定。

実際どう分類するか？では、Determining the user intent of web search engine queries (B. Jansen et al., WWW, 2007) 次の論文を引用している。

手法

• 質的分析フェーズ

  • 5百万件超のクエリからランダムサンプルを抽出し、人手で三分類にラベリング。

  • 反復的に「クエリ選択 → 分類 → 特徴再定義」を行い、最終的に各意図に対するヒューリスティック特徴（例：URL断片・社名→案内型、“download” 含む→取引型、疑問語含む→情報要求型…）を確定。

• 自動分類フェーズ

  • 上記特徴をベースに分類プログラムを実装

  • 400件を人手再分類し、分類精度74%

また、Query Intent Understanding (Z. Dou and J. Guo, Springer, 2020) (本) を引用して 線形回帰、SVM、GBDT など、さまざまな機械学習の手法を検索クエリ分類のタスクに使えると言っている。 特徴量としては、以下。

• 閲覧の回数や閲覧の時間

• クリックデータから得られるクリックの分布やエントロピー

• 検索クエリと閲覧されたドキュメントから作成したTF-IDF

Query Segmentation¶

ヒューリスティックな手法として引用している論文は3つ。

Query Scoping¶

イメージ:「ナイキ 黒 27cm」→ brand:”nike” AND color: “black” AND size:”27cm” で検索する

• 最初からユーザーに指定させてらいいのでは?

  • ユーザーが検索したいものを明確に把握している必要がある

  • ユーザーが指定するのは手間がかかる

• Query Scopingの流れ

  • Query Segmentationでクエリを意味単位（セグメント）に分割する。

  • 各セグメントを固有表現 (Named Entity)とコンテキストに分ける。

  • NER (Named Entity Recognition)を用いて固有表現を属性クラスへマッピングし、クエリを書き換える

固有表現とコンテキストとは

• 固有表現は人や組織の名前などの固有名詞・日付・数値表現、コンテキストはそれ以外

• 例「スイッチ ソフト 新作」

  • 固有表現: スイッチ

  • コンテキスト: ソフト 新作

• NER: セグメントの固有表現を識別し 、あらかじめ定義されたクラスに分類する

NERの手法概要

NERの論文たくさんあるとは思うが、ここで引用されているのは以下

最初はNLPの分野で研究されていたとして、以下の3つ。

• 4. Bikel, S. Miller, R. Schwartz, and R. Weischedel, “Nymble: A high-performance learning name-finder,” ANLC ’97

• 1. Borthwick, “A maximum entropy approach to named entity recognition,” Ph.D. dissertation, 1999.

• 10. Kim, I. Kang, and K. Choi, “Unsupervised named entity classi- fication models and their ensembles,” COLING, 2002.

トピックモデルを利用した手法として以下。

• 10. Guo, G. Xu, X. Cheng, and H. Li, “Named entity recognition in query,” SIGIR, 2009. [PDF]

CRF を用いた教師あり学習で検索クエリにおける NER を解くこともできるとして以下。

• 1. Eiselt and A. Figueroa, “A two-step named entity recognizer for open- domain search queries,” IJCNLP-AACL, 2013. [PDF]

Query Expansion¶

(あんまり興味なかったので省略)

イメージ: 機械学習」→ (機械学習 OR “machine learning”)

クエリ拡張が必要な理由

• Web 検索ログでは平均クエリ長は約2語と短く、語彙のずれや同義・多義・表記ゆれで関連文書を取り逃しやすい。

• ただし無関係語を足すと意図がそれる「クエリドリフト」が発生するため、拡張語の選定と適用条件が鍵となる

体系的にみると4つの方針があるとして以下のサーベイ論文を引用

-　C. Carpineto and G. Romano., A survey of automatic query expansion in information retrieval, 2012.

クエリドリフト対策 & 適用条件

• 性能予測に基づく選択的拡張

  • クエリのパフォーマンスが高い場合のみ拡張を適用し、低い場合は拡張を抑制して精度低下を防ぐ

• ランキング側での重み付け

  • 拡張語だけにマッチした文書のスコアを下げる、あるいは拡張語に信頼度重みを持たせることでドリフトを緩和する

Query Relaxation¶

(あんまり興味なかったので省略)

イメージ: 「SONY PS5 ソフト」→ 「PS5 ソフト」

• ヒット件数ゼロ（または極端に少ない）状況を救済し、再現率を引き上げるために 検索語を削る・一般化する手法

• 具体的には (1) 削除する語の選定、(2) 削除後サブクエリの評価、(3) 副作用（精度低下・UX 低下）の抑制