01-citation-rate.mdupdated 2026-07-162598 words
ダブルクリックで英日反転
Applied Sciences · Engineering

AI Search Evaluation ① Citation Rate

EN

Citation Rate is the average number of URLs cited per answer. It is the denominator that defines a publisher's baseline chance of being cited, and the quantity facet of Citation Fidelity (C1).

Why It Matters

  • Business: measures how often a site has a chance to be cited — a prerequisite to visibility.
  • Academic: Liu et al. (EMNLP 2023) treat citation-presentation rate as the primary metric for evaluating generative search engines.
  • An engine with zero citations cannot support answer verifiability at all.

Formula

  • Citation Rate = (total cited URLs across all answers) ÷ (number of answers)
  • Computed per engine; measured weekly over 600 queries × 6 engines.

Worked Example

  • ChatGPT Search: 4,800 URLs / 600 questions = 8.0 per answer
  • Gemini: 1,800 / 600 = 3.0 per answer
  • Copilot: 6,600 / 600 = 11.0 — but many are appended Bing links, not tied to the answer body.
  • High citation rate ≠ good; read alongside metric ③ accuracy.

Use in the ai-search Project

  • Source: annotations.url_citation (ChatGPT), groundingMetadata (Gemini), citations (Claude), SERP extraction (AI Overview/Mode/Copilot).
  • Construct: C1 Citation Fidelity — quantity dimension (quality handled by ③ accuracy).
  • Covers all query types: factual, commercial, navigational, agent-task.
Citation Rate quantifies how many sources an engine surfaces per answer — a necessary (but not sufficient) condition for verifiability.
Applied Sciences · Engineering

AI検索評価 ① 引用率​(Citation Rate)

JP

引用率とは、​1回答あたりに​引用された​URLの​平均本数。​サイトが​引用される​可能性の​分母であり、​引用​忠実性​(Citation Fidelity)の​「量」​次元を​構成する。

重要な​理由

  • ビジネス観点:引用される​可能性の​基準値を​定める​指標。​引用されなければ​露出は​ゼロ。
  • 学術観点:Liu ら​(EMNLP 2023)は​引用提示率を​生成型検索エンジン評価の​主要指標と​位置付けている。
  • 引用が​ゼロの​エンジンは、​原理上、​回答の​検証​可能性​(verifiability)を​担保できない。

計算式

  • 引用率 = 全回答の​引用URL数合計 ÷ 回答数
  • エンジン別に​算出。​600問 × 6エンジンを​週次で​計測。

計算例

  • ChatGPT Search:4,800 URL ÷ 600問 = 1回答あたり8.0件
  • Gemini:1,800 ÷ 600 = 3.0件
  • Copilot:6,600 ÷ 600 = 11.0件 — ただし​多くは​Bing検索結果の​羅列で​本文との​紐付けが​弱い。
  • 高い​引用率=優秀、は​早計。​指標③​(精度)と​合わせて​読む必要が​ある。

ai-searchプロジェクトでの​使い方

  • 取得元:annotations.url_citation​(ChatGPT)​・groundingMetadata​(Gemini)​・citations​(Claude)​・SERP抽出​(AI Overview/Mode/Copilot)。
  • 構成概念:C1 引用​忠実性の​量次元​(質は​指標③が​担当)。
  • クエリ種別:事実確認・商用・ナビゲーション・エージェントタスクの​全タ​イプが​対象。
引用率は​「エンジンが​1回答で​何件の​情報源を​提示するか」を​数値化した、​検証​可能性の​必要条件​(ただし十分条件ではない)。
148 notestil