auto-wiki-qa

日本語 Wikipedia ベースの自動生成 QA データセット (hpprc/emb の auto-wiki-qa-dataset / auto-wiki-qa-collection) を元に、Hard Negative Mining と Cross-Encoder 蒸留スコア付与を施した日本語 retrieval 学習用データセットの v2 版。

pairs / triplets / n-tuples の 3 形式と、n-tuples を quality_score で ソートした top-K サブセット (100k / 250k / 500k / 1m) を提供する。 Dense Retriever / Cross-Encoder / SPLADE などの日本語検索モデル学習および KL Divergence 蒸留に使える。

v2 (2026-05) の主な変更点

• HNM の retriever を cl-nagoya/ruri-v3-310m (Apache 2.0、商用可)、 蒸留教師を cl-nagoya/ruri-v3-reranker-310m (Apache 2.0、商用可) に刷新。
• Hard Negative 選定を 単一 margin filter (pos − neg ≥ 4.0、σ で 0.98 相当の分離) に変更。 同テーマ別エントリ・同回答別記事などの false negative リーク を構造的に排除した。
• dense retriever のスコアは hard negative 選定に使わず、教師リランカーの生 logit のみで判定する。

Configs

config	rows	columns	総トークン数 (cl100k_base)	説明
pairs	2,376,503	query, answer	562,891,158 (562.89M)	元の (query, answer) ペア。mahiyama/auto-wiki-qa (v1) からそのままミラー。
triplets	2,149,821	query, positive, negative	1,017,027,276 (1.02B)	Hard Negative Mining (v3) を通過した全行。クエリごとに 1 件の hard negative を付けた triplet。
n-tuples	2,149,821	query, positive, negative_1〜negative_5, label	3,055,829,114 (3.06B)	同じ採用行に対しクエリごとに 5 件の hard negative + Cross-Encoder の生 logit を label に付与。
n-tuples-100k	100,000	query, positive, negative_1〜negative_5, label	138,618,253 (138.62M)	n-tuples のうち quality_score の valid を通過した行を降順で並べ、上位 10 万行を抽出 (デバッグ・早期実験向け)。
n-tuples-250k	250,000	query, positive, negative_1〜negative_5, label	349,362,397 (349.36M)	同じ valid 行から quality_score 上位 25 万行 (バランス重視)。
n-tuples-500k	500,000	query, positive, negative_1〜negative_5, label	701,461,481 (701.46M)	同じ valid 行から quality_score 上位 50 万行。
n-tuples-1m	1,000,000	query, positive, negative_1〜negative_5, label	1,410,424,585 (1.41B)	同じ valid 行から quality_score 上位 100 万行 (採用行数が 1M に満たない場合は全採用行)。

トークン数は OpenAI の tiktoken cl100k_base (GPT-4 系) で計測。label カラムはトークン数集計の対象外 (浮動小数の数値ベクトル)。

すべての config の split は train。n-tuples-* の top-K サブセットは quality_score 降順で並んでいるため、行順序は元の n-tuples と一致しない。

label カラムの形式 (n-tuples / n-tuples-* 共通)

label: list[float]  # 長さ 6 = [score(query, positive), score(query, neg_1), …, score(query, neg_5)]

label[0] が positive、label[1:] が negative_1 〜 negative_5 に 1:1 で順序通り対応する。 スコアは Cross-Encoder の **生 logit (sigmoid 適用前)**。

pos − max(neg_1..neg_5) ≥ 4.0 および pos ≥ 2.0 が全行で構造的に成立している (下記 Hard Negative Mining セクション参照)。

使い方

pairs (最もシンプルな (query, answer) 形式)

from datasets import load_dataset

pairs = load_dataset("mahiyama/auto-wiki-qa", "pairs", split="train")
print(pairs)
# Dataset({
#     features: ['query', 'answer'],
#     num_rows: 2376503
# })
print(pairs[0])
# {"query": "...", "answer": "..."}

triplets (1 hard negative / query)

triplets = load_dataset("mahiyama/auto-wiki-qa", "triplets", split="train")
print(triplets[0])
# {"query": "...", "positive": "...", "negative": "..."}

n-tuples (5 hard negatives / query + 蒸留 logit)

ntuples = load_dataset("mahiyama/auto-wiki-qa", "n-tuples", split="train")
print(ntuples[0])
# {
#   "query": "...",
#   "positive": "...",
#   "negative_1": "...", "negative_2": "...", ..., "negative_5": "...",
#   "label": [12.34, 1.05, -4.21, -2.85, -5.13, -6.02],   # 生 logit
# }

top-K 高品質サブセット (KL 蒸留学習向け)

# 最高品質 10 万行 (デバッグ・早期実験に十分強い)
ds = load_dataset("mahiyama/auto-wiki-qa", "n-tuples-100k", split="train")

# バランス重視 25 万 / 50 万行
ds = load_dataset("mahiyama/auto-wiki-qa", "n-tuples-250k", split="train")
ds = load_dataset("mahiyama/auto-wiki-qa", "n-tuples-500k", split="train")

# 採用行のほぼ全量 (上位 100 万行 or 全採用行)
ds = load_dataset("mahiyama/auto-wiki-qa", "n-tuples-1m", split="train")

Hard Negative Mining の方法 (v3)

各クエリ q_i (元データ行 i) に対して以下を実施:

1. クエリ埋め込み — cl-nagoya/ruri-v3-310m (prefix "検索クエリ: ") で 768 次元にエンコード。
2. 文書埋め込み — 同モデル (prefix "検索文書: ") で全 positive (約 240 万件、重複除去後) を 768 次元にエンコードし、L2 正規化して faiss-cpu の IndexFlatIP (内積 = コサイン類似度) を構築。索引は faiss_index.bin として再利用可能。
3. kNN 検索 — 各クエリで上位 25 件を取得し、gold positive と一致する doc_id を除外して top-15 を negative 候補プールとする。
4. リランカー蒸留スコア付与 — cl-nagoya/ruri-v3-reranker-310m で (query, positive) と (query, kNN candidate × 15) の合計 16 ペアに 生 logit (sigmoid 適用前) を付与。
5. Hard Negative 選定 (v3、単一 margin filter)
   • pos_score < 2.0 の行は DROP (positive が弱い)
   • 15 候補のうち pos_score - neg_score >= 4.0 を満たすもののみ採用候補
   • 採用候補が 5 件未満の行は DROP (フォールバックなし)
   • 採用候補をリランカースコア降順で並べ、上位 5 件を negative_1..5 とする
     • negative_1 = 採用候補のうちスコア最大 (= 最も hard だが MIN_DIFF を満たす)
     • negative_5 = 採用候補のうちスコア最小

これにより、採用行は以下の条件を構造的に満たす:

• pos >= 2.0 (sigmoid 0.88 以上の確信ある positive)
• pos - neg_i >= 4.0 (i=1..5、すべての negative に対し σ で 0.98 相当の分離)
• margin = pos - max(neg_1..neg_5) >= 4.0

なぜ単一 margin filter か (kNN/リランカー top-K 除外をしない理由)

NV-Retriever / SFR-Embedding 系の標準レシピでは「kNN 上位 K 件除外」「リランカー上位 K 件除外」 を組み合わせるが、pos - neg >= 4.0 (σ で 0.98 相当の分離) のような厳しい絶対 margin filter を使うと、これらの構造的除外は冗長になる:

• false negative リーク (= reranker が高 logit を付ける候補) は margin filter で必ず弾かれる
• 一方、kNN/reranker top-K 除外を残すと「ぎりぎり通過する硬い negative」が拾えなくなる

→ v3 では margin filter 1 本に統合することで、量とハードさのバランスを取った。

v1 (旧 mahiyama/auto-wiki-qa) との違い

項目	v1 (旧)	v2 (v3 HNM、本リポジトリ)
Retriever	jinaai/jina-embeddings-v5-text-small (非商用)	cl-nagoya/ruri-v3-310m (Apache 2.0、商用可)
Reranker	cl-nagoya/ruri-reranker-large	cl-nagoya/ruri-v3-reranker-310m
HNM フィルタ	dense score の < pos × 0.95 (positive-aware filter)	reranker logit の pos − neg ≥ 4.0 (絶対 margin)
False negative leak 対策	なし (定義系・同テーマ別エントリで leak が頻発)	構造的に排除
ANN	Elasticsearch HNSW	faiss-cpu IndexFlatIP
採用行数	入力行数と同じ (フォールバックで埋める)	リーク行は DROP (採用率 90.5%)
商用利用	制限あり (Jina)	制限なし (両モデルとも Apache 2.0)

代償として行数は減るが、KL 蒸留損失はラベル雑音にとても敏感なため、量を多少削ってでも クリーンな negative を確保する方が学習効率は明確に良い。

採用統計

指標	値
入力行数 (リランカーで採点した行)	2,376,503
採用行数 (kept: HNM 通過)	2,149,821 (90.5%)
Drop: 弱 positive (pos < 2.0)	194,350 (8.2%)
Drop: 候補不足 (filter 通過 < 5 件)	32,332 (1.4%)
quality_score の valid 通過 (採用行に対して)	2,149,821 (100.00%)

triplets / n-tuples には採用行のみが入る。 n-tuples-{100k, 250k, 500k, 1m} は採用行のうち quality_score の valid を通過した行を 降順で並べた top-K サブセット。v3 HNM が pos>=2.0 と margin>=4.0 を保証するため、 valid 通過率は実質 100% になる (透明性のためチェックは入れている)。

蒸留スコア付けの方法

n-tuples 配下の label カラムおよび n-tuples-* の top-K サブセットは、 教師モデル cl-nagoya/ruri-v3-reranker-310m (Japanese ModernBERT Cross-Encoder、Apache 2.0) の 生 logit を各 (query, doc) ペア (positive 1 件 + negative 5 件) に付与したもの。

スコア付けの設定

項目	値
Teacher	cl-nagoya/ruri-v3-reranker-310m
Max length	512
推論精度	FP16
Batch size	128
入力フォーマット	単一文ペア (query, document)
出力	生 logit (sigmoid 適用前)。観測 logit レンジ おおむね ±15 (採用行の positive 平均 ≈ 8.80)

KL 蒸留損失 (SparseDistillKLDivLoss / DistillKLDivLoss 等) は softmax(label / T) を target distribution として使うため、 sigmoid 後の [0, 1] 値だと softmax target が一様分布に潰れて ranking 情報が失われる。 これを防ぐため、教師の最終活性化を明示的に Identity に置き換えてスコアを出力した:

import torch.nn as nn
from sentence_transformers import CrossEncoder

teacher = CrossEncoder(
    "cl-nagoya/ruri-v3-reranker-310m",
    max_length=512,
    device="cuda",
)
teacher.model.eval()
teacher.default_activation_function = nn.Identity()  # sigmoid を外す

scores = teacher.predict(
    [("query A", "passage A"), ("query A", "passage B")],
    batch_size=128,
    convert_to_numpy=True,
    activation_fct=nn.Identity(),  # 念のため predict() でも明示
)
# scores: array([12.34, -3.56], dtype=float32)
assert abs(scores).max() > 1.0  # |score|max > 1 で sigmoid 混入チェック

logit のスケール感:

logit	sigmoid(logit)	解釈
+8	0.9997	確信度高く relevant
+5	0.993	強く relevant
+2	0.881	relevant 寄り
0	0.5	不確か
-2	0.119	irrelevant 寄り
-5	0.007	強く irrelevant
-8	0.0003	確信度高く irrelevant

quality_score: top-K サブセットのソート指標

n-tuples-100k / -250k / -500k / -1m は、n-tuples を以下の手順で構築する:

1. quality_score の valid マスク を計算 (distillation_score.md 準拠)
2. valid を通過した行を quality_score 降順で並べる
3. 上位 K 行を抽出 (採用行数が K に満たない場合は全採用行)

v3 HNM が pos >= 2.0 と全 neg について pos - neg >= 4.0 を保証するため、 valid マスクの 3 条件 (pos>=2.0, margin>0, margin>=0.5) は全て自動的に成立し、 valid 通過率は実質 100% (上記採用統計セクション参照)。 それでもチェックを入れているのは、品質スコア計算ロジックの形式的整合性のため。

定義 (実装通り)

import numpy as np

POS_MIN        = 2.0   # σ(2.0) ≈ 0.88: 確信のある positive のみ採用
MARGIN_MIN     = 0.5   # 誤差レベルの分離は雑音と見なす
MARGIN_PENALTY = 0.1   # 易しすぎる行を弱く後回しにする係数

def quality_score_vec(labels: np.ndarray) -> tuple[np.ndarray, np.ndarray]:
    """
    Args:
        labels: (N, 6) float32. 生 logit。 [p, n1, n2, n3, n4, n5].
    Returns:
        scores: (N,) float. valid 落ちした行は -inf。
        valid:  (N,) bool.  pos>=2.0 ∧ margin>0 ∧ margin>=0.5
    """
    p      = labels[:, 0]
    neg    = labels[:, 1:]
    max_n  = neg.max(axis=1)
    mean_n = neg.mean(axis=1)
    margin = p - max_n

    fn_mask     = margin <= 0
    weak_mask   = (~fn_mask) & (p < POS_MIN)
    border_mask = (~fn_mask) & (~weak_mask) & (margin < MARGIN_MIN)
    valid_mask  = (~fn_mask) & (~weak_mask) & (~border_mask)

    raw = mean_n - MARGIN_PENALTY * margin
    scores = np.where(valid_mask, raw, -np.inf)
    return scores, valid_mask

• mean(neg) を主軸にする理由 — KL 蒸留は softmax(label / T) を target にするため、 negative 全体の logit 分布が target 形状を決める。mean(neg) が高い行ほど target が 滑らかな分布になり、ranking 学習が効く。
• margin に弱い負ペナルティを掛ける理由 — margin が極端に大きい「楽勝行」を タイブレークで後回しにするため。

Hard Negative の観測レンジ (採用行に対して)

項目	観測値
positive logit (平均)	8.80
positive logit (5%-tile / 95%-tile)	3.68 / 12.02
neg_1 logit (平均、最硬の negative)	-1.50
neg_5 logit (平均、5 番目の negative)	-5.35
margin = pos − max(neg) (平均)	10.30
margin = pos − max(neg) (最小)	4.00

採用行の最小 margin が MIN_DIFF_FROM_POS = 4.0 を下回らないことが構造的に保証される (Hard Negative 選定段階で pos - neg >= 4.0 を全 5 件に対して要求しているため)。

KL 蒸留損失への組み込み (PyTorch 例)

import torch.nn.functional as F

def kl_distill_loss(student_logits, teacher_label, T=2.0):
    """
    Args:
        student_logits: (B, 6) student の (query, doc_i) スコア (生 logit)
        teacher_label:  (B, 6) label カラムをそのまま (生 logit)
        T: distillation temperature (推奨 1.0〜4.0、生 logit レンジが広めなので 2.0 前後が扱いやすい)
    """
    log_p_student = F.log_softmax(student_logits / T, dim=-1)
    p_teacher     = F.softmax(teacher_label   / T, dim=-1)
    return F.kl_div(log_p_student, p_teacher, reduction="batchmean") * (T * T)

sentence-transformers の SparseDistillKLDivLoss / DistillKLDivLoss を使う場合は、 label カラムをそのまま teacher score として渡せばよい。

変更履歴

バージョン	リポジトリ	日付	概要
v2 (= 本リポジトリ)	mahiyama/auto-wiki-qa (Public)	2026-05	HNM retriever を cl-nagoya/ruri-v3-310m に、教師 reranker を cl-nagoya/ruri-v3-reranker-310m に刷新。faiss-cpu IndexFlatIP ベース。Hard Negative 選定を 単一 margin filter (pos − neg ≥ 4.0) に変更し、false negative リークを構造的に排除。両モデルとも Apache 2.0 で商用利用可。
v1	mahiyama/auto-wiki-qa (Public)	2024	初版。HNM retriever = jinaai/jina-embeddings-v5-text-small、教師 reranker = cl-nagoya/ruri-reranker-large。フィルタは < pos × 0.95 の positive-aware filter のみ。

License

• Passage 本文は日本語版 Wikipedia 由来であり、CC BY-SA 4.0 (Wikipedia コンテンツの表示・継承ライセンス) を継承する。
• クエリは hpprc/emb の auto-wiki-qa 由来。利用・再配布時は元データセットの ライセンスと利用条件にも従うこと。
• HNM retriever / 蒸留教師 (cl-nagoya/ruri-v3-310m / ruri-v3-reranker-310m) は Apache 2.0 ライセンスで、商用利用に制限はない。

Citation

元データセットを引用してください:

@misc{hpprc_emb,
  author = {Hayato Tsukagoshi},
  title  = {hpprc/emb: Japanese text embedding training datasets},
  year   = {2024},
  url    = {https://huggingface.co/datasets/hpprc/emb},
}

教師モデルの引用:

@misc{ruri_v3,
  author = {Tsukagoshi, Hayato and Sasano, Ryohei},
  title  = {Ruri v3: Japanese General Text Embeddings},
  year   = {2025},
  url    = {https://huggingface.co/cl-nagoya/ruri-v3-310m},
}

Acknowledgements

• 元データ: hpprc/emb — auto-wiki-qa
• ベース passage コーパス: Japanese Wikipedia
• HNM 用 retriever: cl-nagoya/ruri-v3-310m
• 蒸留教師: cl-nagoya/ruri-v3-reranker-310m