deltacore/trec-ja

日本語TRECライクな質問分類データセット

概要

• trec-ja.json このデータセットは、日本語の質問文とその分類ラベルを含む、TRECデータセットを模した質問分類用のデータセットです。日本の文化や地理に関連する質問を含み、自然言語処理や機械学習のタスクに適しています。

データセットの特徴

• 質問数: 535
• 言語: 日本語
• 粗粒度ラベル数: 6
• 細粒度ラベル数: 50

データ構造

各データポイントは以下の構造を持っています：

{
  "text": "質問文",
  "coarse_label": 粗粒度ラベル（整数）,
  "fine_label": 細粒度ラベル（整数）
}

ラベルの説明

粗粒度ラベル

• 0: 略語 (ABBR)
• 1: エンティティ (ENTY)
• 2: 説明 (DESC)
• 3: 人物 (HUM)
• 4: 場所 (LOC)
• 5: 数値 (NUM)

細粒度ラベル

細粒度ラベルは0から49までの整数で表現されており、各粗粒度カテゴリの下に複数の細粒度カテゴリが存在します。例えば：

• 0: ABBR:abb（略語）
• 2: ENTY:animal（動物）
• 24: DESC:def（定義）
• 29: HUM:ind（個人）
• 32: LOC:city（都市）
• 38: NUM:count（数）

使用例

このデータセットは以下のようなタスクに使用できます：

1. 質問分類モデルの訓練と評価
2. 日本語自然言語処理システムの開発
3. 質問応答システムの構築
4. テキスト分類アルゴリズムのベンチマーク

データの読み込み方法

Pythonを使用してデータを読み込む例：

import json

with open('japanese_trec_dataset.json', 'r', encoding='utf-8') as f:
    data = json.load(f)

for item in data:
    print(f"質問: {item['text']}")
    print(f"粗粒度ラベル: {item['coarse_label']}")
    print(f"細粒度ラベル: {item['fine_label']}")
    print("---")

注意事項

1. このデータセットは教育および研究目的で作成されました。実際のアプリケーションに使用する場合は、さらなるデータの拡張や検証が必要です。

2. データセットには日本の文化や地理に関する質問が含まれていますが、網羅的ではありません。

3. ラベルの割り当ては主観的な判断に基づいている場合があり、異なる解釈の余地があります。

ライセンス

このデータセットはCC BY-SA 4.0ライセンスの下で公開されています。

謝辞

このデータセットは、オリジナルのTRECデータセットを参考に作成されました。日本語の質問と文脈に合わせて新たに作成されたものです。

連絡先

このデータセットに関するご質問やフィードバックがありましたら、日本テクノトレード株式会社(contact@techno-trade.jp)までお問い合わせください。