Attention Overflow: Language Model Input Blur during Long-Context Missing Items Recommendation
Paper • 2407.13481 • Published • 9
mirror_id stringlengths 16 96 ⌀ | source_id stringlengths 8 108 | status stringclasses 5
values | status_note stringclasses 10
values | visibility stringclasses 2
values | summary_ja stringlengths 0 352 | topic stringclasses 30
values | topic_file stringclasses 30
values | all_topics stringclasses 112
values | ledger_section stringlengths 18 101 | license stringclasses 58
values | ledger_category stringclasses 4
values | num_rows int64 1 890M ⌀ | rows_estimated bool 2
classes | num_columns_min int64 1 143 ⌀ | num_columns_max int64 1 845 ⌀ | n_configs int64 0 960 ⌀ | n_splits int64 0 960 ⌀ | splits stringlengths 0 2.45k | columns stringlengths 0 2.66k | shape_source stringclasses 4
values | size_bytes int64 2.46k 171,137B | size stringlengths 4 9 | n_files int64 1 100k | file_formats stringlengths 0 269 | language stringclasses 126
values | task_categories stringclasses 155
values | papers stringlengths 0 338 | gated bool 2
classes | source_sha stringlengths 40 40 | source_url stringlengths 40 140 | mirror_url stringlengths 0 128 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
HYUKI5/Asap7772__cog_behav_all_strategies | Asap7772/cog_behav_all_strategies | 複製済み | public | Countdown（数合わせ）の問題に対する応答のデータとされる。1 行が `query`（問い）と `completion`（応答）の組で、調査メモでは推論の行動を表すラベル列は無いとされる。元のカードは空で、この説明は列名と調査メモから書いた。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q3. 思考の「行動・構造」（検証・後戻り・計画・反省など）を文や節の単位で付けたデータは何があるか (L84) | D | 1,200 | false | 2 | 2 | 1 | 2 | default/train=1000; default/test=200 | query: string; completion: string | viewer | 583,862 | 583.86 KB | 4 | parquet 2 | false | f0e4a3ad6bfc5ca15d9631b07a54f28c219f2d8f | https://huggingface.co/datasets/Asap7772/cog_behav_all_strategies | https://huggingface.co/datasets/HYUKI5/Asap7772__cog_behav_all_strategies | |||||
HYUKI5/CMU-AIRe__RLAD-abstractions-benchmarks | CMU-AIRe/RLAD-abstractions-benchmarks | 複製済み | public | 数学の問題 60 問を集めたデータ。1 行が 1 問で、`problem` に問題文、`hints` にヒント、`answer` に答えが入る。元のカードは空で、この説明は列名と調査メモから書いた。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q5. 抽象化の段階・原理への一般化・類推をラベルにしたデータは何があるか (L137) | D | 60 | false | 4 | 4 | 1 | 2 | default/AIME2025=30; default/HMMT2025=30 | prompt: string; problem: string; hints: string; answer: string | viewer | 388,964 | 388.96 KB | 4 | parquet 2 | false | 44e6894464a29939e0bb857b6aa5cb33e5e1b1bf | https://huggingface.co/datasets/CMU-AIRe/RLAD-abstractions-benchmarks | https://huggingface.co/datasets/HYUKI5/CMU-AIRe__RLAD-abstractions-benchmarks | |||||
HYUKI5/ZhaoweiWang__AbsPyramid | ZhaoweiWang/AbsPyramid | 複製済み | public | 短い句で書かれた事象に 0 か 1 のラベルを付けたデータで、調査メモでは段落の論述ではないと注記されている。ラベルの付け方の詳細は未確認である。元のカードは空で、この説明は列名と調査メモから書いた。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q5. 抽象化の段階・原理への一般化・類推をラベルにしたデータは何があるか (L134) | mit | B | null | false | null | null | 0 | 0 | files | 89,553,268 | 89.55 MB | 30 | json 24 | false | 8d48c2849c34e558cd6ea3b86bffa5a4c1eeaa3d | https://huggingface.co/datasets/ZhaoweiWang/AbsPyramid | https://huggingface.co/datasets/HYUKI5/ZhaoweiWang__AbsPyramid | ||||||
HYUKI5/jiangjiechen__ekar_english | jiangjiechen/ekar_english | 複製済み | public | 公務員試験から採られた、語の対の類推（analogy）の問題に説明を付けたデータ。E-KAR の英語版（中国語版からの翻訳）で、1 行が問題（`question`、例は `plant:coal`）、選択肢（`choices`）、正解（`answerKey`）、選択肢ごとの説明（`explanation`）の組である。説明は各問題と各選択肢について手作業で付けられており、カードは類推を引くべきかを自由記述で説明させる方式だと述べる。調査メモでは件数は小さいとされる。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q5. 抽象化の段階・原理への一般化・類推をラベルにしたデータは何があるか (L136) | afl-3.0 | B | 1,248 | false | 6 | 6 | 1 | 3 | default/train=868; default/validation=118; default/test=262 | id: string; question: string; choices: struct{label: list<string>, text: list<string>}; answerKey: string; explanation: list<string>; relation: list<list<list<string>>> | viewer | 1,186,807 | 1.19 MB | 6 | json 3 | en | question-answering, text-generation | false | a4aa3ae597a4308ef79cd34138a2ddeba611ed51 | https://huggingface.co/datasets/jiangjiechen/ekar_english | https://huggingface.co/datasets/HYUKI5/jiangjiechen__ekar_english | ||
HYUKI5/llm-agents__CriticBench | llm-agents/CriticBench | 複製済み | public | 数学・常識・記号・コーディング・アルゴリズムの 5 領域で、LLM の推論を批評し、判別し、訂正する能力を測るベンチマーク CriticBench のデータ。1 行が問題（`question`）と応答（`response`）、応答の正誤（`response_label`）の組で、`model_source` と `question_source` に出所が入る。カードは 15 のデータセットを集め、3 つの LLM 系統の応答を含むとし、ライセンスは MIT と記す。調査メモでは opencompass 版の license 欄は空で、別物の可能性があるとされる。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q2. 推論の誤りの「位置・種類・理由」を人手で付けた検出ベンチは何があるか（数学以外を含む） (L53) | mit | B | 3,825 | false | 8 | 8 | 1 | 1 | default/test=3825 | id: int64; question: string; response: string; answer: list<string>; response_label: bool; model_source: string; question_source: string; question_type: string | viewer | 930,718 | 930.72 KB | 3 | parquet 1 | en | question-answering, text-classification, text-generation | https://arxiv.org/abs/2402.14809 | false | b96a766ac74020e2403a86fa0e92260c0e28bfdb | https://huggingface.co/datasets/llm-agents/CriticBench | https://huggingface.co/datasets/HYUKI5/llm-agents__CriticBench | |
HYUKI5/reasoning-proj__bigbench-mistake | reasoning-proj/bigbench-mistake | 複製済み | public | 記号操作や形式的な課題（単語の並べ替え、括弧の対応など）で、解法の誤りを扱うデータとされる。1 行が `input`・`steps`（解法のステップ）・`answer`・`mistake_index` の列からなる。元のカードは空で、この説明は列名と調査メモから書いた。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q2. 推論の誤りの「位置・種類・理由」を人手で付けた検出ベンチは何があるか（数学以外を含む） (L51) | D | 2,186 | false | 4 | 4 | 1 | 5 | default/dyck_languages=986; default/logical_deduction=300; default/multistep_arithmetic=300; default/word_sorting=300; default/tracking_shuffled_objects=300 | input: string; steps: list<string>; answer: string; mistake_index: int64 | viewer | 662,449 | 662.45 KB | 7 | parquet 5 | false | 4145c89a4a8c3314838941273ac85a3072e0eabd | https://huggingface.co/datasets/reasoning-proj/bigbench-mistake | https://huggingface.co/datasets/HYUKI5/reasoning-proj__bigbench-mistake | |||||
HYUKI5/ErrorRadar__ErrorRadar | ErrorRadar/ErrorRadar | 複製待ち | 毎日 300 本ずつ複製している | public | ユーザーの解答の誤りを特定するマルチモーダル LLM（MLLM）の能力を評価するためのデータ。K-12 の数学の問題について、問題画像の URL（`content_image`）、ユーザーの解答と手順（`user_answer`・`user_answer_steps`）、誤りの段階（`error_step`）と種類（`error_category`）の列を持つ数千件の行がある。調査メモでは問題が画像付きで、テキストだけでは問題が欠けるとされ、カードは画像の URL が 403 になることがあると注記している。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q2. 推論の誤りの「位置・種類・理由」を人手で付けた検出ベンチは何があるか（数学以外を含む） (L56) | D | 2,500 | false | 10 | 10 | 1 | 1 | default/train=2500 | question_id: string; content_image: string; study_level: string; question_type: string; content: string; answer: string; user_answer: string; user_answer_steps: string; error_step: string; error_category: string | viewer | 2,556,287 | 2.56 MB | 3 | csv 1 | table-question-answering | false | 5c298559830b77f0e7704e33f1bf9191e133cd45 | https://huggingface.co/datasets/ErrorRadar/ErrorRadar | https://huggingface.co/datasets/HYUKI5/ErrorRadar__ErrorRadar | |||
HYUKI5/JoeyCheng__story_analogy | JoeyCheng/story_analogy | 複製待ち | 毎日 300 本ずつ複製している | public | 物語どうしの類推を集めたデータ。1 行が物語の組で、`s1` と `s2` に 2 つの物語、`entity` と `relation` に数値、`domain` に分野が入る。元の論文 StoryAnalogy（EMNLP 2023）の題名では、大規模言語モデルから導いた類推とされる。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q5. 抽象化の段階・原理への一般化・類推をラベルにしたデータは何があるか (L135) | mit | B | 24,388 | false | 5 | 5 | 1 | 1 | default/train=24388 | s1: string; s2: string; entity: float64; relation: float64; domain: string | viewer | 5,422,610 | 5.42 MB | 3 | csv 1 | en | https://arxiv.org/abs/2310.12874 | false | d70152d3847927e15a2e741ee0c6839fcfc4cc89 | https://huggingface.co/datasets/JoeyCheng/story_analogy | https://huggingface.co/datasets/HYUKI5/JoeyCheng__story_analogy | |
HYUKI5/OpenStellarTeam__DeltaBench | OpenStellarTeam/DeltaBench | 複製待ち | 毎日 300 本ずつ複製している | public | o1 系の推論モデルが生成した長い思考連鎖（CoT）の誤りを、批評モデルや PRM が検出できるかを評価するためのデータ。数学・プログラミング・物理化学生物（PCB）・一般推論の千件余りのサンプルで、1 行が問題と長い CoT 1 件であり、各セクションに戦略の転換・推論の有用性・推論の正しさ（最初の誤り、説明、訂正）・内省の効率のラベルが付いている。調査メモでは評価向けで学習には件数が小さいとされ、カードは学習・研究向けのラベル付きデータを後で公開する予定としている。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q2. 推論の誤りの「位置・種類・理由」を人手で付けた検出ベンチは何があるか（数学以外を含む） (L57) | D | 1,236 | false | 16 | 16 | 1 | 1 | default/train=1236 | id: string; origin: string; task_l1: string; task_l2: string; question: string; solution: string; answer: string; long_cot: string; sections: string; sections_content: string; sections_labeled_info: string; final_correct: int64; stragegy_shift_section_numbers: string; reason_unuseful_section_numbers: string; reason_err... | viewer | 63,602,695 | 63.60 MB | 3 | csv 1 | https://arxiv.org/abs/2502.19361 | false | 894d233e5beb06b312b29761cc10e10ca5d2588a | https://huggingface.co/datasets/OpenStellarTeam/DeltaBench | https://huggingface.co/datasets/HYUKI5/OpenStellarTeam__DeltaBench | |||
HYUKI5/Qwen__ProcessBench | Qwen/ProcessBench | 複製待ち | 毎日 300 本ずつ複製している | public | Qwen Team が提案した、数学の推論過程の誤りを特定するベンチマーク ProcessBench のデータ。1 行が 1 問で、`problem`・`steps`（解法を分けたもの）・`final_answer_correct`・`label` などの列がある。評価用のベンチマークのため件数は小さく、調査メモでは第一の誤りより後のステップには正誤が付いていないとされる。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q1. 推論の各ステップに「正しい／誤り」を付けた PRM 用データは何があるか（数学中心） (L25) | apache-2.0 | B | 3,400 | false | 6 | 6 | 1 | 4 | default/gsm8k=400; default/math=1000; default/olympiadbench=1000; default/omnimath=1000 | id: string; generator: string; problem: string; steps: list<string>; final_answer_correct: bool; label: int64 | viewer | 8,168,963 | 8.17 MB | 6 | json 4 | en | https://arxiv.org/abs/2412.06559 | false | 3bdcd5371ed567559a78f559c01c13a6deee7604 | https://huggingface.co/datasets/Qwen/ProcessBench | https://huggingface.co/datasets/HYUKI5/Qwen__ProcessBench | |
HYUKI5/RLHFlow__Mistral-PRM-Data | RLHFlow/Mistral-PRM-Data | 複製待ち | 毎日 300 本ずつ複製している | public | 数学の推論過程の正誤を学習させる PRM 用のデータとされる。1 行は `conversations` という対話の列を持ち、詳細はカードの参照先（GitHub の math-rm）にあるが、生成モデルと問題集合の記述が README に無く、MATH と GSM8K のどちらに由来するかは未確認とされる。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q1. 推論の各ステップに「正しい／誤り」を付けた PRM 用データは何があるか（数学中心） (L21) | D | 273,226 | false | 1 | 1 | 1 | 1 | default/train=273226 | conversations: list<struct{content: string, role: string}> | viewer | 106,072,386 | 106.07 MB | 3 | parquet 1 | false | a18b43d250c8d900b0857fecf2e74d2c87145e1a | https://huggingface.co/datasets/RLHFlow/Mistral-PRM-Data | https://huggingface.co/datasets/HYUKI5/RLHFlow__Mistral-PRM-Data | ||||
HYUKI5/Randolphzeng__Mr-Ben | Randolphzeng/Mr-Ben | 複製待ち | 毎日 300 本ずつ複製している | public | 各分野の問題に対する LLM の解答を、正誤、最初の誤りのステップ、誤りの理由の 3 点で判定させるメタ推論ベンチマーク Mr-Ben のデータ。1 行が問題と解答 1 件で、各問題について Mistral・Claude・GPT3.5 から解答を 3 つずつサンプルしたものに、`Model_Solution_Correctness`・`Model_Solution_First_Error_Step`・`Model_Solution_Error_Reason` などの注釈が入る。調査メモでは最終答が合っていても推論が誤っているものを incorrect に含め、誤りの種類のラベルは無く理由は自由文とされる。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q2. 推論の誤りの「位置・種類・理由」を人手で付けた検出ベンチは何があるか（数学以外を含む） (L49) | mit | B | 5,975 | false | 13 | 13 | 1 | 1 | default/train=5975 | Ground_Truth_Answer: string; Ground_Truth_Answer_Modified: string; Model_Solution_Error_Reason: list<string>; Question: string; Options: string; Model_Solution_Correctness: string; Model_Solution_First_Error_Step: string; Model_Solution_Steps: list<string>; Subject: string; Sampled_Model: string; Model_Solution_Rectifi... | viewer | 17,652,308 | 17.65 MB | 9 | json 7 | en | question-answering | https://arxiv.org/abs/2312.17080, https://arxiv.org/abs/2406.13975 | false | f6217b8856a6d2f36c5ec426be8b623f9733fa9c | https://huggingface.co/datasets/Randolphzeng/Mr-Ben | https://huggingface.co/datasets/HYUKI5/Randolphzeng__Mr-Ben |
HYUKI5/Randolphzeng__Mr-GSM8K | Randolphzeng/Mr-GSM8K | 複製待ち | 毎日 300 本ずつ複製している | public | GSM8K の算数の問題に、モデルの段階的な解答の正誤、最初の誤りのステップ、誤りの理由を判定させるための評価用データ。1 行がモデルの解答 1 件で、`question`・`ground_truth_answer`・`model_output_steps`（文字列）と、正誤の注釈の列がある。カードによれば、解答の正誤と最初の誤りのステップは自動で採点できるが、誤りの理由は人手か GPT4 で採点すべきとされる。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q2. 推論の誤りの「位置・種類・理由」を人手で付けた検出ベンチは何があるか（数学以外を含む） (L50) | apache-2.0 | B | 2,999 | false | 11 | 11 | 1 | 1 | default/test=2999 | Unnamed: 0: int64; uuid: string; question: string; ground_truth_solution: string; ground_truth_answer: string; model_output_steps: string; model_output_answer_correctness: string; model_output_solution_correctness: string; model_output_solution_first_error_step: float64; model_output_solution_first_error_reason: string... | viewer | 4,463,644 | 4.46 MB | 3 | csv 1 | en | question-answering, text-generation | https://arxiv.org/abs/2312.17080 | false | f944ff9e0cd6d635e6204afb2e8bf07a430cb225 | https://huggingface.co/datasets/Randolphzeng/Mr-GSM8K | https://huggingface.co/datasets/HYUKI5/Randolphzeng__Mr-GSM8K |
HYUKI5/UW-Madison-Lee-Lab__MMLU-Pro-CoT-Eval | UW-Madison-Lee-Lab/MMLU-Pro-CoT-Eval | 複製待ち | 毎日 300 本ずつ複製している | public | 複数分野の問いに対する段階的な推論（chain of thought）と、その答えの正誤を集めたデータ。1 行が 1 件の問いと 1 本の推論で、`question` と `answer` に問いと正解、`category` に分野、`chain_of_thoughts` に推論の手順、`parsed_answer` に推論から解析した答え、`parsed_answer_correctness` にその正誤が入る。推論の各段階に誤りのラベルは付いていない。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q6. 数学以外（科学・法律・経済・ビジネス・金融・医療）のステップ・誤りラベルはあるか (L159) | mit | B | 248,836 | false | 9 | 9 | 1 | 1 | default/test=248836 | question: string; answer: string; category: string; src: string; id: string; chain_of_thoughts: string; cot_id: int64; parsed_answer: string; parsed_answer_correctness: bool | viewer | 771,280,733 | 771.28 MB | 4 | csv 2 | false | 01e1b9d8cfe423131410d6deb79b977da916522a | https://huggingface.co/datasets/UW-Madison-Lee-Lab/MMLU-Pro-CoT-Eval | https://huggingface.co/datasets/HYUKI5/UW-Madison-Lee-Lab__MMLU-Pro-CoT-Eval | |||
HYUKI5/UW-Madison-Lee-Lab__MMLU-Pro-CoT-Train-Labeled | UW-Madison-Lee-Lab/MMLU-Pro-CoT-Train-Labeled | 複製待ち | 毎日 300 本ずつ複製している | public | 多肢選択式の知識問題に対する段階的な推論（CoT）に、手順ごとの正誤ラベルを付けたデータ。1 行が 1 問と推論 1 件で、`chain_of_thoughts` の各手順に `labels`（1 が正しい手順、-1 が誤った手順）が付く。ラベルは LLM の判定で一致率は約 75% とされ、調査メモでは論述ではなく知識問題が元で、第一の誤りより後の手順は含まれないとされる。ライセンスは MIT と記されている。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q6. 数学以外（科学・法律・経済・ビジネス・金融・医療）のステップ・誤りラベルはあるか (L158) | mit | B | 84,098 | false | 10 | 10 | 1 | 1 | default/train=84098 | question: string; answer: string; category: string; src: string; id: string; chain_of_thoughts: string; labels: string; cot_id: int64; parsed_answer: string; parsed_answer_correctness: bool | viewer | 130,279,791 | 130.28 MB | 3 | csv 1 | false | 540d077215d9c230a5a07d3cfdc5c8127afb70e2 | https://huggingface.co/datasets/UW-Madison-Lee-Lab/MMLU-Pro-CoT-Train-Labeled | https://huggingface.co/datasets/HYUKI5/UW-Madison-Lee-Lab__MMLU-Pro-CoT-Train-Labeled | |||
HYUKI5/dmis-lab__llama-3.1-medprm-reward-training-set | dmis-lab/llama-3.1-medprm-reward-training-set | 複製待ち | 毎日 300 本ずつ複製している | public | 医療の問いと選択肢、正解、解答の候補を集めたデータ。1 行が 1 問で、`question` と `options` に問題、`correct_answer` に正解、`solutions` に解答の候補とその解答のラベル（`orm_label`）、`related_docs` に参照文書の一覧が入る。カードの本文は報酬モデル Med-PRM-Reward の説明で、データの作り方は書かれていない。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q6. 数学以外（科学・法律・経済・ビジネス・金融・医療）のステップ・誤りラベルはあるか (L161) | mit | B | 11,700 | false | 8 | 8 | 1 | 1 | default/train=11700 | question: string; options: list<string>; question_id: int64; correct_answer: string; accuracy: float64; solutions: list<struct{answer: string, orm_label: int64, orm_processed_solution: string, prm_gemini_label: list<int64>, prm_hard_label: list<int64>, …}>; data_source: string; related_docs: list<string> | viewer | 795,477,550 | 795.48 MB | 3 | json 1 | text-generation | https://arxiv.org/abs/2506.11474 | false | da371b3d91234be356b44c9cea56f1e39ead112e | https://huggingface.co/datasets/dmis-lab/llama-3.1-medprm-reward-training-set | https://huggingface.co/datasets/HYUKI5/dmis-lab__llama-3.1-medprm-reward-training-set | |
HYUKI5/ejcgan__hint-faithfulness-transcripts | ejcgan/hint-faithfulness-transcripts | 複製待ち | 毎日 300 本ずつ複製している | public | 複数のモデルが MMLU と GPQA-Diamond の問題を、ヒントの有無で解いた生の出力（トランスクリプト）のデータ。1 行（1 レコード）が（問題、ヒントの条件）の組で、送ったプロンプト、推論と表示された応答、抽出された答えを含む。ブログ記事の元になった出力で、Chen et al. 2025 の再現と拡張にあたり、判定のラベルは付いていない。問題文を繰り返す箇所があるため、言語モデルの学習コーパスに含めてはならない。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q4. CoT の忠実性・不正（報酬ハッキング・欺瞞）の監視用に、ラベルが付いた推論トレースはあるか (L109) | mit | B | null | false | null | null | 0 | 0 | files | 962,366,121 | 962.37 MB | 186 | jsonl.gz 184 | en | https://arxiv.org/abs/2505.05410 | false | 9eca91d00837e77e3076b63b0f787ba0e13813a1 | https://huggingface.co/datasets/ejcgan/hint-faithfulness-transcripts | https://huggingface.co/datasets/HYUKI5/ejcgan__hint-faithfulness-transcripts | |||
HYUKI5/hitsmy__PRMBench_Preview | hitsmy/PRMBench_Preview | 複製待ち | 毎日 300 本ずつ複製している | public | PRM（過程レベルの報酬モデル）の誤り検出を評価するベンチマーク PRMBench の公式データセット。1 行が 1 件で、元の解法（`original_process`）と、誤りを挿入して改変した解法（`modified_process`）、誤りのあるステップ（`error_steps`）、理由（`reason`）が入る。元は PRM800K の数学問題で、調査メモでは誤りは人工的に挿入したもので、モデルが自然に犯した誤りではないとされる。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q2. 推論の誤りの「位置・種類・理由」を人手で付けた検出ベンチは何があるか（数学以外を含む） (L48) | apache-2.0 | B | 6,216 | false | 12 | 12 | 1 | 1 | default/train=6216 | original_question: string; modified_question: string; original_process: list<string>; modified_process: list<string>; modified_steps: list<int64>; error_steps: list<int64>; reason: string; idx: string; question: string; classification: string; ground_truth: string; original_response: string | viewer | 20,403,296 | 20.40 MB | 3 | jsonl 1 | https://arxiv.org/abs/2501.03124 | false | 5cc7683d0ae5797f84d7aeac0607966f277c39e1 | https://huggingface.co/datasets/hitsmy/PRMBench_Preview | https://huggingface.co/datasets/HYUKI5/hitsmy__PRMBench_Preview | ||
HYUKI5/hkust-nlp__felm | hkust-nlp/felm | 複製待ち | 毎日 300 本ずつ複製している | public | LLM の応答の事実性を判定する手法を評価するためのメタベンチマーク FELM のデータ。世界知識・科学技術・文章推薦・推論・数学の 5 領域から、数百件のプロンプトに ChatGPT の応答を文ごとに分けたもので、各文に事実性のラベル（`labels`）、誤りの種類（`type`）、理由（`comment`）、参照（`ref`）が付いている。プロンプトは TruthfulQA などの既存のデータセット、GitHub、ChatGPT の生成物、著者の作成など複数の出所から集めた。調査メモでは応答を生成したのは ChatGPT の 1 種で、ライセンスは NC・SA（非商用・継承）とある。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q2. 推論の誤りの「位置・種類・理由」を人手で付けた検出ベンチは何があるか（数学以外を含む） (L54) | cc-by-nc-sa-4.0 | C | 847 | false | 9 | 9 | 5 | 5 | math/test=194; reasoning/test=208; science/test=125; wk/test=184; writing_rec/test=136 | index: int32; prompt: string; response: string; segmented_response: list<string>; labels: list<bool_>; comment: list<string>; type: list<string>; ref: list<string>; source: string | viewer | 2,191,844 | 2.19 MB | 5 | jsonl 1, zip 1, py 1 | en | text-generation | https://arxiv.org/abs/2310.00741 | false | 0692036ffdeecdc8dc1c69035faa7805a15c38d5 | https://huggingface.co/datasets/hkust-nlp/felm | https://huggingface.co/datasets/HYUKI5/hkust-nlp__felm |
HYUKI5/ishitakakkar-10__HarmThoughts | ishitakakkar-10/HarmThoughts | 複製待ち | 毎日 300 本ずつ複製している | public | ジェイルブレイクされた推論モデルの思考過程で、有害な振る舞いが文単位でどう生じ広がるかを研究するためのデータ。4 つのオープンウェイトの推論モデルから得た 1,018 件のトレースの文を、16 種の振る舞いのラベル（`llm_annotation`）と、トレース全体の安全性の判定（`final_judgment`、unsafe か partially unsafe）で注釈したもの。注釈は LLM が付けたもので、人手との一致は未確認とされる。カードは、有害な内容を生むモデルの学習や攻撃への利用を想定していないと明記している。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q3. 思考の「行動・構造」（検証・後戻り・計画・反省など）を文や節の単位で付けたデータは何があるか (L85) | mit | B | 56,931 | false | 9 | 9 | 1 | 1 | default/train=56931 | id: large_string; sentence_id: large_string; query: large_string; sentence: large_string; final_judgment: float64; model_name: large_string; class: large_string; llm_annotation: large_string; model_response: large_string | viewer | 6,701,892 | 6.70 MB | 3 | parquet 1 | text-classification, zero-shot-classification | false | 98a90c45ae2fc0a94a828cebb426917883ce35e1 | https://huggingface.co/datasets/ishitakakkar-10/HarmThoughts | https://huggingface.co/datasets/HYUKI5/ishitakakkar-10__HarmThoughts | ||
HYUKI5/jinulee-v__reasoningflow | jinulee-v/reasoningflow | 複製待ち | 毎日 300 本ずつ複製している | public | LLM の推論トレースを有向非巡回グラフ（DAG）に変換して注釈を付けたデータ。ノードは計画・事実・推論・反省などの推論の単位、エッジはノード間の推論・計画・反省の関係を表す。対象は AIME 2024 の数学、GPQA-Diamond の科学、ArgKP の論証の 3 領域（金融は含まない）で、千数百件のトレースのうち人手の注釈は 31 件だけであり、残りは Gemini のパイプラインによる自動注釈とカードに記されている。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q3. 思考の「行動・構造」（検証・後戻り・計画・反省など）を文や節の単位で付けたデータは何があるか (L82) | apache-2.0 | B | null | false | null | null | 0 | 0 | files | 115,940,041 | 115.94 MB | 4 | jsonl 2 | en | text-classification, graph-ml | https://arxiv.org/abs/2606.05402 | false | 0b98f82b2cb39ae98ca49223284f25ecf9be3d19 | https://huggingface.co/datasets/jinulee-v/reasoningflow | https://huggingface.co/datasets/HYUKI5/jinulee-v__reasoningflow | ||
HYUKI5/kevinpro__R-PRM | kevinpro/R-PRM | 複製待ち | 毎日 300 本ずつ複製している | public | 数学の推論過程を段階ごとに判断する生成型の報酬モデル（R-PRM）を学習させるためのデータ。1 行が `instruction`・`chosen`・`rejected` の列を持ち、SFT 版は限られた数の注釈例をプロンプトに与えた強い LLM から集め、DPO 版は複数の推論の軌跡から追加のラベルなしで選好ペアを作ったものである。ラベルは正解ではなく LLM の判定の蒸留で、人手の保持データを別に取る必要があるとされる。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q1. 推論の各ステップに「正しい／誤り」を付けた PRM 用データは何があるか（数学中心） (L22) | mit | B | 593,904 | false | 3 | 3 | 1 | 2 | default/train=552677; default/validation=41227 | instruction: string; chosen: string; rejected: string | viewer | 707,879,665 | 707.88 MB | 83 | parquet 80, json 1 | en | text-generation, reinforcement-learning | https://arxiv.org/abs/2503.21295 | false | 5e77c6e09920e41bea25458ae99f4474aece322d | https://huggingface.co/datasets/kevinpro/R-PRM | https://huggingface.co/datasets/HYUKI5/kevinpro__R-PRM |
HYUKI5/launch__thinkprm-1K-verification-cots | launch/thinkprm-1K-verification-cots | 複製待ち | 毎日 300 本ずつ複製している | public | 数学の問題について、解法の途中までを QwQ-32B-Preview に生成させた検証の思考連鎖（CoT）の千件のデータ。1 行が問題（`problem`）、解法の接頭部（`prefix`）と各ステップ（`prefix_steps`）、CoT 本文（`cot`）、人手の正誤ラベル（`gt_step_labels`）からなる。カードによれば、PRM800K の人手ラベルとすべてのステップで一致した連鎖だけを残して絞り込んだもので、調査メモでは数学だけで、QwQ-32B-Preview の癖が検証文に入るとされる。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q1. 推論の各ステップに「正しい／誤り」を付けた PRM 用データは何があるか（数学中心） (L23) | D | 1,000 | false | 6 | 6 | 1 | 1 | default/train=1000 | problem: string; prefix: string; cot: string; prefix_steps: list<string>; gt_step_labels: list<string>; prefix_label: bool | viewer | 2,185,786 | 2.19 MB | 4 | parquet 1 | question-answering, text-generation | https://arxiv.org/abs/2504.16828 | false | c0b1da4013fe67fb87d960fa648e050bfa988cde | https://huggingface.co/datasets/launch/thinkprm-1K-verification-cots | https://huggingface.co/datasets/HYUKI5/launch__thinkprm-1K-verification-cots | ||
HYUKI5/peiyi9979__Math-Shepherd | peiyi9979/Math-Shepherd | 複製待ち | 毎日 300 本ずつ複製している | public | 数学の問題の段階的な解法に、ステップごとの自動ラベル（`+` と `-`）を付けた PRM 用のデータ。1 行が `input`（問題と解法。解法の区切りに専用トークン「ки」が入る）、`label`（`+` と `-` のラベル）、`task`（GSM8K か MATH の別）からなる。ラベルは最終答の正誤を代理にして付けたもので、調査メモでは `-` は「このステップから正解に到達しにくい」の意であり、「このステップが誤り」とは別物とされる。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q1. 推論の各ステップに「正しい／誤り」を付けた PRM 用データは何があるか（数学中心） (L20) | D | 444,655 | false | 3 | 3 | 1 | 1 | default/train=444655 | input: string; label: string; task: string | viewer | 793,065,106 | 793.07 MB | 3 | jsonl 1 | https://arxiv.org/abs/2312.08935 | false | ae6b0c54fca9fa26096f7de175c747e4b262e01a | https://huggingface.co/datasets/peiyi9979/Math-Shepherd | https://huggingface.co/datasets/HYUKI5/peiyi9979__Math-Shepherd | |||
HYUKI5/richardyoung__cot-faithfulness-open-models | richardyoung/cot-faithfulness-open-models | 複製待ち | 毎日 300 本ずつ複製している | public | 誤った答えへ誘導するヒントを受けたとき、モデルがその影響を思考の連鎖（CoT）で認めるかを調べた実験のデータ。12 のオープンウェイトモデルが MMLU と GPQA Diamond の問題に答えた推論で、1 行に推論の本文（`thinking_text`）、答え（`answer_text`）、ヒントの種類（`hint_type`）、正解とヒントの指す答えのラベル（`correct_label`・`target_label`）が入る。ヒントは 6 種類とされ、調査メモでは件数が split 名の記述に基づくことや、ラベルの付け方が 2 方式で食い違うことが指摘されている。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q4. CoT の忠実性・不正（報酬ハッキング・欺瞞）の監視用に、ラベルが付いた推論トレースはあるか (L108) | cc-by-4.0 | B | 52,108 | false | 10 | 10 | 1 | 3 | default/base=5976; default/hinted=35856; default/classified=10276 | question_id: string; model_name: string; hint_type: string; thinking_text: string; answer_text: string; extracted_answer: string; correct_label: string; target_label: string; reasoning_tokens: int64; output_tokens: int64 | card_yaml | 1,144,643,031 | 1.14 GB | 590 | pdf 37, tex 26, png 24, md 6, arrow 5, bib 5, jsonl 4, json 4 | en | text-classification, question-answering | https://arxiv.org/abs/2603.22582, https://arxiv.org/abs/2603.20172, https://arxiv.org/abs/2505.05410, https://arxiv.org/abs/2305.04388, https://arxiv.org/abs/2307.13702 | false | 2ecb0b143d65fb51d70f54ddb1f639c6e2d7fc08 | https://huggingface.co/datasets/richardyoung/cot-faithfulness-open-models | https://huggingface.co/datasets/HYUKI5/richardyoung__cot-faithfulness-open-models |
HYUKI5/ryokamoi__FoVer-FormalLogic-Qwen-2.5-7B | ryokamoi/FoVer-FormalLogic-Qwen-2.5-7B | 複製待ち | 毎日 300 本ずつ複製している | public | 形式論理の問題に対する LLM の解答の各ステップに、形式検証ツール（Z3 や Isabelle）で自動的に付けた誤りのラベルのデータ。1 行が 1 件で、`solution_steps` に解答のステップ、`error_labels` に各ステップに誤りがあるかの真偽が入る。カードによれば論文の旧版の資料を含み、最新版は GitHub の psunlpgroup/FoVer にあり、調査メモでは自然言語の論述の誤りとは分布が違うとされる。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q1. 推論の各ステップに「正しい／誤り」を付けた PRM 用データは何があるか（数学中心） (L24) | cc-by-4.0 | B | 10,720 | false | 10 | 10 | 1 | 3 | default/train=10000; default/validation=360; default/test=360 | id: string; problem: string; solution_steps: list<string>; error_labels: list<bool>; problem_witout_definition: string; messages: list<struct{role: string, content: string}>; base_dataset: string; messages_for_prediction: list<struct{role: string, content: string}>; hypothesis_formula: string; facts_formula: string | viewer | 12,103,468 | 12.10 MB | 7 | parquet 3, png 2 | en | https://arxiv.org/abs/2505.15960 | false | 35f4a825eaeac9f9327ffbd0e5365c53537252ed | https://huggingface.co/datasets/ryokamoi/FoVer-FormalLogic-Qwen-2.5-7B | https://huggingface.co/datasets/HYUKI5/ryokamoi__FoVer-FormalLogic-Qwen-2.5-7B | |
HYUKI5/ryokamoi__realmistake | ryokamoi/realmistake | 複製待ち | 毎日 300 本ずつ複製している | private | LLM の応答の誤りを検出する手法を評価するためのベンチマーク ReaLMistake のデータ。GPT-4 と Llama 2 70B が数学の文章題の生成、きめ細かな事実検証、回答可能性の分類で犯した自然な誤りに、人間の専門家が二値の誤りラベル（`error_label`）、誤りのカテゴリ（`error_categories`）、説明（`human_explanation`）を付けたもの。利用には規約への同意が要り（gated）、カードは例をプレーンテキストのまま公開しないよう求めている。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q2. 推論の誤りの「位置・種類・理由」を人手で付けた検出ベンチは何があるか（数学以外を含む） (L55) | cc-by-sa-4.0 | B | 903 | false | 6 | 6 | 4 | 7 | answerability_classification/gpt4=140; answerability_classification/llama2=160; example/example=3; finegrained_fact_verification/gpt4=140; finegrained_fact_verification/llama2=160; math_word_problem_generation/gpt4=140; math_word_problem_generation/llama2=160 | input: string; llm_response: string; error_label: string; human_explanation: string; error_categories: list<string>; metadata: struct{dataset, difficulty, id, llm_response_model, task_name} | card_yaml | 1,382,886 | 1.38 MB | 12 | parquet 7, png 2 | en | https://arxiv.org/abs/2404.03602 | true | 8ac8c9f93b88140d1aaa51562b91570aed840ef2 | https://huggingface.co/datasets/ryokamoi/realmistake | https://huggingface.co/datasets/HYUKI5/ryokamoi__realmistake | |
HYUKI5/skylenage-ai__MedPRMBench-Test | skylenage-ai/MedPRMBench-Test | 複製待ち | 毎日 300 本ずつ複製している | public | 臨床の推論連鎖をステップ単位で検査するベンチマークのテスト分割。1 行が 1 問で、元の推論連鎖と、誤りを注入して改変した連鎖を持ち、誤りのあるステップの番号（`error_steps`）と誤りの種類（`error_codes`）が付いている。問題は専門家が作ったもの（Class A）と生成したもの（Class B）からなり、`severity_score` は作成時に定めた値で、医師が評価した患者への害の推定ではない。公式版ではない候補の印が付いており、上流の 7 つの問題ソースについてのライセンスは表明されていないので、再配布の条件を確認してから使う。 | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q6. 数学以外（科学・法律・経済・ビジネス・金融・医療）のステップ・誤りラベルはあるか (L162) | D | 6,500 | false | 22 | 22 | 1 | 1 | default/test=6500 | answer_changed: bool; correct_answer: string; corrupted_answer: string; corrupted_steps: list<string>; dataset: string; dataset_type: string; error_categories: list<string>; error_codes: list<string>; error_injection_reason: string; error_step_code_map: list<struct{error_description: string, error_step_indices: list<in... | viewer | 47,631,320 | 47.63 MB | 5 | parquet 1, json 1, jsonl 1 | en | question-answering | false | 8ba2119f9255b573e8667ad49fb6d148d506a044 | https://huggingface.co/datasets/skylenage-ai/MedPRMBench-Test | https://huggingface.co/datasets/HYUKI5/skylenage-ai__MedPRMBench-Test | ||
null | uzaymacar/math-rollouts | 除外 | 50GB を超える | null | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | reasoning_process_labels.md | AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット | Q3. 思考の「行動・構造」（検証・後戻り・計画・反省など）を文や節の単位で付けたデータは何があるか (L83) | mit | B | null | false | null | null | null | null | 110,985,134,374 | 110.99 GB | 29,030 | parquet 183, json 15 | en | question-answering, text-generation | https://arxiv.org/abs/2506.19143 | false | a3a2fe1eb6d52e6ef81860baff018a8df2eb8ae2 | https://huggingface.co/datasets/uzaymacar/math-rollouts | |||||
HYUKI5/OsamaBsher__AITA-Reddit-Dataset | OsamaBsher/AITA-Reddit-Dataset | 複製待ち | 毎日 300 本ずつ複製している | public | AITA サブレディットの投稿と、その投稿の判定に一致する票数の多い上位 2 件のコメントを集めたデータ。1 行が 1 件の投稿で、`title` と `text` に投稿の内容、`verdict` に判定、`comment1` と `comment2` にコメント、`score` にアップボート数が入る。Reddit PushShift の 2013 年から 2023 年 4 月までのデータから抽出して作られた。 | HF 以外の収集元と Reddit 由来データセット (2026-11 時点) | reddit_and_other_sources.md | HF 以外の収集元と Reddit 由来データセット (2026-11 時点) | 2. Reddit 由来のラベル付きデータセット (カタログ) (L76) | D | 270,709 | false | 7 | 7 | 1 | 1 | default/train=270709 | id: string; title: string; text: string; verdict: string; comment1: string; comment2: string; score: int64 | viewer | 680,645,791 | 680.65 MB | 3 | csv 1 | text-generation, text-classification | https://arxiv.org/abs/2310.18336 | false | 585f29b7e35c64269659b1db238642ec47320bcf | https://huggingface.co/datasets/OsamaBsher/AITA-Reddit-Dataset | https://huggingface.co/datasets/HYUKI5/OsamaBsher__AITA-Reddit-Dataset | ||
HYUKI5/validname__reddit-ai-detection | validname/reddit-ai-detection | 複製待ち | 毎日 300 本ずつ複製している | public | 人間が書いた Reddit の投稿とコメントを集めた、AI 生成テキストの検出研究用のデータ。1 行が 1 件の投稿かコメントで、`text` に本文、`subreddit` と `domain` に出典、`post_type` に投稿かコメントかの別、`year` と `created_utc` に時期が入る。カードは 2022 年より前の分割を人手で書かれた正解のテキストとして扱えるとしているが、調査メモでは bot の存在から、この前提に疑義が指摘されている。 | HF 以外の収集元と Reddit 由来データセット (2026-11 時点) | reddit_and_other_sources.md | HF 以外の収集元と Reddit 由来データセット (2026-11 時点) | 2. Reddit 由来のラベル付きデータセット (カタログ) (L71) | other | D | 39,945 | false | 10 | 10 | 1 | 2 | default/pre_2022=19960; default/post_2022=19985 | text: large_string; subreddit: large_string; domain: large_string; post_type: large_string; year: int64; word_count: int64; length_bin: large_string; score: int64; created_utc: int64; id: large_string | viewer | 16,467,245 | 16.47 MB | 4 | parquet 2 | en | text-classification | false | f43ec97330839f06eb8c7bd9644428b0a0646dc3 | https://huggingface.co/datasets/validname/reddit-ai-detection | https://huggingface.co/datasets/HYUKI5/validname__reddit-ai-detection | |
HYUKI5/CLUTRR__v1 | CLUTRR/v1 | 複製済み | public | 架空の家族を扱う半合成の物語で、2 人の関係を推論させる診断用ベンチマーク（CLUTRR）のデータ。1 行が物語（`story`）と問い（`query`、2 人の名前の組）からなり、正解の関係が `target_text`（例: grandmother）と、その番号 `target` に入る。`task_name` の 1 つ目の数字は物語に加えたノイズの種類（なし・無関係な事実・裏付けの事実・切断された事実）、2 つ目の数字は必要な節の長さを示す。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | unknown | D | 70,631 | false | 14 | 14 | 6 | 18 | gen_train234_test2to10/train=12064; gen_train234_test2to10/validation=3019; gen_train234_test2to10/test=1048; gen_train23_test2to10/train=9074; gen_train23_test2to10/validation=2020; gen_train23_test2to10/test=1146; rob_train_clean_23_test_all_23/train=8098; rob_train_clean_23_test_all_23/validation=2026; rob_train_cle... | id: string; story: string; query: string; target: int32; target_text: string; clean_story: string; proof_state: string; f_comb: string; task_name: string; story_edges: string; edge_types: string; query_edge: string; genders: string; task_split: string | viewer | 13,117 | 13.12 KB | 3 | py 1 | en | https://arxiv.org/abs/1908.06177 | false | a8158d1fac10864c3424d53662fe63bf7d82dd87 | https://huggingface.co/datasets/CLUTRR/v1 | https://huggingface.co/datasets/HYUKI5/CLUTRR__v1 | ||
HYUKI5/FastFit__hwu_64 | FastFit/hwu_64 | 複製済み | public | テキストに文字列のラベルを付けた組のデータ。1 行が 1 つのテキストで、`text` に本文、`label` にラベルが入っている。台帳では、Jev の元データのうち既存のアノテーションを変換した版とされる。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（bekko-system-one-dataset-v0） | A | 11,106 | false | 2 | 2 | 1 | 3 | default/train=8954; default/validation=1076; default/test=1076 | label: string; text: string | viewer | 230,102 | 230.10 KB | 5 | parquet 3 | false | 9fb5bff1e37c4c5a6d46c1ff6f286b6d3f362222 | https://huggingface.co/datasets/FastFit/hwu_64 | https://huggingface.co/datasets/HYUKI5/FastFit__hwu_64 | |||||
HYUKI5/INK-USC__riddle_sense | INK-USC/riddle_sense | 複製済み | public | 謎かけ（riddle）形式の常識推論の多肢選択問題のデータ。1 行が 1 問で、`question` に問題文、`choices` に A〜E の 5 つの選択肢（`label` と `text`）、`answerKey` に正解の記号が入っている。ファンサイトで集められた謎かけと答えを元にしており、研究目的に限って提供され、元サイトの利用規約に従う。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | other | C | 5,715 | false | 3 | 3 | 1 | 3 | default/train=3510; default/validation=1021; default/test=1184 | answerKey: string; question: string; choices: list<?> | card_yaml | 12,593 | 12.59 KB | 3 | py 1 | en | question-answering | false | 839cbbe6d7faef6204c3a79a2f7b852ffdc505b8 | https://huggingface.co/datasets/INK-USC/riddle_sense | https://huggingface.co/datasets/HYUKI5/INK-USC__riddle_sense | ||
HYUKI5/PiC__phrase_similarity | PiC/phrase_similarity | 複製済み | public | 英語の 2 つの複数語の名詞句が、同じ文脈の中で意味的に似ているかを判定するデータ（Phrase Similarity）。1 行が 1 組の句の対で、`phrase1`・`phrase2` に句、`sentence1`・`sentence2` にそれぞれの文脈の文、`label` に 0（負例）か 1（正例）が入っている。文は Wikipedia から取り、アノテーションは Upwork で雇った言語学の専門家が行い、1000 人を超える Mechanical Turk の作業者と別の 5 人の専門家が 2 回の検証をした。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | cc-by-nc-4.0 | C | 10,004 | false | 6 | 6 | 1 | 3 | PS-hard/train=7004; PS-hard/validation=1000; PS-hard/test=2000 | phrase1: string; phrase2: string; sentence1: string; sentence2: string; label: class_label(2: negative, positive); idx: int32 | viewer | 13,745 | 13.74 KB | 4 | json 1, py 1 | en | text-classification | https://arxiv.org/abs/2207.09068 | false | fc67ce7c1e69e360e42dc6f31ddf97bb32f1923d | https://huggingface.co/datasets/PiC/phrase_similarity | https://huggingface.co/datasets/HYUKI5/PiC__phrase_similarity | |
HYUKI5/QAngaroo__wiki_hop | QAngaroo/wiki_hop | 複製済み | public | 論文の題（Constructing Datasets for Multi-hop Reading Comprehension Across Documents）から、文書をまたぐ多段の読解のデータである。1 行が 1 つの問い（`query`）で、`candidates` に候補の答え、`answer` に正解、`supports` と `annotations` に根拠の列が入っている。構成は masked と original の 2 つがある。元のカードの大半は未記入で、この説明は列名と論文の題から書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | cc-by-sa-3.0 | B | 97,734 | false | 6 | 6 | 2 | 4 | original/train=43738; original/validation=5129; masked/train=43738; masked/validation=5129 | id: string; query: string; answer: string; candidates: list<string>; supports: list<string>; annotations: list<list<string>> | card_yaml | 9,658 | 9.66 KB | 3 | py 1 | en | question-answering | https://arxiv.org/abs/1710.06481 | false | 15b7dfb153aeff20243913f4f3632548e2deabfa | https://huggingface.co/datasets/QAngaroo/wiki_hop | https://huggingface.co/datasets/HYUKI5/QAngaroo__wiki_hop | |
HYUKI5/Salesforce__wikisql | Salesforce/wikisql | 複製済み | public | Wikipedia 由来の多数の表に対して、自然言語の質問を SQL に変換するためのデータ。1 行が 1 つの質問で、`question` に質問文、`table` に表の見出しと内容、`sql` に SQL を表す構造（`human_readable` に読みやすい形）が入っている。質問と SQL の組は、クラウドソーシングで人手によりアノテーションされたもの。Seq2SQL の論文（arXiv:1709.00103）で導入された。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | unknown | D | 80,654 | false | 4 | 4 | 1 | 3 | default/test=15878; default/validation=8421; default/train=56355 | phase: int32; question: string; table: struct{header, page_title, page_id, types, id}; sql: struct{human_readable, sel, agg, conds} | card_yaml | 15,544 | 15.54 KB | 3 | py 1 | en | https://arxiv.org/abs/1709.00103 | false | 5de818eb69c5385e763201d9b9abc36df69a81dc | https://huggingface.co/datasets/Salesforce/wikisql | https://huggingface.co/datasets/HYUKI5/Salesforce__wikisql | ||
HYUKI5/SemEvalWorkshop__emo | SemEvalWorkshop/emo | 複製済み | public | 会話の発話を直前の 2 ターンの文脈と合わせて読み、感情（happy、sad、angry、others）の 4 クラスのいずれかに分類するデータ。1 行が発話と文脈を含む `text` と、感情のラベル `label` を持つ。分割は train と test の 2 つである。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | unknown | A | 35,669 | false | 2 | 2 | 1 | 2 | emo2019/train=30160; emo2019/test=5509 | text: string; label: struct{class_label: struct{names: struct{…}}} | card_yaml | 14,756 | 14.76 KB | 3 | py 1 | en | text-classification | false | 635e95332a716374a40a6f266db53513ea5a0a01 | https://huggingface.co/datasets/SemEvalWorkshop/emo | https://huggingface.co/datasets/HYUKI5/SemEvalWorkshop__emo | ||
HYUKI5/SemEvalWorkshop__humicroedit | SemEvalWorkshop/humicroedit | 複製済み | public | 英語のニュース見出しの 1 語を別の語に置き換えた版の面白さを評価するデータ（SemEval-2020 Task 7）。1 行が 1 件の編集で、元の見出し `original`、置き換えた語 `edit`、アノテーターの評点 `grades` とその平均 `meanGrade` が入っている。設定は平均の点数を予測する `subtask-1` と、2 つの編集版のどちらが面白いかを選ぶ `subtask-2` に分かれる。調査メモではライセンスが未指定とされている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | unknown | D | 39,997 | false | 5 | 10 | 2 | 8 | subtask-1/train=9652; subtask-1/test=3024; subtask-1/validation=2419; subtask-1/funlines=8248; subtask-2/train=9381; subtask-2/test=2960; subtask-2/validation=2355; subtask-2/funlines=1958 | id: string; original: string; edit: string; grades: string; meanGrade: float32 | card_yaml | 15,937 | 15.94 KB | 3 | py 1 | en | text-classification | https://arxiv.org/abs/1906.00274 | false | 2ac5775fe2cb97e6ff096aa5274b0a19a1ea3872 | https://huggingface.co/datasets/SemEvalWorkshop/humicroedit | https://huggingface.co/datasets/HYUKI5/SemEvalWorkshop__humicroedit | |
HYUKI5/allenai__math_qa | allenai/math_qa | 複製済み | public | 数学の文章題（選択式）のデータ。1 行は一問で、`Problem`（問題文）、`options`（選択肢）、`correct`（正解）、`Rationale`（解説）を持ち、`annotated_formula` と `linear_formula` に操作プログラムが入る。AQuA-RAT の問題・選択肢・解説・正解に、新しい表現言語で完全に規定された操作プログラムをアノテーションして作られた（論文は MathQA）。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | apache-2.0 | A | 37,297 | false | 7 | 7 | 1 | 3 | default/test=2985; default/train=29837; default/validation=4475 | Problem: string; Rationale: string; options: string; correct: string; annotated_formula: string; linear_formula: string; category: string | card_yaml | 11,863 | 11.86 KB | 3 | py 1 | en | question-answering | false | c4f1cc784c04c4957b50c97858f23893b633eea6 | https://huggingface.co/datasets/allenai/math_qa | https://huggingface.co/datasets/HYUKI5/allenai__math_qa | ||
HYUKI5/allenai__wiqa | allenai/wiqa | 複製済み | public | 段落の文脈で、ある摂動が起きたときの影響を問う質問のデータ。質問は 39,705 問で、train、dev、test に分かれている。1 行が 1 問に対応し、問いの文を `question_stem`、段落の過程の各ステップを `question_para_step`、答え（例: `more`）を `answer_label` に入れている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 39,705 | false | 10 | 10 | 1 | 3 | default/train=29808; default/test=3003; default/validation=6894 | question_stem: string; question_para_step: list<string>; answer_label: string; answer_label_as_choice: string; choices: list<?>; metadata_question_id: string; metadata_graph_id: string; metadata_para_id: string; metadata_question_type: string; metadata_path_len: int32 | card_yaml | 13,629 | 13.63 KB | 3 | py 1 | en | https://arxiv.org/abs/1909.04739 | false | 8dda4b5e237452fb939b39326f68ad6607e75ab6 | https://huggingface.co/datasets/allenai/wiqa | https://huggingface.co/datasets/HYUKI5/allenai__wiqa | |||
HYUKI5/aps__dynahate | aps/dynahate | 複製済み | public | 既存の注釈を変換して作ったとされるデータ。調査メモには行数と列の記録がなく、ビューアでも読めなかった。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | B | null | false | null | null | 0 | 0 | files | 12,551 | 12.55 KB | 3 | json 1, py 1 | false | 2ea9ced0a070d39219d01f9536b858db20fcae75 | https://huggingface.co/datasets/aps/dynahate | https://huggingface.co/datasets/HYUKI5/aps__dynahate | |||||||
HYUKI5/community-datasets__definite_pronoun_resolution | community-datasets/definite_pronoun_resolution | 複製済み | public | 文中の代名詞が指す先行詞を、2 つの候補から選ぶためのデータ。1 行が文 `sentence`、代名詞 `pronoun`、候補 `candidates`、正解を示す `label`（0 か 1）を持つ。著者の学部の授業を受けた 30 人の学生が作った文で、実際の出来事から映画の登場人物、架空の状況まで幅広い話題を扱う。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | unknown | D | 1,886 | false | 4 | 4 | 1 | 2 | plain_text/test=564; plain_text/train=1322 | sentence: string; pronoun: string; candidates: list<string>; label: class_label(2: 0, 1) | viewer | 115,511 | 115.51 KB | 4 | parquet 2 | en | token-classification | false | 0fdf659653e37a0a3bf8af0909a43969304b2b19 | https://huggingface.co/datasets/community-datasets/definite_pronoun_resolution | https://huggingface.co/datasets/HYUKI5/community-datasets__definite_pronoun_resolution | ||
HYUKI5/defunct-datasets__amazon_reviews_multi | defunct-datasets/amazon_reviews_multi | 複製済み | public | 英語・日本語・ドイツ語・フランス語・中国語・スペイン語の Amazon の商品レビューを集めた多言語のコーパス。1 行は一件のレビューで、`review_body`、`review_title`、`stars`（1〜5 の星の数）、`product_category` などを持ち、レビュアーと商品の ID は匿名化されている。2015 年 11 月から 2019 年 11 月までに収集され、各言語で星の評価ごとに 20% ずつ均衡させてある。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | other | D | 2,520,000 | false | 8 | 8 | 7 | 21 | all_languages/train=1200000; all_languages/validation=30000; all_languages/test=30000; de/train=200000; de/validation=5000; de/test=5000; en/train=200000; en/validation=5000; en/test=5000; es/train=200000; es/validation=5000; es/test=5000; fr/train=200000; fr/validation=5000; fr/test=5000; ja/train=200000; ja/validatio... | review_id: string; product_id: string; reviewer_id: string; stars: int32; review_body: string; review_title: string; language: string; product_category: string | card_yaml | 24,013 | 24.01 KB | 3 | py 1 | de, en, es, fr, ja, zh | summarization, text-generation, fill-mask, text-classification | https://arxiv.org/abs/2010.02573 | false | b6115b04af1d02b3c30849bdd4c55899bff0ae63 | https://huggingface.co/datasets/defunct-datasets/amazon_reviews_multi | https://huggingface.co/datasets/HYUKI5/defunct-datasets__amazon_reviews_multi | |
HYUKI5/eriktks__conll2003 | eriktks/conll2003 | 複製済み | public | 英語の文に人名・地名・組織名などの固有表現を付けた、固有表現認識（NER）のデータ。1 行が 1 文で、単語の列（`tokens`）ごとに品詞（`pos_tags`）、チャンク（`chunk_tags`）、固有表現（`ner_tags`）の番号が付く。CoNLL-2003 の共有タスクのデータで、カードは固有表現のタグが IOB2 形式だが元のデータセットは IOB1 である点に注意を促している。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | other | C | 20,744 | false | 5 | 5 | 1 | 3 | conll2003/train=14041; conll2003/validation=3250; conll2003/test=3453 | id: string; tokens: list<string>; pos_tags: list<class_label(47)>; chunk_tags: list<class_label(23)>; ner_tags: list<class_label(9)> | card_yaml | 23,074 | 23.07 KB | 3 | py 1 | en | token-classification | false | 3f1cce917ab38486481b062921eb137e7bd3c205 | https://huggingface.co/datasets/eriktks/conll2003 | https://huggingface.co/datasets/HYUKI5/eriktks__conll2003 | ||
HYUKI5/fhamborg__news_sentiment_newsmtsc | fhamborg/news_sentiment_newsmtsc | 複製済み | public | 英語のニュース記事の文に、対象ごとの感情を人手でラベル付けしたデータ。1 行が 1 件の対象の言及で、文は `sentence`、対象の語は `mention`、その位置は `from` と `to`、感情は `polarity`（-1 が負、0 が中立、1 が正）に入る。各文は 5 人のコーダーがラベルを付け、判定が同じか似ていた例だけを残している。サブセットは `rw` と `mt` があり、カードは既定の `rw` の利用を勧める。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | mit | A | null | false | null | null | 0 | 0 | files | 15,177 | 15.18 KB | 4 | json 1, py 1 | en | text-classification | false | 98afeae90eadb629ae70cd2d0fc16f64c2cd2f8d | https://huggingface.co/datasets/fhamborg/news_sentiment_newsmtsc | https://huggingface.co/datasets/HYUKI5/fhamborg__news_sentiment_newsmtsc | ||||
HYUKI5/google-research-datasets__google_wellformed_query | google-research-datasets/google_wellformed_query | 複製済み | public | 英語のクエリが整った自然な質問の形になっているかを判定するためのデータ。1 行が 1 件のクエリで、文を `content`、整形されている確率を `rating` に持つ。Paralex コーパスから選んだクエリに、5 人のクラウドワーカーが整形されているかを 2 値で判定し、その平均を `rating` にしている。ライセンスは CC BY-SA 4.0 である。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | cc-by-sa-4.0 | B | 25,100 | false | 2 | 2 | 1 | 3 | default/train=17500; default/test=3850; default/validation=3750 | rating: float32; content: string | card_yaml | 9,816 | 9.82 KB | 3 | py 1 | en | text-classification | https://arxiv.org/abs/1808.09419 | false | 287f895e19da0c028407dd0b6356efffc9401ecf | https://huggingface.co/datasets/google-research-datasets/google_wellformed_query | https://huggingface.co/datasets/HYUKI5/google-research-datasets__google_wellformed_query | |
HYUKI5/indonlp__NusaX-senti | indonlp/NusaX-senti | 複製済み | public | インドネシア語、英語、インドネシアの地方言語 10 種の計 12 言語で、肯定・中立・否定の感情ラベルを付けた文のデータ。1 行は一つの文（`text`）と言語（`lang`）、`label`（negative・neutral・positive）の組である。インドネシア語の感情分析データ SmSA（オンラインのコメントとレビュー）から 1,000 件を層化抽出し、ネイティブ話者が他の 11 言語へ翻訳して作った。ライセンスは CC-BY-SA 4.0。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | cc-by-sa-4.0 | B | 12,000 | false | 4 | 4 | 12 | 36 | ace/train=500; ace/validation=100; ace/test=400; ban/train=500; ban/validation=100; ban/test=400; bbc/train=500; bbc/validation=100; bbc/test=400; bjn/train=500; bjn/validation=100; bjn/test=400; bug/train=500; bug/validation=100; bug/test=400; eng/train=500; eng/validation=100; eng/test=400; ind/train=500; ind/validat... | id: string; text: string; lang: string; label: class_label(3: negative, neutral, positive) | viewer | 12,264 | 12.26 KB | 3 | py 1 | ace, ban, bjn, bug, en, id, jv, mad, min, nij, su, bbc | text-classification | https://arxiv.org/abs/2205.15960 | false | a450ba4b1b6d2216c3674d3e576b2e85ce729add | https://huggingface.co/datasets/indonlp/NusaX-senti | https://huggingface.co/datasets/HYUKI5/indonlp__NusaX-senti | |
HYUKI5/khalidalt__offenseval_2020_ar | khalidalt/offenseval_2020_ar | 複製済み | public | OffensEval 2020 のアラビア語（ar）の文に、攻撃的（OFF）か否か（NOT）かのラベルを付けたデータ。1 行は `text` と `subtask_a`（NOT または OFF）の組で、`id` と `original_id` を持つ。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 9,666 | false | 4 | 4 | 1 | 2 | default/train=7839; default/test=1827 | id: string; original_id: string; text: string; subtask_a: class_label(2: NOT, OFF) | viewer | 1,133,514 | 1.13 MB | 4 | parquet 2 | ar | false | 455e5de353695480c50ff7bd5a5e20e7d6b199d4 | https://huggingface.co/datasets/khalidalt/offenseval_2020_ar | https://huggingface.co/datasets/HYUKI5/khalidalt__offenseval_2020_ar | ||||
HYUKI5/leondz__wnut_17 | leondz/wnut_17 | 複製済み | public | ノイズの多い文章で、新出・希少な固有表現を見つけて分類する WNUT 17 の共有タスクのデータ。1 行が 1 文で、単語の列は `tokens`、IOB2 形式の固有表現のタグは `ner_tags` に入る。カードの例文はツイートである。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | cc-by-4.0 | A | 5,690 | false | 3 | 3 | 1 | 3 | wnut_17/train=3394; wnut_17/validation=1009; wnut_17/test=1287 | id: string; tokens: list<string>; ner_tags: list<class_label(13)> | card_yaml | 17,686 | 17.69 KB | 3 | py 1 | en | token-classification | false | be8fbd57399293da6f9aad56a793bce5bf1fd30e | https://huggingface.co/datasets/leondz/wnut_17 | https://huggingface.co/datasets/HYUKI5/leondz__wnut_17 | ||
HYUKI5/lighteval__bbq_helm | lighteval/bbq_helm | 複製済み | public | 文脈（`context`）と質問（`question`）に選択肢（`choices`）と正解の番号（`gold_index`）を付けた多肢選択式のデータで、年齢、障害の状態、性別のアイデンティティなどの構成（config）に分かれている。調査メモでは評価専用とされる。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（bekko-system-one-dataset-v0） | A | 11,864 | false | 5 | 5 | 12 | 12 | Age/test=1000; Disability_status/test=1000; Gender_identity/test=1000; Nationality/test=1000; Physical_appearance/test=1000; Race_ethnicity/test=1000; Race_x_SES/test=1000; Race_x_gender/test=1000; Religion/test=1000; SES/test=1000; Sexual_orientation/test=864; all/test=1000 | context: string; question: string; references: struct{output: list<string>, tags: list<list<string>>}; choices: list<string>; gold_index: int64 | viewer | 881,366 | 881.37 KB | 14 | parquet 12 | false | 10937569dd76b6f33b2ff3572382ed87458e7856 | https://huggingface.co/datasets/lighteval/bbq_helm | https://huggingface.co/datasets/HYUKI5/lighteval__bbq_helm | |||||
HYUKI5/lighteval__lsat_qa | lighteval/lsat_qa | 複製済み | public | LSAT の問題のデータで、構成は all・assignment・grouping・miscellaneous・ordering の 5 つ。1 行は `passage`、`question`、`references`（リスト）、`gold_index`（整数）からなる。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 459 | false | 4 | 4 | 5 | 5 | all/test=230; assignment/test=22; grouping/test=5; miscellaneous/test=182; ordering/test=20 | passage: string; question: string; references: list<string>; gold_index: int64 | viewer | 99,962 | 99.96 KB | 7 | parquet 5 | false | a1612eed9892cb37995b31d3e0c703018a35d7c6 | https://huggingface.co/datasets/lighteval/lsat_qa | https://huggingface.co/datasets/HYUKI5/lighteval__lsat_qa | |||||
HYUKI5/nikhilweee__sharc_modified | nikhilweee/sharc_modified | 複製済み | public | ShARC（規則の文章に基づく会話型の質問応答）から、ニューラルモデルに悪用されうる見せかけのパターンを減らして作り直した英語のデータ。1 行が 1 件で、質問（`question`）、会話の履歴（`history`）、根拠（`evidence`）、答え（`answer`）などを持ち、構成は 4 つある。パターンに当たる例は、代替の例に置き換えるか元の例を残すかを自動で選んでいる。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | unknown | D | 52,860 | false | 9 | 10 | 4 | 6 | mod/train=21890; mod/validation=2270; mod_dev_multi/validation=2270; history/train=21890; history/validation=2270; history_dev_multi/validation=2270 | id: string; utterance_id: string; source_url: string; snippet: string; question: string; scenario: string; history: list<struct>; evidence: list<struct>; answer: string | card_yaml | 18,288 | 18.29 KB | 3 | py 1 | en | question-answering | https://arxiv.org/abs/1909.03759, https://arxiv.org/abs/2009.06354 | false | cd708611e596e8cc44c9d35ca9a8c213552a3cda | https://huggingface.co/datasets/nikhilweee/sharc_modified | https://huggingface.co/datasets/HYUKI5/nikhilweee__sharc_modified | |
HYUKI5/pietrolesci__add_one_rte | pietrolesci/add_one_rte | 複製済み | public | 形容詞と名詞の組み合わせを題材にした含意判定のデータ。元は AN-composition で、本文の HTML タグと余分な空白を取り除いてある。1 行が 1 組の `premise` と `hypothesis` で、`mean_human_score` に人手の平均スコア、`label` に entailed か not-entailed が入る。テストでは平均が 3 以下と 4 以上の例だけを残し、それ以外の分割では 3.5 を境に二値に分けた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | C | 5,378 | false | 8 | 8 | 1 | 3 | default/train=4481; default/test=387; default/dev=510 | mean_human_score: float32; binary_label: string; sentence_id: string; adjective: string; noun: string; premise: string; hypothesis: string; label: int64 | viewer | 561,775 | 561.77 KB | 6 | parquet 3, json 1 | false | a5bdde974239556a20e6fc1624c2e32ee20b0c6a | https://huggingface.co/datasets/pietrolesci/add_one_rte | https://huggingface.co/datasets/HYUKI5/pietrolesci__add_one_rte | |||||
HYUKI5/pietrolesci__fracas | pietrolesci/fracas | 複製済み | public | FraCaS（Stanford の fracas.xml）を改変し、NLI の形に直したデータ。前提 P1 から Pn を `premise`、仮説 H を `hypothesis` に入れ、`label` は entailment、neutral、contradiction の 3 値（0、1、2）である。元の yes を entailment、no を contradiction、undef と unknown を neutral に写し、train と dev に 80:20 でランダムに分けた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 346 | false | 3 | 3 | 1 | 2 | default/train=276; default/dev=70 | premise: string; hypothesis: string; label: int64 | viewer | 26,574 | 26.57 KB | 5 | parquet 2, json 1 | false | b9dee7e7cf675ed6f2b97378b8de74920162b617 | https://huggingface.co/datasets/pietrolesci/fracas | https://huggingface.co/datasets/HYUKI5/pietrolesci__fracas | |||||
HYUKI5/pkavumba__balanced-copa | pkavumba/balanced-copa | 複製済み | public | COPA（Roemmele ら, 2011）に、答えの選択肢が同じでラベルが異なるミラーの例を加え、表層的な手がかりを減らした英語のデータ。1 行が 1 件の前提（`premise`）と 2 つの選択肢（`choice1`・`choice2`）で、`question` に問いの種類、`label` に正解の番号、`mirrored` にミラーかどうかが入る。分割は validation と test のみで、学習用の分割はない。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | cc-by-4.0 | A | 1,500 | false | 7 | 7 | 1 | 2 | default/train=1000; default/test=500 | label: int64; id: int64; premise: string; question: string; choice1: string; choice2: string; mirrored: bool | viewer | 175,719 | 175.72 KB | 4 | csv 2 | en | question-answering | false | 813bd03cd6e07d9bd8d7333896ad5d40abb95ea9 | https://huggingface.co/datasets/pkavumba/balanced-copa | https://huggingface.co/datasets/HYUKI5/pkavumba__balanced-copa | ||
HYUKI5/shmuhammad__AfriSenti-twitter-sentiment | shmuhammad/AfriSenti-twitter-sentiment | 複製済み | public | アフリカの 14 言語のツイートに、positive・neutral・negative の感情ラベルを付けたデータ。1 行は一つのツイート（`tweet`）と `label` の組で、amh・arq・hau などの言語ごとの構成に分かれている。SemEval 2023 Task 12（AfriSenti-SemEval）の共有タスクで使われ、train・validation・test に分けられている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | A | 111,718 | false | 2 | 2 | 14 | 42 | amh/train=5984; amh/validation=1497; amh/test=1999; arq/train=1651; arq/validation=414; arq/test=958; ary/train=5583; ary/validation=494; ary/test=2961; hau/train=14172; hau/validation=2677; hau/test=5303; ibo/train=10192; ibo/validation=1841; ibo/test=3682; kin/train=3302; kin/validation=827; kin/test=1026; orm/train=... | tweet: string; label: class_label(3: positive, neutral, negative) | viewer | 18,677 | 18.68 KB | 4 | py 1, json 1 | amh, ary, ar, arq, hau, ibo, kin, por, pcm, eng, oro, swa, tir, twi, tso, yor | text-classification | https://arxiv.org/abs/2302.08956, https://arxiv.org/abs/2304.06845, https://arxiv.org/abs/2201.08277 | false | b52e930385cf5ed7f063072c3f7bd17b599a16cf | https://huggingface.co/datasets/shmuhammad/AfriSenti-twitter-sentiment | https://huggingface.co/datasets/HYUKI5/shmuhammad__AfriSenti-twitter-sentiment | ||
HYUKI5/sihaochen__propsegment | sihaochen/propsegment | 複製済み | public | 文を命題に分割する課題と、命題が文書に含意されるかを判定する課題のための英語のデータ。Google Research の PropSegmEnt を、ニュース部分の URL からクローリングで再現したもので、全体の約 96% を復元している。元のデータは命題と含意関係を人手でアノテーションしたもので、`segmentation` 設定では `sentence` と、命題の範囲を `[M]` と `[/M]` で囲んだ `propositions` の組が、`nli` 設定では `hypothesis`、`premise`、`label` の組が入る。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | cc-by-4.0 | A | 45,232 | false | 2 | 3 | 2 | 6 | nli/train=23835; nli/validation=1949; nli/test=8284; segmentation/train=9400; segmentation/validation=686; segmentation/test=1078 | hypothesis: string; premise: string; label: string | viewer | 13,865 | 13.87 KB | 3 | py 1 | en | text-classification, token-classification, text-generation | https://arxiv.org/abs/2212.10750 | false | 8454abe0cc508213c931e32fff18f982fc26712f | https://huggingface.co/datasets/sihaochen/propsegment | https://huggingface.co/datasets/HYUKI5/sihaochen__propsegment | |
HYUKI5/sonos-nlu-benchmark__snips_built_in_intents | sonos-nlu-benchmark/snips_built_in_intents | 複製済み | public | 10 種類の意図（intent）のラベルが付いた英語の発話 328 件のデータ。1 行が 1 件の発話で、`text` に発話文、`label` に意図の番号が入る。もとは複数の音声アシスタントの性能を比べるために、Snips のビジネスチームが作った問いの集まりで、集め方はカードに明らかにされていない。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | cc0-1.0 | A | 328 | false | 2 | 2 | 1 | 1 | default/train=328 | text: string; label: class_label(10: ComparePlaces, RequestRide, GetWeather, SearchPlace, GetPlaceDetails, ShareCurrentLocation …) | viewer | 18,980 | 18.98 KB | 3 | parquet 1 | en | text-classification | https://arxiv.org/abs/1805.10190 | false | 7a3f9329f396a746c867f370c7ab210dff9c789b | https://huggingface.co/datasets/sonos-nlu-benchmark/snips_built_in_intents | https://huggingface.co/datasets/HYUKI5/sonos-nlu-benchmark__snips_built_in_intents | |
HYUKI5/tasksource__AdjectiveScaleProbe-nli | tasksource/AdjectiveScaleProbe-nli | 複製済み | public | 前提（`premise`）と仮説（`hypothesis`）の組に `label` を付けたデータで、調査メモでは元の注釈を決まった規則で変換したものとされている。1 行が 1 組の前提と仮説を表し、`config` に設定が入っている。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 22,432 | false | 4 | 4 | 1 | 3 | default/train=15600; default/validation=3748; default/test=3084 | premise: string; hypothesis: string; label: string; config: string | viewer | 314,320 | 314.32 KB | 5 | parquet 3 | false | d65a682068a5aaf2416b01d2bcd40946181262e0 | https://huggingface.co/datasets/tasksource/AdjectiveScaleProbe-nli | https://huggingface.co/datasets/HYUKI5/tasksource__AdjectiveScaleProbe-nli | |||||
HYUKI5/tasksource__ReSQ | tasksource/ReSQ | 複製済み | public | `story`、`question`、`answer` の列を持つデータ。調査メモでは、元の注釈を決まった規則で変換したものとされている。1 行が 1 件の物語と質問を表し、`q_type` に質問の種類、`answer` と `candidate_answers` に答えと候補が入っている。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 3,113 | false | 5 | 5 | 1 | 2 | default/train=2450; default/dev=663 | story: string; question: string; q_type: string; answer: list<string>; candidate_answers: list<string> | viewer | 62,299 | 62.30 KB | 4 | parquet 2 | false | af1de4db85517821a938069ce2d72153bfae4d4d | https://huggingface.co/datasets/tasksource/ReSQ | https://huggingface.co/datasets/HYUKI5/tasksource__ReSQ | |||||
HYUKI5/tasksource__apt | tasksource/apt | 複製済み | public | 言い換えの判定（パラフレーズ検出）のための、2 つの文の組のデータ。1 行が 1 組の `text_a` と `text_b` で、`labels` に二値の判定が入る。カードには論文（Nighojkar と Licato, 2021）の引用と GitHub の URL しか無く、台帳では元の注釈を変換して作られたとされる。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | unknown | D | 5,007 | false | 3 | 3 | 1 | 2 | default/train=3746; default/test=1261 | text_a: string; text_b: string; labels: int64 | viewer | 697,590 | 697.59 KB | 4 | tsv 2 | en | text-classification | false | f6c07f66d3eccebd36418885ce10aff295d436dd | https://huggingface.co/datasets/tasksource/apt | https://huggingface.co/datasets/HYUKI5/tasksource__apt | ||
HYUKI5/tasksource__com2sense | tasksource/com2sense | 複製済み | public | 相補的な文の組で常識推論を測るベンチマーク（COM2SENSE）のデータ。1 行が 1 文（`sent`）で、`label` が付き、`scenario`・`numeracy`・`domain` の列も入る。引用の論文は Singh ら（ACL Findings 2021）で、調査メモでは元の注釈を決まった規則で変換したものとされる。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 2,390 | false | 6 | 6 | 1 | 2 | default/train=1608; default/validation=782 | numeracy: string; scenario: string; sent: string; label: string; id: string; domain: string | viewer | 666,113 | 666.11 KB | 4 | json 2 | en | false | 99d1b25627a0b38202d5744c0c71baeef7b648e2 | https://huggingface.co/datasets/tasksource/com2sense | https://huggingface.co/datasets/HYUKI5/tasksource__com2sense | ||||
HYUKI5/tasksource__cycic_classification | tasksource/cycic_classification | 複製済み | public | 常識を問う問題（CycIC）のデータ。1 行が 1 問（`question`）で、問いの種類（`questionType`）、カテゴリ（`categories`）、`blanks`（真偽値）、正解の番号（`correct_answer`）が付く。元は Kejriwal と Shen（2020）の論文 Do Fine-tuned Commonsense Language Models Really Generalize? に関するデータである。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | apache-2.0 | A | 4,774 | false | 7 | 7 | 1 | 2 | default/train=4156; default/validation=618 | run_id: int64; guid: string; correct_answer: int64; categories: list<string>; questionType: string; question: string; blanks: bool | viewer | 461,297 | 461.30 KB | 4 | parquet 2 | en | question-answering, text-classification | https://arxiv.org/abs/2301.05948 | false | b4864d6b5d0a53b3c8c4854de38b1b4861021acc | https://huggingface.co/datasets/tasksource/cycic_classification | https://huggingface.co/datasets/HYUKI5/tasksource__cycic_classification | |
HYUKI5/tasksource__feasibilityQA | tasksource/feasibilityQA | 複製済み | public | 前提 `premise` と仮説 `hypothesis` の組に二値のラベルを付けた形のデータ。1 行が知識 `knowledge`、前提、仮説、二値のラベル `binary_classification_label` を持ち、分野を `category` と `subcategory` で示す。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | mit | A | 3,248 | false | 6 | 6 | 1 | 1 | default/train=3248 | category: string; subcategory: string; knowledge: string; premise: string; hypothesis: string; binary_classification_label: bool | viewer | 968,166 | 968.17 KB | 3 | csv 1 | false | 9cdcbcc2105ae92681409f2c9d36786f623870ba | https://huggingface.co/datasets/tasksource/feasibilityQA | https://huggingface.co/datasets/HYUKI5/tasksource__feasibilityQA | ||||
HYUKI5/tasksource__miqa | tasksource/miqa | 複製済み | public | 比喩を使った前提・結論と、その文字どおりの版を対にしたデータで、調査メモの台帳では評価専用とされている。1 行が 1 組の推論で、`literal_premise`・`literal_conclusion`・`metaphorical_premise`・`metaphorical_conclusion` の 4 列を持つ。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（bekko-system-one-dataset-v0） | cc-by-4.0 | A | 150 | false | 4 | 4 | 1 | 1 | default/train=150 | literal_premise: string; metaphorical_premise: string; literal_conclusion: string; metaphorical_conclusion: string | viewer | 23,140 | 23.14 KB | 3 | tsv 1 | false | b0b4a19860eea1740f04a7836612ec239e08e838 | https://huggingface.co/datasets/tasksource/miqa | https://huggingface.co/datasets/HYUKI5/tasksource__miqa | ||||
HYUKI5/tasksource__strategy-qa | tasksource/strategy-qa | 複製済み | public | 真偽値の答え（`answer`）を持つ問答のデータ。1 行は問い（`question`）と答えの組で、語（`term`）、説明（`description`）、事実（`facts`）、分解（`decomposition`）の列を持つ。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 2,290 | false | 7 | 7 | 1 | 1 | default/train=2290 | qid: string; term: string; description: string; facts: list<string>; answer: bool; question: string; decomposition: list<string> | viewer | 1,272,533 | 1.27 MB | 2 | json 1 | false | f0e71799fcfdee70d1618765168904370cfec189 | https://huggingface.co/datasets/tasksource/strategy-qa | https://huggingface.co/datasets/HYUKI5/tasksource__strategy-qa | |||||
HYUKI5/ucsbai__liar | ucsbai/liar | 複製済み | public | politifact.com の短い言明（statement）に真偽の判定を付けた、フェイクニュース検出のためのデータ。1 行が 1 件の言明で、`statement` に言明文、`speaker`・`job_title`・`party_affiliation` に発言者の情報、`label` に判定が入っている。判定は politifact.com の編集者が付けたもので、元のデータは同サイトの API から得られた。調査メモではライセンスが未指定とされている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | unknown | D | 12,836 | false | 14 | 14 | 1 | 3 | default/train=10269; default/test=1283; default/validation=1284 | id: string; label: struct{class_label: struct{names: struct{…}}}; statement: string; subject: string; speaker: string; job_title: string; state_info: string; party_affiliation: string; barely_true_counts: float32; false_counts: float32; half_true_counts: float32; mostly_true_counts: float32; pants_on_fire_counts: float... | card_yaml | 12,743 | 12.74 KB | 3 | py 1 | en | text-classification | https://arxiv.org/abs/1705.00648 | false | ff3a15312273f5294c4418c1c3c28781e1d51afe | https://huggingface.co/datasets/ucsbai/liar | https://huggingface.co/datasets/HYUKI5/ucsbai__liar | |
HYUKI5/viethq1906__isarcasm_2022_taskA_En | viethq1906/isarcasm_2022_taskA_En | 複製済み | public | 英語の文（`sentence`）に整数のラベル `sentiment` が付いたデータで、1 行が 1 件の文である。ラベルは元のアノテーションを決まった規則で変換して作られている。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 4,891 | false | 2 | 2 | 1 | 3 | default/train=3121; default/validation=347; default/test=1423 | sentence: string; sentiment: int64 | viewer | 735,181 | 735.18 KB | 5 | json 4 | false | 5f0b1c17c4f023b9bd7ea2159d12879a46b02d90 | https://huggingface.co/datasets/viethq1906/isarcasm_2022_taskA_En | https://huggingface.co/datasets/HYUKI5/viethq1906__isarcasm_2022_taskA_En | |||||
HYUKI5/zapsdcn__citation_intent | zapsdcn/citation_intent | 複製済み | public | jsonl 形式の 3 ファイルからなるデータで、ビューアでは行数も列も読めなかった。調査メモでは、元の注釈を決まった規則で変換したものとされる。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | null | false | null | null | 0 | 0 | files | 535,844 | 535.84 KB | 4 | jsonl 3 | false | f5e62b86ee701ba2ea2a5d95be12cd7633b6f6f9 | https://huggingface.co/datasets/zapsdcn/citation_intent | https://huggingface.co/datasets/HYUKI5/zapsdcn__citation_intent | |||||||
HYUKI5/zapsdcn__sciie | zapsdcn/sciie | 複製済み | public | `text`、`label`（文字列）、`metadata`（整数のリスト）の 3 列からなるデータ。調査メモによると、元の注釈を決まった規則で変換して作られており、利用条件は未確認である。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 4,648 | false | 3 | 3 | 1 | 3 | default/train=3219; default/validation=455; default/test=974 | text: string; label: string; metadata: list<int64> | viewer | 1,192,829 | 1.19 MB | 4 | jsonl 3 | false | 5a2b849f75005cec88e20e461bbabcf4a73e90f2 | https://huggingface.co/datasets/zapsdcn/sciie | https://huggingface.co/datasets/HYUKI5/zapsdcn__sciie | |||||
HYUKI5/AndyChiang__cloth | AndyChiang/cloth | 複製待ち | 毎日 300 本ずつ複製している | public | 中学校と高校の英語の試験から集めた、穴埋め問題のデータ。1 行が 1 問で、空欄を含む文（`sentence`）と正解（`answer`）、誤りの選択肢（`distractors`）の組からなる。公開元は CMU の CLOTH で、問題は中学校と高校に分けられ、train・valid・test に分割されている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | mit | A | 99,433 | false | 3 | 3 | 1 | 3 | default/train=76850; default/validation=11067; default/test=11516 | distractors: list<string>; sentence: string; answer: string | viewer | 20,143,276 | 20.14 MB | 5 | json 3 | en | fill-mask | false | 205ca64c78a48e01e0ba211163c89e77c027a4ff | https://huggingface.co/datasets/AndyChiang/cloth | https://huggingface.co/datasets/HYUKI5/AndyChiang__cloth | |
HYUKI5/AndyChiang__dgen | AndyChiang/dgen | 複製待ち | 毎日 300 本ずつ複製している | public | 科学・語彙・常識・雑学などの穴埋め問題のデータ。1 行が問題文 `sentence`、正解 `answer`、誤答の選択肢のリスト `distractors` の組 1 件である。SciQ、MCQL、AI2 Science Questions など複数のデータセットから編纂された。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | mit | A | 2,580 | false | 3 | 3 | 1 | 2 | default/train=2321; default/test=259 | sentence: string; distractors: list<string>; answer: string | viewer | 683,526 | 683.53 KB | 4 | json 2 | en | fill-mask | false | 104c7e6a9c489be3b34bfdb905cf124063473ea7 | https://huggingface.co/datasets/AndyChiang/dgen | https://huggingface.co/datasets/HYUKI5/AndyChiang__dgen | |
HYUKI5/AshtonIsNotHere__biosift-nli | AshtonIsNotHere/biosift-nli | 複製待ち | 毎日 300 本ずつ複製している | public | PMID が付いた論文の題名と抄録に、仮説を組み合わせた自然言語推論のデータ。1 行が 1 組の抄録と仮説で、`Entailment` に数値の含意の値、`Positive` に真偽、`Label_idx` にラベルの番号が入る。台帳では元の注釈を変換して作られたとされる。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 140,000 | false | 7 | 7 | 1 | 3 | default/train=112070; default/validation=13958; default/test=13972 | PMID: int64; Title: string; Abstract: string; Hypothesis: string; Entailment: float64; Positive: bool; Label_idx: int64 | viewer | 11,695,805 | 11.70 MB | 5 | parquet 3 | false | a96bd965b74888997dd5ae47cc12314d6178c319 | https://huggingface.co/datasets/AshtonIsNotHere/biosift-nli | https://huggingface.co/datasets/HYUKI5/AshtonIsNotHere__biosift-nli | ||||
HYUKI5/AshtonIsNotHere__nli4ct_semeval2024 | AshtonIsNotHere/nli4ct_semeval2024 | 複製待ち | 毎日 300 本ずつ複製している | public | SemEval 2024 Task 2（臨床試験のための安全な生物医学的自然言語推論）用に編纂された、臨床試験の記述に対する自然言語推論のデータ。1 行が 1 つのステートメント（`Statement`）で、`Label` に判定、`Primary_evidence` と `Secondary_evidence` に根拠の文のリストが入っている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 4,042 | false | 9 | 9 | 1 | 3 | default/train=1700; default/test=2142; default/dev=200 | Type: string; Section_id: string; Primary_id: string; Secondary_id: string; Statement: string; Label: string; Primary_evidence: list<string>; Secondary_evidence: list<string>; Index: string | viewer | 1,405,986 | 1.41 MB | 6 | parquet 3, json 1 | en | text-classification, sentence-similarity | false | efabeed1a59c02a714a778358fcac7d17872915a | https://huggingface.co/datasets/AshtonIsNotHere/nli4ct_semeval2024 | https://huggingface.co/datasets/HYUKI5/AshtonIsNotHere__nli4ct_semeval2024 | ||
HYUKI5/Brand24__mms | Brand24/mms | 複製待ち | 毎日 300 本ずつ複製している | private | 科学文献で報告された 350 件を超えるデータセットから、手作業で選んだ 79 件を集めた、27 言語の感情分類のための多言語コーパス集。列には `language` と `label_name`（感情ラベル）などがあり、言語とラベルごとの件数はカードの表に載っている。各データセットには元の出典の引用があり、ライセンスはデータセットごとに異なるため、利用の前に個別に確認する必要がある。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | other | D | null | false | null | null | 0 | 0 | files | 1,968,228,295 | 1.97 GB | 170 | txt 81, tsv 80, py 5, ipynb 1 | ar, bg, bs, cs, de, el, en, es, fa, fr, he, hi, hr, hu, it, ja, lv, pl, pt, ru | text-classification | https://arxiv.org/abs/2306.07902 | true | 95b662d6672a0eaa1633ea2af7362ccd8264db3d | https://huggingface.co/datasets/Brand24/mms | https://huggingface.co/datasets/HYUKI5/Brand24__mms | ||
HYUKI5/CEBaB__CEBaB | CEBaB/CEBaB | 複製待ち | 毎日 300 本ずつ複製している | public | 観点ごとの評価ラベルを付けた文のデータ。1 行が 1 件の文で、`id`・`original_id`・`edit_id` で元の文と書き換えの関係が分かり、`food_aspect_majority` などの列に food・ambiance・service・noise の多数決と分布が入る。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | A | 18,600 | false | 24 | 24 | 1 | 5 | default/validation=1673; default/test=1689; default/train_exclusive=1755; default/train_inclusive=11728; default/train_observational=1755 | id: string; original_id: string; edit_id: string; is_original: bool; edit_goal: string; edit_type: string; edit_worker: string; description: string; review_majority: string; review_label_distribution: string; review_workers: string; food_aspect_majority: string; ambiance_aspect_majority: string; service_aspect_majority... | viewer | 2,611,398 | 2.61 MB | 7 | parquet 5, json 1 | false | 9d2a5a096f1b94344309406886ccc402d9048de8 | https://huggingface.co/datasets/CEBaB/CEBaB | https://huggingface.co/datasets/HYUKI5/CEBaB__CEBaB | ||||
HYUKI5/ColumbiaNLP__FLUTE | ColumbiaNLP/FLUTE | 複製待ち | 毎日 300 本ずつ複製している | public | 慣用句を含む前提と仮説の組に、ラベルと説明を付けた比喩表現のデータ。1 行が 1 件の項目を表し、`idiom` に慣用句、`premise` と `hypothesis` に文、`label` にラベル、`explanation` に説明が入っている。カードの概要は、比喩表現の生成と説明可能性を対象としたモデル・イン・ザ・ループの手法としている。調査メモでは、元の注釈を決まった規則で変換したものとされている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | afl-3.0 | A | 7,534 | false | 8 | 8 | 1 | 1 | default/train=7534 | id: int64; hypothesis: string; premise: string; idiom: string; label: string; explanation: string; split: string; type: string | viewer | 3,185,383 | 3.19 MB | 3 | jsonl 1 | en | text-classification | false | 84087ff790a60b7e361d86c6acd9a558f07a1244 | https://huggingface.co/datasets/ColumbiaNLP/FLUTE | https://huggingface.co/datasets/HYUKI5/ColumbiaNLP__FLUTE | |
HYUKI5/DAMO-NLP-SG__SOUL | DAMO-NLP-SG/SOUL | 複製待ち | 毎日 300 本ずつ複製している | public | 言語の感情と意見の理解を調べるためのデータで、EMNLP 2023 の論文 SOUL の公開データである。1 行が 1 件のステートメントで、`review_text` に元のレビュー、`statement` にその文、`label` に True・False・Not-given の別が入っている。レビューは train・dev・test に 6:1:3 の比率で分けられている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | mit | A | 15,028 | false | 5 | 5 | 1 | 3 | default/train=8834; default/validation=1481; default/test=4713 | rid: string; review_text: string; statement: string; justification: string; label: string | viewer | 11,914,247 | 11.91 MB | 5 | csv 3 | en | text-classification, text-generation | false | aef002daaa10d151457958a28b162fc996825023 | https://huggingface.co/datasets/DAMO-NLP-SG/SOUL | https://huggingface.co/datasets/HYUKI5/DAMO-NLP-SG__SOUL | |
HYUKI5/Dahoas__synthetic-instruct-gptj-pairwise | Dahoas/synthetic-instruct-gptj-pairwise | 複製待ち | 毎日 300 本ずつ複製している | public | 指示文に対する 2 つの応答の選好を比べたデータ。1 行が 1 組の比較で、`prompt` に指示文、`chosen` に選ばれた応答、`rejected` に退けられた応答が入っている。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 33,143 | false | 3 | 3 | 1 | 1 | default/train=33143 | prompt: string; chosen: string; rejected: string | viewer | 18,225,148 | 18.23 MB | 3 | parquet 1, json 1 | false | cc92d8dbdfff0362b1e887d8fba3601f8fff8cef | https://huggingface.co/datasets/Dahoas/synthetic-instruct-gptj-pairwise | https://huggingface.co/datasets/HYUKI5/Dahoas__synthetic-instruct-gptj-pairwise | ||||
HYUKI5/Dzeniks__hover | Dzeniks/hover | 複製待ち | 毎日 300 本ずつ複製している | public | 多段（many-hop）の事実抽出と主張検証のためのデータ。1 行が 1 件の主張で、`claim` に主張の文、`evidence` に根拠（URL か短い文の断片のことがある）、`label` に `0`（Supports）か `1`（Refutes）が入っている。出典は Jiang らが EMNLP 2020 で発表した HoVer の論文である。元データのラベルは決まった規則で変換して作られている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | mit | A | 18,296 | false | 4 | 4 | 1 | 2 | default/train=14296; default/test=4000 | id: int64; claim: string; evidence: string; label: int64 | viewer | 12,411,576 | 12.41 MB | 4 | jsonl 2 | text-classification | false | 8cacc890b6a6bb80e163bab3bdb67db147df58c9 | https://huggingface.co/datasets/Dzeniks/hover | https://huggingface.co/datasets/HYUKI5/Dzeniks__hover | ||
HYUKI5/GBaker__MedQA-USMLE-4-options-hf | GBaker/MedQA-USMLE-4-options-hf | 複製待ち | 毎日 300 本ずつ複製している | public | 医学の試験問題から作られた、4 択の質問応答のデータ。1 行が 1 件の問題を表し、`sent1` と `sent2` に文、`ending0` から `ending3` に選択肢、`label` に正解の番号が入っている。元のデータセットは Jin らが 2020 年に導入したもので、この版は調査メモでは元の注釈を決まった規則で変換したものとされている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | cc-by-sa-4.0 | B | 12,723 | false | 8 | 8 | 1 | 3 | default/train=10178; default/validation=1272; default/test=1273 | id: string; sent1: string; sent2: string; ending0: string; ending1: string; ending2: string; ending3: string; label: int64 | viewer | 12,241,796 | 12.24 MB | 5 | json 3 | https://arxiv.org/abs/2009.13081 | false | 17af9355ef89fba60de966eabaeba797c695f86e | https://huggingface.co/datasets/GBaker/MedQA-USMLE-4-options-hf | https://huggingface.co/datasets/HYUKI5/GBaker__MedQA-USMLE-4-options-hf | ||
HYUKI5/GGLab__PARADISE | GGLab/PARADISE | 複製待ち | 毎日 300 本ずつ複製している | public | 動画の ID（`video-id`）と 4 つの選択肢（`ending0` から `ending3`）を持つデータで、調査メモでは元の注釈を決まった規則で変換したものとされている。1 行が 1 件の項目を表し、`startphrase`、`sent1`、`sent2`、`gold-source` と、正解の番号 `label` が入っている。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | mit | A | 115,075 | false | 12 | 12 | 1 | 3 | default/train=104075; default/validation=10000; default/test=1000 | Unnamed: 0: int64; video-id: string; fold-ind: string; startphrase: string; sent1: string; sent2: string; gold-source: string; ending0: string; ending1: string; ending2: string; ending3: string; label: int64 | viewer | 93,133,246 | 93.13 MB | 8 | csv 6 | false | 337abd1e88956c84261924e5bda1023597fc3bec | https://huggingface.co/datasets/GGLab/PARADISE | https://huggingface.co/datasets/HYUKI5/GGLab__PARADISE | |||
HYUKI5/INK-USC__xcsr | INK-USC/xcsr | 複製待ち | 毎日 300 本ずつ複製している | public | 多言語の常識推論を評価するための問答データ。英語の CSQA と CODAH を自動翻訳して 16 言語にしたもので、X-CSQA と X-CODAH の系列に分かれる。1 行が 1 言語の 1 問で、`id` は言語をまたいで共通、`lang` に言語コード、`question` に問題文と選択肢、`answerKey` に正解の記号が入っている。翻訳は自動のため誤りを含みうるとカードにあり、テストの正解は公開されていない。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | mit | A | 53,984 | false | 4 | 5 | 32 | 64 | X-CODAH-ar/test=1000; X-CODAH-ar/validation=300; X-CODAH-de/test=1000; X-CODAH-de/validation=300; X-CODAH-en/test=1000; X-CODAH-en/validation=300; X-CODAH-es/test=1000; X-CODAH-es/validation=300; X-CODAH-fr/test=1000; X-CODAH-fr/validation=300; X-CODAH-hi/test=1000; X-CODAH-hi/validation=300; X-CODAH-it/test=1000; X-CO... | id: string; lang: string; question_tag: string; question: struct{stem: string, choices: list<struct{…}>}; answerKey: string | viewer | 8,090,045 | 8.09 MB | 66 | parquet 64 | ar, de, en, es, fr, hi, it, ja, nl, pl, pt, ru, sw, ur, vi, zh | question-answering | https://arxiv.org/abs/2106.06937 | false | f691f311a11f84773a899e9bfc7da2bae51b0b02 | https://huggingface.co/datasets/INK-USC/xcsr | https://huggingface.co/datasets/HYUKI5/INK-USC__xcsr |
HYUKI5/IlyaGusev__headline_cause | IlyaGusev/headline_cause | 複製待ち | 毎日 300 本ずつ複製している | public | 英語とロシア語のニュース見出しの対について、間にある因果関係を判定するためのデータ。1 行が見出しの対で、タイトル `left_title`・`right_title`、判定結果 `result`、アノテーターの一致度 `agreement` などから成る。対は無関係なものから、因果や反論の関係を含むものまで様々である。ラベルは Yandex Toloka でクラウドソーシングにより付けられた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | cc0-1.0 | A | 24,624 | false | 11 | 11 | 4 | 12 | en_full/train=2009; en_full/test=252; en_full/validation=251; en_simple/train=4332; en_simple/test=542; en_simple/validation=542; ru_full/train=5713; ru_full/test=715; ru_full/validation=715; ru_simple/train=7641; ru_simple/test=957; ru_simple/validation=955 | left_url: string; right_url: string; left_title: string; right_title: string; left_timestamp: timestamp[s]; right_timestamp: timestamp[s]; id: string; has_link: bool; label: int8; result: string; agreement: float64 | viewer | 391,917,861 | 391.92 MB | 26 | jsonl 20, html 2, json 1, py 1 | ru, en | text-classification | https://arxiv.org/abs/2108.12626 | false | 68c78423fe4653638a87ec91140488bb3cb97061 | https://huggingface.co/datasets/IlyaGusev/headline_cause | https://huggingface.co/datasets/HYUKI5/IlyaGusev__headline_cause |
HYUKI5/Jiangjie__ekar_english | Jiangjie/ekar_english | 複製待ち | 毎日 300 本ずつ複製している | public | 公務員試験から採った類推問題の英語版のデータで、中国語版から翻訳されている。1 行が問題 `question`、選択肢 `choices`、正解 `answerKey`、類推を引くべきかを説明する解説 `explanation` を持つ。中国語版では、問いと候補の答えごとに人手で解説が付けられている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | afl-3.0 | C | 1,248 | false | 6 | 6 | 1 | 3 | default/train=868; default/validation=118; default/test=262 | id: string; question: string; choices: struct{label: list<string>, text: list<string>}; answerKey: string; explanation: list<string>; relation: list<list<list<string>>> | viewer | 1,186,807 | 1.19 MB | 6 | json 3 | en | question-answering, text-generation | false | a4aa3ae597a4308ef79cd34138a2ddeba611ed51 | https://huggingface.co/datasets/Jiangjie/ekar_english | https://huggingface.co/datasets/HYUKI5/Jiangjie__ekar_english | |
HYUKI5/LocalLLaMA__typed-decisions | LocalLLaMA/typed-decisions | 複製待ち | 毎日 300 本ずつ複製している | public | 構造化されていない状態を受け取り、5 つの型付きの問いに確率分布で答える判定のベンチマーク。状態は `state` に、問いは `questions` に、正解の分布は `gold` に入っており、業務ごとの構成（例: `customer_service`）と全体の構成がある。状態は LLM で合成されたワークフローから作られたとされ、スキーマは TypeSafe AI の System One の基本要素（noul・choice・score）に従うが、TypeSafe とは提携がなく独立したものである。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko）; Jev / System One 系コミュニティ公開データの元データ特定 | CSV（bekko-system-one-dataset-v0） | apache-2.0 | A | 3,200 | false | 9 | 28 | 5 | 10 | agent_trace_observability/train=300; agent_trace_observability/test=100; all/train=1200; all/test=400; customer_service/train=300; customer_service/test=100; invoice_processing/train=300; invoice_processing/test=100; security_incidents/train=300; security_incidents/test=100 | id: string; workflow: string; split: string; state: string; questions: string; gold: string; factors: string; n_questions: int64; label_agreement: string; outcome__label: string; outcome__confidence: float64; outcome__probabilities: string; action__label: string; action__confidence: float64; action__probabilities: stri... | viewer | 2,195,322 | 2.20 MB | 18 | parquet 10, py 2, png 1, pyc 1, sh 1, yaml 1 | en | text-classification | false | cc1a2e795f5160d417d4d7131a71d1ab60ea33ca | https://huggingface.co/datasets/LocalLLaMA/typed-decisions | https://huggingface.co/datasets/HYUKI5/LocalLLaMA__typed-decisions | |
HYUKI5/MartinThoma__wili_2018 | MartinThoma/wili_2018 | 複製待ち | 毎日 300 本ずつ複製している | public | Wikipedia の段落を 235 言語のいずれかに判定する言語識別のベンチマーク。1 行が 1 段落で、`sentence` に本文、`label` に言語の番号が入っている。235 言語それぞれの段落が均衡しており、train と test に分けられている。ライセンスは ODC Open Database License v1.0 である。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | odbl | B | 235,000 | false | 2 | 2 | 1 | 2 | WiLI-2018 dataset/train=117500; WiLI-2018 dataset/test=117500 | sentence: string; label: class_label(235: cdo, glk, jam, lug, san, rue …) | viewer | 91,730,567 | 91.73 MB | 4 | parquet 2 | ace, af, als, am, an, ang, ar, arz, as, ast, av, ay, az, azb, ba, bar, bcl, be, bg, bho | text-classification | https://arxiv.org/abs/1801.07779 | false | 12c3a519f58673e4051a5d9db51c1fcd94a94c75 | https://huggingface.co/datasets/MartinThoma/wili_2018 | https://huggingface.co/datasets/HYUKI5/MartinThoma__wili_2018 |
HYUKI5/McGill-NLP__FaithDial | McGill-NLP/FaithDial | 複製待ち | 毎日 300 本ずつ複製している | public | Wizard of Wikipedia（WoW）の対話で、ボット役の wizard の幻覚（hallucination）を含む応答を、Amazon Mechanical Turk のワーカーに修正させて作った、知識に忠実な対話のデータ。5,649 件の会話からなり、wizard の応答 1 件ごとに、編集後の応答 `response`、編集前の `original_response`、対話の履歴 `history`、根拠の知識 `knowledge` を持つ。応答には BEGIN と VRM のラベルが付いている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko）; Jev / System One 系コミュニティ公開データの元データ特定 | CSV（tasksource-jev-typed-decisions） | mit | B | 32,269 | false | 7 | 7 | 1 | 7 | plain_text/test=3539; plain_text/test_random_split=1716; plain_text/test_topic_split=1823; plain_text/train=18357; plain_text/validation=3417; plain_text/valid_random_split=1666; plain_text/valid_topic_split=1751 | dialog_idx: int32; response: string; original_response: string; history: list<string>; knowledge: string; BEGIN: list<string>; VRM: list<string> | viewer | 34,348,241 | 34.35 MB | 13 | json 8, py 1, zip 1, lock 1 | en | text-generation | https://arxiv.org/abs/2204.10757 | false | 7a414e80725eac766f2602676dc8b39f80b061e4 | https://huggingface.co/datasets/McGill-NLP/FaithDial | https://huggingface.co/datasets/HYUKI5/McGill-NLP__FaithDial |
HYUKI5/McGill-NLP__WebLINX | McGill-NLP/WebLINX | 複製待ち | 毎日 300 本ずつ複製している | public | ウェブページ上の操作を、対話による指示のもとで行わせるデータ（WebLINX）。1 行が 1 ターンで、`utterances` に発話、`action` に参照用の操作、`clean_html` にそのときのページの HTML が入っている。デモンストレーションごとの識別子を `demo` に、その中での順番を `turn` に持つ。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | cc-by-nc-sa-4.0 | C | 79,777 | false | 5 | 8 | 2 | 15 | chat/train=24418; chat/validation=2126; chat/test=2308; chat/test_iid=2308; chat/test_geo=7672; chat/test_vis=9023; chat/test_cat=5971; chat/test_web=4856; reranking/validation=1301; reranking/test=1438; reranking/test_iid=1438; reranking/test_geo=4916; reranking/test_vis=5298; reranking/test_web=3144; reranking/test_c... | demo: string; turn: int64; action: string; action_history: string; utterances: string; candidates: string; clean_html: string; viewport: string | viewer | 526,024,058 | 526.02 MB | 27 | json.gz 14, csv 7, txt 2, mp4 1, json 1 | en | image-to-text, text-generation, sentence-similarity | https://arxiv.org/abs/2402.05930 | false | a30ff2cbecb75f2d04fac75a2b92721c6c9e3f13 | https://huggingface.co/datasets/McGill-NLP/WebLINX | https://huggingface.co/datasets/HYUKI5/McGill-NLP__WebLINX |
HYUKI5/MoritzLaurer__dataset_train_nli | MoritzLaurer/dataset_train_nli | 複製待ち | 毎日 300 本ずつ複製している | public | 自然言語推論（NLI）の学習用データ。1 行が `text` と `hypothesis` の組 1 件で、含意かどうかのラベルを `labels` と `label_text` に、タスク名を `task_name` に持つ。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 1,018,733 | false | 5 | 5 | 1 | 1 | default/train=1018733 | text: string; hypothesis: string; labels: class_label(2: entailment, not_entailment); task_name: string; label_text: string | viewer | 206,035,033 | 206.04 MB | 3 | parquet 1 | false | 1e009645b2943106614107b06107b1ee85ac1161 | https://huggingface.co/datasets/MoritzLaurer/dataset_train_nli | https://huggingface.co/datasets/HYUKI5/MoritzLaurer__dataset_train_nli | ||||
HYUKI5/NEUDM__mams | NEUDM/mams | 複製待ち | 毎日 300 本ずつ複製している | public | 文から感情の対象（アスペクト）と感情を抜き出す、アスペクトベースの感情分析（ABSA）のデータ。1 行は `input`（文）と `output`（抽出結果の文字列）の組で、`instruction` にタスクの指示と one-shot の例が入る。元データは MAMS（MAMS-ACSA と MAMS-ATSA、出典は siat-nlp/MAMS-for-ABSA）で、それを生成タスクの形式に改めている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | A | 9,246 | false | 8 | 8 | 1 | 3 | default/train=7446; default/validation=900; default/test=900 | task_type: string; dataset: string; input: list<string>; output: string; situation: string; label: string; extra: string; instruction: string | viewer | 7,467,947 | 7.47 MB | 8 | jsonl 6 | false | 292cd37d971c53c08ebbefd969aaf33466f31bb3 | https://huggingface.co/datasets/NEUDM/mams | https://huggingface.co/datasets/HYUKI5/NEUDM__mams | ||||
HYUKI5/Nofing__Maven-ERE-span | Nofing/Maven-ERE-span | 複製待ち | 毎日 300 本ずつ複製している | public | MAVEN-ERE を span 形式にしたデータ。`tokens`（トークン列）、`mentions`、`spans`、`text`、`annots` の列を持ち、`relations` には BEFORE などの関係の種類が入る。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 3,623 | false | 7 | 7 | 1 | 3 | default/train=2621; default/dev=292; default/test=710 | id: string; tokens: list<string>; mentions: list<string>; spans: list<list<int64>>; relations: struct{BEFORE: list<list<int64>>, BEGINS-ON: list<list<int64>>, CAUSE: list<list<int64>>, CONTAINS: list<list<int64>>, ENDS-ON: list<list<int64>>, …}; text: string; annots: string | viewer | 44,223,282 | 44.22 MB | 5 | parquet 3 | false | 4dc3ead8e8d90fdee3fbef71727f159b2fc48236 | https://huggingface.co/datasets/Nofing/Maven-ERE-span | https://huggingface.co/datasets/HYUKI5/Nofing__Maven-ERE-span | ||||
HYUKI5/OpenFact__CLEF24-CheckThat-Task1-en-all | OpenFact/CLEF24-CheckThat-Task1-en-all | 複製待ち | 毎日 300 本ずつ複製している | public | CLEF 2024 の CheckThat! Task 1 の英語データ（all）で、発言の文を集めたもの。1 行が 1 つの発言文で、`text` に本文、`speaker`・`speaker_party`・`speaker_role` に発言者の情報、`verdict` と `label_true` に判定に関する値が入っている。利用条件は台帳で未確認となっている。元のカードは空で、この説明は列名と調査メモから書いた。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 98,037 | false | 19 | 19 | 1 | 14 | default/train=22501; default/dev=1032; default/dev_test=318; default/test=341; default/train_rus=10810; default/dev_rus=486; default/dev_test_rus=216; default/train_hq=12966; default/train_lq=9535; default/train_hq_rus=5042; default/train_lq_rus=5768; default/train_hq20=8292; default/train_hq25=9674; default/train_hq30... | sentence_id: int64; text: string; label_ct: int64; original_split: string; speaker: string; speaker_title: string; speaker_party: string; speaker_role: string; file_id: string; line_number: int64; sentiment: float64; verdict: int64; annotation: string; q_20: bool; q_25: bool; q_30: bool; quality: int64; verdict_fixed: ... | viewer | 9,030,833 | 9.03 MB | 16 | parquet 14 | false | c02a329c67e4a9201f8bc450f3c5033a60398176 | https://huggingface.co/datasets/OpenFact/CLEF24-CheckThat-Task1-en-all | https://huggingface.co/datasets/HYUKI5/OpenFact__CLEF24-CheckThat-Task1-en-all | ||||
HYUKI5/OpenMed__DDI-Corpus-Processed | OpenMed/DDI-Corpus-Processed | 複製待ち | 毎日 300 本ずつ複製している | public | 薬物間相互作用（DDI）の検出のためのデータ。1 行が文中の薬物の組 1 件で、文を `sentence`、2 つの薬物を `drug1` と `drug2`、関係を `relation` に持つ。関係は MECHANISM、EFFECT、ADVISE、INT、NONE の 5 種類で、SemEval-2013 の DDI Corpus から加工した。ライセンスは CC BY-NC 4.0 で、元の DDI Corpus に従う。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | cc-by-nc-4.0 | C | 7,142 | false | 7 | 7 | 1 | 2 | default/train=5744; default/test=1398 | sentence: string; drug1: string; drug2: string; relation: string; source_file: string; sentence_id: string; pair_id: string | viewer | 3,312,419 | 3.31 MB | 4 | jsonl 2 | en | text-classification | false | f97e24e60366180e77423ccd9c4643e34f59c1c8 | https://huggingface.co/datasets/OpenMed/DDI-Corpus-Processed | https://huggingface.co/datasets/HYUKI5/OpenMed__DDI-Corpus-Processed | |
HYUKI5/PKU-Alignment__BeaverTails | PKU-Alignment/BeaverTails | 複製待ち | 毎日 300 本ずつ複製している | public | AI の安全性の研究のための、質問と回答の組に人手で有害性のラベルを付けたデータ。1 行が 1 組の `prompt` と `response` を表し、`category` に 14 種類の有害性カテゴリごとの真偽値、`is_safe` に安全かどうかが入っている。1 組に複数のカテゴリが付くことがあり、カードは研究目的に限り、対話エージェントの学習には使わないよう求めている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko）; Jev / System One 系コミュニティ公開データの元データ特定 | CSV（tasksource-jev-typed-decisions） | cc-by-nc-4.0 | C | 364,170 | false | 4 | 4 | 1 | 4 | default/330k_train=300567; default/330k_test=33396; default/30k_train=27186; default/30k_test=3021 | prompt: string; response: string; category: struct{animal_abuse: bool, child_abuse: bool, controversial_topics,politics: bool, discrimination,stereotype,injustice: bool, drug_abuse,weapons,banned_substance: bool, …}; is_safe: bool | viewer | 39,451,314 | 39.45 MB | 8 | jsonl.gz 2, jsonl.xz 2, png 1 | en | text-classification | https://arxiv.org/abs/2307.04657 | false | 8401fe609d288129cc684a9b3be6a93e41cfe678 | https://huggingface.co/datasets/PKU-Alignment/BeaverTails | https://huggingface.co/datasets/HYUKI5/PKU-Alignment__BeaverTails |
HYUKI5/PKU-Alignment__PKU-SafeRLHF | PKU-Alignment/PKU-SafeRLHF | 複製待ち | 毎日 300 本ずつ複製している | public | 1 つの質問に対する 2 つの応答を、有用性と無害性の両面から比べた選好のデータ。1 行が 1 件の質問と 2 つの応答の組を表し、`better_response_id` と `safer_response_id` に選ばれた応答の番号、`is_response_0_safe` などに安全性の判定、`response_0_harm_category` に有害性のカテゴリが入っている。応答は Alpaca-7B、Alpaca2-7B、Alpaca3-8B の出力で、有害性は 19 のカテゴリと 3 段階の深刻度で付けられている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko）; Jev / System One 系コミュニティ公開データの元データ特定 | CSV（tasksource-jev-typed-decisions） | cc-by-nc-4.0 | C | 164,236 | false | 16 | 16 | 4 | 8 | default/train=73907; default/test=8211; alpaca-7b/train=27393; alpaca-7b/test=3036; alpaca2-7b/train=25564; alpaca2-7b/test=2848; alpaca3-8b/train=20950; alpaca3-8b/test=2327 | prompt: string; response_0: string; response_1: string; prompt_source: string; response_0_source: string; response_1_source: string; is_response_0_safe: bool; is_response_1_safe: bool; response_0_harm_category: struct{Endangering National Security: bool, Insulting Behavior: bool, Discriminatory Behavior: bool, Endanger... | viewer | 233,015,453 | 233.02 MB | 9 | jsonl 6, png 1 | en | text-generation | https://arxiv.org/abs/2406.15513 | false | 9421ffafec3fa40a1f1a7d567b4d525079477ecb | https://huggingface.co/datasets/PKU-Alignment/PKU-SafeRLHF | https://huggingface.co/datasets/HYUKI5/PKU-Alignment__PKU-SafeRLHF |
HYUKI5/PierreColombo__miam | PierreColombo/miam | 複製待ち | 毎日 300 本ずつ複製している | public | 英語・フランス語・ドイツ語・イタリア語・スペイン語の話し言葉の対話に、対話行為（dialogue act）のラベルを付けた多言語のベンチマーク（MIAM）のデータ。1 行は一つの発話（`Utterance`）で、話者（`Speaker`）、対話行為（`Dialogue_Act`）、`Dialogue_ID` などを持つ。Dihana、iLISTEN、LORIA、HCRC MapTask、VERBMOBIL（vm2）の五つのコーパスを集めたもので、自発的な発話、台本のあるシナリオ、共同のタスク遂行を含み、config 名で一つずつ選べる。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | cc-by-sa-4.0 | B | 103,901 | false | 6 | 7 | 5 | 15 | dihana/train=19063; dihana/validation=2123; dihana/test=2361; ilisten/train=1986; ilisten/validation=230; ilisten/test=971; loria/train=8465; loria/validation=942; loria/test=1047; maptask/train=25382; maptask/validation=5221; maptask/test=5335; vm2/train=25060; vm2/validation=2860; vm2/test=2855 | Speaker: string; Utterance: string; Dialogue_Act: string; Dialogue_ID: string; File_ID: string; Label: struct{class_label: struct{names: struct{…}}}; Idx: int32 | card_yaml | 32,657 | 32.66 KB | 3 | py 1 | de, en, es, fr, it | text-generation, fill-mask, text-classification | false | f138dd789c15a3b25eee181a4dc4d330741c4c39 | https://huggingface.co/datasets/PierreColombo/miam | https://huggingface.co/datasets/HYUKI5/PierreColombo__miam | |
HYUKI5/PolyAI__minds14 | PolyAI/minds14 | 複製待ち | 毎日 300 本ずつ複製している | public | e-banking の商用システムから抽出された 14 のインテントを、14 の言語変種の発話音声に対応させた音声のインテント分類データ。1 行が 1 件の音声で、`audio` に音声、`transcription` に書き起こし、`english_transcription` に英語の書き起こし、`intent_class` にインテントの番号が入っている。言語変種ごとの構成（例: `fr-FR`）と全体の `all` があり、構成ごとに train だけがある。ライセンスは CC-BY である。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（bekko-system-one-dataset-v0） | cc-by-4.0 | A | 16,336 | false | 6 | 6 | 15 | 15 | all/train=8168; cs-CZ/train=574; de-DE/train=611; en-AU/train=654; en-GB/train=592; en-US/train=563; es-ES/train=486; fr-FR/train=539; it-IT/train=696; ko-KR/train=592; nl-NL/train=654; pl-PL/train=562; pt-PT/train=604; ru-RU/train=539; zh-CN/train=502 | path: string; audio: audio; transcription: string; english_transcription: string; intent_class: class_label(14: abroad, address, app_error, atm_limit, balance, business_loan …); lang_id: class_label(14: cs-CZ, de-DE, en-AU, en-GB, en-US, es-ES …) | viewer | 1,133,278,369 | 1.13 GB | 18 | parquet 16 | en, fr, it, es, pt, de, nl, ru, pl, cs, ko, zh | automatic-speech-recognition | https://arxiv.org/abs/2104.08524 | false | 40ce77cb32a384e4d50a568e1ec39ac804019d33 | https://huggingface.co/datasets/PolyAI/minds14 | https://huggingface.co/datasets/HYUKI5/PolyAI__minds14 |
HYUKI5/RuyuanWan__Dilemmas_Disagreement | RuyuanWan/Dilemmas_Disagreement | 複製待ち | 毎日 300 本ずつ複製している | public | Dilemmas データセットを、テキストと注釈の不一致ラベルを含めて加工したデータ。各行にテキスト `text`、二値の不一致ラベル `binary_disagreement`、不一致の割合 `disagreement_rate` が入っている。元データは Scruples の dilemmas（Lourie, Bras, and Choi 2021）で、カードは論文 "Everyone's Voice Matters: Quantifying Annotation Disagreement Using Demographic Information" を挙げている。 | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | jev_sources_tasksource_bekko.csv | Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko） | CSV（tasksource-jev-typed-decisions） | D | 28,296 | false | 3 | 3 | 1 | 3 | default/train=23596; default/validation=2340; default/test=2360 | text: string; binary_disagreement: int64; disagreement_rate: float64 | viewer | 3,288,273 | 3.29 MB | 5 | csv 3 | en | text-classification | false | 8d5520fc4675fe37bd4b15271feb982a04c8f8ba | https://huggingface.co/datasets/RuyuanWan/Dilemmas_Disagreement | https://huggingface.co/datasets/HYUKI5/RuyuanWan__Dilemmas_Disagreement |
End of preview. Expand in Data Studio
HYUKI5 のデータセットのカタログ
HYUKI5 に置いた全データセット（と、これから置くもの）の一覧。1 行が 1 データセットで、内容の要約・行数・列と型・容量・ライセンス・調査メモの分野を載せている。データ本体は各リポジトリにあり、このリポジトリには一覧だけを置く。
集計
| 状態 | 本数 |
|---|---|
| 複製済み | 282（public 282・private 0） |
| 複製待ち | 1050 |
| 利用条件の同意待ち | 10 |
| エラー | 2 |
| 除外（動画・50GB 超・再配布不可） | 160 |
除外を除いた行数の合計は 3,182,858,217 行。更新日: 2026-11-12。
使い方
HF のページの Dataset Viewer で、列ごとに絞り込み・並べ替えができる。手元で引くときは次のとおり。
from datasets import load_dataset
cat = load_dataset("HYUKI5/dataset-catalog", split="train").to_pandas()
cat[(cat.status == "複製済み") & (cat.ledger_category == "A")].sort_values("num_rows")
cat[cat.summary_ja.str.contains("金融")][["mirror_id", "summary_ja", "num_rows"]]
各データセットのカードの冒頭にも、同じ要約（データの内容）と、行数・列・型の表（データの概要）を載せている。private のものは、持ち主以外には開けない。
列
| 列 | 中身 |
|---|---|
mirror_id |
HYUKI5 での ID。除外したものは空 |
source_id |
元のデータセットの ID |
status |
複製済み / 複製待ち / 利用条件の同意待ち / エラー / 除外 |
status_note |
除外の理由・エラーの内容など |
visibility |
public / private（元が gated のものは private） |
summary_ja |
データの内容（2〜4 文）。各カードの冒頭と同じ文 |
topic |
調査メモの分野（最初に載ったメモ）。all_topics に載ったメモをすべて並べる |
ledger_section |
調査メモの中で載った節 |
license |
元のライセンス表記 |
ledger_category |
台帳の区分 A〜D（A: 許諾型だけ、B: 継承条件・gated など、C: NC・研究専用など、D: 記載なし・食い違い） |
num_rows |
全構成・全分割の行数の合計（rows_estimated が true なら推定） |
num_columns_min / max |
列数（構成ごとに違えば幅） |
n_configs / n_splits / splits |
構成の数・分割の数・分割ごとの行数 |
columns |
列名と型（構成のうち 1 つ） |
shape_source |
行数と列の出どころ（viewer: データセットビューア、card_yaml: 元のカードの YAML、files: 不明） |
size_bytes / size / n_files / file_formats |
容量とファイルの内訳 |
language / task_categories / papers |
元のカードのタグと arXiv |
source_sha |
複製した元のリビジョン |
分野ごとの一覧
分野は、データを集めた調査メモ（Laya 学習用データセット調査）のファイルごと。複数のメモに載ったものは最初のメモにだけ並べる。除外したものは末尾にまとめる。
- AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット（28 本）
- HF 以外の収集元と Reddit 由来データセット (2026-11 時点)（2 本）
- Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko）（321 本）
- Jev / System One 系コミュニティ公開データの元データ特定（17 本）
- Laya multilingual 向け 多言語・CJK(日中韓)分類/NLU データセット カタログ（91 本）
- NVIDIA（HF 組織
nvidia）の Nemotron 系データセット全般（218 本） - SNS・個人投資家・噂・危機情報・世論のラベル付きテキストデータセット（17 本）
- エージェント軌跡・思考ログと、それに付いた成否・失敗・監視ラベルのオープンデータ（41 本）
- オントロジー・知識グラフ・エンティティ・関係・分類体系のラベル付きテキストデータセット（28 本）
- オントロジー工学のベンチマーク（ドメイン横断）と Laya の判断の型への変換（8 本）
- オープンウェイトモデルの推論ログ（思考トレース）の公開データ（32 本）
- ドメイン別のオントロジー・分類体系・シソーラス（2 本）
- ニュースの出来事・類似・重要度・時間のラベル付きデータセット（23 本）
- バイサイド判断の模倣・金融/政治/SNS 補足・Laya/Jev 系論文（5 本）
- フロンティアのクローズドモデル（OpenAI・Anthropic・Google・xAI）の推論ログ・思考ログ・出力に付いたデータ（23 本）
- マクロ経済・金融政策・予測（forecasting）・較正のラベル付きテキストデータセット（25 本）
- マルチタスク分類集・弱ラベル・合成判断データ・品質注釈（33 本）
- ルーティング / インテント / サポート・チケット・メール / 多ラベル構造化判断（38 本）
- 企業開示・法務規制・ESG/気候・企業イベントのラベル付きテキストデータセット（34 本）
- 安全性・モデレーション / Judge・報酬・品質スコア / 順序スコア系（17 本）
- 推論・論証・因果・数値・表のラベル付きテキストデータセット（36 本）
- 政治・政策・地政学・戦争/紛争領域のラベル付きテキストデータセット（32 本）
- 日本語の金融・開示・経済ニュース・ビジネス文書のラベル付きテキストデータセット（23 本）
- 業種・セクター固有のラベル付きテキストデータセット（医薬・エネルギー・サプライチェーン・自動車・航空・消費・銀行/保険/不動産）（21 本）
- 汎用英語 text classification / NLU データセット カタログ（HF Hub, 2026-11-10 時点）（81 本）
- 科学・学術・技術（科学的主張の検証、論文分類、査読、特許、脆弱性、医療 QA）（33 本）
- 行動・心理・価値観・経営と組織の質のラベル付きテキストデータセット（31 本）
- 表・スキーマ・知識グラフ・商品属性・メタデータの型と整合を判断するデータセット（22 本）
- 金融・投資判断の推論ログ・思考トレース・判断の根拠を含むオープンデータ（28 本）
- 金融・経済・ニュース領域のラベル付きテキストデータセット（34 本）
AI の推論過程・思考ログにステップ単位のラベルが付いたデータセット
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| Asap7772/cog_behav_all_strategies | Countdown（数合わせ）の問題に対する応答のデータとされる。 | 1,200 | 2 | 583.86 KB | D | 複製済み | |
| CMU-AIRe/RLAD-abstractions-benchmarks | 数学の問題 60 問を集めたデータ。 | 60 | 4 | 388.96 KB | D | 複製済み | |
| ZhaoweiWang/AbsPyramid | 短い句で書かれた事象に 0 か 1 のラベルを付けたデータで、調査メモでは段落の論述ではないと注記されている。 | 89.55 MB | mit | B | 複製済み | ||
| jiangjiechen/ekar_english | 公務員試験から採られた、語の対の類推（analogy）の問題に説明を付けたデータ。 | 1,248 | 6 | 1.19 MB | afl-3.0 | B | 複製済み |
| llm-agents/CriticBench | 数学・常識・記号・コーディング・アルゴリズムの 5 領域で、LLM の推論を批評し、判別し、訂正する能力を測るベンチマーク CriticBench のデータ。 | 3,825 | 8 | 930.72 KB | mit | B | 複製済み |
| reasoning-proj/bigbench-mistake | 記号操作や形式的な課題（単語の並べ替え、括弧の対応など）で、解法の誤りを扱うデータとされる。 | 2,186 | 4 | 662.45 KB | D | 複製済み | |
| ErrorRadar/ErrorRadar | ユーザーの解答の誤りを特定するマルチモーダル LLM（MLLM）の能力を評価するためのデータ。 | 2,500 | 10 | 2.56 MB | D | 複製待ち | |
| JoeyCheng/story_analogy | 物語どうしの類推を集めたデータ。 | 24,388 | 5 | 5.42 MB | mit | B | 複製待ち |
| OpenStellarTeam/DeltaBench | o1 系の推論モデルが生成した長い思考連鎖（CoT）の誤りを、批評モデルや PRM が検出できるかを評価するためのデータ。 | 1,236 | 16 | 63.60 MB | D | 複製待ち | |
| Qwen/ProcessBench | Qwen Team が提案した、数学の推論過程の誤りを特定するベンチマーク ProcessBench のデータ。 | 3,400 | 6 | 8.17 MB | apache-2.0 | B | 複製待ち |
| RLHFlow/Mistral-PRM-Data | 数学の推論過程の正誤を学習させる PRM 用のデータとされる。 | 273,226 | 1 | 106.07 MB | D | 複製待ち | |
| Randolphzeng/Mr-Ben | 各分野の問題に対する LLM の解答を、正誤、最初の誤りのステップ、誤りの理由の 3 点で判定させるメタ推論ベンチマーク Mr-Ben のデータ。 | 5,975 | 13 | 17.65 MB | mit | B | 複製待ち |
| Randolphzeng/Mr-GSM8K | GSM8K の算数の問題に、モデルの段階的な解答の正誤、最初の誤りのステップ、誤りの理由を判定させるための評価用データ。 | 2,999 | 11 | 4.46 MB | apache-2.0 | B | 複製待ち |
| UW-Madison-Lee-Lab/MMLU-Pro-CoT-Eval | 複数分野の問いに対する段階的な推論（chain of thought）と、その答えの正誤を集めたデータ。 | 248,836 | 9 | 771.28 MB | mit | B | 複製待ち |
| UW-Madison-Lee-Lab/MMLU-Pro-CoT-Train-Labeled | 多肢選択式の知識問題に対する段階的な推論（CoT）に、手順ごとの正誤ラベルを付けたデータ。 | 84,098 | 10 | 130.28 MB | mit | B | 複製待ち |
| dmis-lab/llama-3.1-medprm-reward-training-set | 医療の問いと選択肢、正解、解答の候補を集めたデータ。 | 11,700 | 8 | 795.48 MB | mit | B | 複製待ち |
| ejcgan/hint-faithfulness-transcripts | 複数のモデルが MMLU と GPQA-Diamond の問題を、ヒントの有無で解いた生の出力（トランスクリプト）のデータ。 | 962.37 MB | mit | B | 複製待ち | ||
| hitsmy/PRMBench_Preview | PRM（過程レベルの報酬モデル）の誤り検出を評価するベンチマーク PRMBench の公式データセット。 | 6,216 | 12 | 20.40 MB | apache-2.0 | B | 複製待ち |
| hkust-nlp/felm | LLM の応答の事実性を判定する手法を評価するためのメタベンチマーク FELM のデータ。 | 847 | 9 | 2.19 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| ishitakakkar-10/HarmThoughts | ジェイルブレイクされた推論モデルの思考過程で、有害な振る舞いが文単位でどう生じ広がるかを研究するためのデータ。 | 56,931 | 9 | 6.70 MB | mit | B | 複製待ち |
| jinulee-v/reasoningflow | LLM の推論トレースを有向非巡回グラフ（DAG）に変換して注釈を付けたデータ。 | 115.94 MB | apache-2.0 | B | 複製待ち | ||
| kevinpro/R-PRM | 数学の推論過程を段階ごとに判断する生成型の報酬モデル（R-PRM）を学習させるためのデータ。 | 593,904 | 3 | 707.88 MB | mit | B | 複製待ち |
| launch/thinkprm-1K-verification-cots | 数学の問題について、解法の途中までを QwQ-32B-Preview に生成させた検証の思考連鎖（CoT）の千件のデータ。 | 1,000 | 6 | 2.19 MB | D | 複製待ち | |
| peiyi9979/Math-Shepherd | 数学の問題の段階的な解法に、ステップごとの自動ラベル（+ と -）を付けた PRM 用のデータ。 |
444,655 | 3 | 793.07 MB | D | 複製待ち | |
| richardyoung/cot-faithfulness-open-models | 誤った答えへ誘導するヒントを受けたとき、モデルがその影響を思考の連鎖（CoT）で認めるかを調べた実験のデータ。 | 52,108 | 10 | 1.14 GB | cc-by-4.0 | B | 複製待ち |
| ryokamoi/FoVer-FormalLogic-Qwen-2.5-7B | 形式論理の問題に対する LLM の解答の各ステップに、形式検証ツール（Z3 や Isabelle）で自動的に付けた誤りのラベルのデータ。 | 10,720 | 10 | 12.10 MB | cc-by-4.0 | B | 複製待ち |
| ryokamoi/realmistake | LLM の応答の誤りを検出する手法を評価するためのベンチマーク ReaLMistake のデータ。 | 903 | 6 | 1.38 MB | cc-by-sa-4.0 | B | 複製待ち |
| skylenage-ai/MedPRMBench-Test | 臨床の推論連鎖をステップ単位で検査するベンチマークのテスト分割。 | 6,500 | 22 | 47.63 MB | D | 複製待ち |
HF 以外の収集元と Reddit 由来データセット (2026-11 時点)
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| OsamaBsher/AITA-Reddit-Dataset | AITA サブレディットの投稿と、その投稿の判定に一致する票数の多い上位 2 件のコメントを集めたデータ。 | 270,709 | 7 | 680.65 MB | D | 複製待ち | |
| validname/reddit-ai-detection | 人間が書いた Reddit の投稿とコメントを集めた、AI 生成テキストの検出研究用のデータ。 | 39,945 | 10 | 16.47 MB | other | D | 複製待ち |
Jev / System One 系 typed-decisions データの元データ特定（tasksource 3 本 + bekko）
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| CLUTRR/v1 | 架空の家族を扱う半合成の物語で、2 人の関係を推論させる診断用ベンチマーク（CLUTRR）のデータ。 | 70,631 | 14 | 13.12 KB | unknown | D | 複製済み |
| FastFit/hwu_64 | テキストに文字列のラベルを付けた組のデータ。 | 11,106 | 2 | 230.10 KB | A | 複製済み | |
| INK-USC/riddle_sense | 謎かけ（riddle）形式の常識推論の多肢選択問題のデータ。 | 5,715 | 3 | 12.59 KB | other | C | 複製済み |
| PiC/phrase_similarity | 英語の 2 つの複数語の名詞句が、同じ文脈の中で意味的に似ているかを判定するデータ（Phrase Similarity）。 | 10,004 | 6 | 13.74 KB | cc-by-nc-4.0 | C | 複製済み |
| QAngaroo/wiki_hop | 論文の題（Constructing Datasets for Multi-hop Reading Comprehension Across Documents）から、文書をまたぐ多段の読解のデータである。 | 97,734 | 6 | 9.66 KB | cc-by-sa-3.0 | B | 複製済み |
| Salesforce/wikisql | Wikipedia 由来の多数の表に対して、自然言語の質問を SQL に変換するためのデータ。 | 80,654 | 4 | 15.54 KB | unknown | D | 複製済み |
| SemEvalWorkshop/emo | 会話の発話を直前の 2 ターンの文脈と合わせて読み、感情（happy、sad、angry、others）の 4 クラスのいずれかに分類するデータ。 | 35,669 | 2 | 14.76 KB | unknown | A | 複製済み |
| SemEvalWorkshop/humicroedit | 英語のニュース見出しの 1 語を別の語に置き換えた版の面白さを評価するデータ（SemEval-2020 Task 7）。 | 39,997 | 5〜10 | 15.94 KB | unknown | D | 複製済み |
| allenai/math_qa | 数学の文章題（選択式）のデータ。 | 37,297 | 7 | 11.86 KB | apache-2.0 | A | 複製済み |
| allenai/wiqa | 段落の文脈で、ある摂動が起きたときの影響を問う質問のデータ。 | 39,705 | 10 | 13.63 KB | D | 複製済み | |
| aps/dynahate | 既存の注釈を変換して作ったとされるデータ。 | 12.55 KB | B | 複製済み | |||
| community-datasets/definite_pronoun_resolution | 文中の代名詞が指す先行詞を、2 つの候補から選ぶためのデータ。 | 1,886 | 4 | 115.51 KB | unknown | D | 複製済み |
| defunct-datasets/amazon_reviews_multi | 英語・日本語・ドイツ語・フランス語・中国語・スペイン語の Amazon の商品レビューを集めた多言語のコーパス。 | 2,520,000 | 8 | 24.01 KB | other | D | 複製済み |
| eriktks/conll2003 | 英語の文に人名・地名・組織名などの固有表現を付けた、固有表現認識（NER）のデータ。 | 20,744 | 5 | 23.07 KB | other | C | 複製済み |
| fhamborg/news_sentiment_newsmtsc | 英語のニュース記事の文に、対象ごとの感情を人手でラベル付けしたデータ。 | 15.18 KB | mit | A | 複製済み | ||
| google-research-datasets/google_wellformed_query | 英語のクエリが整った自然な質問の形になっているかを判定するためのデータ。 | 25,100 | 2 | 9.82 KB | cc-by-sa-4.0 | B | 複製済み |
| indonlp/NusaX-senti | インドネシア語、英語、インドネシアの地方言語 10 種の計 12 言語で、肯定・中立・否定の感情ラベルを付けた文のデータ。 | 12,000 | 4 | 12.26 KB | cc-by-sa-4.0 | B | 複製済み |
| khalidalt/offenseval_2020_ar | OffensEval 2020 のアラビア語（ar）の文に、攻撃的（OFF）か否か（NOT）かのラベルを付けたデータ。 | 9,666 | 4 | 1.13 MB | D | 複製済み | |
| leondz/wnut_17 | ノイズの多い文章で、新出・希少な固有表現を見つけて分類する WNUT 17 の共有タスクのデータ。 | 5,690 | 3 | 17.69 KB | cc-by-4.0 | A | 複製済み |
| lighteval/bbq_helm | 文脈（context）と質問（question）に選択肢（choices）と正解の番号（gold_index）を付けた多肢選択式のデータで、年齢、障害の状態、性別のアイデンティティなどの構成（config）に分かれている。 |
11,864 | 5 | 881.37 KB | A | 複製済み | |
| lighteval/lsat_qa | LSAT の問題のデータで、構成は all・assignment・grouping・miscellaneous・ordering の 5 つ。 | 459 | 4 | 99.96 KB | D | 複製済み | |
| nikhilweee/sharc_modified | ShARC（規則の文章に基づく会話型の質問応答）から、ニューラルモデルに悪用されうる見せかけのパターンを減らして作り直した英語のデータ。 | 52,860 | 9〜10 | 18.29 KB | unknown | D | 複製済み |
| pietrolesci/add_one_rte | 形容詞と名詞の組み合わせを題材にした含意判定のデータ。 | 5,378 | 8 | 561.77 KB | C | 複製済み | |
| pietrolesci/fracas | FraCaS（Stanford の fracas.xml）を改変し、NLI の形に直したデータ。 | 346 | 3 | 26.57 KB | D | 複製済み | |
| pkavumba/balanced-copa | COPA（Roemmele ら, 2011）に、答えの選択肢が同じでラベルが異なるミラーの例を加え、表層的な手がかりを減らした英語のデータ。 | 1,500 | 7 | 175.72 KB | cc-by-4.0 | A | 複製済み |
| shmuhammad/AfriSenti-twitter-sentiment | アフリカの 14 言語のツイートに、positive・neutral・negative の感情ラベルを付けたデータ。 | 111,718 | 2 | 18.68 KB | A | 複製済み | |
| sihaochen/propsegment | 文を命題に分割する課題と、命題が文書に含意されるかを判定する課題のための英語のデータ。 | 45,232 | 2〜3 | 13.87 KB | cc-by-4.0 | A | 複製済み |
| sonos-nlu-benchmark/snips_built_in_intents | 10 種類の意図（intent）のラベルが付いた英語の発話 328 件のデータ。 | 328 | 2 | 18.98 KB | cc0-1.0 | A | 複製済み |
| tasksource/AdjectiveScaleProbe-nli | 前提（premise）と仮説（hypothesis）の組に label を付けたデータで、調査メモでは元の注釈を決まった規則で変換したものとされている。 |
22,432 | 4 | 314.32 KB | D | 複製済み | |
| tasksource/ReSQ | story、question、answer の列を持つデータ。 |
3,113 | 5 | 62.30 KB | D | 複製済み | |
| tasksource/apt | 言い換えの判定（パラフレーズ検出）のための、2 つの文の組のデータ。 | 5,007 | 3 | 697.59 KB | unknown | D | 複製済み |
| tasksource/com2sense | 相補的な文の組で常識推論を測るベンチマーク（COM2SENSE）のデータ。 | 2,390 | 6 | 666.11 KB | D | 複製済み | |
| tasksource/cycic_classification | 常識を問う問題（CycIC）のデータ。 | 4,774 | 7 | 461.30 KB | apache-2.0 | A | 複製済み |
| tasksource/feasibilityQA | 前提 premise と仮説 hypothesis の組に二値のラベルを付けた形のデータ。 |
3,248 | 6 | 968.17 KB | mit | A | 複製済み |
| tasksource/miqa | 比喩を使った前提・結論と、その文字どおりの版を対にしたデータで、調査メモの台帳では評価専用とされている。 | 150 | 4 | 23.14 KB | cc-by-4.0 | A | 複製済み |
| tasksource/strategy-qa | 真偽値の答え（answer）を持つ問答のデータ。 |
2,290 | 7 | 1.27 MB | D | 複製済み | |
| ucsbai/liar | politifact.com の短い言明（statement）に真偽の判定を付けた、フェイクニュース検出のためのデータ。 | 12,836 | 14 | 12.74 KB | unknown | D | 複製済み |
| viethq1906/isarcasm_2022_taskA_En | 英語の文（sentence）に整数のラベル sentiment が付いたデータで、1 行が 1 件の文である。 |
4,891 | 2 | 735.18 KB | D | 複製済み | |
| zapsdcn/citation_intent | jsonl 形式の 3 ファイルからなるデータで、ビューアでは行数も列も読めなかった。 | 535.84 KB | D | 複製済み | |||
| zapsdcn/sciie | text、label（文字列）、metadata（整数のリスト）の 3 列からなるデータ。 |
4,648 | 3 | 1.19 MB | D | 複製済み | |
| AndyChiang/cloth | 中学校と高校の英語の試験から集めた、穴埋め問題のデータ。 | 99,433 | 3 | 20.14 MB | mit | A | 複製待ち |
| AndyChiang/dgen | 科学・語彙・常識・雑学などの穴埋め問題のデータ。 | 2,580 | 3 | 683.53 KB | mit | A | 複製待ち |
| AshtonIsNotHere/biosift-nli | PMID が付いた論文の題名と抄録に、仮説を組み合わせた自然言語推論のデータ。 | 140,000 | 7 | 11.70 MB | D | 複製待ち | |
| AshtonIsNotHere/nli4ct_semeval2024 | SemEval 2024 Task 2（臨床試験のための安全な生物医学的自然言語推論）用に編纂された、臨床試験の記述に対する自然言語推論のデータ。 | 4,042 | 9 | 1.41 MB | D | 複製待ち | |
| Brand24/mms | 科学文献で報告された 350 件を超えるデータセットから、手作業で選んだ 79 件を集めた、27 言語の感情分類のための多言語コーパス集。 | 1.97 GB | other | D | 複製待ち | ||
| CEBaB/CEBaB | 観点ごとの評価ラベルを付けた文のデータ。 | 18,600 | 24 | 2.61 MB | A | 複製待ち | |
| ColumbiaNLP/FLUTE | 慣用句を含む前提と仮説の組に、ラベルと説明を付けた比喩表現のデータ。 | 7,534 | 8 | 3.19 MB | afl-3.0 | A | 複製待ち |
| DAMO-NLP-SG/SOUL | 言語の感情と意見の理解を調べるためのデータで、EMNLP 2023 の論文 SOUL の公開データである。 | 15,028 | 5 | 11.91 MB | mit | A | 複製待ち |
| Dahoas/synthetic-instruct-gptj-pairwise | 指示文に対する 2 つの応答の選好を比べたデータ。 | 33,143 | 3 | 18.23 MB | D | 複製待ち | |
| Dzeniks/hover | 多段（many-hop）の事実抽出と主張検証のためのデータ。 | 18,296 | 4 | 12.41 MB | mit | A | 複製待ち |
| GBaker/MedQA-USMLE-4-options-hf | 医学の試験問題から作られた、4 択の質問応答のデータ。 | 12,723 | 8 | 12.24 MB | cc-by-sa-4.0 | B | 複製待ち |
| GGLab/PARADISE | 動画の ID（video-id）と 4 つの選択肢（ending0 から ending3）を持つデータで、調査メモでは元の注釈を決まった規則で変換したものとされている。 |
115,075 | 12 | 93.13 MB | mit | A | 複製待ち |
| INK-USC/xcsr | 多言語の常識推論を評価するための問答データ。 | 53,984 | 4〜5 | 8.09 MB | mit | A | 複製待ち |
| IlyaGusev/headline_cause | 英語とロシア語のニュース見出しの対について、間にある因果関係を判定するためのデータ。 | 24,624 | 11 | 391.92 MB | cc0-1.0 | A | 複製待ち |
| Jiangjie/ekar_english | 公務員試験から採った類推問題の英語版のデータで、中国語版から翻訳されている。 | 1,248 | 6 | 1.19 MB | afl-3.0 | C | 複製待ち |
| LocalLLaMA/typed-decisions | 構造化されていない状態を受け取り、5 つの型付きの問いに確率分布で答える判定のベンチマーク。 | 3,200 | 9〜28 | 2.20 MB | apache-2.0 | A | 複製待ち |
| MartinThoma/wili_2018 | Wikipedia の段落を 235 言語のいずれかに判定する言語識別のベンチマーク。 | 235,000 | 2 | 91.73 MB | odbl | B | 複製待ち |
| McGill-NLP/FaithDial | Wizard of Wikipedia（WoW）の対話で、ボット役の wizard の幻覚（hallucination）を含む応答を、Amazon Mechanical Turk のワーカーに修正させて作った、知識に忠実な対話のデータ。 | 32,269 | 7 | 34.35 MB | mit | B | 複製待ち |
| McGill-NLP/WebLINX | ウェブページ上の操作を、対話による指示のもとで行わせるデータ（WebLINX）。 | 79,777 | 5〜8 | 526.02 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| MoritzLaurer/dataset_train_nli | 自然言語推論（NLI）の学習用データ。 | 1,018,733 | 5 | 206.04 MB | D | 複製待ち | |
| NEUDM/mams | 文から感情の対象（アスペクト）と感情を抜き出す、アスペクトベースの感情分析（ABSA）のデータ。 | 9,246 | 8 | 7.47 MB | A | 複製待ち | |
| Nofing/Maven-ERE-span | MAVEN-ERE を span 形式にしたデータ。 | 3,623 | 7 | 44.22 MB | D | 複製待ち | |
| OpenFact/CLEF24-CheckThat-Task1-en-all | CLEF 2024 の CheckThat! Task 1 の英語データ（all）で、発言の文を集めたもの。 | 98,037 | 19 | 9.03 MB | D | 複製待ち | |
| OpenMed/DDI-Corpus-Processed | 薬物間相互作用（DDI）の検出のためのデータ。 | 7,142 | 7 | 3.31 MB | cc-by-nc-4.0 | C | 複製待ち |
| PKU-Alignment/BeaverTails | AI の安全性の研究のための、質問と回答の組に人手で有害性のラベルを付けたデータ。 | 364,170 | 4 | 39.45 MB | cc-by-nc-4.0 | C | 複製待ち |
| PKU-Alignment/PKU-SafeRLHF | 1 つの質問に対する 2 つの応答を、有用性と無害性の両面から比べた選好のデータ。 | 164,236 | 16 | 233.02 MB | cc-by-nc-4.0 | C | 複製待ち |
| PierreColombo/miam | 英語・フランス語・ドイツ語・イタリア語・スペイン語の話し言葉の対話に、対話行為（dialogue act）のラベルを付けた多言語のベンチマーク（MIAM）のデータ。 | 103,901 | 6〜7 | 32.66 KB | cc-by-sa-4.0 | B | 複製待ち |
| PolyAI/minds14 | e-banking の商用システムから抽出された 14 のインテントを、14 の言語変種の発話音声に対応させた音声のインテント分類データ。 | 16,336 | 6 | 1.13 GB | cc-by-4.0 | A | 複製待ち |
| RuyuanWan/Dilemmas_Disagreement | Dilemmas データセットを、テキストと注釈の不一致ラベルを含めて加工したデータ。 | 28,296 | 3 | 3.29 MB | D | 複製待ち | |
| RuyuanWan/SBIC_Disagreement | Social Bias Inference Corpus（SBIC）を、テキスト、注釈者の属性、注釈の不一致ラベルを含めて加工したデータ。 | 89,913 | 8 | 14.13 MB | D | 複製待ち | |
| RuyuanWan/SChem_Disagreement | Social Chemistry 101（SChem）のテキストに、注釈者どうしの不一致を示すラベルを付けたデータ。 | 38,310 | 3 | 2.63 MB | D | 複製待ち | |
| S-Labs/prompt-injection-dataset | LLM アプリへのユーザー入力が、プロンプトインジェクションの攻撃かどうかを判定する英語の 2 値分類データ。 | 15,291 | 2 | 988.84 KB | mit | A | 複製待ち |
| Samsoup/cosmos_qa | 文脈と問いと 4 つの選択肢からなる多肢選択問題のデータ。 | 35,210 | 8 | 12.03 MB | A | 複製待ち | |
| SetFit/ethos_binary | ethos を二値にしたデータで、train と test に分かれている。 | 998 | 3 | 173.62 KB | D | 複製待ち | |
| SetFit/insincere-questions | Quora の質問を、不誠実（insincere）かどうかで判定するためのデータ。 | 1,306,122 | 4 | 332.10 MB | D | 複製待ち | |
| SetFit/toxic_conversations | Civil Comments のコメントに、有害かどうかの判定を付けたデータ。 | 1,804,874 | 3 | 1.45 GB | D | 複製待ち | |
| SetFit/xglue_nc | XGLUE のニュースのカテゴリ分類の部分を移植したデータ。 | 200,000 | 4 | 783.70 MB | D | 複製待ち | |
| WhereIsAI/github-issue-similarity | GitHub の issue どうしの類似性を判定するためのデータ。 | 32,698 | 2〜3 | 83.35 MB | mit | A | 複製待ち |
| WillHeld/top_v2 | 発話（utterance）、意味解析（semantic_parse）、ドメイン（domain）の 3 列からなるデータ。 |
180,542 | 3 | 9.68 MB | D | 複製待ち | |
| X-LANCE/WebSRC_v1.0 | 構造を持つ Web ページを読んで質問に答えるためのデータ。 | 649.47 MB | cc-by-4.0 | A | 複製待ち | ||
| Xueren/EMS-MCQA | 救急医療サービス（EMS）の知識を問う、多肢選択式の質問応答のデータ。 | 47,696 | 7 | 40.90 MB | mit | A | 複製待ち |
| Zhengping/UNLI | 自然言語推論の前提と仮説の組に、人手の投票を集計した実数の目標値（ソフトラベル）を付けたデータ。 | 61,597 | 4 | 12.73 MB | mit | A | 複製待ち |
| alexcadillon/SemEval2014Task4 | 文（text）ごとに、対象の語（aspectTerms の term）とその感情の極性（polarity）を付けたデータで、構成は laptops と restaurants の 2 つ。 |
7,886 | 3〜4 | 3.15 MB | D | 複製待ち | |
| alisawuffles/WANLI | MultiNLI の難しい推論パターンを手がかりに GPT-3 が生成した英語の文ペアを、クラウドワーカーがラベル付けし、必要に応じて修正した自然言語推論のデータ。 | 107,885 | 6 | 147.36 MB | cc-by-4.0 | B | 複製待ち |
| allenai/quac | Wikipedia の文章について情報を尋ね合う対話のデータ。 | 12,567 | 11 | 26.28 KB | mit | A | 複製待ち |
| allenai/quartz | オープンドメインの定性的な関係について、多肢選択式の質問を集めたデータ。 | 3,864 | 8 | 579.26 KB | cc-by-4.0 | A | 複製待ち |
| allenai/ropes | 背景文章（因果または質的な関係を述べた文）と、その関係を新しい状況に当てはめて答える読解のデータ。 | 14,322 | 5 | 1.38 MB | cc-by-4.0 | A | 複製待ち |
| allenai/wildguardmix | LLM の安全性を判定するための、プロンプトと応答のデータ。 | 56.01 MB | odc-by | B | 複製待ち | ||
| amydeng2000/CREAK | 文とその説明、対象の実体のデータで、調査メモでは元の注釈を決まった規則で変換したものとされている。 | 11,547 | 7 | 3.52 MB | B | 複製待ち | |
| baber/social_i_qa | Social IQa を parquet 形式にしたミラーのデータで、元のデータセットの詳細は元のページにある。 | 35,364 | 6 | 1.96 MB | A | 複製待ち | |
| barilan/blog_authorship_corpus | 2004 年 8 月に blogger.com から集めた、約 2 万人のブロガーの投稿のデータ。 | 727,712 | 6 | 312.96 MB | unknown | A | 複製待ち |
| bhavnicksm/sentihood | 利用者が都市の地区について議論する質問応答サイトの文に、対象の地区ごとにアスペクトへの感情を付けたデータ（英語）。 | 5,215 | 3 | 1.12 MB | cc-by-4.0 | A | 複製待ち |
| bigbio/chemprot | PubMed の文章に、化学物質とタンパク質のエンティティとその間の関係を付けたデータ。 | 7,446 | 4〜7 | 14.49 MB | other | D | 複製待ち |
| bigbio/hallmarks_of_cancer | PubMed の論文要旨の文に、がんの特徴（hallmarks of cancer）のクラスを付けた英語のコーパス。 | 34,928 | 3〜4 | 31.05 KB | gpl-3.0 | B | 複製待ち |
| cam-cst/cbt | 子ども向けの物語の本から作った、英語の穴埋め問題のデータ。 | 687,451 | 2〜4 | 151.49 MB | gfdl | D | 複製待ち |
| casey-martin/CommonLit-Ease-of-Readability | 文章の読みやすさの点数を集めたデータ。 | 4,724 | 29 | 3.70 MB | C | 複製待ち | |
| christophsonntag/OLID | Twitter の投稿に攻撃性のラベルを付けた英語のデータ。 | 14,100 | 6 | 11.39 MB | D | 複製待ち | |
| community-datasets/offenseval_dravidian | ドラヴィダ系言語（タミル語・英語、マラヤーラム語・英語、カンナダ語・英語）のコード混在の、ソーシャルメディアのコメントに攻撃的な言語のラベルを付けたデータ。 | 64,530 | 2 | 4.28 MB | cc-by-4.0 | A | 複製待ち |
| community-datasets/proto_qa | テレビ番組 Family Feud に部分的に基づく、典型的な状況についての常識のデータ。 | 9,866 | 2〜7 | 2.01 MB | cc-by-4.0 | A | 複製待ち |
| community-datasets/quarel | 物語に関する選択式の質問のデータで、クラウドソーシングで作られた。 | 2,771 | 6 | 495.83 KB | D | 複製待ち | |
| community-datasets/re_dial | ユーザー同士が互いに映画を推薦し合う対話のデータで、英語で書かれている。 | 11,348 | 7 | 7.47 MB | cc-by-4.0 | A | 複製待ち |
| coref-data/gap_raw | Wikipedia からサンプリングした、性別のバランスが取れた共参照解決のデータ。 | 4,454 | 11 | 1.62 MB | apache-2.0 | A | 複製待ち |
| coref-data/knowref_60k_raw | Web から集めた、代名詞の指す先を選ぶ問題（Winograd 型）のデータ。 | 64,301 | 6 | 23.26 MB | cc-by-4.0 | A | 複製待ち |
| coref-data/preco_raw | 英語の共参照解決のためのデータセット PreCo を、元の jsonl 形式のまま配布したもの。 | 37,120 | 3 | 157.96 MB | unknown | C | 複製待ち |
| curaihealth/medical_questions_pairs | 医療の質問どうしが似ているかを判定するためのデータ。 | 3,048 | 4 | 322.94 KB | unknown | D | 複製待ち |
| declare-lab/cicero | 英語の対話に対する常識推論のデータ。 | 53,204 | 7 | 58.28 MB | mit | A | 複製待ち |
| deepmind/aqua_rat | 代数の文章題に、自然言語の解法の説明を付けたデータ。 | 195,950 | 4 | 52.01 MB | apache-2.0 | D | 複製待ち |
| deepset/prompt-injections | 整数のラベル（label）が付いたテキスト（text）のデータ。 |
662 | 2 | 56.24 KB | apache-2.0 | A | 複製待ち |
| demo-org/auditor_review | 金融ニュースの英語の文に、センチメント（positive・neutral・negative）を付けたデータ。 | 4,846 | 2 | 991.53 KB | D | 複製待ち | |
| doshimit3015/text-anonymization-benchmark | 欧州人権裁判所（ECHR）の英語の裁判例 1,268 件に、個人を特定する語句と機微な属性、共参照の関係を人手でアノテーションしたテキスト匿名化のコーパス。 | 2,208 | 8 | 7.63 MB | mit | A | 複製待ち |
| dravidianlangtech/hope_edi | YouTube のユーザーのコメントを、平等・多様性・包摂（equality, diversity, inclusion）に関する希望的発言（hope speech）かどうかで手作業で分類したデータ。 | 53,417 | 2 | 20.45 KB | cc-by-4.0 | A | 複製待ち |
| dvilares/head_qa | スペインの医療専門職に就くための試験の問題を集めた、多肢選択式の医療 QA のデータ。 | 13,530 | 8 | 79.38 MB | mit | A | 複製待ち |
| emozilla/quality | 長い文章を読んで答える多肢選択の読解問題のデータ。 | 4,609 | 5 | 14.35 MB | A | 複製待ち | |
| erbacher/AmbigNQ-clarifying-question | 質問、答え、入力の段落を含むデータ。 | 12,001 | 8 | 75.10 MB | D | 複製待ち | |
| eusip/silicone | 英語の話し言葉を扱うデータ 10 種を束ねたベンチマーク SILICONE のデータ。 | 614,723 | 5〜9 | 49.99 KB | cc-by-sa-4.0 | C | 複製待ち |
| gabrielloiseau/privacy-200k-Mistral-Large-3 | テキスト（text）に整数のラベル（label）を付けたデータで、1 行が 1 件のテキストである。 |
199,985 | 2 | 102.68 MB | D | 複製待ち | |
| google-research-datasets/circa | yes/no で答える質問への間接的な答えに、その解釈を付けた英語のデータ。 | 34,268 | 7 | 2.29 MB | cc-by-4.0 | A | 複製待ち |
| google-research-datasets/poem_sentiment | Project Gutenberg の詩の詩行に感情のラベルを付けたデータ。 | 1,101 | 3 | 55.03 KB | cc-by-4.0 | A | 複製待ち |
| google/code_x_glue_cc_defect_detection | C 言語のソースコードが、資源の漏れ・解放後使用・DoS などの安全でないコードかを判定する二値分類のデータ。 | 27,318 | 5 | 22.30 MB | c-uda | D | 複製待ち |
| gretelai/gretel-pii-masking-en-v1 | Gretel Navigator で合成した英語の文書のデータで、個人情報（PII）と保護対象保健情報（PHI）のエンティティを含む。 | 60,000 | 6 | 25.13 MB | apache-2.0 | A | 複製待ち |
| gyorilab/BioRED | 文献の題名と抄録に注釈（annotation_* の列）と、実体どうしの関係（relation_* の列）を付けたデータ。 |
600 | 14 | 1.51 MB | D | 複製待ち | |
| heegyu/webgpt_comparisons_ko | OpenAI の webgpt_comparisons を元にしたデータで、質問と回答の韓国語の列（question_ko、answer_0_ko、answer_1_ko）と英語の列（answer_0、answer_1）が並ぶ。 |
19,578 | 12 | 308.23 MB | C | 複製待ち | |
| hendrycks/ethics | 言語モデルを AI のアラインメントの観点で評価するための、倫理に基づくタスクのデータ。 | 134,417 | 2〜3 | 35.58 MB | mit | A | 複製待ち |
| hendzh/PromptShield | プロンプトインジェクションの試みを見分ける二値分類のデータ。 | 43,425 | 2 | 31.18 MB | apache-2.0 | A | 複製待ち |
| hitachi-nlp/FLD.v2 | 文脈、仮説、証明の列を持つ論理推論のデータ。 | 80,000 | 22 | 114.28 MB | D | 複製待ち | |
| holylovenia/recam | SemEval 2021 Task 4（抽象的な意味の読解）のデータ。 | 8,233 | 8 | 18.24 MB | D | 複製待ち | |
| hotchpotch/wikipedia-english-ir-simulated-search-queries | 英語版 Wikipedia の段落を正解の文書として、模擬的な検索クエリを生成したデータで、数千万件規模である。 | 29,366,101 | 8 | 14.26 GB | B | 複製待ち | |
| hotpotqa/hotpot_qa | Wikipedia に基づく多段推論（multi-hop）の質問応答のデータ。 | 203,109 | 7 | 746.64 MB | cc-by-sa-4.0 | B | 複製待ち |
| idioms-collaboration/magpie | 慣用句の用法を集めた MAGPIE コーパスのデータ。 | 48,395 | 14 | 20.23 MB | mit | A | 複製待ち |
| jaredfern/codah | 人が敵対的に作った常識問題（SWAG 形式の文補完）のデータ。 | 16,656 | 5 | 2.26 MB | odc-by | A | 複製待ち |
| joey234/nan-nli | 否定の異なる言語的な構文に対応する例を集めた、英語の前提と仮説の組の評価用データ。 | 258 | 34 | 57.44 KB | cc-by-sa-4.0 | B | 複製待ち |
| jordiclive/FABSA | 顧客フィードバック（Trustpilot、Google Play、Apple Store のレビュー）に、アスペクトごとの感情（positive、negative、neutral）を人手で付けたデータ。 | 10,574 | 7 | 1.02 MB | D | 複製待ち | |
| jpcorb20/multidogo | 六つのドメインの目的志向の対話（顧客とエージェントの会話）を集めた MultiDoGo のデータ。 | 243,272 | 7 | 81.89 MB | other | A | 複製待ち |
| karanxa/agent-action-safety-dataset | エージェントの提案したツール呼び出しが安全か危険かを判定するためのデータ。 | 55.06 MB | apache-2.0 | A | 複製待ち | ||
| kiddothe2b/contract-nli | ID が contract-nli の、前提と仮説の組に含意か矛盾かを付けた自然言語推論（NLI）のデータ。 | 20,107 | 3 | 2.60 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| kontext-security/ShellRisk-Bench | シェルコマンドの投稿を、文脈なしで「リスクあり」か「リスクなし」に二値分類するベンチマーク。 | 20,966 | 5 | 2.59 MB | other | D | 複製待ち |
| lasha-nlp/CONDAQA | 否定された内容を含む Wikipedia の段落について推論を問う、英語の読解データ。 | 14,182 | 10 | 27.04 MB | apache-2.0 | A | 複製待ち |
| launch/open_question_type | 自由回答形式の質問を、その種類でアノテーションしたデータ。 | 4,956 | 5 | 1.09 MB | cc-by-4.0 | A | 複製待ち |
| lighteval/piqa | 物理的な常識を要する質問に、2 つの解答のうち正しい方を選ばせる英語のデータ。 | 21,035 | 4 | 3.45 MB | unknown | A | 複製待ち |
| ludwigw/causal-reasoning-benchmarks | 因果関係の推論（推移性と d 分離）を扱うデータ。 | 150,000 | 3 | 28.07 MB | mit | A | 複製待ち |
| malmaud/onestop_qa | Guardian の記事（OneStopEnglish コーパス由来）を 3 段階の難易度で用意した英語の段落に、STARC の方式で 4 択の読解問題を付けたデータ。 | 1,458 | 8 | 227.52 KB | cc-by-sa-4.0 | B | 複製待ち |
| masakhane/masakhanews | アフリカで広く話される 16 言語のニュース記事を、7 つのトピック（business、entertainment、health、politics、religion、sports、technology）に分類するデータ。 | 31,088 | 4 | 101.01 MB | afl-3.0 | A | 複製待ち |
| mhardalov/exams | 高校の試験問題から取った、多言語および言語横断の質問応答のデータ。 | 136,082 | 2〜4 | 289.18 MB | cc-by-sa-4.0 | B | 複製待ち |
| microsoft/wiki_qa | オープンドメインの質問応答の研究用に集めた、質問と文の組に正誤のラベルを付けたデータ。 | 29,258 | 5 | 2.88 MB | other | C | 複製待ち |
| microsoft/xglue | 言語横断の自然言語理解と生成を評価するための、11 のタスク（構成）からなるベンチマーク。 | 2,180,445 | 2〜4 | 80.83 KB | other | D | 複製待ち |
| minktn/spider-data | Text-to-SQL の研究用に、Spider の訓練・開発データと対応するデータベースをまとめたもの。 | 1.83 GB | cc-by-sa-4.0 | B | 複製待ち | ||
| mneb/maven-arg | MAVEN-Arg（ACL 2024）を mneb の json_structures 形式（イベント抽出）に変換した、英語 Wikipedia 文書のデータ。 |
3,623 | 3 | 49.27 MB | D | 複製待ち | |
| mteb/Core17InstructionRetrieval | FollowIR ベンチマーク用に、Core17 の記事に対する検索で指示に従えるかを測る評価用データ。 | 29,519 | 2〜3 | 28.14 MB | mit | A | 複製待ち |
| mteb/News21InstructionRetrieval | FollowIR ベンチマークの一部として、News21 のニュースに対する検索で、ナラティブ（トピックの詳細な記述）という指示に従えるかを測る評価用データ。 | 39,635 | 2〜3 | 47.51 MB | mit | A | 複製待ち |
| mteb/Robust04InstructionRetrieval | FollowIR ベンチマークの一部として、Robust04 のニュースに対する検索で、ナラティブ（トピックの詳細な記述）という指示に従えるかを測る評価用データ。 | 84,786 | 2〜3 | 61.81 MB | mit | A | 複製待ち |
| multilingual-discourse-hub/disrpt | 多言語・多フレームワークの談話分析のベンチマーク DISRPT のデータで、多くの言語について談話関係の分類（.rels）と談話の分割（.conllu）を統合している。 | 205,279 | 12 | 48.33 MB | apache-2.0 | A | 複製待ち |
| mwong/fever-evidence-related | FEVER データセットから抽出し、学習と評価に使えるように前処理したテキスト分類のデータ。 | 485,184 | 5 | 567.54 MB | cc-by-sa-3.0, gpl-3.0 | B | 複製待ち |
| nala-cub/americas_nli | 南北アメリカの先住民言語 10 種の自然言語推論（NLI）のデータ。 | 27,886 | 3〜4 | 1.62 MB | cc-by-sa-4.0 | B | 複製待ち |
| napsternxg/wands | Wayfair の商品検索で、検索クエリと商品の関連性を評価したデータ。 | 233,448 | 14 | 212.38 MB | mit | A | 複製待ち |
| nedjmaou/MLMA_hate_speech | アラビア語・フランス語・英語のツイートに、敵対性・ヘイト・侮辱の種類などのアノテーションを付けたデータ。 | 18,661 | 7 | 2.75 MB | mit | A | 複製待ち |
| neurae/dnd_style_intents | ゲーム開発者向けの対話システムのインテント分類のデータで、D&D 風の約 16 万件を 17 のインテントに分けている。 | 163,221 | 3 | 5.76 MB | apache-2.0 | A | 複製待ち |
| neuralchemy/Prompt-injection-dataset | LLM へのプロンプトインジェクションと脱獄の試みを、悪意ありと無害に分けた二値分類のデータ。 | 22,193 | 8 | 2.40 MB | apache-2.0 | A | 複製待ち |
| nightingal3/fig-qa | 人間が書いた創作の比喩 10,256 件からなる英語のデータで、それぞれがウィノグラード・スキーマの対になっている。 | 11,914 | 5 | 1.28 MB | mit | A | 複製待ち |
| odegiber/hate_speech18 | 白人至上主義のフォーラム Stormfront の英語の投稿を文に分け、ヘイトスピーチかどうかを手作業で判定したデータ。 | 10,944 | 5 | 3.20 MB | cc-by-sa-3.0 | B | 複製待ち |
| openai/gsm8k | 英語で書かれた小学校レベルの数学の文章題のデータ。 | 17,584 | 2 | 5.90 MB | mit | B | 複製待ち |
| orionweller/NevIR | 否定を理解しているかを情報検索モデルで測るための、英語のベンチマークのデータ。 | 2,556 | 6 | 4.18 MB | mit | A | 複製待ち |
| pacovaldez/stackoverflow-questions | Stack Overflow に投稿された英語のプログラミングの質問に、人気の指標（スコア、お気に入り数、閲覧数）の閾値で 4 段階のラベル（0〜3）を付けたデータ。 | 3,928,258 | 3 | 2.38 GB | apache-2.0 | A | 複製待ち |
| pasinit/xlwic | 多言語の Word-in-Context（文脈中の語の意味）のデータで、XL-WiC 論文に対応する Hugging Face のデータセット。 | 304,010 | 9 | 52.82 KB | cc-by-nc-4.0 | C | 複製待ち |
| pfb30/multi_woz_v22 | 複数のドメインにまたがる、人と人の間の対話（Wizard-of-Oz 方式）に、対話状態と対話行為のラベルを付けたデータ。 | 20,874 | 3 | 29.59 KB | apache-2.0 | A | 複製待ち |
| pietrolesci/breaking_nli | 自然言語推論（NLI）のデータ。 | 8,193 | 7 | 296.63 KB | B | 複製待ち | |
| pietrolesci/conj_nli | 連言を含む文の組に対する自然言語推論（NLI）のストレステストのデータ。 | 16,621 | 3 | 2.32 MB | D | 複製待ち | |
| pietrolesci/dnc | 文脈と仮説の組からなる自然言語推論（NLI）のデータで、Diverse NLI（DNLI）と名付けられている。 | 297,343 | 12 | 8.85 MB | C | 複製待ち | |
| pietrolesci/joci | 文の組に含意・中立・矛盾の 3 値を付けた NLI のデータ（JOCI の full 版）。 | 39,092 | 7 | 1.99 MB | D | 複製待ち | |
| pietrolesci/mpe | 複数の前提文から仮説を含意・中立・矛盾に分類するデータ（MultiPremiseEntailment）。 | 10,000 | 11 | 2.65 MB | D | 複製待ち | |
| pietrolesci/recast_white | 既存の意味関係のデータ（fnplus、sprl、dpr の 3 つ）を、含意関係の判定（NLI）の形に組み替えたデータで、White らの 2017 年の論文「Inference is Everything」の元データに基づく。 | 312,875 | 8 | 30.63 MB | D | 複製待ち | |
| pietrolesci/robust_nli | モデルが特定の偏り（バイアス）に頼っていないかを測るための、自然言語推論（NLI）の敵対的データセット 10 種を集めたベンチマーク。 | 74,922 | 4 | 6.07 MB | B | 複製待ち | |
| pietrolesci/robust_nli_is_sd | 自然言語推論（NLI）の敵対的データセット IS-SD（元の名は HANS）を、robust_NLI の一部として切り出したデータ。 |
30,000 | 4 | 909.40 KB | A | 複製待ち | |
| pietrolesci/robust_nli_li_ts | robust_NLI に含まれる敵対的データセットの一つ LI_TS を、単独で読み込めるように切り出したデータ。 |
9,832 | 4 | 800.91 KB | A | 複製待ち | |
| prajjwal1/discosense | 4 つの選択肢から正解を選ぶ形式の問題のデータ。 | 13,056 | 8 | 9 MB | A | 複製待ち | |
| pushpdeep/UltraFeedback-paired | openbmb/UltraFeedback の応答を選好の組にした、DPO などの LLM のアラインメント手法向けのデータ。 | 318,777 | 3 | 228.58 MB | mit | A | 複製待ち |
| qbao775/PARARULE-Plus | 自然言語による多段階の演繹推論のデータ。 | 435,456 | 5 | 433.63 MB | mit | A | 複製待ち |
| rajpurkar/squad_v2 | Wikipedia の記事に基づく英語の読解データ。 | 142,192 | 5 | 17.73 MB | cc-by-sa-4.0 | B | 複製待ち |
| sadat2307/MSciNLI | 2 つの文の組に label と domain（分野）を付けたデータ。 |
132,320 | 5 | 51.44 MB | cc-by-sa-4.0 | B | 複製待ち |
| sentence-transformers/all-nli | SNLI と MultiNLI を連結し、文の埋め込みモデルの学習や微調整に使えるように整えたデータ。 | 2,861,761 | 2〜3 | 212.80 MB | B | 複製待ち | |
| sentence-transformers/coco-captions | COCO の画像に付けられた複数のキャプションから、同じ画像に対する 2 つのキャプションの組を集めたデータ。 | 414,010 | 2 | 23.94 MB | A | 複製待ち | |
| sileod/discovery | 英語の文のペアから、2 文の間にあった談話標識を予測するためのデータ。 | 3,480,000 | 4 | 541.73 MB | apache-2.0 | A | 複製待ち |
| sileod/mindgames | 動的認識論理（muddy-children 型のパズル）で生成した心の理論の問題を、含意の判定（自然言語推論）として並べたデータ。 | 18,792 | 14〜15 | 25.26 MB | apache-2.0 | A | 複製待ち |
| sileod/missing-item-prediction | 論文 Attention Overflow（arXiv:2407.13481、長い文脈での欠けた項目の推薦における入力のぼけ）に対応する、Missing Item Prediction のデータ。 | 22,000 | 4 | 90.22 MB | D | 複製待ち | |
| sileod/pragmeval | PragmEval は、英語の語用論（談話関係、対話行為、説得力、検証可能性、感情など）に焦点を当てた評価データを 1 つにまとめたもの。 | 130,405 | 3〜4 | 10.36 MB | unknown | D | 複製待ち |
| sileod/wikimedqa | 医療の多肢選択問題（MCQ）のデータで、設定は medwiki、wikem、wikidoc の 3 つ。 |
117,870 | 11 | 91.78 MB | apache-2.0 | A | 複製待ち |
| sled-umich/TRIP | 直観物理の常識推論を段階的に評価するための、密に注釈されたデータ。 | 4,603 | 7 | 9.55 MB | D | 複製待ち | |
| stanfordnlp/coqa | 7 つの分野の文章に対する、会話形式の質問応答（CoQA）のデータ。 | 7,699 | 4 | 12.20 MB | other | D | 複製待ち |
| strombergnlp/x-stance | スイスの投票助言プラットフォーム Smartvote から集めた、政治的な問いに対する候補者のコメントに、賛否のラベルを付けたデータ。 | 67,271 | 4 | 22.28 MB | mit | A | 複製待ち |
| tasksource/AES2-essay-scoring | 作文とその点数のデータで、1 行が 1 件の作文を表し、full_text に本文、score に点数、essay_id に ID が入っている。 |
17,307 | 3 | 36.19 MB | cc-by-nc-4.0 | C | 複製待ち |
| tasksource/Boardgame-QA | 規則（rules）、事実（facts）、目標（goal）などの列を持つ推論問題のデータ。 |
37,500 | 9 | 34.04 MB | cc-by-4.0 | A | 複製待ち |
| tasksource/ConTRoL-nli | 前提と仮説の組に label を付けた自然言語推論のデータで、調査メモでは元の注釈を決まった規則で変換したものとされている。 |
8,323 | 4 | 23.37 MB | C | 複製待ち | |
| tasksource/FOL-nli | 一階論理（FOL）を使った自然言語推論（NLI）のデータ。 | 102,774 | 8 | 182.49 MB | apache-2.0 | A | 複製待ち |
| tasksource/I2D2 | 文と整数のラベルのデータで、調査メモでは元の注釈を決まった規則で変換したものとされている。 | 22,476 | 2 | 1.40 MB | apache-2.0 | A | 複製待ち |
| tasksource/MOH | expression、context、label の列を持つデータ。 |
1,920 | 7 | 99.99 KB | D | 複製待ち | |
| tasksource/PLANE-ood | 形容詞と名詞の句レベルの含意（PLANE）ベンチマークの、分布外（OOD）分割のデータ。 | 310,212 | 6 | 4.73 MB | cc-by-2.0 | A | 複製待ち |
| tasksource/PRM800K | OpenAI の prm800k リポジトリ（https://github.com/openai/prm800k）に由来するデータ。 | 477.11 MB | mit | A | 複製待ち | ||
| tasksource/SDOH-NLI | 社会的・行動的な健康の決定要因（SDOH）の領域で、前提と仮説の組に二値の含意ラベルを付けた自然言語推論のデータ。 | 29,335 | 3 | 2.91 MB | cc-by-4.0 | A | 複製待ち |
| tasksource/ScienceQA_text_only | ScienceQA の問題のうち、もとから画像を使わない例だけを集めたデータ。 | 10,876 | 12 | 2.93 MB | D | 複製待ち | |
| tasksource/SpaRTUN | 物語と質問の組からなる、空間的な役割の推論のデータ。 | 48,246 | 5 | 2.43 MB | D | 複製待ち | |
| tasksource/SpaceNLI | 空間に関する推論の予測が一貫しているかを調べるための、自然言語推論のデータ。 | 32,000 | 10 | 1.03 MB | mit | A | 複製待ち |
| tasksource/TroFi | 言葉の比喩的な用法（文字どおりでない表現）を識別するためのデータ。 | 3,737 | 6 | 467.05 KB | gpl | B | 複製待ち |
| tasksource/VUAC | 言語上の比喩を識別するためのデータ。 | 23,113 | 8 | 4.45 MB | D | 複製待ち | |
| tasksource/acceptability-prediction | 文の容認可能性（acceptability）について、人手の評定を集めたデータ。 | 8,050 | 8 | 1.45 MB | apache-2.0 | A | 複製待ち |
| tasksource/ambient | 前提や仮説に曖昧さがある場合を扱う、自然言語推論のデータ。 | 1,645 | 7 | 637.39 KB | D | 複製待ち | |
| tasksource/arct | 議論の主張（claim）に対して、暗黙の前提（warrant）を二つの候補から選ぶ論証の理解のデータ。 | 1,970 | 8 | 799.21 KB | apache-2.0 | A | 複製待ち |
| tasksource/argument-feedback | エッセイの談話（discourse）の断片に、談話の種類と効果の評価を付けたデータ。 | 36,765 | 5 | 10.91 MB | D | 複製待ち | |
| tasksource/autotnli | 表（テーブル）の情報に対する自然言語推論のデータ。 | 135,000 | 4 | 63.26 MB | apache-2.0 | A | 複製待ち |
| tasksource/avicenna | 常識に基づく三段論法の推論のための、2 つの前提と結論の組のデータ。 | 6,000 | 4 | 1.30 MB | cc | D | 複製待ち |
| tasksource/babi_nli | bAbI の質問応答のタスクを、自然言語推論の形（前提・仮説・含意の有無）に作り直したデータ。 | 40,000 | 4 | 2.57 MB | bsd | A | 複製待ち |
| tasksource/boolq-natural-perturbations | BoolQ の質問の意味を改変（摂動）し、その質問を人手で検証したデータ。 | 17,323 | 10 | 14.48 MB | D | 複製待ち | |
| tasksource/brainteasers | 問いと正解、二つの誤答候補（distractor）からなる選択式の問題のデータ。 | 792 | 9 | 89.35 KB | D | 複製待ち | |
| tasksource/chaos-mnli-ambiguity | MNLI の文の組に、100 人のアノテーターによる再ラベル付けの分布を付けた自然言語推論（NLI）のデータ。 | 1,599 | 10 | 975.01 KB | D | 複製待ち | |
| tasksource/clcd-english | 論理に基づいて作られた、言語間評価用コーパスの英語版のデータ。 | 11,000 | 3 | 1.98 MB | apache-2.0 | A | 複製待ち |
| tasksource/cnli | SNLI を反事実的に拡張した自然言語推論（NLI）のデータ。 | 8,330 | 3 | 1.36 MB | D | 複製待ち | |
| tasksource/commonsense_qa_2.0 | AI の限界をゲーム化で暴くために作られた、常識問答（CommonsenseQA 2.0）のデータ。 | 11,805 | 10 | 3.84 MB | cc-by-4.0 | A | 複製待ち |
| tasksource/comve | SemEval-2020 Task 4 の ComVE サブタスク A の、常識に合う文と合わない文を判定するためのデータ。 | 11,962 | 4 | 1.93 MB | cc-by-sa-4.0 | B | 複製待ち |
| tasksource/conceptrules_v2 | 自然言語による多段階の演繹推論を扱うデータ。 | 260,768 | 5 | 49.17 MB | mit | A | 複製待ち |
| tasksource/corr2cause | 相関から因果を推論できるかを調べるための、自然言語推論（NLI）のデータ（corr2cause）。 | 415,944 | 4 | 11.04 MB | mit | A | 複製待ち |
| tasksource/counterfactually-augmented-imdb | IMDb の映画レビューを反事実的に拡張した、感情分析のデータ。 | 2,440 | 2 | 2.26 MB | unknown | D | 複製待ち |
| tasksource/counterfactually-augmented-snli | SNLI の文の組を反事実的に拡張した、自然言語推論（NLI）のデータ。 | 9,064 | 3 | 1.10 MB | unknown | D | 複製待ち |
| tasksource/crowdflower | airline-sentiment・economic-news など 9 つの設定に分かれた、テキストの分類データ。 | 84,772 | 3 | 12.99 MB | unknown | D | 複製待ち |
| tasksource/cycic_multiplechoice | CycIC の常識問題を、5 つの選択肢から選ぶ形にしたデータ。 | 7,427 | 12 | 809.74 KB | apache-2.0 | A | 複製待ち |
| tasksource/dadc-limit-nli | 自然言語推論（NLI）のデータ。 | 766 | 3 | 22.05 MB | cc | D | 複製待ち |
| tasksource/defeasible-nli | 覆りうる推論（defeasible inference）のデータ。 | 138,778 | 3〜4 | 125.77 MB | apache-2.0 | B | 複製待ち |
| tasksource/discogem | DiscoGeM 1.0 の、クラウドの投票の割合と元の train・dev・test のラベルからなるデータ。 | 2,570 | 4 | 1.57 MB | other | D | 複製待ち |
| tasksource/edos | EDOS の元の二値の性差別（sexism）判定のデータ。 | 20,000 | 4 | 3.59 MB | cc0-1.0 | A | 複製待ち |
| tasksource/english-grading | 文章 full_text に、cohesion、syntax、vocabulary、phraseology、grammar、conventions の 6 つの観点の数値を付けたデータ。 |
3,911 | 8 | 9.29 MB | D | 複製待ち | |
| tasksource/evidence-inference | 論文の全文と、介入（intervention）・比較対象（comparator）・アウトカム（outcome）から、効果の向きを推定するデータ。 | 12,452 | 4 | 126.41 MB | other | D | 複製待ち |
| tasksource/few_rel | FewRel の関係抽出のデータで、分割は独自のものである。 | 58,500 | 5 | 24.90 MB | unknown | D | 複製待ち |
| tasksource/fnc1 | FNC-1 の見出しと本文の立場（stance）を、元のラベル付き CSV から結合したデータ。 | 75,166 | 4 | 102.01 MB | other | D | 複製待ち |
| tasksource/fool-me-twice | Wikipedia を根拠にした含意（entailment）のデータで、ゲームで集めた。 | 12,968 | 10 | 35.05 MB | apache-2.0 | A | 複製待ち |
| tasksource/goal-step-wikihow | WikiHow の手順記事から作った、目標（goal）・手順（step）・順序（order）を推論させるデータ。 | 1,402,690 | 9〜11 | 476.49 MB | mit | A | 複製待ち |
| tasksource/hans | 2 文の組に対する含意判定（entailment と non-entailment の 2 値）のデータ。 | 60,000 | 3 | 1.48 MB | A | 複製待ち | |
| tasksource/help-nli | 単調性推論（monotonicity reasoning）で神経モデルの弱点を調べるための、文の組のデータ。 | 35,891 | 10 | 6.58 MB | cc | B | 複製待ち |
| tasksource/hh-rlhf | 2 つの応答の組に、選ばれた方を chosen、選ばれなかった方を rejected として持つデータ。 |
169,352 | 2 | 183.55 MB | A | 複製待ち | |
| tasksource/idioms-nli | 慣用句などの比喩表現を含む文の組で、含意関係を判定する NLI のデータ。 | 23,719 | 3 | 3.75 MB | D | 複製待ち | |
| tasksource/implicatures | 英語の対話で、応答に含まれる会話の含意（conversational implicature）を選ばせるデータ。 | 1,000 | 4 | 115.06 KB | gpl | B | 複製待ち |
| tasksource/implicit-hate-stg1 | 暗黙のヘイトスピーチ（implicit hate）を扱うベンチマーク用のデータ。 | 21,480 | 2 | 2.19 MB | unknown | C | 複製待ち |
| tasksource/it-support-tickets | ブラジルのフロリアノポリス地域の IT サポート企業から集めた実際のサポートチケットを、7 つのカテゴリに分類したデータ。 | 2,229 | 2 | 102.19 KB | cc-by-4.0 | A | 複製待ち |
| tasksource/jigsaw_toxicity | コメント本文 comment_text に、toxic・severe_toxic・obscene・threat・insult・identity_hate の 6 種類の整数ラベルが付いたデータ。 |
159,571 | 8 | 68.80 MB | apache-2.0 | A | 複製待ち |
| tasksource/lexcomp-nc-relation | 語彙の合成（lexical composition）に関するテキスト表現を評価するためのデータ。 | 1,566 | 6 | 388.33 KB | apache-2.0 | A | 複製待ち |
| tasksource/lifecycle-entailment | ライフサイクルに関する文の組の含意関係（entailment）を判定するためのデータ。 | 8,559 | 4 | 433.04 KB | D | 複製待ち | |
| tasksource/lingnli | 自然言語推論（NLI）のデータ。 | 52,353 | 3 | 3.87 MB | unknown | D | 複製待ち |
| tasksource/linguisticprobing | 1 行が 1 文で、sentence に文、label に I か O の 2 値が入ったデータ。 |
1,029,580 | 3 | 65.12 MB | D | 複製待ち | |
| tasksource/logical-entailment | 論理的な含意（entailment）を判定するためのデータ。 | 109,876 | 7 | 8.36 MB | apache-2.0 | A | 複製待ち |
| tasksource/logiqa-2.0-nli | LogiQA 2.0 の論理推論の読解問題を、前提と仮説の組の NLI の形に変えたデータ。 | 13,912 | 4 | 9.02 MB | cc | C | 複製待ち |
| tasksource/lonli | Microsoft の LoNLI の、自然言語推論（NLI）を点検するためのデータ。 | 363,000 | 4 | 15.55 MB | mit | A | 複製待ち |
| tasksource/lsat-rc | LSAT の読解問題のデータ。 | 2,366 | 5 | 1.48 MB | D | 複製待ち | |
| tasksource/mcscript2 | MCScript2.0 の二択の読解問題のデータ。 | 19,820 | 4 | 4.40 MB | other | D | 複製待ち |
| tasksource/mctest-nli | MCTest（Richardson et al., 2013）の読解問題を含意の判定（NLI）の形に変換したデータ。 | 10,560 | 3 | 734.70 KB | D | 複製待ち | |
| tasksource/monli | 論文 Neural Natural Language Inference Models Partially Embed Theories of Lexical Entailment and Negation（Geiger et al., 2020）に対応する MoNLI の自然言語推論のデータ。 | 1,202 | 6 | 259.47 KB | D | 複製待ち | |
| tasksource/monotonicity-entailment | 単調性推論（monotonicity reasoning）を神経ネットワークが扱えるかを問う Yanaka et al.（2019）の論文に対応する含意判定のデータ。 | 5,382 | 16 | 789.41 KB | apache-2.0 | A | 複製待ち |
| tasksource/mtop | MTOP（Li et al., 2020、多言語のタスク指向の意味解析のベンチマーク）に対応するデータ。 | 104,445 | 8 | 15.77 MB | cc-by-sa-4.0 | B | 複製待ち |
| tasksource/mutual | 複数ターンの対話の推論を扱う MuTual のデータ。 | 8,860 | 4 | 6.65 MB | D | 複製待ち | |
| tasksource/natural-language-satisfiability | 自然言語の断片（fragment）における推論能力を調べる Schlegel らの研究（arXiv:2211.05417）のデータ。 | 8,000 | 7 | 9.98 MB | D | 複製待ち | |
| tasksource/naturallogic | 自然論理（natural logic）による含意関係の推論のデータ。 | 6,390 | 12 | 2.06 MB | apache-2.0 | A | 複製待ち |
| tasksource/nlgraph | 言語モデルが自然言語のグラフ問題を解けるかを調べる Wang らの研究（arXiv:2305.10037）のデータ。 | 6,022 | 4 | 1.45 MB | D | 複製待ち | |
| tasksource/nli-veridicality-transitivity | ニューラル NLI モデルの推移性（transitivity）を、真偽性（veridicality）を通して調べる Yanaka らの研究（EACL 2021）のデータ。 | 122,000 | 12 | 19.01 MB | cc | D | 複製待ち |
| tasksource/nlsat | jsonl 形式のファイルを中心とする、容量 400 MB 規模のデータ。 | 428.89 MB | apache-2.0 | A | 複製待ち | ||
| tasksource/nope | 英語で自然に出現する前提（presupposition）を集めた NOPE コーパスのデータ。 | 2,732 | 5 | 3.10 MB | D | 複製待ち | |
| tasksource/oasst1_pairwise_rlhf_reward | OASST1（OpenAssistant の会話データ）から報酬モデル学習用の比較の組を作ったデータ。 | 18,918 | 5 | 23.59 MB | D | 複製待ち | |
| tasksource/oasst2_dense_flat | 会話の木構造に沿って並んだメッセージのデータ。 | 64,386 | 32 | 46.43 MB | D | 複製待ち | |
| tasksource/oasst2_pairwise_rlhf_reward | OpenAssistant/oasst2 から作った、選好の比較ペアのデータ。 | 28,379 | 6 | 38.64 MB | D | 複製待ち | |
| tasksource/offenseval_2020 | OffensEval 2020 のデンマーク語（da）、ギリシャ語（gr）、トルコ語（tr）の文に、攻撃的（OFF）か否か（NOT）かのラベルを付けたデータ。 | 48,861 | 4 | 5.10 MB | unknown | D | 複製待ち |
| tasksource/parade | コンピュータサイエンスの専門知識を要する言い換え判定のデータ（PARADE）。 | 10,182 | 5 | 2.45 MB | D | 複製待ち | |
| tasksource/path-naturalness-prediction | 2 つの選択肢（choice1・choice2）の組からなるデータ。 |
60,060 | 5 | 7.99 MB | D | 複製待ち | |
| tasksource/perspectrum | PERSPECTRUM の主張と見解の立場（stance）のデータを、parquet に詰め直したもの。 | 5,053 | 4 | 490.85 KB | cc-by-sa-4.0 | B | 複製待ち |
| tasksource/race-c | 大学レベルの多肢選択式の読解問題のデータ（RACE-C）。 | 14,122 | 5 | 38.48 MB | C | 複製待ち | |
| tasksource/recast | DNC の recast を Parquet に変換したデータ。 | 445,974 | 4 | 14 MB | B | 複製待ち | |
| tasksource/reclor | 論理推論を要する読解問題のデータ（ReClor）。 | 5,138 | 5 | 5.51 MB | other | D | 複製待ち |
| tasksource/regset | 文脈（context）と答え（answer）の組からなるデータ。 |
45,005 | 2 | 2.53 MB | unknown | D | 複製待ち |
| tasksource/resnli | respectively（それぞれ）の読みを含む自然言語推論（NLI）のデータ。 | 37,072 | 4 | 961 KB | cc-by-4.0 | A | 複製待ち |
| tasksource/robustLR | 演繹推論で論理的な摂動への頑健性を評価する、Sanyal ら（2022）の RobustLR のデータ。 | 7,634 | 3 | 1.33 MB | D | 複製待ち | |
| tasksource/scicite | 論文中の引用の意図を扱う SciCite のデータ。 | 11,020 | 5 | 2.36 MB | unknown | D | 複製待ち |
| tasksource/scone | 否定を含む推論を調べる ScoNe（She ら 2023）の NLI のサブセットのデータで、one-scope を除いた元の部分である。 | 6,010 | 3 | 1.61 MB | cc0-1.0 | A | 複製待ち |
| tasksource/seahorse_summarization_evaluation | 多言語の要約を多面的に評価する SEAHORSE（Clark ら 2023）のデータ。 | 485,723 | 7 | 492.27 MB | cc | D | 複製待ち |
| tasksource/semantic_fragments_nli | 意味の断片（semantic fragments）で NLI モデルを調べた Richardson ら（2019）の研究のデータ。 | 64,000 | 4 | 3.89 MB | D | 複製待ち | |
| tasksource/sen-making | 意味をなさない文を見分け、その理由を答える Sen-Making（Wang ら 2019）のベンチマークのデータ。 | 2,021 | 8 | 629.24 KB | D | 複製待ち | |
| tasksource/sherliic | 型付きのイベントに焦点を当てた語彙推論のベンチマーク SherLIiC（Schmitt と Schütze 2019）のデータ。 | 3,985 | 3 | 149.62 KB | A | 複製待ち | |
| tasksource/simple_pair | 単純な文に対する NLI モデルの失敗を調べた Luo ら（2022）の研究のデータ。 | 230,000 | 4 | 4.75 MB | D | 複製待ち | |
| tasksource/slurp | SLURP の人手による書き起こしとインテントのラベルのデータで、音声は同梱していない。 | 15,656 | 4 | 2.67 MB | cc-by-4.0 | A | 複製待ち |
| tasksource/spartqa-mchoice | 空間推論を問う文章読解のベンチマーク SpartQA（Mirzaee ら 2021）の、多肢選択式の問題のデータ。 | 29,922 | 4 | 24.95 MB | mit | A | 複製待ち |
| tasksource/spartqa-yn | 空間推論を問う文章読解のベンチマーク SpartQA（Mirzaee ら 2021）の、yes/no 形式の問いのデータ。 | 31,724 | 3 | 22.38 MB | apache-2.0 | A | 複製待ち |
| tasksource/starcon | 帰結（consequence）から成る論証の立場（stance）を論題に対して判定する StArCon（Kobbe ら 2020）のデータ。 | 1,502 | 3 | 135.13 KB | unknown | A | 複製待ち |
| tasksource/stepgame | テキストに書かれた多段の空間推論を扱う StepGame（Shi ら 2022）のデータ。 | 410,000 | 4 | 192.70 MB | mit | A | 複製待ち |
| tasksource/streusle | レビュー文の名詞と動詞に付けた語彙的なスーパーセンスのデータ（STREUSLE）で、不連続な語彙表現も含む。 | 16,978 | 3 | 941.07 KB | cc-by-sa-4.0 | B | 複製待ち |
| tasksource/sts-companion | STS Benchmark の姉妹データセットで、意味的類似度（STS）の課題で使われた英語データのうち残りのものを集めたデータ。 | 5,289 | 7 | 995.84 KB | apache-2.0 | A | 複製待ち |
| tasksource/subjectivity | 英語のニュース記事の文ごとに主観性を判定するコーパス（Antici ら 2023）のデータ。 | 1,049 | 3 | 166.91 KB | mit | A | 複製待ち |
| tasksource/syntactic-augmentation-nli | 構文のデータ拡張と推論のヒューリスティックへの頑健性を扱った Min ら（2020）の研究の、NLI の文ペアのデータ。 | 12,150 | 12 | 2.21 MB | mit | A | 複製待ち |
| tasksource/synthetic-retrieval-NLI | テキストエンコーダの長文脈での検索能力を調べるための、合成の NLI タスクのデータ。 | 24,000 | 5 | 232.30 MB | D | 複製待ち | |
| tasksource/tabmwp | 表を含む文章題（TabMWP）の選択式の問題のデータ。 | 9,139 | 4 | 4.79 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| tasksource/tasksource_dpo_pairs | 約 470 の人手アノテーション付きの分類・多肢選択タスクから作った、DPO などの選好学習用のペアのデータ。 | 7,406,936 | 6 | 3.05 GB | other | D | 複製待ち |
| tasksource/temporal-nli | 時間の前後関係、期間、異なる単位の時間の大きさの関係を調べる、3 種類の NLI の challenge set のデータ（Thukral ら 2021）。 | 98,240 | 3 | 10.77 MB | apache-2.0 | A | 複製待ち |
| tasksource/tomi-nli | 心の理論（theory of mind）を問う質問応答の tomi データ（Le ら 2019）を、自然言語推論の形に書き直したもの。 | 17,982 | 5 | 7.49 MB | gpl-3.0 | B | 複製待ち |
| tasksource/tracie | 暗黙の出来事に関する時間的推論を扱う TRACIE（Zhou ら 2021）のデータ。 | 5,422 | 3 | 1.76 MB | apache-2.0 | A | 複製待ち |
| tasksource/twentyquestions | 対象（subject）について、問い（question）と答え（answer）を組にした問答のデータ。 |
78,890 | 12 | 24.01 MB | D | 複製待ち | |
| tasksource/tydi-as2-balanced | 問い（Question）と文書の題名（Title）、候補の文（Sentence）の組に判定の Label を付けたデータ。 |
33,960 | 5 | 6.44 MB | D | 複製待ち | |
| tasksource/ukpconvarg | 議論の説得力（convincingness）を、二つの論証を比べて判定する UKPConvArg1Strict のデータ（CC BY 4.0）。 | 11,650 | 4 | 6.56 MB | cc-by-4.0 | A | 複製待ち |
| tasksource/universal-joy | 複数の言語にまたがって感情を分類するための Universal Joy のデータ（Lamprinidis ら 2021）。 | 56,609 | 3 | 9.73 MB | gpl | B | 複製待ち |
| tasksource/wice | Wikipedia の主張（claim）が根拠となる文（evidence）に含意されるかを判定する WiCE のデータ（Kamoi ら 2023）。 |
5,377 | 5 | 52.26 MB | cc-by-sa-4.0 | B | 複製待ち |
| tasksource/wikipedia-detox-votes | Wikipedia のコメントに付いた人手の投票を、attack・aggression・toxicity の 3 つの設定で集めたデータ（Wikipedia Detox）。 | 391,414 | 7〜8 | 121.01 MB | cc0-1.0 | A | 複製待ち |
| tasksource/winodict | 言語モデルの文脈内での言語獲得を調べる WinoDict のデータ。 | 2,480 | 11 | 855.10 KB | cc-by-4.0 | A | 複製待ち |
| tasksource/winowhy | Winograd Schema Challenge に答えるために必要な常識知識を診断する WinoWhy のデータ。 | 2,865 | 6 | 1.23 MB | mit | A | 複製待ち |
| tasksource/x-fact | evidence、claim、label の 3 列からなるデータ。 |
36,152 | 3 | 29.97 MB | D | 複製待ち | |
| textmachinelab/quail | QuAIL という読解のデータセットで、300〜350 トークンの文章に対する多肢選択式の質問を集めたもの。 | 12,966 | 10 | 2.30 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| theatticusproject/acord | 契約書の起草に使う条項を探すための情報検索のデータ。 | 3.14 MB | cc-by-4.0 | A | 複製待ち | ||
| theatticusproject/maud | contract_name と text で文書を、question・subquestion・answer で質問と答えを持つデータ。 |
39,231 | 10 | 158.45 MB | cc-by-4.0 | A | 複製待ち |
| thesofakillers/SemCor | 英語の語義の注釈付きコーパス SemCor 1.6 を、WordNet 1.6 の語義から WordNet 3.0 の語義へ自動で対応づけ直した SemCor 3.0 のデータ。 | 56.04 MB | other | D | 複製待ち | ||
| thu-coai/esconv | 感情的サポートの対話のデータ（ESConv）。 | 1,300 | 1 | 14.86 MB | cc-by-nc-4.0 | C | 複製待ち |
| tomngdev/shell-safety-v2 | 安全なシェルコマンドと危険なシェルコマンドを、実行セッションの文脈とともに収めた合成データ。 | 34,007 | 6 | 27.20 MB | mit | A | 複製待ち |
| turingbench/TuringBench | TuringBench という名前のデータセットで、4 本のファイル（zip と py を含む）で約 239 MB ある。 | 239.30 MB | apache-2.0 | A | 複製待ち | ||
| tweets-hate-speech-detection/tweets_hate_speech_detection | Twitter から集めた主に英語のツイートに、ヘイトスピーチかどうかの 2 値のラベルを付けたデータ。 | 49,159 | 2 | 3.19 MB | gpl-3.0 | B | 複製待ち |
| unigram/FOL-nli | 前提と仮説の組に論理式（premise_tptp、hypothesis_tptp）と証明（proof）を付けたデータで、調査メモでは元の注釈を決まった規則で変換したものとされている。 |
102,774 | 8 | 182.49 MB | apache-2.0 | A | 複製待ち |
| universal-dependencies/universal_dependencies | Universal Dependencies（言語を横断して統一した構文木の注釈付きコーパス）を、Hugging Face で読める Parquet 形式にした公式版のデータ。 | 2,206,802 | 14 | 731.91 MB | other | B | 複製待ち |
| wandb/RAGTruth-processed | RAG（検索拡張生成）の出力に含まれる幻覚を評価するための RAGTruth のデータ。 | 17,790 | 11 | 26.17 MB | D | 複製待ち | |
| xTRam1/safe-guard-prompt-injection | ユーザーのプロンプトが攻撃か安全かを判定するための、プロンプトインジェクションの検出用データ。 | 10,296 | 2 | 2.50 MB | D | 複製待ち | |
| yuweiyin/IntentGrasp | 会話や文章の背後にある意図を選ぶ、意図理解のベンチマークのデータ。 | 276,138 | 8 | 2.23 GB | cc-by-nc-sa-4.0 | C | 複製待ち |
| zapsdcn/hyperpartisan_news | id・label・text の 3 列からなり、1 行が 1 件の本文（text）に文字列のラベル（label）が付いたデータ。 |
645 | 3 | 2.20 MB | A | 複製待ち | |
| zefang-liu/phishing-email-dataset | Kaggle の 'Phishing Email Detection' をそのまま複製した、フィッシングメールのデータ。 | 18,650 | 3 | 52.04 MB | lgpl-3.0 | B | 複製待ち |
| zj88zj/PubMed_200k_RCT | text の 1 列だけからなるテキストのデータ。 |
2,661,602 | 1 | 367.10 MB | D | 複製待ち | |
| HannahRoseKirk/HatemojiBuild | 絵文字を使った憎悪表現の検出に使う、敵対的に作られた文のデータ。 | 873.43 KB | cc-by-4.0 | A | 利用条件の同意待ち |
Jev / System One 系コミュニティ公開データの元データ特定
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| DeepPavlov/banking77 | 銀行業務の問い合わせ文を意図（インテント）で分類するテキスト分類のデータ。 | 13,160 | 2〜6 | 392.57 KB | A | 複製待ち | |
| SargeDev/jev-distill-corpus | Qwen2.5-0.5B の LoRA 判定器を Jev の型付き判定から蒸留するためのデータ。 | 148,160 | 9 | 230.78 MB | apache-2.0 | B | 複製待ち |
| allenai/wildjailbreak | LLM の安全性の訓練用に作られた、合成のプロンプトと応答の組のデータ。 | 540.92 MB | odc-by | B | 複製待ち | ||
| berkeley-nest/Nectar | チャットのプロンプトに対する複数の応答を、GPT-4 がランキングした比較のデータ。 | 182,954 | 6 | 517.70 MB | apache-2.0 | A | 複製待ち |
| copenlu/fever_gold_evidence | FEVER の主張（claim）に正解の根拠文を付けた、ファクトチェック用のデータ。 |
260,251 | 6 | 110.04 MB | cc-by-sa-3.0, gpl-3.0 | B | 複製待ち |
| dwidlee/systemone-lite-phase2 | ゲームや言語のタスクを扱う、型付きの System One 蒸留データ。 | 245,500 | 8 | 52.31 MB | apache-2.0 | A | 複製待ち |
| glaiveai/glaive-function-calling-v2 | システムの指示（system）と会話（chat）の組からなるデータ。 |
112,960 | 2 | 271.19 MB | apache-2.0 | B | 複製待ち |
| hackaprompt/hackaprompt-dataset | プロンプトハッキングの競技会に寄せられた投稿のデータ。 | 150.43 MB | mit | B | 複製待ち | ||
| kaivoss/system-one-270m-data | 状態・質問・選択肢と、選択肢に対するソフトな目標分布を組にした、合成の「型付きの判断（typed decisions）」のデータ。 | 25,002 | 12 | 59.91 MB | apache-2.0 | A | 複製待ち |
| legacy-datasets/banking77 | オンラインバンキングの問い合わせに、77 種類のインテント（意図）を付けたデータ。 | 13,083 | 2 | 407.59 KB | cc-by-4.0 | A | 複製待ち |
| lmsys/lmsys-arena-human-preference-55k | 実際のユーザーと LLM の会話で、同じ質問に答える 2 つのモデルの応答のどちらを人間が選んだかを記録したデータ。 | 57,477 | 9 | 184.18 MB | apache-2.0 | C | 複製待ち |
| loaiabdalslam/VEJI-Synth-v2-200K | VEJI の意思決定モデルの研究用に、手続きで生成した合成データ。 | 200,000 | 7 | 180.36 MB | D | 複製待ち | |
| metaeval/chaos-mnli-ambiguity | MNLI の 1,599 組の前提と仮説を、100 人のアノテーターがそれぞれ判断し直した分布を載せたデータ。 | 1,599 | 10 | 975.01 KB | B | 複製待ち | |
| mteb/amazon_polarity | Amazon の商品レビューに分類ラベルを付けた、評価用の分類データ。 | 3,999,994 | 3 | 3.05 GB | apache-2.0 | A | 複製待ち |
| mteb/banking77 | オンラインバンキングの問い合わせに、インテント（意図）のラベルを付けた分類用データ。 | 13,069 | 3 | 2.02 MB | mit | A | 複製待ち |
| prometheus-eval/Feedback-Collection | 長い応答を細かい基準で採点し、根拠のフィードバックを書く能力を言語モデルに身につけさせるための英語のデータ。 | 99,952 | 14 | 1.02 GB | cc-by-4.0 | A | 複製待ち |
| tasksource/procedural-jev | 手続き的に生成された意思決定問題のデータ。 | 792,000 | 6〜22 | 456.87 MB | apache-2.0 | D | 複製待ち |
Laya multilingual 向け 多言語・CJK(日中韓)分類/NLU データセット カタログ
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| AmazonScience/massive | 52 言語にまたがる対訳の発話に、インテント（60 種）とスロット（55 種）の注釈を付けた自然言語理解のデータ。 | 86.76 KB | cc-by-4.0 | A | 複製済み | ||
| CohereLabs/Global-MMLU | 英語を含む 42 言語で、MMLU の多肢選択問題を訳したデータ。 | 601,734 | 17 | 199.72 MB | apache-2.0 | A | 複製済み |
| LoneWolfgang/japanese-twitter-sentiment | 日本語のツイートに感情のラベルを付けたデータ。 | 925 | 2 | 22.58 KB | D | 複製済み | |
| Paul/hatecheck-mandarin | 中国語（マンダリン）のヘイトスピーチ検出の機能テストのデータ。 | 3,378 | 13 | 723.67 KB | cc-by-4.0 | A | 複製済み |
| ai4bharat/indic_glue | インドの 11 言語を扱う自然言語理解のベンチマーク。 | 886,628 | 2〜7 | 606.12 MB | other | D | 複製済み |
| cambridgeltl/xcopa | 英語の COPA を 11 言語に翻訳し、再アノテーションした因果関係の常識推論のデータ。 | 12,600 | 7 | 1.20 MB | cc-by-4.0 | A | 複製済み |
| csebuetnlp/xlsum | BBC の記事と、その要約の組を集めた多言語の要約のデータ。 | 1.38 GB | cc-by-nc-sa-4.0 | C | 複製済み | ||
| dirtycomputer/weibo_senti_100k | 中国語の Weibo の投稿に感情のラベルを付けたデータ。 | 119,988 | 2 | 19.70 MB | D | 複製済み | |
| e9t/nsmc | Naver の映画レビューの感情分析データセット NSMC（Naver Sentiment Movie Corpus）。 | 200,000 | 3 | 8.09 KB | cc-by-2.0 | A | 複製済み |
| facebook/belebele | 122 の言語変種にそろえた、多肢選択式の機械読解のデータ。 | 109,800 | 11 | 251.68 MB | cc-by-sa-4.0 | C | 複製済み |
| facebook/mlqa | 英語、アラビア語、ドイツ語、スペイン語、ヒンディー語、ベトナム語、簡体字中国語の 7 言語にわたる、抽出型の質問応答のデータ。 | 747,713 | 4 | 44.49 KB | cc-by-sa-3.0 | B | 複製済み |
| haonan-li/cmmlu | 中国語と中国の文化的文脈で LLM の知識と推論を測る、67 科目の多肢選択式の問題 CMMLU。 | 1.09 MB | cc-by-nc-4.0 | C | 複製済み | ||
| hpprc/janli | 日本語の言語現象を問う、敵対的な自然言語推論（NLI）のデータ。 | 28,800 | 7 | 146.98 KB | cc-by-sa-4.0 | B | 複製済み |
| hpprc/jsick | 英語の SICK を人手で日本語に訳して作った、日本語の NLI と STS のデータセット JSICK。 | 20,654 | 10〜15 | 155.38 KB | cc-by-sa-4.0 | D | 複製済み |
| jeanlee/kmhas_korean_hate_speech | 韓国語のオンラインニュースコメントに、ヘイトスピーチの種類を複数ラベルで付けたデータ。 | 109,692 | 2 | 22.03 KB | cc-by-sa-4.0 | B | 複製済み |
| kakaobrain/kor_nlu | 韓国語の自然言語推論（nli）と意味的類似度（sts）のデータセット kor_nlu。 | 565,223 | 3〜7 | 12.24 KB | cc-by-sa-4.0 | B | 複製済み |
| klue/klue | 韓国語の言語理解の評価ベンチマーク KLUE のデータ。 | 205,608 | 3〜9 | 62.34 MB | cc-by-sa-4.0 | B | 複製済み |
| lansinuote/ChnSentiCorp | 中国語の感情分析のレビューのデータ。 | 12,000 | 2 | 2.71 MB | D | 複製済み | |
| mteb/CMNLI | 中国語のマルチジャンルの自然言語推論 CMNLI の評価用データ。 | 1 | 3 | 671.91 KB | D | 複製済み | |
| mteb/JSTS | 日本語の意味的類似度（STS）のデータで、2 文の組に類似度の点数を付けたもの。 | 13,908 | 3 | 930.77 KB | cc-by-sa-4.0 | B | 複製済み |
| mteb/KorHateClassification | 韓国のオンライン芸能ニュース集約サイトのコメントに、有害な発話かどうかを人手で付けたデータ。 | 2,519 | 2 | 199.35 KB | cc-by-sa-4.0 | B | 複製済み |
| mteb/multi-hatecheck | 11 言語のヘイトスピーチ検出の機能テストを、埋め込みモデルの評価タスク（MultiHateClassification）用にまとめたデータ。 | 40,310 | 4 | 371.16 KB | cc-by-4.0 | A | 複製済み |
| nlp-waseda/JMMLU | 日本語の 4 択の多分野知識問題のベンチマーク JMMLU。 | 898.48 KB | cc-by-nc-nd-4.0 | C | 複製済み | ||
| philschmid/germeval18 | 文章に 2 種類のラベルを付けたデータ。 | 8,407 | 3 | 850.32 KB | D | 複製済み | |
| reciTAL/mlsum | ドイツ語、フランス語、スペイン語、ロシア語、トルコ語のオンライン新聞の記事に、要約を付けたデータ。 | 1,259,096 | 6 | 15.91 KB | other | D | 複製済み |
| sbintuitions/JCommonsenseQA | CommonsenseQA の日本語版で、5 つの選択肢から常識で答えを選ぶ多肢選択問題のデータ。 | 10,058 | 8 | 884.18 KB | cc-by-sa-4.0 | B | 複製済み |
| sbintuitions/JamC-QA | 日本に固有の知識を選択式の質問で評価する日本語のベンチマーク JamC-QA。 | 2,341 | 9 | 310.51 KB | cc-by-sa-4.0 | B | 複製済み |
| shunk031/JGLUE | JGLUE（日本語の言語理解ベンチマーク）を Hugging Face で読み込むための、スクリプトと設定ファイルのデータセット。 | 548.91 KB | cc-by-4.0 | D | 複製済み | ||
| shunk031/jsnli | SNLI に機械翻訳を適用して日本語にした自然言語推論のデータセット JSNLI。 | 1,088,851 | 3 | 127.91 KB | cc-by-sa-4.0 | B | 複製済み |
| shunk031/livedoor-news-corpus | 日本語のニュース記事のコーパス Livedoor News Corpus。 | 149.94 KB | cc-by-nd-4.0 | C | 複製済み | ||
| shunk031/wrime | SNS 上の日本語の投稿約 1.7 万件に、感情の強さを付けたデータセット WRIME。 | 148.25 KB | unknown | C | 複製済み | ||
| smilegate-ai/kor_unsmile | 韓国語の文に、性別・人種・宗教などを対象とする悪口や差別表現のラベルを付けたデータ。 | 18,742 | 13 | 1.46 MB | D | 複製済み | |
| tyqiangz/multilingual-sentiments | 複数の多言語センチメント・データセットを、正・中立・負の 3 クラスにそろえて集めたもの。 | 591,442 | 3〜4 | 41.95 KB | apache-2.0 | B | 複製済み |
| uit-nlp/vietnamese_students_feedback | ベトナム語の学生のフィードバックの文に、感情とトピックのラベルを人手で付けたデータ。 | 16,175 | 3 | 10.94 KB | unknown | D | 複製済み |
| zenless-lab/jamp | 日本語の時制推論のベンチマーク Jamp のデータ。 | 10,377 | 7〜8 | 610.09 KB | cc-by-sa-4.0 | B | 複製済み |
| C-MTEB/TNews-classification | C-MTEB（2023-07 版）に含まれる中国語のテキスト分類のデータ。 | 73,360 | 3 | 4.70 MB | D | 複製待ち | |
| CohereLabs/aya_dataset | 65 言語の、人手でアノテーションされた指示と応答の組のデータ。 | 205,568 | 6 | 140.16 MB | apache-2.0 | A | 複製待ち |
| CohereLabs/include-base-44 | 44 言語の、各国の学術試験と専門試験から抽出した 4 択の知識問題のデータ。 | 23,529 | 12 | 5.60 MB | apache-2.0 | A | 複製待ち |
| Davlan/sib200 | Flores-200 に基づく、205 の言語と方言のトピック分類のデータ。 | 205,820 | 3 | 43.87 MB | cc-by-sa-4.0 | B | 複製待ち |
| Divyanshu/indicxnli | XNLI の英語データを 11 のインド系言語に機械翻訳した、自然言語推論（NLI）のデータ。 | 4,402,970 | 3 | 2.51 GB | cc0-1.0 | A | 複製待ち |
| EunsuKim/CLIcK | 韓国語の言語モデルを評価するための、文化と言語の知識を問う多肢選択問題のデータ。 | 1,995 | 5 | 2.13 MB | D | 複製待ち | |
| HAERAE-HUB/HAE_RAE_BENCH | 韓国の文化と文脈のニュアンスに関するモデルの理解を試す、評価問題のデータ。 | 4,900 | 3 | 2.96 MB | cc-by-nc-nd-4.0 | C | 複製待ち |
| HAERAE-HUB/KMMLU | 人文学から STEM まで 45 科目にわたる、韓国語の多肢選択式の問題 KMMLU。 | 243,777 | 8 | 70.68 MB | cc-by-nd-4.0 | C | 複製待ち |
| Hello-SimpleAI/HC3-Chinese | 人間の回答と ChatGPT の回答を並べた中国語の比較コーパス HC3-Chinese。 | 25,706 | 4〜5 | 43.22 MB | cc-by-sa-4.0 | B | 複製待ち |
| KETI-AIR/kor_boolq | 韓国語の yes/no 形式の読解問題のデータ。 | 12,697 | 4 | 5.41 MB | cc-by-sa-3.0 | B | 複製待ち |
| LLM-SocialMedia/Korean-YouTube-Comment-Sentiment-Dataset | YouTube の韓国語コメントに、肯定・否定・中立・不明確の感情を人手で付けたデータ。 | 10,035 | 18 | 7.07 MB | other | D | 複製待ち |
| MoritzLaurer/multilingual-NLI-26lang-2mil7 | 英語の NLI データセット 5 種（MultiNLI、Fever-NLI、ANLI、LingNLI、WANLI）から抜き出した文の組を、26 言語に機械翻訳したデータ。 | 2,730,000 | 5 | 932.08 MB | D | 複製待ち | |
| Multilingual-NLP/M-ABSA | 21 言語・7 ドメインの、アスペクトベース感情分析（ABSA）のデータ。 | 310,296 | 1 | 62.18 MB | apache-2.0 | A | 複製待ち |
| Tongjilibo/THUCNews | 中国語の文書分類のデータセット THUCNews で、用途には文書生成も挙がっている。 | 836,075 | 3 | 2.24 GB | apache-2.0 | B | 複製待ち |
| ai4bharat/IndicCOPA | ai4bharat の IndicCOPA のデータで、ファイルは jsonl 形式である。 | 3.22 MB | cc-by-4.0 | A | 複製待ち | ||
| alexandrainst/m_mmlu | MMLU の問題を多数の言語に機械翻訳した、多肢選択問題のデータ。 | 488,133 | 7 | 559.52 MB | cc-by-nc-4.0 | C | 複製待ち |
| cardiffnlp/tweet_sentiment_multilingual | 8 言語のツイートに、負・中立・正のセンチメントを付けたデータ。 | 48,528 | 2 | 3.86 MB | B | 複製待ち | |
| cardiffnlp/tweet_topic_multilingual | X（旧 Twitter）の英語、日本語、スペイン語、ギリシャ語のツイート 4,000 件に、19 のトピックを多ラベルで付けたデータ。 | 68,134 | 5 | 7.45 MB | other | D | 複製待ち |
| ceval/ceval-exam | 52 の分野と 4 段階の難易度にわたる中国語の多肢選択式の評価データ C-Eval。 | 13,948 | 8 | 3.74 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| cis-lmu/Taxi1500-RawData | 聖書の節の本文を言語ごとに集めた、生のテキストのデータ。 | 15,583,678 | 4 | 3.58 GB | other | D | 複製待ち |
| clue/clue | 中国語の言語理解のベンチマーク CLUE を、タスクごとに分けた 12 の構成（afqmc、c3、chid など）から成るデータセット。 | 797,130 | 3〜5 | 298.25 MB | unknown | D | 複製待ち |
| community-datasets/gnad10 | オーストリアの新聞 DER Standard のドイツ語のニュース記事に、9 種類のトピックを付けたデータ。 | 10,273 | 2 | 17.25 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| facebook/xnli | MultiNLI から抽出した文の組を 14 言語に翻訳した、含意関係の判定のデータ。 | 6,403,232 | 3 | 1.85 GB | C | 複製待ち | |
| google-research-datasets/paws-x | PAWS-Wiki の文の組を 7 言語（英語、フランス語、スペイン語、ドイツ語、中国語、日本語、韓国語）で集めた、言い換えの判定のデータ。 | 373,807 | 4 | 67.86 MB | other | D | 複製待ち |
| google-research-datasets/tydiqa | 類型的に多様な 11 言語の、記事の本文を読んで答える質問応答のデータ。 | 240,544 | 5〜7 | 2.94 GB | apache-2.0 | A | 複製待ち |
| google/xtreme | 40 の類型的に多様な言語で言語横断の汎化を測る XTREME ベンチマークのデータを、タスクと言語の組ごとにまとめたもの。 | 2,768,692 | 2〜5 | 363.56 MB | apache-2.0, cc-by-4.0, cc-by-2.0, cc-by-sa-4.0, other, cc-by-nc-4.0 | C | 複製待ち |
| juletxara/xstory_cloze | 英語の StoryCloze を 10 の言語にプロの翻訳者が訳した、物語の結末を選ぶ常識推論のデータ。 | 20,581 | 8 | 10.33 MB | cc-by-sa-4.0 | B | 複製待ち |
| kakaobrain/kor_nli | 韓国語の自然言語推論（NLI）のデータセット kor_nli。 | 950,354 | 3 | 77.25 MB | cc-by-sa-4.0 | B | 複製待ち |
| kumapo/JAQKET | Wikipedia の記事名を答えとする日本語のオープンドメイン QA のデータセット JAQKET。 | 16,650 | 4〜6 | 479.49 MB | cc-by-sa-4.0 | D | 複製待ち |
| li-lab/MMLU-ProX | MMLU-Pro を 29 言語に広げた、推論を重視した多肢選択問題のデータ。 | 343,041 | 18 | 178.26 MB | mit | A | 複製待ち |
| llm-jp/AnswerCarefully | 日本語の LLM の安全性と適切性を確保するための指示データセット AnswerCarefully。 | 4,918 | 4〜5 | 1.77 MB | other | D | 複製待ち |
| mteb/HinDialectClassification | 北インドのインド語派の連続体に属する、ヒンディー語に関連する 26 の言語と方言の文のデータ。 | 3,290 | 2 | 1.81 MB | cc-by-sa-4.0 | D | 複製待ち |
| mteb/IndicSentiment | 13 のインド系言語で感情分析を行うための、n 方向に並列したレビューのデータ。 | 30,056 | 11 | 3.64 MB | cc0-1.0 | A | 複製待ち |
| mteb/JapaneseSentimentClassification | 日本語の感情分類のデータセット。 | 14,060 | 2 | 2.48 MB | unknown | D | 複製待ち |
| mteb/KLUE-TC | 韓国語のニュース見出しのトピック分類データセット。 | 47,726 | 2 | 2.68 MB | cc-by-sa-4.0 | B | 複製待ち |
| mteb/NusaParagraphEmotionClassification | インドネシア系の 10 言語の文章に、多クラスの感情ラベルを付けたデータ。 | 22,324 | 2 | 9.94 MB | apache-2.0 | A | 複製待ち |
| mteb/NusaX-senti | インドネシア語、英語、インドネシアの地方語 10 言語の、3 ラベル（肯定・中立・否定）の感情分析のデータ。 | 12,000 | 2 | 1.28 MB | cc-by-sa-4.0 | B | 複製待ち |
| mteb/PAWSX | 中国語の文の組の関連性を扱うデータセット PAWSX。 | 53,401 | 3 | 8.87 MB | D | 複製待ち | |
| mteb/PolEmo2.0-IN | ポーランド語のオンラインレビューに、感情のラベルを付けたデータ。 | 7,228 | 2 | 3.99 MB | cc-by-sa-4.0 | B | 複製待ち |
| mteb/RuReviewsClassification | ロシア語の商品レビューに、3 段階の尺度でラベルを付けたデータ。 | 62,048 | 2 | 8.03 MB | apache-2.0 | C | 複製待ち |
| mteb/SwissJudgementClassification | スイス連邦最高裁判所の判例に、判決の結果（認容か棄却か）を付けたデータ。 | 72,825 | 2 | 113.83 MB | cc-by-4.0 | A | 複製待ち |
| mteb/mtop_domain | タスク指向の対話の発話に、ドメインのラベルを付けたデータ。 | 83,355 | 4 | 19.36 MB | unknown | D | 複製待ち |
| mteb/multilingual-scala-classification | デンマーク語、ノルウェー語 2 種、スウェーデン語の文に、言語的な容認可能性のラベルを付けたデータ。 | 74,846 | 3 | 5.78 MB | cc-by-sa-4.0 | B | 複製待ち |
| nvidia/Nemotron-Safety-Guard-Dataset-v3 | 12 言語（英語、日本語、中国語、韓国語など）のプロンプトと応答に、安全性のラベルを付けたデータ。 | 514,617 | 11 | 662.52 MB | cc-by-4.0 | A | 複製待ち |
| openai/MMMLU | MMLU のテストセットを、専門の人間の翻訳者が 14 言語に訳したデータ。 | 393,176 | 8 | 124.88 MB | mit | A | 複製待ち |
| p1atdev/LLM-jp-Toxicity-Dataset | LLM-jp の日本語有害文書データセット（LLM-jp Toxicity Dataset）の非公式のミラー。 | 1,847 | 10 | 12.26 MB | cc-by-4.0 | A | 複製待ち |
| papluca/language-identification | 20 言語の文章に言語のラベルを付けた、言語識別のデータ。 | 90,000 | 2 | 15.35 MB | C | 複製待ち | |
| sbintuitions/JSQuAD | Wikipedia の記事の段落を文脈にした、抽出型の日本語の読解問題のデータ。 | 67,301 | 6 | 9.29 MB | cc-by-sa-4.0 | B | 複製待ち |
| skt/kobest_v1 | 韓国語の高度な知識を要する 5 つの言語理解タスクからなるベンチマーク KoBEST のデータ。 | 23,405 | 2〜6 | 12.74 MB | cc-by-sa-4.0 | B | 複製待ち |
| tblard/allocine | フランス語の映画レビューに、肯定と否定の感情ラベルを付けた感情分析のデータ。 | 200,000 | 2 | 75.14 MB | mit | A | 複製待ち |
| textdetox/multilingual_toxicity_dataset | 複数の言語のテキストに、有害かどうかの 2 値ラベルを付けた有害性検出のデータ。 | 71,374 | 2 | 6.81 MB | openrail++ | B | 複製待ち |
| thu-coai/cold | 中国語の攻撃的な言語（offensive language）の検出のベンチマーク COLD のデータ。 | 6.02 MB | apache-2.0 | A | 複製待ち | ||
| unimelb-nlp/wikiann | 176 言語の Wikipedia の記事に、人名（PER）・組織名（ORG）・場所（LOC）のタグを付けた固有表現認識のデータ。 | 2,003,000 | 4 | 142.93 MB | unknown | D | 複製待ち |
| yusuke1997/mCSQA | CommonsenseQA と同じ手順で、8 言語を LLM と人手の組み合わせでゼロから作った、常識推論の多肢選択問題のデータ。 | 108,501 | 6 | 14.45 MB | other | D | 複製待ち |
| zenless-lab/jnli | JGLUE の JNLI（日本語の自然言語推論）のデータ。 | 45,014 | 3 | 2.53 MB | cc-by-sa-4.0 | B | 複製待ち |
| mrlbenchmarks/global-piqa-parallel | 物理的な常識を問う 4 択問題のデータ。 | 13,491 | 15 | 20.03 MB | cc-by-sa-4.0 | B | エラー |
NVIDIA（HF 組織 nvidia）の Nemotron 系データセット全般
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| nvidia/APE_dataset | ファイル 1 本（拡張子の記録はない）で、容量は 2.50 KB ある。 | 2.50 KB | D | 複製済み | |||
| nvidia/Cosmos-AnomalyGen-Glass-Masks | 画像とラベルの組 15 件のデータで、ラベルは oil・scratch・stain の 3 種類である。 | 15 | 2 | 52.55 KB | D | 複製済み | |
| nvidia/Cosmos-HumanEval-v1 | 生成された動画を評価するための質問バンク（HUE-PaiBench v1.2 の公開部分）のデータ。 | 1.15 MB | other | D | 複製済み | ||
| nvidia/IFEval-Hi | ヒンディー語で LLM の指示への追従能力を評価するデータ。 | 848 | 5 | 712.34 KB | cc-by-4.0 | A | 複製済み |
| nvidia/MT-Bench-Hi | ヒンディー語で、LLM の複数ターンの対話能力を評価するための質問集のデータ。 | 200 | 5 | 393.05 KB | cc-by-4.0 | A | 複製済み |
| nvidia/Nemotron-IMO-Bench | 証明を中心とする難しいオリンピック数学の問題を集めたもの。 | 200 | 4 | 322.07 KB | cc-by-4.0 | A | 複製済み |
| nvidia/PhysicalAI-Autonomous-Vehicle-Cosmos-Synthetic | このリポジトリのカードは PhysicalAI-Autonomous-Vehicle-Cosmos-Drive-Dreams を参照するよう書いているだけで、このリポジトリ自体の内容は書かれていない。 | 2.59 KB | cc-by-4.0 | A | 複製済み | ||
| nvidia/SOL-ExecBench | オープンソースの HuggingFace モデルから導いた、CUDA カーネルの計算仕様と参照実装のベンチマークのデータ。 | 235 | 9 | 888.59 KB | other | D | 複製済み |
| nvidia/Shopify-product-catalogue-8k | 商品カタログのデータで、1 行が 1 件の商品を表し、商品名 product_title、説明 product_description、画像 product_image、正解のブランド ground_truth_brand などを持つ。 |
8,000 | 7 | 1.57 GB | apache-2.0 | A | 複製済み |
| nvidia/cosmos_data_latent_480p | ファイル 1 本（拡張子の記録はない）で、容量は 2.50 KB ある。 | 2.50 KB | D | 複製済み | |||
| nvidia/dc-dev-shar-patch-head | ファイル 1 本（拡張子の記録はない）で、容量は 2.50 KB ある。 | 2.50 KB | D | 複製済み | |||
| nvidia/llm-robustness-leaderboard-evals | 大規模言語モデルのロバスト性を評価する leaderboard の評価結果のデータ。 | 6 | 2 | 5.92 KB | apache-2.0 | A | 複製済み |
| nvidia/nemotron-indic-pretraining-report | 事前学習・SFT 用として台帳に分類された、PDF を 1 列に持つデータ。 | 2 | 1 | 1.87 MB | cc-by-4.0 | A | 複製済み |
| nvidia/nvblox | ファイル 2 本（うち 1 本は tar.gz 形式）で、容量は 1.51 GB ある。 | 1.51 GB | D | 複製済み | |||
| nvidia/simready-central-status | SimReady Central の Hugging Face Space の処理能力のレベルを示す状態ファイル（status.json）のデータ。 |
1 | 1 | 2.82 KB | apache-2.0 | A | 複製済み |
| nvidia/AF-Chat | 環境音・音声・音楽にまたがる、約 75K 件の多ターン・多音声の対話の微調整データ。 | 180.77 MB | other | D | 複製待ち | ||
| nvidia/AF-Think | 音声言語モデルに簡潔な思考連鎖（CoT）の推論を教えるための、音声の質問応答データ。 | 1.71 GB | other | D | 複製待ち | ||
| nvidia/AceMath-Instruct-Training-Data | AceMath-Instruct モデルの学習に使った、数学・コード・一般領域の指示チューニング用のデータ。 | 5,557,354 | 2 | 5.86 GB | cc-by-nc-4.0 | C | 複製待ち |
| nvidia/AceMath-RM-Training-Data | 数学の解答の正誤を報酬モデルに学ばせるための、AceMath の学習データ。 | 2,136,348 | 3 | 3.69 GB | cc-by-nc-4.0 | C | 複製待ち |
| nvidia/AceMath-RewardBench | 7 種類の数学データセットの問題それぞれに 64 個の解答を付け、数学の報酬モデルを評価するためのデータ。 | 18,518 | 4 | 1.09 GB | cc-by-nc-4.0 | C | 複製待ち |
| nvidia/AceReason-Math | NuminaMath と DeepScaler-Preview の問題から、強化学習用に選んだ数学の問題と解答のデータ。 | 49,585 | 2 | 15.37 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Aegis-AI-Content-Safety-Dataset-1.0 | 人と LLM の対話に 13 の有害リスクカテゴリを付けた、コンテンツ安全性の分類のデータ。 | 11,997 | 9 | 5.48 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Aegis-AI-Content-Safety-Dataset-2.0 | 人と LLM のやり取りに安全性のラベルを付けた、コンテンツの安全性分類のデータ。 | 33,416 | 9 | 28.46 MB | cc-by-4.0 | D | 複製待ち |
| nvidia/Audio2Face-3D-Dataset-v1.0.0-claire | Audio2Face-3D のサンプルデータ。 | 657.93 MB | other | D | 複製待ち | ||
| nvidia/AudioSkills | 短い音声クリップ（30 秒以下）に対する、推論と問題解決を問う音声質問応答（AQA）データ。 | 5.20 GB | other | D | 複製待ち | ||
| nvidia/BFCL-Hi | 英語版の BFCL（質問・関数・回答の組を含む評価データ）を、GCP でヒンディー語に翻訳したデータ。 | 7.20 MB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/CantTalkAboutThis-Topic-Control-Dataset | 話題から外れる発話（脱線）を含む、タスク指向の対話の合成データ。 | 1,093 | 6 | 22.08 MB | cc-by-4.0 | C | 複製待ち |
| nvidia/CantTalkAboutThis-Topic-Control-Dataset-NC | 健康・銀行・旅行など 9 分野の合成対話に、話題から外れる妨害の発話を挟んだデータ。 | 1,186 | 6 | 34.94 MB | cc-by-nc-4.0 | C | 複製待ち |
| nvidia/ChatQA-Training-Data | ChatQA の学習に使う、既存のデータセットから構築・派生させた指示チューニング用のデータ。 | 442,261 | 2〜3 | 1.09 GB | other | D | 複製待ち |
| nvidia/ChatQA2-Long-SFT-data | 長い文脈に対する QA の SFT 用のデータ。 | 約 117,019 | 6 | 17.34 GB | cc-by-nc-2.0 | C | 複製待ち |
| nvidia/ChatRAG-Bench | 文書や検索された文脈に基づく会話型 QA の能力を評価するためのベンチマーク用のデータ。 | 34,601 | 3〜5 | 1.87 GB | other | D | 複製待ち |
| nvidia/ChatRAG-Hi | 英語の ChatRAG Bench を GCP で翻訳してヒンディー語にした、文書に基づく会話型 QA のデータ。 | 3,948 | 3〜5 | 415.40 MB | cc-by-sa-4.0 | B | 複製待ち |
| nvidia/Cosmos-AnomalyGen-PCB-Dataset | FoxConn の工場で NV ボード上の部品を写した画像のデータ。 | 182 | 1 | 2.01 MB | other | D | 複製待ち |
| nvidia/Cosmos-Transfer-LidarGen-Example | 自動運転車の LiDAR 点群と多視点動画のデータ。 | 2.13 GB | other | D | 複製待ち | ||
| nvidia/DLC-Bench | 詳細な局所キャプション付けモデル（Describe Anything）を評価するベンチマーク DLC-Bench のデータ。 | 77 | 1 | 27.65 MB | D | 複製待ち | |
| nvidia/Daring-Anteater | 指示チューニング用の対話データ。 | 99,532 | 4 | 997.08 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/FinHeadlineMix | 金融ニュースの見出しを合成した、50 万件の一意な見出しだけからなるデータ。 | 500,000 | 2 | 46.73 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/GSM8K-Hi | 英語の GSM8K テストセットをヒンディー語に翻訳したデータ。 | 1,319 | 2 | 1.63 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Granary-HiFi | VoxPopuli の音声から、音イベント・話者・音声品質などで絞り込んだ多言語音声コーパス Granary-HiFi のメタデータ。 | 92,111,152 | 21 | 20.82 GB | openmdw-1.1 | A | 複製待ち |
| nvidia/HelpSteer | プロンプトと応答の組に、人手による 5 つの属性（有用性・正確さ・一貫性・複雑さ・冗長さ）の評価が付いたデータ。 | 37,120 | 7 | 16.94 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/HelpSteer2 | 応答の有用性、正しさ、一貫性、複雑さ、冗長さの 5 つの観点で採点した、報酬モデル用のデータ。 | 21,362 | 7 | 40.63 MB | cc-by-4.0 | D | 複製待ち |
| nvidia/HelpSteer3 | 応答の好み（preference）、編集（edit）、フィードバック（feedback）などを集めた、報酬モデルとアライメント用のデータ。 | 132,937 | 6〜7 | 303.56 MB | cc-by-4.0 | D | 複製待ち |
| nvidia/Kimodo-Motion-Gen-Benchmark | 人間の動作生成モデルを評価するためのテストケースのメタデータ。 | 23.79 MB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/LIBERO-Cosmos-Policy | LIBERO のロボット操作のシミュレーションベンチマークを改変したデータ。 | 約 642,519 | 4 | 27.57 GB | cc | D | 複製待ち |
| nvidia/Linear-Radiation-Transport | 2 次元の線形放射輸送方程式（RTE）の代理モデルを学習・評価するためのデータ。 | 4 | 1 | 1.71 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/LiveCodeBench-CPP | LiveCodeBench の release_v6 から、2024 年 10 月〜2025 年 5 月の AtCoder と LeetCode の問題を集め、C++ の解答で評価するためのデータ。 | 733 | 11 | 3.74 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/LongAudio | 長い音声（30 秒〜10 分）に対する長時間の音声推論と問題解決の質問応答（AQA）データ。 | 3.84 GB | other | D | 複製待ち | ||
| nvidia/Lyra-Testing-Example | ファイル 729 本（npz・zip・mp4・pkl など）で、容量は 8.05 GB ある。 | 8.05 GB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/MF-Skills | 音楽の理解と推論を音声言語モデルに学習させるためのデータ。 | 2,147,879 | 3 | 13.40 GB | other | D | 複製待ち |
| nvidia/NeMo-Gym-Conversational-Tool-Use-Assets | NeMo Gym の会話型ツール利用の生成パイプラインのためのプロンプトと参照アセットのデータ。 | 36 | 1 | 275.30 KB | apache-2.0 | A | 複製待ち |
| nvidia/NeMo-Gym-EnterpriseOps-Assets | 第三者の API を模倣するモックサービスのツール定義のデータ。 | 1.25 MB | apache-2.0 | A | 複製待ち | ||
| nvidia/Nemotron-3-Nano-RL-Training-Blend | Nemotron-3-Nano-30B-A3B の学習に使われた、RL 用データセットの混合（ブレンド）。 | 6.92 GB | odc-by | A | 複製待ち | ||
| nvidia/Nemotron-3.5-Content-Safety-Dataset | テキストと画像による人間と LLM のやり取りの、コンテンツ安全性の分類器や Vision LLM の学習と評価に使う単一ターンの会話データ。 | 98,316 | 17 | 3.97 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-AIQ-Agentic-Safety-Dataset-1.0 | AIQ の研究アシスタントに多様なクエリを実行して記録した、エージェントのトレースとログのデータ。 | 10,796 | 3 | 3.26 GB | other | D | 複製待ち |
| nvidia/Nemotron-Agentic-v1 | 対話的にツールを使うエージェントを学習させるための、合成の複数ターンの軌跡のデータ。 | 5.79 GB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/Nemotron-Cascade-2-RL-data | Nemotron-Cascade-2-30B-A3B の学習に使われた、強化学習用データの組み合わせ（ブレンド）。 | 27,930 | 13〜21 | 2.86 GB | odc-by | A | 複製待ち |
| nvidia/Nemotron-Cascade-RL-Math | 数学の問題と短い答えを集めた、強化学習用のデータ。 | 14,476 | 3 | 6.49 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Cascade-RL-RLHF | 人間のフィードバックによる強化学習（RLHF）で使うプロンプトのデータ。 | 45,882 | 6 | 17.66 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Cascade-RL-SWE | SWE のコード修復タスク（課題を直すパッチを書く課題）向けの RL 学習データ。 | 約 109,996 | 6 | 31.32 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Cascade-RM-Training | 報酬モデル（RM）の学習用に、HelpSteer2・HelpSteer3・WildGuard から選別した選好ペアのデータ。 | 81,808 | 3 | 759.51 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Cascade-SFT-SWE | SWE のコード修復に関わるタスク（バグの場所の特定、修復、テストの生成）の学習データ。 | 約 141,244 | 5 | 6.77 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Content-Safety-Audio-Dataset | Nemotron Content Safety Dataset V2（Aegis 2.0）のテストセットのプロンプトを音声にした、英語の安全性研究用のデータ。 | 1,928 | 12 | 2.80 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Content-Safety-Reasoning-Dataset | 英語の安全性と話題の判定について、ラベルの根拠となる推論のトレースを集めたデータ。 | 197.45 MB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/Nemotron-Content-VISafe-v1 | ベトナム語で書いた、AI の安全性を試すプロンプト（プローブ）のデータ。 | 3,212 | 16 | 3.14 MB | other | D | 複製待ち |
| nvidia/Nemotron-CrossThink | 汎用推論と数学推論の強化学習（RL）用に、質問と答えの組を集めたデータ。 | 287,376 | 620.10 MB | cc-by-4.0 | A | 複製待ち | |
| nvidia/Nemotron-Image-Training-v3.5 | Nemotron Super 3.5 VL の学習に使ったデータから選んだ、検出、グラウンディング、シーンテキストの理解、計数、チャートと空間の推論、視覚パズル、ロボティクス、計画、動画の質問応答などの学習用アノテーションを集めたもの。 | 約 5,876,778 | 2〜3 | 28.09 GB | openmdw-1.1 | A | 複製待ち |
| nvidia/Nemotron-Instruction-Following-Chat-v1 | 雑談と指示への追従、JSON スキーマに従う構造化出力の対話データを集めたもの。 | 約 288,342 | 7 | 7.10 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Math-HumanReasoning | OpenMathReasoning の数学問題に、オリンピック数学に深く通じた学生が書いた解答を付けたデータ。 | 250 | 4 | 2.40 MB | cc-by-nc-4.0 | C | 複製待ち |
| nvidia/Nemotron-Math-Proofs-v1 | 数学の証明問題（自然言語）と、その Lean 4 の定理文、推論と証明の軌跡からなる数学推論のデータ。 | 約 924,942 | 13 | 29.53 GB | cc-by-sa-4.0 | B | 複製待ち |
| nvidia/Nemotron-Math-Proofs-v2 | AoPS の数学の証明問題に対する、証明・検証・メタ検証のトレースを集めたデータ。 | 約 55,577 | 10 | 17.13 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Math-Proofs-v3-RL | AoPS の証明問題から作った、証明生成のための強化学習用の数学データ。 | 9,597 | 8 | 50.44 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-PII | 英語の文書に、個人情報（PII）と保護医療情報（PHI）のスパン単位の注釈を付けた合成データ。 | 200,000 | 9 | 307.31 MB | cc-by-4.0 | B | 複製待ち |
| nvidia/Nemotron-PII-Japan | 日本語の文書に、人名、住所、マイナンバーなどの個人情報の注釈を付けた合成データ。 | 100,000 | 9 | 75.56 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Personas-Belgium | ベルギーの人口統計・地理・言語の分布に沿って合成したペルソナのデータ。 | 1,200,000 | 23 | 4.02 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Personas-Brazil | ブラジルの人口統計・地理・性格特性の分布に沿って合成した、ポルトガル語のペルソナのデータ。 | 1,000,000 | 21 | 2.52 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Personas-El-Salvador | エルサルバドルの人口統計・地理・性格特性の分布に沿って合成した、スペイン語のペルソナのデータ（18 歳以上のみ）。 | 148,000 | 25 | 571.20 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Personas-Finance-Japan | 日本の家計の金融に関する場面を想定して合成した、人物のペルソナのデータ。 | 1,000,000 | 50 | 1.40 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Personas-France | フランスの人口統計に沿って合成したペルソナ（人物像）のデータ。 | 1,000,000 | 22 | 2.91 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Personas-Germany | ドイツの人口統計に沿って合成したペルソナ（人物像）のデータ。 | 1,000,000 | 27 | 1.94 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Personas-India | インドの人口統計に沿って合成したペルソナ（人物像）のデータ。 | 3,000,000 | 28 | 9.60 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Personas-Japan | 日本の人口統計の分布に沿って合成した、成人の人物のペルソナのデータ。 | 1,000,000 | 22 | 1.73 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Personas-Korea | 韓国の人口統計の分布に沿って合成した、韓国語の人物のペルソナのデータ。 | 1,000,000 | 26 | 1.98 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Personas-Singapore | シンガポールの人口統計に沿って合成したペルソナ（人物像）のデータ。 | 148,000 | 21 | 277.54 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Personas-UK | 英国の人口統計に沿って合成したペルソナ（人物像）のデータ。 | 1,000,000 | 23 | 1.49 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Personas-USA | 米国の人口統計の分布に沿って合成した、人物のペルソナのデータ。 | 1,000,000 | 23 | 2.69 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Personas-Vietnam | ベトナムの人口統計の分布に沿って合成した、ベトナム語の人物のペルソナのデータ。 | 1,000,000 | 21 | 2.25 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Post-Training-Dataset-v2 | NVIDIA のポストトレーニング用データの SFT と RL の部分を、スペイン語、フランス語、ドイツ語、イタリア語、日本語へ拡張したデータ。 | 6,341,414 | 7 | 44.42 GB | cc-by-4.0 | B | 複製待ち |
| nvidia/Nemotron-Pretraining-Code-v3 | GitHub の事前学習用ソースコードのコーパスに対応する、ファイルごとのメタデータを集めたもの。 | 146,323,609 | 4 | 8.22 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Pretraining-Dataset-sample | 事前学習用データセット Nemotron-Pre-Training-Dataset-v1 の小さなサンプル版で、検査や手早い実験に使うもの。 | 27,706 | 2〜3 | 47.49 MB | other | D | 複製待ち |
| nvidia/Nemotron-Pretraining-Legal-v1 | 法律分野の事前学習用テキストを、部分集合ごとにまとめたデータ。 | 9,616,568 | 4 | 6.99 GB | cc-by-4.0 | B | 複製待ち |
| nvidia/Nemotron-Pretraining-Specialized-v1.1 | コードの概念、形式論理、経済学、多肢選択問題の合成データを集めたもの。 | 19,772,096 | 4 | 34.88 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-PrismMath | Prismatic Synthesis で生成した、数学の問題と解答のペアのデータ。 | 1,002,595 | 3 | 7.16 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-ARC-AGI-v1 | ARC-AGI のパズルを 1 ステップの RL 環境用プロンプトにした、視覚的・抽象的推論のデータ。 | 21,028 | 14 | 443.28 MB | apache-2.0, cc-by-4.0, mit | A | 複製待ち |
| nvidia/Nemotron-RL-Agentic-Conversational-Tool-Use-Pivot-v1 | 対話の中でツールを使うエージェントを強化学習（RL）するための、NeMo Gym 形式のデータ。 | 96,968 | 11 | 1.75 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-Agentic-Finance-v1 | SEC 届出書に関する財務の質問を、強化学習でツールを使うエージェントの学習用に集めたデータ。 | 10,185 | 15 | 165.67 MB | openmdw-1.1 | A | 複製待ち |
| nvidia/Nemotron-RL-Agentic-Function-Calling-Pivot-v1 | 汎用の関数呼び出しを強化学習で学ばせるための、専門家モデルのツール利用の軌跡のデータ。 | 9,620 | 5 | 285.50 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-Agentic-Indirect-Prompt-Injection-v1 | ツールの返す環境データに隠された間接的プロンプトインジェクションに、エージェントが従わないようにするための強化学習（RL）用のデータ。 | 1,272 | 13 | 11.72 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-Agentic-SWE-Pivot-v1 | GitHub の Issue を解くソフトウェア工学エージェントを、NeMo Gym の OpenHands 環境で強化学習するためのデータ。 | 約 33,776 | 11 | 5.10 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-Agentic-Terminal-Pivot-v1 | コマンドラインのターミナル操作を行う LLM エージェントを、NeMo Gym の terminus_judge 環境で強化学習するためのデータ。 | 31,111 | 8 | 1.37 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-CFBench-v1 | 制約（書式、キーワード、シナリオなど）を守る指示追従の強化学習用データ。 | 1,121 | 10 | 49.62 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-Finance-Tool-Calling-v1 | SEC 提出書類（10-K、10-Q、8-K など）に基づく財務の質問と回答を、ツールで情報を取りながら答えるための RL 用のデータ。 | 90,307 | 15 | 1.23 GB | openmdw-1.1 | A | 複製待ち |
| nvidia/Nemotron-RL-Identity-Following-v1 | モデルの同一性（どの企業が作ったか、正式名称とバージョン番号）を尋ねるプロンプトを集めたデータ。 | 21,660 | 4 | 16.31 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-Instruction-Following-Adversarial-v1 | 標準的な訓練で身についた振る舞い（コメントを付けずにコードを書くことなど）と衝突するよう作った、敵対的な指示追従のデータ。 | 1,000 | 10 | 8.42 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-Instruction-Following-Calendar-v2 | 複数の制約を同時に満たすように、カレンダーに予定を入れていく多ターンの会話データ。 | 9,915 | 3 | 139.79 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-Instruction-Following-Citation-Formatting-v1 | 文書の一部を [ref:1] や <ref:3> のような参照マーカーで引用する形式を学習させる強化学習用データ。 |
9,540 | 5 | 58.27 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-Instruction-Following-Free-Form-Formatting-v1 | 箇条書き、番号付け、見出し、表、区切り文字など、自由形式の文章の書式を指定する指示に従う力を鍛える強化学習用データ。 | 9,037 | 5 | 42.71 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-Instruction-Following-MultiTurnChat-v1 | 推論時の記憶・指示の保持・版の編集・自己整合性を複数ターンの会話で試す、MultiChallenge 形式の課題のデータ。 | 2,011 | 10 | 187.42 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-Instruction-Following-Structured-Outputs-v2 | JSON、YAML、XML、TOML、CSV の形式で構造化された出力を求める、指示追従の RL 用のデータ。 | 62,696 | 5 | 762.95 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-InverseIFEval-v1 | 英語で書かれた、慣習に反する（敵対的な）指示への追従を RL で学ばせるためのプロンプトのデータ。 | 1,000 | 11 | 13.29 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-Jailbreak-Robustness-v1 | DAN 型やロールプレイなどの jailbreak で有害な応答を引き出そうとする、敵対的なプロンプトのデータ。 | 5,611 | 7 | 7.28 MB | cc-by-4.0, apache-2.0, mit | A | 複製待ち |
| nvidia/Nemotron-RL-Lightning-Training-Blend | Nemotron-3.5-Lightning の強化学習（RLVR）の段階で使う学習データを混ぜ合わせたもの。 | 3.89 GB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/Nemotron-RL-Math-v2 | AoPS・StackExchange・Skywork-OR1・DAPO-Math-17k などから集めた数学問題を、RL 用に精選した小さなデータセット。 | 7,732 | 7 | 6.89 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-Multichallenge-v1 | マルチターンの会話で指示を守る力を鍛えるための強化学習データ。 | 2,118 | 11 | 281.91 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-QA-Abstention-v1 | 答えられる質問には答え、答えられないときは \boxed{[IDK]} と出すように学ばせる、強化学習（RLVR）用の質問データ。 |
3,150 | 13 | 4.68 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-ReasoningGym-v1 | 代数・算術・幾何・論理・グラフ理論・ゲームなど 104 種類の RL 環境にまたがる推論問題のデータ。 | 30.74 MB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/Nemotron-RL-Safety-v1 | 有害な依頼に対して適切に応じるかどうかの選好を学ばせるための、安全性の比較データ。 | 89,068 | 14 | 295.40 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-Science-v1 | 物理学、生物学、化学の、オープンエンドの科学の問題を集めた、検証可能な報酬による RL 用のデータ。 | 150,644 | 11 | 265.64 MB | cc-by-sa-4.0 | B | 複製待ち |
| nvidia/Nemotron-RL-Super-Training-Blends | Nemotron-3-Super-120B-A12B の RL 学習に使われた、データセットの混合（ブレンド）を収めたもの。 | 26.84 GB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/Nemotron-RL-SysBench-v1 | システムメッセージに置いた複雑な指示に従う能力を、RL で鍛えるための指示追従のデータ。 | 48.85 MB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/Nemotron-RL-Ultra-Training-Blends | Nemotron-3-Ultra の事後学習で使う、強化学習（RL）と Multi-teacher On-Policy Distillation（MOPD）の学習データを混ぜ合わせたもの。 | 54,201 | 3〜39 | 17.06 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-agent-calendar_scheduling | 複数の制約つきの予定を、ユーザーとの多ターンの会話で入れていく RL 用のデータ。 | 4,000 | 3 | 44.67 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-agent-workplace_assistant | 強化学習による事後学習に使う、職場の業務をツールで行うタスクのデータ。 | 1,800 | 6 | 30.02 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-coding-competitive_coding | Python の競技プログラミングの問題と、そのユニットテストを集めた、コーディングの RL 用のデータ。 | 16,083 | 5 | 15.68 GB | cc-by-sa-4.0 | B | 複製待ち |
| nvidia/Nemotron-RL-instruction_following | WildChat-1M のプロンプトに、回答を 200 語以内にするなど検証しやすい指示を組み合わせた、指示追従の RL 用のデータ。 | 77.89 MB | odc-by | A | 複製待ち | ||
| nvidia/Nemotron-RL-instruction_following-structured_outputs | JSON スキーマで指定された出力の書式に従えるかを試す、RL 用の指示追従のデータ。 | 9,949 | 4 | 95.92 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-knowledge-mcqa | 物理・生物・化学・法律などにわたる、合成の選択式問題（MCQA）のデータ。 | 685,573 | 6 | 757.23 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-knowledge-openqa | 知識を問う質問と短い回答の組のデータ。 | 135,987 | 5 | 50.52 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-knowledge-web_search-mcqa | OpenScienceReasoning-2 から絞り込んだ、物理、生物、数学、人文学、計算機科学、工学、化学などにわたる多肢選択式の質問と回答のデータ。 | 2,929 | 3 | 6.01 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-litmus-bench-v0.1 | ChEMBL のデータから作った、化学的推論の RL 用の短答問題集。 | 5,714 | 14 | 5.69 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-litmus-bench-v0.2 | ChEMBL・ExpansionRx・Biogen のデータから作った、化学的推論の RL 用の短答問題集。 | 49,174 | 12 | 65.11 MB | cc-by-sa-4.0, openmdw-1.1 | B | 複製待ち |
| nvidia/Nemotron-RL-math-OpenMathReasoning | AoPS フォーラムの数学の問題と解答の組を、NeMo Gym で使える形に整えた RL 用のデータ。 | 112,897 | 3 | 71.06 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-math-advanced_calculations | 多段階のエージェント環境で解く、関数合成の深さが異なる数学問題のデータ。 | 6,000 | 7 | 5.90 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-RL-math-stack_overflow | Stack Overflow の投稿から抽出した、数学の問題と解答の組のデータ。 | 284.63 MB | cc-by-sa-4.0 | B | 複製待ち | ||
| nvidia/Nemotron-RLHF-GenRM-v1 | 生成的報酬モデル（GenRM）を学習させるための、応答の比較と判定の指示付きデータ。 | 約 199,267 | 8 | 5.41 GB | odc-by | A | 複製待ち |
| nvidia/Nemotron-Research-GooseReason-0.7M | 数学・プログラミング・STEM の推論問題を、検証不能なインターネットのテキストから合成した、RLVR 用の多肢選択問題のデータ。 | 673,125 | 3 | 2.67 GB | cc-by-nc-4.0 | C | 複製待ち |
| nvidia/Nemotron-SFT-ARC-AGI-v1 | ARC-AGI の視覚的推論パズルを、オープンウェイトの LLM が多ターンのエージェントとして解いた推論の軌跡を集めた、SFT 用のデータ。 | 121,614 | 6 | 18.43 GB | apache-2.0, cc-by-4.0, mit | A | 複製待ち |
| nvidia/Nemotron-SFT-Agentic-Finance-v1 | SEC 届出書に基づく財務の質問を、ツール呼び出しを含む複数ターンの会話で解く軌跡を集めたデータ。 | 7,878 | 2 | 28.05 MB | openmdw-1.1 | A | 複製待ち |
| nvidia/Nemotron-SFT-Agentic-v2 | 対話的にツールを使うエージェントの、合成の単一ターンと複数ターンのツール利用の軌跡を集めたデータ。 | 21.86 GB | cc-by-4.0, apache-2.0, mit | D | 複製待ち | ||
| nvidia/Nemotron-SFT-Agentic-v4 | ツール利用の場面でモデルを学習させるための、合成の単一ターンと複数ターンのツール利用の会話を集めたデータ。 | 5 | 18.88 GB | openmdw-1.1 | A | 複製待ち | |
| nvidia/Nemotron-SFT-BBQ-v1 | 年齢・身体的な外見・障害に関する偏見を避けるための、英語の合成会話データ。 | 6,000 | 1 | 8 MB | openmdw-1.1 | A | 複製待ち |
| nvidia/Nemotron-SFT-CUDA-v1 | CUDA のカーネルの記述と CUDA のプログラミング問題を扱う、教師あり微調整用のデータ。 | 2,276 | 6 | 82.84 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-SFT-Finance-Document-Grounded-Reasoning-v1 | S&P 500 企業の SEC 届出書（10-K、10-Q、8-K）の本文の抜粋に根拠を置いた、金融の質問と回答の合成データ。 | 1.01 GB | openmdw-1.1 | A | 複製待ち | ||
| nvidia/Nemotron-SFT-Instruction-Following-Chat-v2 | 自由形式の対話と正確な指示への追従を含む、合成の対話データ。 | 16.02 GB | odc-by | A | 複製待ち | ||
| nvidia/Nemotron-SFT-Instruction-Following-Chat-v3 | 複数ターンのチャットと指示追従の会話データ。 | 約 682,491 | 4 | 20.25 GB | odc-by, cc-by-4.0, apache-2.0, other | A | 複製待ち |
| nvidia/Nemotron-SFT-Long-Context-Transduction-v1 | 長い入力の中で位置を追いながら系列を変換する問題の、教師あり微調整用の英語データ。 | 10,000 | 2 | 1.22 GB | openmdw-1.1 | A | 複製待ち |
| nvidia/Nemotron-SFT-Long-Context-Translation-PG19-v1 | 英語の長文を、ドイツ語・スペイン語・フランス語・イタリア語・日本語・中国語に訳す教師あり微調整用のデータ。 | 4,335 | 2 | 2.22 GB | openmdw-1.1, apache-2.0 | A | 複製待ち |
| nvidia/Nemotron-SFT-Math-v4 | 数学の問題に、DeepSeek-V4-Pro（High 推論モード）が生成した推論の軌跡を付けた SFT 用データ。 | 545,431 | 14 | 5.54 GB | cc-by-4.0, cc-by-sa-4.0 | A | 複製待ち |
| nvidia/Nemotron-SFT-Multilingual-v2 | 数学、コード、STEM の SFT の例を、ヒンディー語、韓国語、ブラジルポルトガル語、日本語に翻訳した多言語データ。 | 370,081 | 6 | 12.46 GB | cc-by-4.0, cc-by-sa-4.0 | A | 複製待ち |
| nvidia/Nemotron-SFT-OpenCode-v1 | LLM が OpenCode の CLI の中で動く能力を高めるための、指示チューニング用のデータ。 | 32.69 GB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/Nemotron-SFT-SWE-v2 | SWE-Bench 形式の課題を解く LLM のための、ソフトウェア工学の指示チューニング用のデータ。 | 18.08 GB | cc-by-4.0, apache-2.0, mit, bsd-3-clause, bsd-2-clause | A | 複製待ち | ||
| nvidia/Nemotron-SFT-SWE-v3 | SWE-Bench 形式のソフトウェア修正タスクに取り組む、エージェントの軌跡を集めた SFT 用データ。 | 237,970 | 3 | 11.68 GB | cc-by-4.0, apache-2.0, mit, bsd-3-clause, bsd-2-clause | A | 複製待ち |
| nvidia/Nemotron-SFT-SWE-v3.5 | ソースコード・テスト・設定などにまたがる変更を要する、SWE 形式のソフトウェア工学課題をエージェントが解く軌跡の、SFT 用のデータ。 | 5,115 | 4 | 268.81 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-SFT-Safety-v1 | 非整合な LLM に生じうる安全性とセキュリティの問題に対し、モデルを頑健に整合させるための SFT 用の会話データ。 | 45,145 | 4 | 155.13 MB | cc-by-4.0, apache-2.0, mit | A | 複製待ち |
| nvidia/Nemotron-SFT-Safety-v2 | 非整合な LLM に生じうる安全性とセキュリティの問題に対し、モデルを頑健に整合させるための SFT 用の会話データ。 | 576.04 MB | cc-by-4.0, apache-2.0, mit | A | 複製待ち | ||
| nvidia/Nemotron-SWE-v1 | ソフトウェア修正タスクのエージェントの軌跡を、OpenHands で集めたデータ。 | 約 34,772 | 7 | 11.14 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Science-v1 | 科学推論の学習用の、合成の問題と解答のデータ。 | 226,334 | 5 | 2.60 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-SpecializedDomains-Finance-v1 | S&P 500 企業の 2019〜2024 年の SEC 提出書類（10-K と 10-Q）を文脈にした、金融の質問と回答の合成データ。 | 約 217,879 | 4 | 31.92 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-System-User-Instruction-Hierarchy-v1 | system と user の指示の階層に従うかを評価するための、モデル生成の評価ルーブリックのデータ。 | 43,803 | 10 | 251.79 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Terminal-Corpus | ターミナル操作のエージェントを SFT で学習させるための、実行の軌跡のデータ。 | 366,154 | 10〜11 | 8.20 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Nemotron-Terminal-Synthetic-Tasks | Terminal-Corpus のスキルベースの合成タスクを収めたデータ。 | 1.03 GB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/NuRec-AV-Object-Benchmark | 自動運転車の走行データから切り出した物体について、画像から 3D への再構成を評価するためのベンチマーク。 | 698.36 MB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/Numb3rs | テキスト正規化（TN）と逆テキスト正規化（ITN）のための音声データセット。 | 11,570 | 2 | 650.87 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| nvidia/ORCA-sim-push-cart-gr00t | ファイル 19 本で、容量は 10.70 GB ある。 | 10.70 GB | D | 複製待ち | |||
| nvidia/OpenCodeGeneticInstruct | Genetic-Instruct の手法で合成した、Python のコーディング指示と解答のデータ。 | 15,093,134 | 6 | 26.87 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/OpenCodeInstruct | コード生成のための大規模な指示チューニング用の、コードの質問と回答の組のデータ。 | 約 4,969,570 | 9 | 6.86 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/OpenCodeReasoning | 競技プログラミングの問題と Python の解答のデータ。 | 約 752,713 | 9〜10 | 9.73 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/OpenCodeReasoning-2 | 競技プログラミングの問題に対する Python と C++ の解答と批評のデータ。 | 約 2,164,812 | 14 | 49.41 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/OpenMath-GSM8K-masked | GSM8K の問題と、その解答をマスクした版を集めたもの。 | 7,473 | 4 | 6.08 MB | other | D | 複製待ち |
| nvidia/OpenMath-MATH-masked | MATH の問題と、その解答をマスクした版を集めたもの。 | 7,500 | 7 | 11.22 MB | other | D | 複製待ち |
| nvidia/OpenMathInstruct-1 | GSM8K と MATH の問題に、テキストの推論と Python のコードを組み合わせた解答を付けた、数学の指示チューニング用のデータ。 | 約 6,078,712 | 8 | 8.94 GB | other | D | 複製待ち |
| nvidia/OpenMathInstruct-2 | GSM8K と MATH の学習用の問題を拡張して作った、数学の指示チューニング用の問題と解答の組のデータ。 | 21,972,791 | 4 | 12.63 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/OpenMathReasoning | AoPS フォーラムの数学の問題に、DeepSeek-R1 や QwQ-32B が生成した解答を付けた、大規模な数学推論のデータ。 | 5,678,317 | 9 | 49.53 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/OpenScienceReasoning-2 | STEM、法学、経済学、人文学などにまたがる、選択式と記述式の問いと解答の組の合成データ。 | 約 802,666 | 3 | 15.71 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/PBench | 世界モデルを Physical AI 向けに評価するためのベンチマークのデータ。 | 101.20 MB | cc-by-nc-4.0 | C | 複製待ち | ||
| nvidia/PhysicalAI-DigitalCousin-Assets | GR1 ロボットの卓上マニピュレーションのシミュレーションで使う、3D メッシュ、テクスチャ、オブジェクトのメタデータのデジタルアセット。 | 270.35 MB | cc-by-nc-4.0 | C | 複製待ち | ||
| nvidia/PhysicalAI-NuRec-PPISP | 放射場（radiance field）の再構成のための、物体中心の撮影データ（PPISP）。 | 15.18 GB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/PhysicalAI-Robotics-Manipulation-Objects-Kitchen-MJCF | シミュレーションのキッチン環境で使う、MJCF 形式の 3D アセットの集まり。 | 1.32 GB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/PhysicalAI-Robotics-PhysicalAssets-VoMP-Eval | VoMP（体積的な力学特性の予測）の評価用データセット。 | 1,726 | 12 | 8.41 GB | D | 複製待ち | |
| nvidia/PhysicalAI-Robotics-mindmap-Franka-Cube-Stacking | Isaac Lab で生成したロボット操作の軌跡のデータ。 | 約 2,535 | 8 | 6.12 GB | cc-by-nc-4.0 | C | 複製待ち |
| nvidia/PhysicalAI-Robotics-mindmap-Franka-Mug-in-Drawer | Isaac Lab で生成したロボット操作の軌跡のデータで、Mug in Drawer タスクのもの。 | 約 1,778 | 8 | 34.49 GB | cc-by-nc-4.0 | C | 複製待ち |
| nvidia/PhysicsNeMo-CFD-Ahmed-Body | Ahmed body の形状と入口のレイノルズ数を変えたときの、3 次元の表面形状、圧力、壁面せん断応力のデータ。 | 4,064 | 1 | 9.19 GB | apache-2.0 | A | 複製待ち |
| nvidia/Privasis-USA | 医療・金融・法律の文書やメールなどの合成テキストに、個人情報（PII）と機微な属性の注釈を付けたデータ。 | 1,106,898 | 9〜10 | 7.14 GB | other | D | 複製待ち |
| nvidia/Privasis-Zero | 医療記録、金融記録、法的文書、メールなどの合成テキストに、個人情報と機微な属性の注釈を付けたデータ。 | 1,296,650 | 10〜17 | 7.74 GB | other | C | 複製待ち |
| nvidia/ProfBench | 人手でアノテーションされた 40 件の専門的な課題と、それに対する 3 モデルの応答、評価基準のデータ。 | 40 | 7 | 1.20 MB | other | B | 複製待ち |
| nvidia/Puzzle-KD-Nemotron-Post-Training-Dataset-v2 | Nemotron-Post-Training-Dataset-v2 から英語の例だけを選んで整えた、対話データの部分集合。 | 851,343 | 7 | 2.74 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/QCalEval | 量子コンピューティングの較正実験のプロットを読んで答える、視覚言語モデル（VLM）のベンチマーク。 | 243 | 22 | 22.96 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/Retrieval-Synthetic-NVDocs-v1 | NVIDIA が公開しているコンテンツから NeMo Data Designer で合成した、質問と回答の組の検索データ。 | 15,095 | 11 | 1.31 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/SEED-Timeline-Annotations | BONES-SEED ヒューマノイド動作データセットに付けた、テキストのタイムラインのアノテーション。 | 142,220 | 5 | 80.38 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/SPEED-Bench | 投機的復号（speculative decoding）の受理率とスループットを測るための評価用ベンチマークのデータ。 | 8,944 | 8 | 141.59 MB | other | D | 複製待ち |
| nvidia/SWE-Hero-openhands-trajectories | GitHub の issue を解くソフトウェア工学エージェントの実行軌跡のデータ。 | 34,269 | 7 | 2.40 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/SWE-Zero-openhands-trajectories | GitHub の issue を解くソフトウェア工学エージェントの実行軌跡のデータ。 | 318,115 | 7 | 12.21 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/Scoring-Verifiers | HumanEval と MBPP のコードの解答を、テストケースの実行結果で順位付けしたベンチマークのデータ。 | 20.78 MB | other | D | 複製待ち | ||
| nvidia/Spark-AnomalyGen-USD | プリント基板（PCB）の構造欠陥の合成データを生成するデモ用の、OpenUSD のアセット。 | 83 | 1 | 253.48 MB | other | D | 複製待ち |
| nvidia/TechQA-RAG-Eval | IBM の開発者フォーラムの技術サポートの問いと回答を、RAG 評価用に縮めたデータ。 | 910 | 5 | 49.84 MB | apache-2.0 | A | 複製待ち |
| nvidia/ToolScale | 小規模なオーケストレーターモデルの強化学習のための、合成の環境とツール呼び出しのタスクのデータ。 | 4,063 | 5 | 2.48 MB | other | D | 複製待ち |
| nvidia/When2Call | LLM のツール呼び出しの判断を評価・学習するためのデータ。 | 27,952 | 2〜11 | 63.43 MB | cc-by-4.0 | D | 複製待ち |
| nvidia/X-Mobility | X-Mobility 用の train・validation・test のデータ。 | 22.27 GB | other | D | 複製待ち | ||
| nvidia/aisimulate-fpm-dataset | AISim の Forward Pass Model（FPM）の予測器のライブラリと、独立した遅延（レイテンシ）の測定値を集めたデータ。 | 453 | 32〜49 | 1.50 GB | apache-2.0 | A | 複製待ち |
| nvidia/cdf-pcb-usd-dataset | ICT Baseboard と Artix DC-SCM の 2 種のプリント基板組立品（PCBA）の、基板ごとの OpenUSD パッケージのデータ。 | 82.28 MB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/compute-eval | LLM が生成した CUDA コードの正しさと性能を測るベンチマークの課題のデータ。 | 3,102 | 20 | 31.99 MB | other | D | 複製待ち |
| nvidia/cvdp-benchmark-dataset | Verilog の設計課題を集めた CVDP ベンチマークのデータ。 | 749 | 5〜8 | 1.43 GB | other | D | 複製待ち |
| nvidia/dc-dev-share-ckpt | ファイル 2 本（うち 1 本は pt 形式）で、容量は 28.58 GB ある。 | 28.58 GB | D | 複製待ち | |||
| nvidia/dextrah_textures | ファイル 3 本（うち 1 本は zip 形式）で、容量は 8.38 GB ある。 | 8.38 GB | cc-by-4.0 | A | 複製待ち | ||
| nvidia/dynpose-100k | カメラのアノテーションを付けた、動的な内容を含む 10 万本の動画のデータ。 | 9.44 GB | other | D | 複製待ち | ||
| nvidia/earth2studio-assets | Earth2Studio の GitHub リポジトリを支えるために使う資産の集まりのデータ。 | 127.73 MB | D | 複製待ち | |||
| nvidia/embed-nemotron-dataset-v1 | 埋め込みモデル llama-embed-nemotron-8b の学習に使われた、微調整用データの選抜サブセット。 | 12,294,089 | 1〜5 | 2.30 GB | cc-by-sa-4.0, cc-by-4.0, other | B | 複製待ち |
| nvidia/esm2_uniref_pretraining_data | ESM-2nv のタンパク質言語モデルの事前学習に使われた、UniRef のタンパク質配列のデータ。 | 187,710,378 | 3 | 38.47 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/heb-clip | ヘブライ語の画像キャプションのデータ。 | 912.01 MB | other | D | 複製待ち | ||
| nvidia/hifitts-2 | LibriVox のオーディオブックに由来する音声データセット HiFiTTS-2 のメタデータ。 | 約 16,550,743 | 5〜11 | 17.81 GB | cc-by-4.0 | A | 複製待ち |
| nvidia/isaacsim-assets | NVIDIA の Isaac Sim 用アセットのファイルを、text の列にまとめたデータ。 |
10,220 | 1 | 1.94 GB | D | 複製待ち | |
| nvidia/judges-verdict | 参照解答に照らして LLM の解答を判定する能力を測るベンチマーク。 | 1,994 | 6 | 2.34 MB | cc-by-sa-4.0 | B | 複製待ち |
| nvidia/nemotron-research-lgt | 画像を見て答える選択式の視覚推論問題を大規模に合成したデータ。 | 1,306,424 | 3〜4 | 829.89 MB | cc-by-nc-4.0 | C | 複製待ち |
| nvidia/omni-dreams-scenes | AlpaDreams 自動運転車の世界モデルのための、サンプルのシーンのデータ。 | 7.20 GB | other | D | 複製待ち | ||
| nvidia/preference-asr-bench | 音声認識（ASR）の評価データ。 | 2,822 | 10 | 1.36 GB | cc-by-nc-4.0 | C | 複製待ち |
| nvidia/sft_datablend_v1 | OASST・CodeContests・FLAN・T0・Open_Platypus・GSM8K などの公開データを混ぜた、指示チューニング用のデータ。 | 128,013 | 4 | 269.30 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/simready-central-library | Physical AI 向けのシミュレーション対応アセットの共有インデックス SimReady Central（アルファ版）の案内を載せたデータセット。 | 5.72 KB | apache-2.0 | B | 複製待ち | ||
| nvidia/simready-dsx | NVIDIA SimReady Central への投稿に向けた、非公開のステージング用の SimReady アセットのデータ。 | 1 | 6 | 255.42 MB | cc-by-4.0 | A | 複製待ち |
| nvidia/vipe-web360 | ViPE（Video pose engine）で推定したカメラの姿勢・深度・内部パラメータのデータ。 | 2,114 | 3 | 29.76 GB | cc-by-4.0 | A | 複製待ち |
SNS・個人投資家・噂・危機情報・世論のラベル付きテキストデータセット
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| airt-ml/twitter-human-bots | Twitter のアカウントごとのプロフィールと統計をまとめた表データ。 | 37,438 | 20 | 11.85 MB | cc-by-sa-3.0 | B | 複製済み |
| venetis/disaster_tweets | 災害などの危機に関するツイートのデータ（調査メモの分類による）。 | 7,613 | 5 | 990.29 KB | openrail | B | 複製済み |
| ElKulako/cryptobert-posttrain | 暗号資産に関する SNS の投稿を集めた、言語モデルの事後学習用のデータ。 | 3,206,203 | 1 | 250.81 MB | mit | A | 複製待ち |
| ElKulako/stocktwits-crypto | 2021 年 11 月 1 日から 2022 年 6 月 15 日までに StockTwits に投稿された、暗号資産に関する投稿のデータ。 | 69.61 MB | mit | A | 複製待ち | ||
| ElKulako/stocktwits-emoji | ビットコイン（BTC）、イーサリアム（ETH）、Shiba Inu（SHIB）について、2021 年 11 月から 2022 年 6 月にかけて StockTwits に投稿された文章のデータ。 | 244,503 | 1 | 26.78 MB | mit | A | 複製待ち |
| KirillNik/tweepfake_synthetic | 実在のツイートから抽出したトピックを条件に、3 つのモデルが 4 種類のプロンプトで生成した、英語の合成ツイートのデータ。 | 12,000 | 9 | 6.37 MB | unknown | D | 複製待ち |
| NunoBatista/PHEME-Misinformation-Graphs | PHEME の 9 件の出来事について、噂かどうかの 2 値のラベルを付けた会話スレッドを、グラフにしたデータ。 | 376.01 MB | mit | A | 複製待ち | ||
| QCRI/CrisisMMD | 2017 年の 7 件の大きな自然災害の期間に集めた、ツイートと画像の組のデータ。 | 39,690 | 7 | 1.94 GB | cc-by-nc-sa-4.0 | C | 複製待ち |
| Slinky21/Pumpfun_Memecoin_Corpus | Solana 上の pump.fun で、2026 年 6 月 5 日から 7 月 14 日までに現れた全トークンの、ローンチから卒業（graduation）までを記録したデータ。 | 63,734,936 | 4 | 6.70 GB | mit | A | 複製待ち |
| StephanAkkerman/financial-tweets-crypto | 金融インフルエンサーのツイートから集めた、暗号資産に関するツイートのデータ。 | 104,379 | 35 | 75.66 MB | mit | A | 複製待ち |
| StephanAkkerman/stock-market-tweets-data | 2020 年 4 月から 7 月にかけて、S&P 500 のタグや指数の上位 25 社への言及などを検索語に集めたツイートのデータ。 | 923,673 | 3 | 174.75 MB | cc-by-4.0 | B | 複製待ち |
| TimKoornstra/financial-tweets-sentiment | 金融と株式市場に関するツイートに、強気（bullish）・弱気（bearish）・中立（neutral）のセンチメントを付けたデータ。 | 38,091 | 3 | 2.65 MB | mit | B | 複製待ち |
| Yemen-JPT/MuMiN-Build | 誤情報の検出モデルを作るためのデータとされる、MuMiN のビルド用リポジトリ。 | 336.15 KB | cc-by-4.0 | B | 複製待ち | ||
| cardiffnlp/tweet_topic_single | 2019 年 9 月から 2021 年 8 月までのツイートに、6 種類のトピックラベルを 1 つずつ付けたデータ。 | 28,536 | 5 | 6.69 MB | other | D | 複製待ち |
| histlearn/community-notes-br | X の Community Notes の公開ダンプを表ごとに整理したデータ。 | 389,631,720 | 2〜40 | 18.46 GB | cdla-permissive-2.0 | B | 複製待ち |
| iai-group/clef2024_checkthat_task1_en | CLEF-2024 CheckThat! Lab のタスク 1 で使われた、複数のジャンルの内容について検証に値するかを判定するためのデータ。 | 23,851 | 3 | 2.57 MB | cc-by-sa-4.0 | B | 複製待ち |
| strombergnlp/rumoureval_2019 | Twitter の主張（claim）に対する返信の立場を分類するデータ。 | 7,994 | 4 | 2.10 MB | cc-by-4.0 | B | 複製待ち |
エージェント軌跡・思考ログと、それに付いた成否・失敗・監視ラベルのオープンデータ
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| Anthropic/values-in-the-wild | Claude が実際の会話で表明した価値観を、プライバシーを保つ手法で抽出して分類したデータ。 | 6,911 | 2〜6 | 529.84 KB | cc-by-4.0 | B | 複製済み |
| NousResearch/hermes-function-calling-v1 | 関数呼び出しと JSON の構造化出力（json-mode）の会話を集めた、Hermes 2 Pro シリーズのモデルの学習用データ。 | 11,578 | 5〜7 | 66.78 MB | apache-2.0 | B | 複製済み |
| SWE-Factory/DeepSWE-Agent-Kimi-K2-Trajectories-2.8K | コーディングエージェントの軌跡を集めたデータ。 | 2,809 | 1 | 237.39 MB | mit | B | 複製済み |
| SWE-Gym/OpenHands-Sampled-Trajectories | コーディングエージェントの軌跡に、自動テストの結果を付けたデータ。 | 6,055 | 6 | 301.10 MB | B | 複製済み | |
| amityco/tau-bench-retail-train-next-action-all-step-score | τ-bench の retail を対象とした学習用データで、1 行が 1 件のサンプル。 | 474 | 6 | 1.71 MB | D | 複製済み | |
| cfahlgren1/anthropic-agentic-misalignment-results | Anthropic の agentic-misalignment フレームワークを 5 つのモデルで実行した、90 件の結果を集めたもの。 | 90 | 7 | 340.76 KB | mit | B | 複製済み |
| davide221/agenterrorbench | エージェントの軌跡 200 件に、決定的な失敗のステップ（critical_failure_step）・モジュール（critical_failure_module）・失敗の種類（failure_types）の列を持つデータ。 |
200 | 12 | 18.26 MB | D | 複製済み | |
| jplhughes2/classify_alignment_faking_human_labels | 106 件の入力と応答に、人手のラベル（alignment_faking_human_label）を付けたアライメント・フェイキングの分類用データ。 |
106 | 7 | 210.40 KB | D | 複製済み | |
| timchen0618/browsecomp-plus-trajectories | ツール利用・Web 検索・deep research の軌跡のデータ。 | 15,249 | 17 | 1.19 GB | D | 複製済み | |
| Agent-Ark/Toucan-1.5M | 実在の 495 の MCP（Model Context Protocol）から合成した、ツール利用エージェントの複数ターンの軌跡のデータ。 | 1,646,546 | 6〜9 | 21.81 GB | apache-2.0 | B | 複製待ち |
| AgentSuite/tau-bench-trajectories | tau-bench のタスクを 30 のモデルがそれぞれ解いた軌跡の、一般公開版のデータ。 | 112.19 MB | D | 複製待ち | |||
| Anthropic/EconomicIndex | AI が実際の仕事にどう組み込まれているかを示す、Anthropic Economic Index の公開データ。 | 763.44 MB | mit | B | 複製待ち | ||
| Anthropic/alignment-faking-rl | Anthropic が公開した、RL の学習でアライメント・フェイキングの緩和策を調べた実験の、モデル・オーガニズムの評価の書き起こしのデータ。 | 2,138,969 | 16 | 17.25 GB | cc | B | 複製待ち |
| ChrisDing1105/unified-agent-trajectories | ベンチマーク（WildClawBench から派生したもの）のエージェントの実行軌跡を、共通の形式に変換して集めたデータ。 | 4,630 | 10 | 7.09 GB | other | D | 複製待ち |
| Exgentic/agent-llm-traces-v2 | OpenTelemetry 形式の実行トレースから、テスト対象のエージェントの LLM 呼び出しだけを取り出したデータ。 | 10,056 | 20 | 231.73 MB | D | 複製待ち | |
| IPF/DeepResearch-traj | 質問ごとの正誤ラベルを付けた、Deep Research エージェントの複数ターンの軌跡のデータ。 | 97,630 | 13 | 7.46 GB | mit | B | 複製待ち |
| JetBrains-Research/agent-trajectories-swe-bench-test-minus-verified | SWE-bench Test のうち Verified に含まれない Issue を解いた、複数ターンのエージェントの軌跡のデータ。 | 1,785 | 7 | 40.01 MB | mit | B | 複製待ち |
| Kevin355/Who_and_When | MAS（マルチエージェントシステム）の失敗の責任と決定的な誤りのステップに注釈を付けた、184 件の失敗の軌跡を集めたもの。 | 184 | 8〜9 | 8.68 MB | D | 複製待ち | |
| Kwai-Klear/SWE-smith-mini_swe_agent_plus-trajectories-66k | SWE-smith から導いた Issue を mini-swe-agent-plus で解いた、約 66,000 件の軌跡のデータ。 | 65,994 | 2 | 1.58 GB | mit | B | 複製待ち |
| LulaCola/AgentProcessBench | ツールを使うエージェントの、プロセスレベル（ステップごと）の評価のための、エージェントの軌跡のデータ。 | 1,000 | 12〜13 | 40.11 MB | mit | B | 複製待ち |
| MaxDevv/real-pi-coding-agent-traces-sessions | 実在の人がコーディングエージェント pi を使い、実在のオープンソースソフトウェアを作った際の実際のセッションを集めたデータ。 | 777.89 MB | other | B | 複製待ち | ||
| PatronusAI/TRAIL | GAIA と SWE-Bench Lite のエージェントの実行トレース 148 件に、841 件のエラーを注釈したデータ。 | 148 | 2 | 241.08 MB | mit | B | 複製待ち |
| SWE-bench/SWE-smith-trajectories | SWE-smith の課題を SWE-agent と Claude 3.7 Sonnet で解かせて生成した軌跡のデータ。 | 76,002 | 6 | 4.22 GB | mit | B | 複製待ち |
| Salesforce/APIGen-MT-5k | GPT-4o と DeepSeek-V3 で生成した、小売と航空（τ-bench 経由）の複数ターンのエージェントの対話のデータ。 | 5,000 | 3 | 127.77 MB | cc-by-nc-4.0 | C | 複製待ち |
| Shuibai12138/mcp-universe-trajectories | DeepSeek V4 Pro（deepseek-v4-pro）で MCP-Universe の financial_analysis の 40 タスクを実行し、その軌跡を記録したデータ。 | 40 | 14 | 38.41 MB | apache-2.0 | B | 複製待ち |
| ai-safety-institute/reward-hacking-olmo3.1-32b-kl0.0-seed2-rollouts | 報酬ハッキングが可能な競技プログラミングの環境で、OLMo-3.1-32B（β=0.0）に GRPO の強化学習をかけた際の学習ロールアウトのデータ。 | 25,664 | 28 | 1.38 GB | apache-2.0 | B | 複製待ち |
| aisa-group/instrumental-choices-agent-traces | 論文 Instrumental Choices で報告された、10 のモデルがターミナル系の 7 タスクで道具的な行動（instrumental behavior）を取るかを測った軌跡のデータ。 | 1,680 | 16 | 665.11 MB | cc-by-4.0 | B | 複製待ち |
| allenai/WildChat-4.8M | ChatGPT と人間のユーザーのあいだの会話 320 万件から、有害と判定された会話を除いたデータ。 | 3,199,860 | 14 | 15.28 GB | odc-by | B | 複製待ち |
| ameek/measuring_cot_monitorability_transcripts | MMLU・BIG-Bench Hard・GPQA Diamond の問題に、キューのない baseline と 5 種類のキューを注入した応答を対にして、8 つのモデル設定で得た応答のデータ。 | 446,208 | 24 | 940.13 MB | other | D | 複製待ち |
| lambda/hermes-agent-reasoning-traces | Hermes Agent のハーネスで、実際のツール実行（端末、ファイル操作、ブラウザ）を使って生成した、複数ターンのツール呼び出しの軌跡のデータ。 | 14,701 | 6 | 1.62 GB | apache-2.0 | B | 複製待ち |
| lmarena-ai/search-arena-24k | 2025 年 3 月から 5 月に Search Arena で集めた、検索 LLM との実際の利用の複数ターンの会話のデータ。 | 24,069 | 13 | 400.68 MB | B | 複製待ち | |
| lucabaroni/rlvr-reward-hacking-transcripts | 意図的に脆弱にした CodeContests の評価器の中で RLVR により学習した、Qwen3.5-9B・GPT-OSS-120B・Nemotron-3-Super-120B-A12B の 3 つのポリシーの、保留にしたテスト用のロールアウト 900 件のデータ。 | 900 | 17 | 85.09 MB | other | D | 複製待ち |
| mcemri/MAST-Data | マルチエージェントシステムの軌跡に、MAST の 14 の失敗モードの二値のアノテーションを LLM の判定で付けたデータ。 | 1,661 | 6 | 202.24 MB | cc-by-4.0 | B | 複製待ち |
| metr-evals/malt-public | エージェントの作業のトランスクリプトに、bypass_constraints や gives_up などの振る舞いのラベルを付けた MALT-public のデータ。 | 35,895 | 2 | 28.31 GB | mit | B | 複製待ち |
| nebius/SWE-agent-trajectories | SWE-agent の枠組みで、GitHub の Issue を解こうとするソフトウェアエンジニアリングエージェントの軌跡のデータ。 | 80,036 | 7 | 1.11 GB | cc-by-4.0 | B | 複製待ち |
| nebius/SWE-rebench-openhands-trajectories | 実在する GitHub の Issue を解こうとするソフトウェア開発エージェントの、複数ターンの実行軌跡のデータ。 | 67,074 | 10 | 2.08 GB | cc-by-4.0 | B | 複製待ち |
| open-athena/GLM-5.3-tmax-swesmith-k8-traces-2026.10 | GLM 5.3 が、TMax（Terminus-2 が実行する端末タスク）と SWE-smith（mini-swe-agent が実行するリポジトリのバグ修正タスク）に取り組んだエージェントの軌跡のデータ。 | 45,913 | 25 | 1.98 GB | other | D | 複製待ち |
| osunlp/Mind2Web | 31 のドメインの 137 のウェブサイト上で、言語の指示に従うタスクを人が操作して完了させた記録のデータ。 | 約 1,009 | 7 | 6.74 GB | cc-by-4.0 | B | 複製待ち |
| sandbagging-games/evaluation_logs | Auditing Games for Sandbagging の評価ログのデータ。 | 2.60 GB | D | 複製待ち | |||
| vincentoh/sandbagging-agent-traces | わざと手を抜く（sandbagging）よう指示した場合と、本気で取り組むよう指示した場合の、エージェントの計画メモ（scratchpad）を集めたデータ。 | 3,185 | 7 | 4.35 MB | apache-2.0 | B | 複製待ち |
| whitecircle/swe-rebench-v2-glm-5.1-pi-agent-successful-traces | GLM-5.1 を PI agent で動かし、nebius/SWE-rebench-V2 の Python の Issue を解かせた、多ターンの軌跡のデータ。 | 7,777 | 4 | 300.33 MB | cc-by-4.0 | B | 複製待ち |
オントロジー・知識グラフ・エンティティ・関係・分類体系のラベル付きテキストデータセット
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| DFKI-SLT/cross_re | 6 つのテキスト領域（ニュース、政治、自然科学、音楽、文学、人工知能）にまたがる、英語の関係抽出のベンチマークのデータ。 | 5,265 | 4 | 33.85 KB | D | 複製済み | |
| SemEvalWorkshop/sem_eval_2010_task_8 | 名詞句のペアの間の意味関係を分類するための、英語の文のデータ。 | 10,717 | 2 | 913.19 KB | D | 複製済み | |
| VLyb/WN18RR | 語彙知識の関係データで、1 行が整数の ID の head と tail、関係名 relation からなる 1 つの組である。 |
93,003 | 3 | 3.36 MB | unlicense | B | 複製済み |
| allenai/atomic | PersonX などを主語にした日常の出来事に対する、if-then の常識推論（結果・反応・意図など）を集めたデータ（ATOMIC）。 | 249,747 | 12 | 15.37 KB | cc-by-4.0 | B | 複製済み |
| lighteval/EntityMatching | 2 つのレコードが同じものを指すかを判定するためのデータ。 | 152,839 | 3 | 372.61 MB | D | 複製済み | |
| thunlp/few_rel | 100 を超える関係を持つ、英語の少数ショット関係抽出のデータ。 | 71,595 | 2〜5 | 17.15 KB | mit | D | 複製済み |
| Babelscape/rebel-dataset | 英語版 Wikipedia の文と Wikidata の関係の三つ組を結び付けた、NLI で絞り込まれた関係抽出のデータ。 | 3,466,757 | 4 | 1.49 GB | cc-by-sa-4.0 | C | 複製待ち |
| DFKI-SLT/dfki-product-corpus | 製品と企業の固有表現、および企業が製品を提供する関係（CompanyProvidesProduct）を付けた英語の Web テキストのデータ。 | 3,277 | 6 | 2.12 MB | cc-by-4.0 | A | 複製待ち |
| DFKI-SLT/few-nerd | Wikipedia の文を元にした、人手で注釈された細粒度の固有表現認識（NER）のデータ。 | 514,111 | 4 | 63.67 MB | cc-by-sa-4.0 | B | 複製待ち |
| DGME/figer | 固有表現の型付けのデータで、型は /person/musician や /location/city のように階層を持つ。 |
2,690,849 | 4 | 278.32 MB | mit | B | 複製待ち |
| FinGPT/fingpt-finred | FinGPT の Multi-task Instruction Tuning で使われた、関係抽出と分類の指示データ。 | 32,670 | 3 | 2.12 MB | D | 複製待ち | |
| KGraph/FB15k-237 | 知識グラフ上のリンク予測のためのデータ。 | 310,116 | 1 | 37.65 MB | cc-by-4.0 | A | 複製待ち |
| MaYiding/MAVEN-ERE | 英語版ウィキペディアの文書に、イベント・時間表現と、イベント間の時間・因果・サブイベントの関係を付けたデータ。 | 4,480 | 6〜9 | 137.35 MB | other | B | 複製待ち |
| SAMPOQ/supply-chain-10k | 米国に上場する企業が 10-K に書いた顧客と仕入先の関係を、有向のグラフとして抽出したデータ。 | 65,511 | 9 | 29.03 MB | cc-by-4.0 | A | 複製待ち |
| ZipLime/industry-classification | 米国の上場企業の業種を、SEC の SIC コードと国勢調査局の NAICS への橋渡し表から作った、日付つきの業種分類のデータ。 | 520,939 | 8〜31 | 8.44 MB | apache-2.0 | A | 複製待ち |
| ZipLime/security-master | 米国の証券の識別子（ティッカー、CIK、CUSIP）と企業名の変遷を、日付つきで記録した証券マスターのデータ。 | 10,502,859 | 7〜15 | 73.41 MB | apache-2.0 | A | 複製待ち |
| blackmlengineer/industrybench-naics-l3-graded | 企業の説明文を NAICS 2022 の 3 桁コード（サブセクター）に結び付ける、段階的な関連度つきの分類データ。 | 529,602 | 2〜4 | 20.09 MB | other | D | 複製待ち |
| conceptnet5/conceptnet5 | 多言語の常識知識ベース ConceptNet のデータ。 | 36,974,812 | 3〜8 | 1.48 GB | cc-by-4.0 | A | 複製待ち |
| domyn/FinReflectKG | S&P 500 企業の 2014〜2024 年の 10-K から、LLM による抽出で作った金融の知識グラフのデータ（トリプレット形式）。 | 17,513,372 | 18 | 1.67 GB | cc-by-nc-4.0 | C | 複製待ち |
| naist-nlp/zelda | 固有表現を知識ベースのエンティティに結び付ける（エンティティの曖昧性解消）ためのベンチマークのデータ。 | 916,380 | 4 | 501.62 MB | D | 複製待ち | |
| pat-jj/nyt10_corpus | 元記事の本文（text）とタイトル（title）に埋め込みベクトル（embeddings）を付けたデータ。 |
748,415 | 3 | 2.40 GB | mit | B | 複製待ち |
| relbert/lexical_relation_classification | 語彙関係分類のためのデータ。 | 111,509 | 3 | 6.57 MB | other | C | 複製待ち |
| tasksource/matres | ニュース文書の中のイベント間の時間関係（開始点の前後関係）のデータ。 | 13,573 | 3 | 5.94 MB | D | 複製待ち | |
| tau/commonsense_qa | 英語の常識推論の多肢選択式の質問応答データ。 | 12,102 | 5 | 1.57 MB | mit | D | 複製待ち |
| thunlp/docred | Wikipedia と Wikidata から構築した、文書レベルの関係抽出のデータ（DocRED）。 | 106,924 | 4 | 95.58 MB | mit | B | 複製待ち |
| tner/fin | 金融分野の文に PER、LOC、ORG、MISC の固有表現を付けた英語の NER データ。 | 1,473 | 2 | 1.35 MB | mit | B | 複製待ち |
| wikipunk/fibo2023Q3 | 金融業界ビジネスオントロジー（FIBO）を三つ組（主語・述語・目的語）に直したデータ。 | 236,579 | 3 | 15.03 MB | mit | B | 複製待ち |
| yixuantt/FinEntity | 金融ニュースに、金融エンティティごとの感情（ポジティブ、ニュートラル、ネガティブ）を付けた、エンティティ単位の感情分類のデータ。 | 979 | 2 | 714.99 KB | odc-by | A | 複製待ち |
オントロジー工学のベンチマーク（ドメイン横断）と Laya の判断の型への変換
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| SciKnowOrg/ontolearner-finance | 金融分野のオントロジー学習用のデータ。 | 243.63 KB | mit | B | 複製済み | ||
| OAEI-ML/bio-ml | Bio-ML 2026 トラックの、NCIT–DOID、SNOMED–FMA、SNOMED–NCIT の 3 組のオントロジーを対象にした整列のデータ。 | 1.29 GB | other | D | 複製待ち | ||
| OAEI-ML/diso-oaei | 防衛・諜報・安全保障分野の 10 のオントロジーを対象にした、オントロジーの整列（マッチング）課題のデータ。 | 45.68 MB | apache-2.0 | A | 複製待ち | ||
| VityaVitalich/WordNet-TaxoLLaMA | WordNet 3.0 から取った上位語と下位語の組を、言語モデルへの指示の形にした英語のデータ。 | 44,821 | 3 | 3.49 MB | D | 複製待ち | |
| XiaoZhang98/OntoURL | 形式的なオントロジーの資源から生成した、オントロジーの理解・推論・学習を大規模言語モデルで測るベンチマークのデータ。 | 36,159 | 22 | 30.05 MB | cc-by-4.0 | B | 複製待ち |
| andylolu24/wiki-ol | OLLM の Wikipedia のグラフのデータ。 | 5.93 GB | apache-2.0 | B | 複製待ち | ||
| gregb/product-taxonomy-bench | Shopify の商品タクソノミーのカテゴリを、商品のタグから予測するためのベンチマークのデータ（SHIMP）。 | 10,213 | 8 | 72.17 MB | cc-by-4.0 | A | 複製待ち |
| krr-oxford/OntoLAMA | オントロジーの包含（サブサンプション）推論を自然言語推論の形に直した、英語のデータ。 | 2,427,654 | 3〜5 | 149.81 MB | apache-2.0 | A | 複製待ち |
オープンウェイトモデルの推論ログ（思考トレース）の公開データ
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| Congliu/Chinese-DeepSeek-R1-Distill-data-110k | 中国語で書かれた、数学・試験・理系・一般の質問に対する推論データ。 | 110,000 | 8 | 676.65 MB | apache-2.0 | B | 複製済み |
| Alibaba-Apsara/Superior-Reasoning-SFT-gpt-oss-120b | 数学・コード・科学・指示追従の問題に、gpt-oss-120b の高推論モードが答えた長い推論の軌跡のデータ。 | 約 306,386 | 5 | 24.77 GB | cc-by-4.0 | B | 複製待ち |
| GeneralReasoning/GeneralThought-430K | 複数の推論モデルが質問に答えた推論の軌跡を集めたデータ。 | 430,788 | 14 | 1.80 GB | mit | B | 複製待ち |
| Jackrong/Natural-Reasoning-gpt-oss-120B-S1 | facebook/natural_reasoning の最初の 10 万問に、gpt-oss-120b が推論と答えを付けた蒸留データ。 | 95,399 | 5 | 2.81 GB | apache-2.0 | C | 複製待ち |
| Liontix/magistral-small-2506-high-reasoning-170x | Magistral Small 2506 を使って作った推論のデータ。 | 176 | 1 | 2.97 MB | D | 複製待ち | |
| Magpie-Align/Magpie-Reasoning-V2-250K-CoT-Deepseek-R1-Llama-70B | 汎用の指示と、その推論付きの応答のデータ。 | 249,922 | 17 | 1.62 GB | llama3.3 | B | 複製待ち |
| MegaScience/MegaScience | 科学の推論の問題と解答のデータ。 | 1,253,230 | 5 | 1.88 GB | cc-by-nc-sa-4.0 | C | 複製待ち |
| OpenMed/Medical-Reasoning-SFT-GPT-OSS-120B | 医療の質問と推論付きの応答からなる、合成の会話データ。 | 200,193 | 2 | 947.44 MB | apache-2.0 | B | 複製待ち |
| PrimeIntellect/SYNTHETIC-1 | 群衆のコンピュートで生成した、DeepSeek-R1 の推論の軌跡の生データ。 | 1,994,262 | 13 | 26.39 GB | apache-2.0 | B | 複製待ち |
| PrimeIntellect/SYNTHETIC-2 | 数学・コード・一般の推論の問題に、複数のモデルが答えた推論の軌跡を付けたデータ。 | 約 51,602 | 11 | 24.47 GB | apache-2.0 | B | 複製待ち |
| PursuitOfDataScience/MiniMax-M2.1-Mixture-of-Thoughts | Mixture-of-Thoughts の質問に MiniMax-M2.1 が答えた応答のデータ。 | 349,317 | 4 | 5.74 GB | apache-2.0 | B | 複製待ち |
| RJT1990/GeneralThoughtArchive | GeneralThought-430K とほぼ同じ内容の、複数の推論モデルの推論の軌跡のデータ。 | 430,788 | 14 | 1.80 GB | mit | B | 複製待ち |
| ServiceNow-AI/R1-Distill-SFT | Numina-math と Tulu の問題に、DeepSeek-R1-32b で蒸留した応答を付けた SFT 用のデータ。 | 1,850,809 | 7〜8 | 11.68 GB | cc-by-nc-sa-4.0 | C | 複製待ち |
| Skywork/Skywork-OR1-RL-Data | Skywork-OR1 の強化学習に使われた、検証可能な数学とコードの問題のデータ。 | 119,112 | 5 | 823.11 MB | D | 複製待ち | |
| TIGER-Lab/WebInstruct-verified | 物理・化学・金融・人文学などにまたがる、答えの検証できる質問のデータ。 | 461,569 | 6 | 87.76 MB | apache-2.0 | B | 複製待ち |
| a-m-team/AM-DeepSeek-R1-Distilled-1.4M | 中国語と英語の、推論モデルの応答を集めた大規模なデータ。 | 39.62 GB | cc-by-nc-4.0 | C | 複製待ち | ||
| a-m-team/AM-Qwen3-Distilled | Qwen3-235B-A22B を教師モデルとした推論の蒸留データ。 | 49.69 GB | C | 複製待ち | |||
| a-m-team/AM-Thinking-v1-Distilled | 数学・コード・一般チャットなどにまたがる推論データ。 | 47.83 GB | D | 複製待ち | |||
| allenai/Dolci-Think-RL-7B | Olmo 3 7B Think の強化学習に使われた、数学・コード・正確な指示追従・一般の会話のプロンプトのデータ。 | 102,014 | 21 | 1.89 GB | D | 複製待ち | |
| allenai/Dolci-Think-SFT-7B | Olmo 3 7B Think の SFT に使われた、指示追従・数学・コード・一般会話などの混合データ。 | 2,268,178 | 3 | 36.14 GB | B | 複製待ち | |
| bespokelabs/Bespoke-Stratos-17k | Bespoke-Stratos-7B と 32B の学習に使われた、DeepSeek-R1 の推論の会話データ。 | 16,710 | 2 | 126.17 MB | apache-2.0 | B | 複製待ち |
| cognitivecomputations/dolphin-r1 | DeepSeek-R1 と Gemini 2.0 Flash Thinking の推論サンプルに、一般の対話を加えた Apache-2.0 のデータ。 | 814,334 | 4〜5 | 8.86 GB | apache-2.0 | B | 複製待ち |
| facebook/natural_reasoning | 汎用の推論の問題を集めたデータ。 | 1,145,824 | 3 | 4.20 GB | cc-by-nc-4.0 | C | 複製待ち |
| ianncity/KIMI-K2.5-1000000x | KIMI-K2.5 の high の推論から蒸留した、コード・科学・数学などの推論トレースのデータ。 | 約 733,405 | 1 | 19.67 GB | apache-2.0 | B | 複製待ち |
| llm-jp/llm-jp-4-thinking-sft-data | 日本語を含む複数のデータソースから抽出したプロンプトに、gpt-oss-120b が推論と応答を付けた SFT 用のデータ。 | 3,199,986 | 2 | 17.83 GB | B | 複製待ち | |
| marin-community/open-thoughts-4-11k-math-qwen3-235b-a22b-agreed-answers | 数学の問題に Qwen3-235B-A22B が答えた推論のデータ。 | 10,953 | 8 | 337.08 MB | apache-2.0 | B | 複製待ち |
| marin-community/open-thoughts-4-30k-math-qwen3-32b-annotated-32768-tokens-n8-reformatted-selfconsistency | 数学の問題に Qwen3-32B が答えた推論付きの応答のデータ。 | 154,407 | 11 | 2.46 GB | D | 複製待ち | |
| open-r1/Mixture-of-Thoughts | 数学・コード・科学の問題に対する、R1 の検証済みの推論の軌跡を集めたデータ。 | 698,634 | 3 | 6.07 GB | D | 複製待ち | |
| open-r1/OpenR1-Math-220k | NuminaMath 1.5 の数学の問題 22 万件に、DeepSeek R1 が生成した推論付きの解答を付けたデータ。 | 450,258 | 14 | 12.65 GB | apache-2.0 | B | 複製待ち |
| open-thoughts/OpenThoughts-114k | 数学・科学・コード・パズルを対象にした、約 11 万件の合成の推論データ。 | 227,914 | 2〜8 | 3.55 GB | apache-2.0 | B | 複製待ち |
| open-thoughts/OpenThoughts3-1.2M | 数学・コード・科学の問題に、推論の軌跡を付けた 120 万件のデータ。 | 1,200,000 | 4 | 28.19 GB | apache-2.0 | B | 複製待ち |
| qihoo360/Light-R1-SFTData | 数学の問題と推論の会話からなる SFT 用のデータで、Light-R1-32B の 2 段階の学習のうち stage1 と stage2 にあたる。 | 79,439 | 1 | 1.53 GB | apache-2.0 | B | 複製待ち |
ドメイン別のオントロジー・分類体系・シソーラス
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| EuropeanParliament/EuroVoc | EU の文書に EuroVoc の分類ラベルを付けたデータで、大半は EU の言語で書かれている。 | 5,937,976 | 8 | 36.44 GB | eupl-1.2 | B | 複製待ち |
| Graunt/naics-2022-codes | 2022 年の米国版の北米産業分類体系（NAICS）の全コードを収めたデータ。 | 2,925 | 2〜9 | 259.34 KB | cc0-1.0 | B | 複製待ち |
ニュースの出来事・類似・重要度・時間のラベル付きデータセット
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| FinanceMTEB/FLS | 10-K（年次報告書）の文に整数のラベルを付けたデータで、ニュース記事の文体ではない。 | 3,600 | 3 | 404.76 KB | D | 複製済み | |
| compling/event_factuality | 文中の述語が実際に起きたかどうかを true・false の二値で付けたデータ。 | 25,156 | 7 | 1.03 MB | C | 複製済み | |
| google-research-datasets/xsum_factuality | XSum（BBC の記事を 1 文に要約したデータセット）の要約に、事実性と忠実性（ハルシネーション）を人手で注釈したデータ。 | 16,782 | 5〜7 | 16.39 KB | cc-by-4.0 | A | 複製済み |
| liaad/newspop | economy、microsoft、obama、palestine の 4 話題に関する、ニュース記事の SNS 上の共有数のデータ。 | 93,239 | 9 | 11.02 KB | cc-by-4.0 | A | 複製済み |
| nickmuchi/trade-the-event-finance | 記事の見出しと本文のデータ。 | 303,893 | 2 | 823.26 MB | D | 複製済み | |
| Awesome075/WCEP-10_parquet | Wikipedia Current Events Portal の出来事の要約と、それに関連するニュース記事のクラスタを組にした、複数文書要約のデータ。 | 10,200 | 2 | 116.81 MB | cc-by-sa-4.0 | D | 複製待ち |
| HYL/NASDAQ-News-Multi-LLM-Scores | FNSPID と同じ金融ニュース記事を、11 種の LLM で採点した感情とリスクのスコアのデータ。 | 508,704 | 66 | 1.03 GB | cc-by-nc-4.0 | C | 複製待ち |
| NOSIBLE/financial-sentiment | 金融関連のクエリで検索したニュースの断片に、企業への金融的な影響から見た感情（positive・neutral・negative）を付けたデータ。 | 100,000 | 4 | 26.88 MB | odc-by | A | 複製待ち |
| NOSIBLE/prediction | 金融関連のクエリで検索したニュース文の断片に、予測・見積もり・見通しを含むかどうかの二値のラベルを付けたデータ。 | 100,000 | 4 | 26.88 MB | odc-by | A | 複製待ち |
| Recommenders/MIND | Microsoft News の英語ニュース記事と、ユーザーの行動ログを集めた、ニュース推薦の研究用データ。 | 1.89 GB | C | 複製待ち | |||
| Salesforce/summedits | 要約の編集が元の文書と事実として整合するかを見分けるための、SummEdits のベンチマーク。 | 6,348 | 7 | 28.64 MB | cc-by-4.0 | A | 複製待ち |
| SelmaNajih001/FinancialClassification | 特定の日付に起きたイベントと銘柄名、対応する株価の変化率を集めたデータ。 | 14,388 | 4 | 641.26 KB | cc-by-4.0 | A | 複製待ち |
| Zihan1004/FNSPID | 時系列予測の研究用に集めた金融ニュース記事のデータセット。 | 29.55 GB | C | 複製待ち | |||
| ahmeshaf/ecb_plus_ed | Event Coref Bank Plus（ECB+）のニュース文に、出来事の共参照（同じ出来事を指す表現の対応）の注釈を付けたデータ。 | 1,766 | 4 | 462.03 KB | mit | B | 複製待ち |
| alexfabbri/multi_news | newser.com のニュース記事と、それを要約した編集者の文の組を集めたもの。 | 56,216 | 2 | 756.80 MB | other | C | 複製待ち |
| fkdosilovic/docee-event-classification | 文書ごとの出来事の種類を分類するための、DocEE のデータ。 | 27,485 | 5 | 101.17 MB | mit | B | 複製待ち |
| hugosousa/TimeQA | Wikipedia の人物経歴をもとにした質問応答のデータ（TimeQA）。 | 41,172 | 5 | 430.62 MB | bsd-3-clause-clear | A | 複製待ち |
| lytang/C2D-and-D2C-MiniCheck | 文書に基づく LLM の事実確認（MiniCheck）のモデルを学習させるために作った、合成の主張と文書の組のデータ。 | 14,395 | 3 | 2.29 MB | mit | A | 複製待ち |
| mneb/maven | 英語版 Wikipedia の文書から取ったイベント検出のデータ。 | 40,473 | 3 | 19.10 MB | D | 複製待ち | |
| mtc/factcc_annotated_eval_data | 主張（claim）と本文（text）の組に label を付けたデータ。 |
1,434 | 5 | 1.19 MB | D | 複製待ち | |
| newsmediabias/NELA-GT_GPT-Labels_Dataset | NELA-GT の名前を持つデータに、GPT-4 でラベルを付けたもの。 | 20.18 MB | D | 複製待ち | |||
| sergioburdisso/news_media_bias_and_factuality | ニュース媒体のドメイン名に、政治的な偏り（left・left-center・neutral・right-center・right の 5 段階）と事実報道（low・mixed・high）のラベルを付けたデータ。 | 3,920 | 3 | 135.86 KB | apache-2.0 | A | 複製待ち |
| tasksource/doc-nli | 文書を前提として、仮説との関係を判定する文書レベルの自然言語推論（NLI）のデータ。 | 1,315,851 | 3 | 3.71 GB | bsd | D | 複製待ち |
バイサイド判断の模倣・金融/政治/SNS 補足・Laya/Jev 系論文
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| HenryJ12/InvestorLastExam | 金融の分析・予測の課題 86 件のデータ。 | 1,558 | 15〜23 | 42.89 MB | D | 複製待ち | |
| Linq-AI-Research/FinDER | 実世界の 10-K 報告書と、業界の専門家が投稿した曖昧な金融の質問から作った、検索拡張生成（RAG）を評価するためのデータ。 | 5,703 | 7 | 155.56 MB | cc-by-nc-4.0 | C | 複製待ち |
| RogoAI/big-finance-benchmark | 金融の調査タスクで、エージェントの作業の過程を採点するベンチマーク BigFinanceBench の公開部分集合のデータ。 | 50 | 7 | 264.98 MB | cc-by-4.0 | C | 複製待ち |
| pszemraj/multi_fc | 英語の事実確認サイトで検証された主張に、人間の専門のジャーナリストが真偽のラベルを付けたデータ。 | 34,842 | 13 | 93.40 MB | other | D | 複製待ち |
| samaya-ai/FrontierFinance | 投資のワークフロー全体で AI エージェントの性能を測るための、専門家が作成した 220 件のクエリを集めたもの。 | 4.86 MB | cc-by-4.0 | B | 複製待ち |
フロンティアのクローズドモデル（OpenAI・Anthropic・Google・xAI）の推論ログ・思考ログ・出力に付いたデータ
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| openai/coval | 価値観に配慮したモデルの振る舞いについての、クラウドワーカーの選好とルーブリック（評価基準）のデータ。 | 20,474 | 3〜11 | 73.01 MB | D | 複製済み | |
| openai/frontierscience | 専門家レベルの科学のタスクで AI の能力を評価するためのベンチマーク FrontierScience のデータ。 | 160 | 4 | 517.73 KB | apache-2.0 | B | 複製済み |
| simplescaling/s1K | 難しい問題 1,000 件に推論の過程と解答を付けたデータ。 | 1,000 | 8 | 6.91 MB | apache-2.0 | B | 複製済み |
| Anthropic/AnthropicInterviewer | AI を使って行った定性的な調査インタビューの記録のデータ。 | 1,250 | 2 | 11.44 MB | mit | B | 複製待ち |
| Anthropic/discrim-eval | 70 の仮想的な意思決定の場面で、人物の年齢・性別・人種を変えたときに言語モデルの判断に偏りが出るかを測るためのデータ。 | 18,900 | 6 | 16.52 MB | cc-by-4.0 | B | 複製待ち |
| Anthropic/model-written-evals | 対話モデルの振る舞いを試すための、言語モデル自身が書いた評価問題のデータ。 | 3,252 | 3 | 74.71 MB | cc-by-4.0 | B | 複製待ち |
| Crownelius/Opus-4.6-Reasoning-3300x | Claude Opus 4.6 が問題を解いた推論と解答の組のデータで、拒否や空の応答などを自動で除いたもの。 | 2,160 | 8 | 4.03 MB | apache-2.0 | B | 複製待ち |
| FreedomIntelligence/medical-o1-reasoning-SFT | 医療の推論問題に対する推論過程と回答を GPT-4o で作った SFT 用のデータ。 | 90,120 | 3 | 247.48 MB | apache-2.0 | B | 複製待ち |
| Jackrong/Claude-opus-4.7-TraceInversion-5000x | Claude 4.7 の圧縮された推論の部分から、思考の過程を再構成して作ったとされる、英語・中国語・韓国語など多言語の推論データ。 | 4,761 | 9 | 96.50 MB | apache-2.0 | B | 複製待ち |
| Manusagents/GPT-5.5-Gemini-3.1-Pro-Grok-4-Claude-Fable-5-Mythos-5-Qwen-3.7-Max-and-more-Distillation-Dataset | 73 の上流のデータセットと GitHub のリポジトリから、指示と応答の組を集めたもの。 | 約 18,511,769 | 5 | 11.58 GB | mit | B | 複製待ち |
| Open-Orca/OpenOrca | FLAN Collection を拡張した指示と応答のデータ。 | 約 2,941,952 | 4 | 4.10 GB | mit | B | 複製待ち |
| Roman1111111/claude-opus-4.6-10000x | Claude Opus 4.6 で合成した、数学と論理パズルなどの問題の推論データ。 | 9,633 | 2 | 13.41 MB | mit | B | 複製待ち |
| Roman1111111/gpt-5.4-step-by-step-reasoning | 数学・コーディング・医学の推論問題と解答のデータ。 | 1,500 | 9 | 13.56 MB | mit | B | 複製待ち |
| TeichAI/Claude-Opus-4.6-Reasoning-887x | Claude Opus 4.6 に推論の努力量（reasoning effort）を high に設定して生成した、会話の推論データ。 | 886 | 1 | 13.37 MB | apache-2.0 | B | 複製待ち |
| TeichAI/gemini-3-pro-preview-high-reasoning-1000x | Gemini 3 Pro Preview に推論の深さ（reasoning depth）を high に設定して生成した、会話の推論データ。 | 1,018 | 1 | 7.89 MB | B | 複製待ち | |
| angrygiraffe/claude-opus-4.6-4.7-reasoning-8.7k | Claude Opus 4.6 と 4.7 に合成させた、28 カテゴリの指示応答とロールプレイの会話のデータ。 | 38,504 | 3 | 260.30 MB | apache-2.0 | B | 複製待ち |
| google/FACTS-grounding-public | 長い文書に根拠づけた、事実として正確な回答を評価する FACTS Grounding ベンチマークの、人手で作成された公開例のデータ。 | 868 | 2〜4 | 19.74 MB | cc-by-4.0 | B | 複製待ち |
| google/reveal | 推論連鎖の各ステップを検証する手法を評価するためのベンチマーク Reveal のデータ。 | 18.12 MB | cc-by-nd-4.0 | C | 複製待ち | ||
| google/trueteacher | CNN/DailyMail の記事に対する要約の事実一貫性を、機械でラベル付けした合成データ。 | 1,383,462 | 4 | 333.97 MB | cc-by-nc-4.0 | C | 複製待ち |
| openai/healthbench | HealthBench の評価のデータで、参照実装は OpenAI の simple-evals リポジトリにあるとカードに書かれている。 | 245.99 MB | mit | B | 複製待ち | ||
| openai/ih-challenge | 指示の階層（instruction hierarchy）を強化学習で改善するための、攻撃と防御の会話の学習データ。 | 27,570 | 4 | 156.77 MB | apache-2.0 | B | 複製待ち |
| simplescaling/s1K-claude-3-7-sonnet | Claude 3.7 Sonnet と Gemini の思考の軌跡と解答を並べたデータ。 | 1,000 | 9 | 19.14 MB | mit | B | 複製待ち |
| snorkelai/agent-finance-reasoning | 金融の質問に企業の 10-K を使って答える、AI エージェントの実行記録（トレース）のデータ。 | 357 | 12 | 3.20 MB | apache-2.0 | B | 複製待ち |
マクロ経済・金融政策・予測（forecasting）・較正のラベル付きテキストデータセット
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| 2084Collective/kalshibench-v2 | 予測質問（question）と正解（ground_truth）を組にしたデータ。 |
1,531 | 9 | 205.72 KB | D | 複製済み | |
| APProjects/us-warn-act-layoffs-notices-daily | 48 州の労働省ポータルから毎日集めた、WARN Act に基づく解雇の事前通知のデータ。 | 61,431 | 11 | 9.41 MB | cc-by-4.0 | D | 複製済み |
| FinzData/forecast-bench | 33 の米国の ETF・株式・暗号資産に関する 758 件の予測質問と答えを集めたデータ。 | 272.51 KB | cc-by-4.0 | A | 複製済み | ||
| FinzData/macro-inflation | 米国政府の情報源から得たインフレ系列を、pandas で扱える形に整えたデータ。 | 11,530 | 3〜845 | 1.23 MB | other | D | 複製済み |
| MAPAi/Inflation_News_Sentiment_Analysis | 要約文（summary）と整数のラベル（label）の 2 列からなるデータ。 |
5,195 | 2 | 1.41 MB | mit | A | 複製済み |
| ai-law-society-lab/manifold_markets | 解決の結果（resolved_to）と解決日（resolution_date）を ID ごとに並べたデータ。 |
19,644 | 3 | 40.70 MB | D | 複製済み | |
| futurex-ai/Futurex-Past | 未来の出来事を予測させる FutureX ベンチマークの過去の質問と、その正解のデータ。 | 2,036 | 8 | 485.38 KB | apache-2.0 | A | 複製済み |
| incrediblecrab/us-federal-reserve-beige-book | 1970 年 5 月の初版から最新版までの、連邦準備制度のベージュブック（地区別の経済状況の要約）の全版を集めたデータ。 | 6,384 | 10 | 10.75 MB | other | D | 複製済み |
| nikhilchandak/metaculus-binary | 予測質問と解決結果を組にしたデータ。 | 4,265 | 13 | 3.54 MB | mit | A | 複製済み |
| yinzhu-quan/econ_logic_qa | 経済学・ビジネス・サプライチェーン管理における逐次推論（出来事の時間と論理の順序）を LLM に問う、選択式の質問のデータ。 | 650 | 6 | 381.27 KB | cc-by-nc-sa-4.0 | C | 複製済み |
| AlgoveraAI/autocast | Metaculus の予測質問と解決結果、群衆の予測の時系列を集めた Autocast のデータ。 | 192.11 MB | D | 複製待ち | |||
| EagleWHLiang/FinSen | 2007 年から 2023 年までの、197 か国の経済・金融ニュース記事を株価データと統合したデータ。 | 34.15 MB | mit | A | 複製待ち | ||
| Ehsanrs2/Forex_Factory_Calendar | Forex Factory の経済カレンダーのイベントを、2007 年 1 月 1 日から 2025 年 4 月 7 日まで集めた過去のスナップショットのデータ。 | 83,427 | 8 | 68.24 MB | mit | A | 複製待ち |
| PolyBench/PolyBench | 多声の音声（複数の音が重なるクリップ）について推論を問う、選択式の質問応答のデータ。 | 3,640 | 6 | 6.62 GB | cc-by-4.0 | C | 複製待ち |
| SuperAGI/llm-vs-prediction-markets | 8 つの言語モデルに、予測市場の質問が Yes で解決する確率を市場価格を見せずに尋ね、同じ時点の市場価格と比べたデータ。 | 60.19 MB | cc-by-4.0, cc-by-nc-sa-4.0 | C | 複製待ち | ||
| YuehHanChen/forecasting_raw | 予測の質問を集めたデータで、カードには Halawi ら（2024）の論文 "Approaching Human-Level Forecasting with Language Models" の引用文献だけが書かれている。 | 50,343 | 13 | 863.71 MB | apache-2.0 | A | 複製待ち |
| ZipLime/fomc-events | FOMC（連邦公開市場委員会）が公表したものを、公表された時刻とともに整理したデータ。 | 7,730 | 12〜30 | 2.51 MB | apache-2.0 | A | 複製待ち |
| aufklarer/central-bank-communications | 中央銀行の政策文書（議事録・声明・記者会見など）の文に、センチメントとトピックのラベルを付けたデータ。 | 283,095 | 8〜17 | 560.45 MB | cc-by-4.0 | A | 複製待ち |
| fliarbi/inflation-news-2019-2026 | 2019 年 1 月から 2026 年 7 月までのインフレに関するニュース記事のデータ。 | 62,137 | 16 | 19.34 MB | cc-by-nc-4.0 | C | 複製待ち |
| gtfintechlab/WCB_380k_sentences | 25 の中央銀行の議事録（またはそれに相当する文書）からスクレイピングで集めた、文単位のデータ。 | 380,200 | 10 | 31.21 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| gtfintechlab/all_annotated_sentences_25000 | 25 の中央銀行の議事録から集めた 25,000 文に、金融政策のスタンス・時制・確実性のラベルを付けたデータ。 | 75,000 | 7 | 8.07 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| lwaekfjlk/prediction-market-news | 予測の質問に記事を紐づけたデータ。 | 2.25 GB | D | 複製待ち | |||
| newsdata01/crude-oil-and-petroleum-market-news-dataset | NewsData.io の API で、2026 年 1 月 1 日から 8 月 27 日までに集めた、原油・石油市場の英語のニュース記事のデータ。 | 53.60 MB | mit | A | 複製待ち | ||
| prophetarena/Prophet-Arena-Subset-3000 | Prophet Arena が Kalshi の解決済みイベント 3,000 件から作った予測のデータ。 | 3,000 | 12 | 26.02 MB | mit | A | 複製待ち |
| samchain/bis_central_bank_speeches | 1997 年から 2025 年までの中央銀行関係者の講演を、BIS（国際決済銀行）のウェブサイトから自動で取得して集めたデータ。 | 19,376 | 5 | 179.47 MB | apache-2.0 | D | 複製待ち |
マルチタスク分類集・弱ラベル・合成判断データ・品質注釈
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| MoritzLaurer/synthetic_zeroshot_mixtral_v0.1 | Mixtral で生成したテキストと仮説の組に、0 か 1 のラベルを付けた合成データ。 | 2,627,036 | 3〜10 | 478.19 MB | apache-2.0 | B | 複製済み |
| allenai/ai2_arc | 小学校レベルの本物の理科の多肢選択式問題を集めたもの。 | 7,787 | 4 | 1.22 MB | cc-by-sa-4.0 | D | 複製済み |
| baber/agieval | 中国の高考、米国の SAT、法科大学院の入学試験、弁護士資格試験などの公式の試験問題を集めたもの。 | 20.34 KB | mit | B | 複製済み | ||
| knowledgator/gliclass-v2.0 | テキストごとに候補ラベルと正解ラベルを付けた分類データ。 | 1,196,218 | 3 | 697.89 MB | apache-2.0 | A | 複製済み |
| maveriq/bigbenchhard | BIG-Bench のうち、現在の言語モデルにとって特に難しいとされるタスクを集めたもの。 | 6,511 | 2 | 13.83 KB | mit | A | 複製済み |
| tasksource/procedural-typed-decisions | 手続き的に生成した意思決定の問題のデータ。 | 792,000 | 6〜22 | 456.87 MB | apache-2.0 | B | 複製済み |
| HuggingFaceFW/fineweb-edu-llama3-annotations | FineWeb の Web ページに、教育的な価値の点数を付けたアノテーションのデータ。 | 467,424 | 4 | 1.59 GB | odc-by | A | 複製待ち |
| Muennighoff/natural-instructions | Super-Natural-Instructions を前処理した版のデータ。 | 4.29 GB | B | 複製待ち | |||
| Praveenrajus/jev-bench | 人間がラベルを付けた既存のデータを、System One の質問の形（choice、score、noul）に組み直したデータ。 | 166,054 | 9 | 2.95 GB | other | B | 複製待ち |
| RuyuanWan/Dynasent_Disagreement | DynaSent の感情分析の文に、注釈者の意見の割れ（disagreement）を付けたデータ。 | 101,659 | 3 | 9.26 MB | C | 複製待ち | |
| SargeDev/jev-distill-corpus-v3 | TypeSafe System One の形式で、確率の分布を持つ型付きの判断のデータ。 | 740,957 | 9 | 490 MB | apache-2.0 | A | 複製待ち |
| TIGER-Lab/MMLU-Pro | さまざまな分野の、選択肢を多く持つ難度の高い選択式問題を集めたもの。 | 12,102 | 8 | 4.21 MB | mit | A | 複製待ち |
| WebOrganizer/TopicAnnotations-Llama-3.1-8B | Web ページの本文に、Llama-3.1-8B がトピックのラベルを付けたデータ。 | 1,000,000 | 10 | 3 GB | D | 複製待ち | |
| ZefanCai/Open-Jev | 大半が合成のタスクと参照ラベルからなる型付きの判断のデータ。 | 520,199 | 12 | 86.77 MB | cc0-1.0 | D | 複製待ち |
| ZefanCai/Open-Jev-v1.1 | Open-Jev の公開版にあたる、型付きの判断のデータ。 | 326,619 | 12 | 89.76 MB | other | D | 複製待ち |
| allenai/dolma | ウェブ、学術論文、コード、書籍、百科事典的な資料を組み合わせた、事前学習用のテキストのデータ。 | 1.39 MB | odc-by | A | 複製待ち | ||
| allenai/metaicl-data | Meta の MetaICL からダウンロードして処理した、タスクごとの入出力のデータ。 | 118,906 | 4 | 4.58 GB | cc-by-nc-4.0 | C | 複製待ち |
| anthonym21/rlcd-decision-v1 | 文脈に対する型付きの判断の質問を集めたもので、宣言された選択肢上の較正された確率で答えるモデルを学習・評価するために作られた。 | 80,000 | 8 | 43.70 MB | cc-by-4.0 | B | 複製待ち |
| azox-ai/synthetic-typed-decisions | tasksource-jev-typed-decisions の full テキスト config を、Duyet と Unsloth の Decision 形式に変換した型付きの判断のデータ。 | 2,579,959 | 19 | 1.38 GB | other | C | 複製待ち |
| caiovicentino1/eikos-decisions | 金融、トレーディング、貿易金融の型付きの判断を集めた学習用データ。 | 24,763 | 11〜23 | 158.95 MB | cc-by-4.0 | B | 複製待ち |
| carlosxiang/JEVal | 一般的な意思決定モデルを評価するための、英語と中国語の判断の評価例を集めたもの。 | 11,257 | 7 | 35.56 MB | D | 複製待ち | |
| felhen-ai/ptbr-typed-decisions-bench | ブラジル・ポルトガル語のネイティブのテキストに対する、型付きの判断（選択と yes/no）の評価用データ。 | 39,295 | 5 | 205.25 MB | cc-by-4.0 | A | 複製待ち |
| hotchpotch/bekko-system-one-dataset-v0 | bekko-system-one-v0 モデルファミリーの学習用に作られた、共有状態に対する型付きの判断のデータ。 | 6,611,398 | 7 | 3.91 GB | C | 複製待ち | |
| jieyuz2/WRENCH | 多様な弱教師あり学習のタスクを集めたもの。 | 7.86 GB | apache-2.0 | B | 複製待ち | ||
| jylin001206/InnerJev-4B-Training-Data | SII-Decision-4B を学習させるための、型付きの判断の分布のターゲットを集めたもの。 | 36,832 | 14 | 68.59 MB | other | D | 複製待ち |
| m-lagnajit/calibrated-typed-decisions | 短い英語の文章に対する型付きの判断（多肢選択と yes/no）のデータ。 | 21,591 | 23 | 11.04 MB | cc-by-4.0 | A | 複製待ち |
| n4ze3m/typed-decisions-synth | 英語の型付きの判断（typed decisions）を LLM で合成したデータ。 | 7,414 | 10 | 19.58 MB | mit | A | 複製待ち |
| sulabhkatiyar/typed-decisions-english-training-mix | 英語の型付きの判断（typed decisions）の訓練用データ。 | 11,245,975 | 7〜9 | 7.12 GB | other | D | 複製待ち |
| tasksource/icl-symbol-tuning-instruct | 分類タスクをシンボルチューニング（ラベルを任意の記号に置き換える）の形にした、文脈内学習のデータ。 | 483,541 | 4 | 727.07 MB | apache-2.0 | A | 複製待ち |
| tasksource/synthetic-typed-decisions | LLM が書いたメール、チャット、フォーラムの投稿、現場報告などの項目に、型付きの判断の質問を付けた合成データ。 | 8,916 | 10 | 15.87 MB | apache-2.0 | A | 複製待ち |
| tasksource/tasksource-instruct-v0 | 英語の分類、多肢選択、トークン分類のタスクを指示チューニング用の形にまとめたデータ。 | 7,659,999 | 5 | 3.12 GB | other | D | 複製待ち |
| tasksource/zero-shot-label-nli | tasksource の分類タスクを自然言語推論（NLI）の形に作り直した、ゼロショット分類でラベルを理解させるための学習用データ。 | 3,900,808 | 6 | 2.34 GB | other | D | 複製待ち |
| typesafeAI/evalsafe-invoice-processing | 請求書の処理（invoice processing）の判断を評価するための、テスト専用のデータ。 | 8,374 | 6〜12 | 16.09 MB | apache-2.0 | B | 複製待ち |
ルーティング / インテント / サポート・チケット・メール / 多ラベル構造化判断
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| PolyAI/banking77 | オンラインバンキングの問い合わせに、77 種類のインテントを付けた英語のデータ。 | 13,083 | 2 | 400.58 KB | cc-by-4.0 | D | 複製済み |
| aadilsayad/email-intent-classification | prompt の文と label の組からなる 1,000 行のデータで、台帳ではサポート・チケット・メール・レビュー系に分類され、サポート用途ではない可能性があると注記されている。 |
1,000 | 2 | 61.71 KB | D | 複製済み | |
| benayas/snips | SNIPS 2017 のミラー版で、text の文に category のラベルを付けたデータ。 |
14,484 | 2 | 417.37 KB | apache-2.0 | A | 複製済み |
| cgpotts/swda | 電話会話コーパス Switchboard-1 の発話に、対話行為のタグを付けたデータで、Switchboard Dialog Act Corpus（SwDA）と呼ばれる。 | 274,786 | 27 | 51.18 KB | cc-by-nc-sa-3.0 | C | 複製済み |
| elenigkove/Email_Intent_Classification | メールの文に意図のラベルを付けた、英語のデータ。 | 25 | 2 | 4.95 KB | D | 複製済み | |
| google-research-datasets/schema_guided_dstc8 | Dialogue Systems Technology Challenge 8（dstc8）の対話状態追跡のために作られた、マルチドメインのタスク指向の対話データ。 | 22,889 | 3〜4 | 32.85 KB | cc-by-sa-4.0 | B | 複製済み |
| google/jigsaw_unintended_bias | Kaggle の Jigsaw Unintended Bias in Toxicity Classification コンペティションの、コメントの毒性（toxicity）を予測するためのデータ。 | 1,999,514 | 44 | 18.45 KB | cc0-1.0 | A | 複製済み |
| routellm/gpt4_dataset | プロンプトに対する GPT-4 と Mixtral の応答と、Mixtral 側の数値の評点を並べたデータ。 | 119,101 | 5 | 316.52 MB | apache-2.0 | A | 複製済み |
| talby/spamassassin | SpamAssassin 公開メールコーパスのデータで、スパムフィルタの試験に使うためにプロジェクトのメンバーが選んだメールの集合である。 | 21,500 | 3 | 564.30 KB | unknown | D | 複製済み |
| tuetschek/atis | 発話に意図（intent）とスロット（slots）のラベルを付けたデータで、出典は LDC と調査メモにあるが再配布の条件は未確認。 |
5,871 | 4 | 996.78 KB | D | 複製済み | |
| ucirvine/sms_spam | 携帯電話の SMS のスパム研究のために集められたデータで、英語の実在のメッセージ 5,574 件に ham（スパムではない）かスパムかのラベルが付いている。 | 5,574 | 2 | 365.03 KB | unknown | D | 複製済み |
| ConvLab/multiwoz21 | MultiWOZ 2.1 を ConvLab の形式に変換した、英語のタスク指向の対話データ。 | 13.75 MB | apache-2.0 | A | 複製待ち | ||
| DeepPavlov/hwu64 | 発話にインテントのラベルを付けた、テキスト分類のデータセット。 | 10,158 | 2〜6 | 216.66 KB | B | 複製待ち | |
| OpenAssistant/oasst1 | 人が作成し人がアノテーションした、35 言語のアシスタント形式の会話コーパス OpenAssistant Conversations（OASST1）。 | 88,838 | 18 | 231.51 MB | apache-2.0 | A | 複製待ち |
| Salesforce/xlam-function-calling-60k | 関数呼び出し（function calling）の学習データ。 | 97.68 MB | cc-by-4.0 | B | 複製待ち | ||
| SetFit/enron_spam | Enron Spam Email Dataset の版で、メールの件名と本文に、スパムかハム（正当なメール）かのラベルを付けたデータ。 | 33,716 | 7 | 159.04 MB | D | 複製待ち | |
| Team-ACE/ToolACE | ToolACE という自動化されたパイプラインで生成した、関数呼び出し（ツール利用）の学習データ。 | 11,300 | 2 | 37.16 MB | apache-2.0 | B | 複製待ち |
| Tobi-Bueck/customer-support-tickets | メールで届いた顧客のサポート依頼と、担当者の回答を組にしたデータ。 | 61,765 | 16 | 53.13 MB | cc-by-nc-4.0 | C | 複製待ち |
| Yelp/yelp_review_full | Yelp のレビュー本文と、1 から 5 の星の評価を組にしたデータ。 | 700,000 | 2 | 322.96 MB | other | D | 複製待ち |
| armanc/pubmed-rct20k | 医学論文の要旨の各文にラベルを付けた、Pubmed-RCT の小さな 20K 版。 | 235,892 | 4 | 54.36 MB | D | 複製待ち | |
| bitext/Bitext-customer-support-llm-chatbot-training-dataset | カスタマーサービスの利用者の依頼文と、仮想アシスタントの回答例を組にしたデータ。 | 26,872 | 5 | 19.22 MB | cdla-sharing-1.0 | B | 複製待ち |
| bitext/Bitext-retail-banking-llm-chatbot-training-dataset | 小売銀行の利用者の依頼文と、仮想アシスタントの回答例を組にしたデータ。 | 25,545 | 5 | 33.41 MB | cdla-sharing-1.0 | B | 複製待ち |
| cardiffnlp/tweet_topic_multi | Twitter の投稿に話題のラベルを付けたデータで、話題は 19 種類ある。 | 42,864 | 5 | 6.39 MB | other | D | 複製待ち |
| ccdv/arxiv-classification | Arxiv の論文を 11 のカテゴリに分類するデータで、すべての文書が 4k トークンを超える長文である。 | 66,776 | 2 | 2.02 GB | D | 複製待ち | |
| clinc/clinc_oos | タスク指向の対話システムで、想定外（out-of-scope）の問い合わせを扱うためのインテント分類のデータ。 | 59,275 | 2 | 1.38 MB | cc-by-3.0 | D | 複製待ち |
| coastalcph/lex_glue | 法律文書を扱う既存の 7 種類のデータセットを束ねた、法律 NLP のベンチマーク。 | 236,714 | 2〜3 | 564 MB | cc-by-4.0 | D | 複製待ち |
| google-research-datasets/go_emotions | 英語の Reddit コメントに感情のラベルを付けたデータ。 | 265,488 | 3〜37 | 28.30 MB | apache-2.0 | A | 複製待ち |
| google/civil_comments | 英語のニュースサイトに掲載されたコメントに、毒性などのスコアを付けたデータ。 | 1,999,514 | 8 | 422.07 MB | cc0-1.0 | D | 複製待ち |
| gorilla-llm/Berkeley-Function-Calling-Leaderboard | Berkeley Function Calling Leaderboard の、関数呼び出しの能力を測る評価用のデータ。 | 11.72 MB | apache-2.0 | A | 複製待ち | ||
| librarian-bots/arxiv-metadata-snapshot | arXiv の論文のメタデータを写したデータで、Kaggle 上の Cornell University の arXiv データセットのメタデータ部分のミラーである。 | 3,224,635 | 14 | 2.70 GB | cc0-1.0 | B | 複製待ち |
| lmarena-ai/arena-human-preference-55k | Chatbot Arena での人間の選好（どちらの応答を好んだか）を集めたデータ。 | 57,477 | 9 | 184.18 MB | apache-2.0 | D | 複製待ち |
| lmsys/lmsys-chat-1m | 2023 年 4 月から 8 月にかけて、Vicuna のデモと Chatbot Arena の公開サイトで集められた、実際のユーザーと 25 の LLM の会話のデータ。 | 1,000,000 | 7 | 1.49 GB | D | 複製待ち | |
| lmsys/toxic-chat | Vicuna のオンラインデモから収集した 1 万件余りのユーザー入力に、人と AI が協働する枠組みで毒性とジェイルブレイクのアノテーションを付けたデータ。 | 20,330 | 7 | 60.92 MB | cc-by-nc-4.0 | C | 複製待ち |
| milistu/amazon-esci-data | 商品検索のクエリと商品の組に、関連性のラベル（完全一致、代替品、補完品、無関係）を付けたデータ。 | 4,566,864 | 4〜10 | 1.24 GB | apache-2.0 | D | 複製待ち |
| roskoN/dailydialog | 人手でラベル付けされた多ターンの対話データ DailyDialog の、元の配布に基づくミラー版。 | 13,118 | 4 | 2.30 MB | C | 複製待ち | |
| sealuzh/app_reviews | F-Droid のオープンソースの Android アプリに対するユーザーのレビューのデータ。 | 288,065 | 4 | 13.21 MB | unknown | D | 複製待ち |
| theatticusproject/cuad-qa | 510 件の商業用法律契約書に、弁護士が探す重要な条項 41 種類を手作業で注釈し、SQuAD 形式の質問応答に整えたデータ。 | 26,632 | 5 | 21.88 KB | cc-by-4.0 | B | 複製待ち |
| withmartian/routerbench | 複数の LLM のルーティング手法を学習させ評価するためのデータ。 | 1.47 GB | D | 複製待ち |
企業開示・法務規制・ESG/気候・企業イベントのラベル付きテキストデータセット
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| CarolLiu999/ML-ESG-3-Train | ESG に関するラベル付きの文章を対象にした共有タスク（ML-ESG）のデータを、instruction 形式に整えたもの。 | 2,450 | 3 | 6.77 MB | apache-2.0 | B | 複製済み |
| ESGBERT/environmental_2k | 調査メモで ESG・気候開示のラベル付きデータの候補として挙がっている文のデータ。 | 2,000 | 3 | 363.95 KB | apache-2.0 | D | 複製済み |
| Rain1998/Analyst-Report-Bias | 証券アナリストのレポートの本文と格付けを集めたデータ。 | 8,868 | 18 | 188.59 MB | apache-2.0 | A | 複製済み |
| Tizzzzy/FinCall-Surprise | 決算説明会を扱う分類のデータとして台帳に挙がるが、列と行数はビューアで読めない形式のため確認できていない。 | 2.46 KB | D | 複製済み | |||
| ZipLime/sec-8k-events | 2004 年以降の SEC の Form 8-K を、項目（item）ごとのイベントに分けて集めたデータ。 | 6,446,536 | 11〜40 | 1.31 GB | apache-2.0 | B | 複製済み |
| climatebert/climate_commitments_actions | 気候関連の段落に、気候変動へのコミットメントと行動に触れているかどうかの二値ラベルを付けたデータ。 | 1,320 | 2 | 380.17 KB | cc-by-nc-sa-4.0 | C | 複製済み |
| climatebert/climate_detection | 企業の年次報告書とサステナビリティ報告書から抜いた英語の段落が、気候に関係するかどうかを分類するためのデータ。 | 1,700 | 2 | 498.65 KB | cc-by-nc-sa-4.0 | C | 複製済み |
| climatebert/climate_sentiment | 企業の年次報告書とサステナビリティ報告書から抜いた気候関連の段落に、リスク・中立・機会の三値のセンチメントを付けた英語のデータ。 | 1,320 | 2 | 380.39 KB | cc-by-nc-sa-4.0 | C | 複製済み |
| climatebert/climate_specificity | 企業の年次報告書とサステナビリティ報告書から抜いた英語の気候関連の段落について、具体的かどうかを分類するためのデータ。 | 1,320 | 2 | 380.13 KB | cc-by-nc-sa-4.0 | C | 複製済み |
| climatebert/environmental_claims | 上場企業が行った環境に関する主張かどうかを判定するための、英語の文のデータ。 | 2,647 | 2 | 278.80 KB | cc-by-nc-sa-4.0 | C | 複製済み |
| climatebert/netzero_reduction_data | 調査メモで、気候・ESG・サステナビリティの言明の候補として挙がっている文のデータ。 | 3,441 | 3 | 855.23 KB | apache-2.0 | A | 複製済み |
| climatebert/tcfd_recommendations | 企業の開示文書の段落に、TCFD の推奨カテゴリ（governance・strategy・risk・metrics）か、気候関連でない（none）かの五値のラベルを付けたデータ。 | 1,700 | 2 | 499.54 KB | cc-by-nc-sa-4.0 | C | 複製済み |
| emperor-mew/sec-litigation-releases | SEC が 1996 年以降に提起した民事執行の訴訟リリースの一覧のデータ。 | 6.42 KB | other | A | 複製済み | ||
| mrSoul7766/ECTSum | 本文とその要約の組を集めた、要約を目的とした資料。 | 2,176 | 2 | 39.74 MB | D | 複製済み | |
| rexarski/TCFD_disclosure | TCFD が開示の例として挙げた報告書から抜いた文に、TCFD の 11 のカテゴリのいずれかを付けたデータ。 | 593 | 3 | 64.72 KB | mit | A | 複製済み |
| tensorust/sec-going-concern-sample | 上場企業のうち、直近の 10-K か 10-Q でゴーイング・コンサーン（継続企業の前提に関する重要な疑義）を記載した企業のデータ。 | 73 | 3〜26 | 17.58 KB | other | D | 複製済み |
| zcyeee/sp500-earnings-call-turns | 2005 年から 2025 年 5 月までの S&P 500 構成企業の決算説明会の書き起こしを、発言のターン、発言者の役割、SEC の CIK と合わせて集めたデータ。 | 33,362 | 15 | 1.19 GB | mit | A | 複製済み |
| ChatCRG/FederalRegister2020-2025 | 台帳は米国の連邦官報（Federal Register）の文書に関するデータとして分類しているが、API と README からは中身を確認できなかった。 | 7.63 GB | pddl | D | 複製待ち | ||
| FutureMa/EvasionBench | 決算説明会の質疑応答で、経営陣の回答が質問に直接答えているかを分類するベンチマーク用のデータ。 | 16,726 | 6 | 12.10 MB | apache-2.0 | A | 複製待ち |
| JanosAudran/financial-reports-sec | 1993〜2020 年に SEC EDGAR へ提出された米国上場企業の年次報告書（10-K）の文を集めた英語のデータ。 | 約 21,013,735 | 8〜19 | 13.41 GB | apache-2.0 | A | 複製待ち |
| NOSIBLE/forward-looking | 金融関連の検索で集めたウェブ記事の断片を、将来に関する記述（forward）か否かで分類したデータ。 | 100,000 | 4 | 26.88 MB | odc-by | A | 複製待ち |
| PenumbraAI/sec-edgar-filing-risks | S&P 500 のうち 50 社の直近の Form 10-K から抜いた、リスク要因の開示のデータ。 | 2,683 | 9 | 4.77 MB | cc-by-4.0 | A | 複製待ち |
| WaguyMZ/Financial_statements_fraud_dataset | 財務諸表の不正を、教師あり異常検知で見つけるための企業の四半期報告のデータ。 | 360.67 MB | gpl | B | 複製待ち | ||
| coastalcph/multi_eurlex | EU の法令（EUR-Lex）の本文を 23 の公用語で集め、EUROVOC の概念でラベルを付けたデータ。 | 1,109,739 | 3 | 2.77 GB | cc-by-4.0 | A | 複製待ち |
| eci-io/climate-evaluation | ClimateGPT の論文で使われた、気候評価のためのデータ。 | 764,656 | 3〜5 | 545.39 MB | D | 複製待ち | |
| eloukas/edgar-corpus | 1993〜2020 年に SEC EDGAR へ提出された米国上場企業の年次報告書（10-K）の本文を、項目（section_1 など）ごとに分けて集めた英語のコーパス。 | 661,125 | 23 | 40.70 GB | apache-2.0 | A | 複製待ち |
| gretelai/gretel-financial-risk-analysis-v1 | SEC 提出書類（10-K、10-Q、8-K）の 2023〜2024 年分で差分プライバシー（ε = 8）により微調整した Phi-3-mini が生成した、金融リスク分析の合成テキストのデータ。 | 1,034 | 6 | 2.74 MB | apache-2.0 | A | 複製待ち |
| gtfintechlab/SubjECTive-QA | 決算説明会の質問と回答の組に、Assertive、Cautious、Optimistic、Specific、Clear、Relevant の 6 つの観点で点数を付けたデータ。 | 8,241 | 14 | 5.17 MB | cc-by-4.0 | B | 複製待ち |
| iceberg-nlp/climabench | 気候報告書から気候に関する質問票へ答えることを扱った論文（Spokoyny ら, 2023）に結びつくデータ一式。 | 4.51 GB | D | 複製待ち | |||
| jlh-ibm/earnings_call | 2016〜2020 年の NASDAQ 関連の決算説明会の書き起こしと、株価およびセクター指数の値を集めたデータ。 | 21,887 | 3〜8 | 21.07 MB | cc0-1.0 | A | 複製待ち |
| makedelta/analyst_report_raw | アナリストのレポートに関するデータで、本文（content、pdf_content）、要約（summary1、summary2）、感情値（sentiment）などの列がある。 |
5,847 | 8 | 77.73 MB | D | 複製待ち | |
| nguha/legalbench | 英語の法的推論を評価する LegalBench のタスク集のデータ。 | 91,750 | 3〜8 | 82.48 MB | cc-by-4.0 | A | 複製待ち |
| pile-of-law/pile-of-law | 米国・欧州・カナダなどの法律と行政の文書を大きく集めた、法律分野の言語モデルの事前学習用コーパス。 | 44.14 GB | cc-by-nc-sa-4.0 | C | 複製待ち | ||
| williamTLmiller/nhtsa-vehicle-recalls-complaints-defects | NHTSA の車両のリコール、所有者からの苦情、欠陥調査、製造者のサービス・ブレティンを、車両と部品で結び付けたデータの小さなサンプル。 | 16,152 | 6〜38 | 3.19 MB | cc-by-nc-4.0 | C | 複製待ち |
安全性・モデレーション / Judge・報酬・品質スコア / 順序スコア系
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| SALT-NLP/ImplicitHate | 米国で最も目立つ極端主義団体のツイートから、暗示的なヘイトを含むものを集めたデータ。 | 6,346 | 3 | 713.81 KB | D | 複製済み | |
| allenai/social_bias_frames | ソーシャルメディアの投稿に、言語に暗示される偏見と攻撃性を人手でアノテーションしたデータ。 | 147,139 | 19 | 22.98 KB | cc-by-4.0 | A | 複製済み |
| google/jigsaw_toxicity_pred | Wikipedia のコメントに、人の評価者が有害な言動のラベルを付けた英語のデータ。 | 223,549 | 7 | 13.31 KB | cc0-1.0 | B | 複製済み |
| iamollas/ethos | SNS 上のコメントのヘイトスピーチを検出するための英語のデータ。 | 1,431 | 2〜9 | 16.48 KB | agpl-3.0 | B | 複製済み |
| openai/summarize_from_feedback | 人間が 2 つの要約のうち良い方を選んだ比較と、要約の質をリッカート尺度で採点した評価を集めた、報酬モデルの学習用に公開された人間のフィードバックのデータ。 | 193,841 | 5〜7 | 13.26 KB | C | 複製済み | |
| openai/webgpt_comparisons | WebGPT の回答の比較のデータ。 | 19,578 | 9 | 9.86 KB | D | 複製済み | |
| CalibratingAutorater/judgelm-preference-distributions | JudgeLM のコーパスの応答のペアに対する、ペルソナごとの票による選好分布のデータ。 | 60,473 | 9〜11 | 39.73 MB | apache-2.0 | C | 複製待ち |
| Conversational-Reasoning/Topical-Chat | 知識に基づいた人間同士の会話のデータで、背後の知識は 8 つの広い話題にまたがる。 | 70.01 MB | D | 複製待ち | |||
| HannahRoseKirk/prism-alignment | 大規模言語モデルの選好と価値観の整合のための、人間のフィードバックのデータ。 | 77,882 | 13〜32 | 218.52 MB | cc | A | 複製待ち |
| Skywork/Skywork-Reward-Preference-80K-v0.2 | 報酬モデルの学習用に、公開データから集めた約 8 万組の選好ペアのデータ。 | 77,016 | 3 | 209.18 MB | D | 複製待ち | |
| ToxicityPrompts/RTP-LX | 約 28 の言語で、プロンプトとそれに対する応答の組に有害性の人手の注釈を付けたデータ。 | 30,253 | 10 | 59.67 MB | odc-by | B | 複製待ち |
| UniversalCEFR/cefr_sp_en | 英語の文に CEFR の 6 段階（A1〜C2）のレベルを付けたデータ。 | 10,004 | 8 | 3.36 MB | cc-by-nc-sa-4.0 | D | 複製待ち |
| ai4privacy/pii-masking-300k | テキストから個人を特定できる情報（PII）を取り除くモデルの学習と評価のための、独自のアルゴリズムで生成した合成データ。 | 225,405 | 9 | 803.43 MB | other | D | 複製待ち |
| jackhhao/jailbreak-classification | LLM への指示が jailbreak（脱獄の試み）か無害（benign）かを分類するためのデータ。 | 1,306 | 2 | 7.65 MB | apache-2.0 | D | 複製待ち |
| lmsys/chatbot_arena_conversations | Chatbot Arena で 2023 年 4 月から 6 月に集めた、利用者とモデルの会話 33K 件と、ペアごとの人間の選好のデータ。 | 33,000 | 13 | 41.58 MB | cc | C | 複製待ち |
| tasksource/lewidi | 注釈者の意見の不一致を残したデータで、SemEval-2023 Task 11（LeWiDi）とその 2025 年版をまとめたもの。 | 43,168 | 5〜8 | 7.01 MB | other | D | 複製待ち |
| toxigen/toxigen-data | GPT-3 で生成した、暗示的なヘイトスピーチの検出用の英語の文のデータ。 | 319,301 | 1〜49 | 219.02 MB | D | 複製待ち |
推論・論証・因果・数値・表のラベル付きテキストデータセット
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| DriftLogic/Annotated_Persuasive_Essays | 英語の説得文エッセイに論証の構造を注釈したデータで、合成で生成されたものである。 | 5 | 6 | 86.92 KB | C | 複製済み | |
| INK-USC/numer_sense | 英語の数の常識を調べるための、文中の数を隠した穴埋めのデータ。 | 14,722 | 2 | 11.89 KB | mit | A | 複製済み |
| NLP-Debater-Project/IBM-Debater-ArgKP | 論点（topic）・論証（argument）・要点（key_point）の組を集めたデータ。 |
81,638 | 5 | 16.83 MB | mit | D | 複製済み |
| Warrieryes/TRAM-Temporal | 時間に関する推論の問いを SFT 用に整形した派生のデータで、1 行が input・answer・task の組である。 |
63,491 | 3 | 235 MB | D | 複製済み | |
| causal-nlp/CLadder | 確率の羅列で書かれた文章を集めたデータで、調査メモでは因果関係に関する候補として挙がっている。 | 69.69 MB | B | 複製済み | |||
| fever/feverous | Wikipedia の文と表のセルを根拠に、主張の正誤を判定するファクトチェックのデータ。 | 20.49 KB | cc-by-sa-3.0 | B | 複製済み | ||
| joey234/certainty | 確信度やヘッジの表現に関係するとされる文に、score の数値が付いたデータ。 |
1,356 | 2 | 149.99 KB | D | 複製済み | |
| table-benchmark/infotabs | 表（table）と表の題名（table_title）に対して、問い（question）と答え（answer）を組にしたデータ。 |
23,738 | 7 | 1.79 MB | D | 複製済み | |
| wenhu/tab_fact | Wikipedia の表を根拠に言明の真偽を検証する（事実検証）TabFact のデータ。 | 127,604 | 6 | 13.10 KB | cc-by-4.0 | B | 複製済み |
| 12ml/e-CARE | 英語の因果推論の問いに説明を添えたデータ。 | 17,050 | 7 | 3.27 MB | B | 複製待ち | |
| Blanca/MAFALDA-fallacies | 誤謬（fallacy）の検出と分類のデータで、MAFALDA（Helwe et al., NAACL 2024）の統一された誤謬分類のデータセットを第三者が再アップロードしたもの。 | 200 | 6 | 545.73 KB | B | 複製待ち | |
| Hellisotherpeople/DebateSum | 競技ディベートの証拠の文書と、その抽出的な要約および論点の要約のデータ。 | 240,566 | 17 | 1.25 GB | mit | A | 複製待ち |
| TheFinAI/en-finarg-ecc-auc | 英語の決算説明会の文を、論証の役割で前提と主張に分けるデータ。 | 969 | 6 | 183.87 KB | cc-by-nc-sa-4.0 | C | 複製待ち |
| amanrangapur/Fin-Fact | 金融分野の主張（claim）のファクトチェックと説明の生成のためのデータ。 | 3,369 | 11 | 30.88 MB | apache-2.0 | B | 複製待ち |
| causal-nlp/corr2cause | 変数 A から F の抽象的な関係を述べた、合成の問題文のデータ。 | 207,972 | 4 | 1.98 GB | B | 複製待ち | |
| datatune/LogiQA2.0 | 論理推論の読解（MRC）と含意関係（NLI）の問題のデータ。 | 84,976 | 1 | 238.23 MB | mit | B | 複製待ち |
| eecrazy/CausalBank | 'because' を含む英文を、言い回しのパターンで抽出して作られたデータ。 | 13.51 GB | apache-2.0 | A | 複製待ち | ||
| fuubian/SciTabData | 科学論文から抽出した表の画像（.png）と LaTeX（.tex）のデータで、tar ファイルに入っている。 |
28,273 | 5 | 1.64 GB | cc-by-nc-sa-4.0 | D | 複製待ち |
| iRanadheer/flicc-fallacy-sft | FLICC の 12 種類の推論の誤謬を見分ける生徒モデルの学習用に作られた、推論の軌跡のデータ。 | 3,936 | 1 | 26.34 MB | mit | D | 複製待ち |
| ibm-research/argument_quality_ranking_30k | 討論のトピックに対する議論の質を、クラウドソーシングのアノテーターが評価したデータ。 | 39,984 | 2〜7 | 6.84 MB | cc-by-3.0 | A | 複製待ち |
| kuwrom/fallacy | 英語のテキストにおける 14 種類の論理的誤謬を分類するためのデータ。 | 163,642 | 1〜3 | 36.96 MB | cc-by-4.0 | A | 複製待ち |
| next-tat/TAT-QA | 表とそれを説明する段落からなる、財務報告書由来のハイブリッドな文脈に対する、数値推論を含む質問応答のデータ。 | 17.15 MB | cc-by-4.0 | A | 複製待ち | ||
| nllg/arg_emo_fallacy | 論証に論理的誤謬と感情のラベル、説得力の評定を付けたデータ。 | 1,000 | 33 | 642.42 KB | cc-by-4.0 | A | 複製待ち |
| sxiong/ReClor | 読解と論理推論の問題のデータ。 | 6,138 | 6 | 7.08 MB | mit | D | 複製待ち |
| tasksource/LogicNLI | 一階述語論理の推論を診断するための、NLI 形式の合成データ。 | 20,000 | 3 | 718.45 KB | D | 複製待ち | |
| tasksource/bioscope-spans | BioScope の生物医学の抄録と全文論文に、否定と推測（ヘッジ）の手がかり（cue）とそのスコープ（scope）を専門家が付けたデータ。 | 34,504 | 4 | 2.49 MB | cc-by-2.0 | A | 複製待ち |
| tasksource/equate | 数量推論を含む自然言語推論（NLI）を評価する EQUATE のデータ。 | 1,940 | 3 | 416.15 KB | apache-2.0 | A | 複製待ち |
| tasksource/folio | 自然言語の論理推論を一階論理と対にしたデータ（FOLIO）。 | 1,204 | 7 | 1.23 MB | cc | D | 複製待ち |
| tasksource/logical-fallacy | 論理的誤謬（logical fallacy）を検出するためのデータ。 | 3,761 | 3 | 372.10 KB | unknown | C | 複製待ち |
| tasksource/lsat-ar | 試験問題の文脈・問い・選択肢・正解からなる多肢選択式のデータで、1 行が 1 問。 | 2,046 | 5 | 341.07 KB | D | 複製待ち | |
| tasksource/num-glue | 数学的な推論の問題を集めた NumGLUE を、列を揃えた Parquet 形式に直したデータ。 | 106,085 | 12 | 51.90 MB | apache-2.0 | A | 複製待ち |
| tasksource/proofwriter | 論理推論のデータ。 | 845,496 | 11 | 42.95 MB | D | 複製待ち | |
| tasksource/ruletaker | 規則に基づく推論問題のデータ。 | 707,935 | 4 | 34.18 MB | apache-2.0 | A | 複製待ち |
| thagen/CNCv2 | ニュース記事から因果関係を集めた Causal News Corpus の V2 版（RECESS として公開）のデータ。 | 1.28 MB | cc0-1.0 | A | 複製待ち | ||
| webis/args_me | 2019 年半ばに 4 つのディベートポータルから集めた英語の論証のコーパス（args.me、バージョン 1.0、クリーニング済み）のデータ。 | 886.33 MB | cc-by-4.0 | A | 複製待ち | ||
| yilunzhao/MultiHiertt | 調査メモの分類では、表を根拠に主張の正誤を判定するデータとされる。 | 7.66 GB | mit | A | 複製待ち |
政治・政策・地政学・戦争/紛争領域のラベル付きテキストデータセット
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| Meduzka/telegram_data_war_in_ukraine | ロシア・ウクライナの戦争に関するテキストデータとして調査メモで分類されたもの。 | 433,434 | 2 | 1.65 GB | apache-2.0 | A | 複製済み |
| ZurichNLP/x_stance | スイスの投票助言サイト Smartvote.ch から集めた、政治の質問への候補者のコメントのデータ。 | 67,271 | 9 | 12.52 KB | cc-by-nc-4.0 | C | 複製済み |
| cajcodes/political-bias | GPT-4 で生成した、政治的偏りを 0 から 4 の 5 段階で付けた合成文のデータ。 | 657 | 2 | 62.87 KB | mit | A | 複製済み |
| ibm-research/claim_stance | トピックに対する主張の賛否（PRO・CON）を集めた、Wikipedia 由来のデータ。 | 4,788 | 2〜15 | 1.02 MB | cc-by-3.0 | A | 複製済み |
| mediabiasgroup/BABE | 米国の 14 媒体の記事を扱うデータで、本文は text、媒体は outlet、ラベルは label に入っている。 |
4,121 | 9 | 948.33 KB | C | 複製済み | |
| Ahren09/FakeNewsNet | 偽情報を扱う領域として調査メモで分類されたデータで、ミラーのライセンスが元と一致する保証は調査メモで確認されていない。 | 1.97 GB | apache-2.0 | B | 複製待ち | ||
| Farmaanaa/global_geopolitical_risk_index | 主要な世界の新聞の緊張・戦争・テロの報道量から作った、月次の地政学的リスク指数（GPR）のデータ。 | 2,000 | 6〜14 | 51.74 KB | cc-by-4.0 | A | 複製待ち |
| FiscalNote/billsum | 米国議会とカリフォルニア州の法案の本文と要約を集めたデータ。 | 23,455 | 3 | 113.74 MB | cc0-1.0 | A | 複製待ち |
| Kristijan/russian_trolls | NBC News が公開した、確認済みのロシアのトロールアカウントのツイートのデータ。 | 203,482 | 5 | 11.46 MB | mit | A | 複製待ち |
| MU-NLPC/Propaganda | チェコ語の新聞・メディアの記事 8,646 件に、プロパガンダの手法などの属性を付けたデータ。 | 8,642 | 20 | 19.29 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| QCRI/COVID-19-disinformation | COVID-19 のツイートに 7 つの質問で細かくラベルを付けた、多言語のデータ。 | 59,282 | 9 | 13.27 MB | cc-by-4.0 | A | 複製待ち |
| aav-ds/Israel-HAMAS_war_news | 2023 年の約 7 週間に集めた、イスラエルとハマスの戦争に関する英語のニュースのデータ。 | 13,103 | 6 | 6.09 MB | D | 複製待ち | |
| cardiffnlp/tweet_eval | Twitter の英語のツイートを、皮肉・ヘイト・攻撃性・スタンス・絵文字・感情・センチメントの 7 つのタスクで分類するベンチマークのデータ。 | 200,785 | 2 | 14.24 MB | unknown | D | 複製待ち |
| chatelet/political-leaning-tweets-100k | ツイートに政治的傾向（neutral・liberal・conservative）のラベルを付けた、多言語のデータ。 | 128,484 | 2 | 11.23 MB | A | 複製待ち | |
| chrissoria/executive-orders | 1791 年から現在までの米国の大統領令を、全文とともに 1 命令 1 行で収めたデータ。 | 10,824 | 13 | 22.05 MB | D | 複製待ち | |
| haoxianc/gandpablo_news-articles-for-political-bias-classification | 英語のニュース記事を政治的偏向で分類したデータ。 | 10,832 | 7 | 58.53 MB | mit | A | 複製待ち |
| hsilvosa/gdelt-events | GDELT 1.0 のイベントデータベースを 2026 年 8 月 14 日時点で固定し、1 つの形式に揃えたスナップショット。 | 889,592,605 | 59 | 45.22 GB | other | D | 複製待ち |
| hugginglearners/russia-ukraine-conflict-articles | 2022 年 2 月から 7 月までの、ロシアとウクライナの紛争に関する NYT とガーディアン紙の記事 407 本のデータ。 | 407 | 3 | 1.20 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| joshuapsa/gpt-generated-news-paragraphs-v1.1 | ニュースの文の段落を ChatGPT に話題ごとに生成させた、900 件の合成データ。 | 900 | 22 | 185.13 KB | D | 複製待ち | |
| kalebr/un-general-debate-corpus-chunked | 1970 年から 2016 年までの国連一般討論の書き起こしを、約 250 文字ずつに分けたデータ。 | 721.87 MB | cc0-1.0 | A | 複製待ち | ||
| mediabiasgroup/mbib-base | メディアのバイアスを識別するベンチマーク MBIB の英語の文のデータ。 | 810,956 | 4 | 231.08 MB | cc-by-nc-nd-4.0 | C | 複製待ち |
| mlburnham/Pol_NLI | 政治テキストの含意（NLI）判定のデータ。 | 201,691 | 6 | 40.47 MB | D | 複製待ち | |
| mlburnham/PoliStance_Affect | 米国の政治家への賛否を判定する含意（entailment）分類のデータ。 | 26,838 | 5 | 4.22 MB | mit | B | 複製待ち |
| mlburnham/bill_summary_entailment | 法案の文章を扱う、含意（entailment）形式のデータ。 | 18,342 | 8 | 6.71 MB | D | 複製待ち | |
| mlburnham/dem_rep_party_platform_topics | 政党綱領の文体の文を前提に、対象（target）と仮説（hypothesis）を組にして含意の正誤（entailment）を付けたデータ。 |
20,172 | 7 | 4.86 MB | D | 複製待ち | |
| mlburnham/political_or_not | BBC ニュースの分類を元にした、含意（entailment）形式のデータで、再配布の条件は調査メモで未確認とされている。 | 4,650 | 6 | 3.95 MB | D | 複製待ち | |
| mlburnham/scad_event_entailment | 前提（premise）、対象（target）、仮説（hypothesis）の組に、含意の正誤（entailment）と検証済みのラベル（validated_label）を付けたデータ。 |
3,658 | 6 | 248.07 KB | D | 複製待ち | |
| mlburnham/supreme_court_summary_entailment | 判例の要約を扱う、含意（entailment）形式のデータ。 | 11,687 | 9 | 7.79 MB | D | 複製待ち | |
| shearman96/israel-hamas-gaza-cnn | 記事ごとの見出し（headline）、本文（articleBody）、URL（url）、公開日（datePublished）などの列を持つデータ。 |
8,842 | 10 | 186.55 MB | D | 複製待ち | |
| valurank/PoliticalBias_AllSides_Txt | allsides.com の編集者が左派・中道・右派に分けた、英語のニュース記事本文のデータ。 | 69,916 | 1 | 49.41 MB | other | C | 複製待ち |
| xjzheng/us-corporate-geopolitical-risk-disclosure | 米国企業の電話会議（決算説明会）で地政学的リスクに言及した企業の割合を、四半期ごとに集めたデータ。 | 19,781 | 8〜16 | 1.31 MB | cc-by-4.0 | A | 複製待ち |
| yuiseki/ucdp-ged | Uppsala Conflict Data Program（UCDP）が 1989 年以降に記録した組織的暴力の事件を、1 件 1 行にまとめたデータ。 | 2,403,936 | 43〜50 | 399.24 MB | cc-by-4.0 | A | 複製待ち |
日本語の金融・開示・経済ニュース・ビジネス文書のラベル付きテキストデータセット
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| Sakaji-Lab/JaFIn | 日本語の金融に関する指示データ（論文の題は JaFIn: Japanese Financial Instruction Dataset）。 | 1,490 | 3 | 1.24 MB | C | 複製済み | |
| hotchpotch/lawqa_jp | 日本の法令を材料にした 4 択の法律問題のデータ。 | 1,286 | 2〜11 | 422.97 KB | other | D | 複製済み |
| japan-ai-official/edinet-bench-fraud-detection-curated | EDINET-Bench の会計不正検出から、難易度のスコアで選んだ 14 件を集めたデータ。 | 14 | 10 | 662.14 KB | apache-2.0 | B | 複製済み |
| krmin/japan-tob-edinet-2026 | EDINET の公開買付けの届出書・報告書から項目を抜き出した、2026 年時点の日本の TOB（公開買付け）のデータ。 | 691 | 4〜25 | 118.87 KB | other | A | 複製済み |
| numad/yuho-text-2014-2022 | 2014〜2022 年に提出された有価証券報告書から、特定の章の本文を抜き出したデータ。 | 203,055 | 12 | 1.70 GB | apache-2.0 | B | 複製済み |
| retarfi/economy-watchers-survey-evaluation | 景気ウォッチャー調査を、sentiment・domain・reason の 3 つの課題用に整形したデータ。 |
12.16 KB | cc-by-4.0 | A | 複製済み | ||
| zenless-lab/chABSA | 調査メモでは、日本語の金融文書に感情などのラベルを付けたデータに分類されている。 | 3,215 | 10 | 541.71 KB | B | 複製済み | |
| SakanaAI/EDINET-Bench | 日本の有価証券報告書を使い、会計不正の検出・業績予想・業種の予測の 3 つを評価するベンチマークのデータ。 | 2,585 | 10〜12 | 112.68 MB | other | D | 複製待ち |
| Verah/JParaCrawl-Filtered-English-Japanese-Parallel-Corpus | NTT の JParaCrawl v3 large の先頭 100 万行に、LLM による良否の判定を付けたデータ。 | 1,000,000 | 5 | 103.86 MB | other | C | 複製待ち |
| ajtgjmdjp/jfinqa | EDINET の開示資料の表と本文から、数値の計算・整合性・期間をまたぐ推移を問う、日本語の金融 QA のデータ。 | 2,000 | 16 | 1.85 MB | apache-2.0 | A | 複製待ち |
| awinml/MultiFin | 15 言語の実際の記事の見出しに、階層的なトピックのラベルを付けた多言語のデータ。 | 37,848 | 4 | 2.14 MB | C | 複製待ち | |
| izumi-lab/wikinews-ja-20230728 | ウィキニュースの日本語の記事を集めたもの（時事の寄せ集めで、経済に限らない）。 | 4,283 | 3 | 4.09 MB | cc-by-2.5 | A | 複製待ち |
| nntsuzu/Japanese-Law-Translation | 日本の法令の日本語原文と英訳の対訳データ。 | 185,607 | 1 | 33.52 MB | D | 複製待ち | |
| pfnet/japanese-mail-bench | 日本語のビジネスメールの作成を評価するベンチマークのデータ。 | 500 | 10 | 1.45 MB | apache-2.0 | A | 複製待ち |
| range3/edinet-annual | EDINET の開示書類の PDF を、提出情報と組にして集めたデータ。 | 3,942 | 9 | 3.22 GB | other | B | 複製待ち |
| retarfi/JFinTEB | 日本語の金融テキストの埋め込みモデルを測るベンチマーク JFinTEB の一部のデータ。 | 28.33 KB | A | 複製待ち | |||
| retarfi/economy-watchers-survey | 内閣府の景気ウォッチャー調査の回答を集めたデータ。 | 723,378 | 7〜8 | 304.62 MB | cc-by-4.0 | B | 複製待ち |
| ronantakizawa/Finance-Instruct-500k-Japanese | 金融の質問と回答の組を、英語と中国語から GPT-4o-mini で日本語に訳したデータ。 | 518,181 | 4 | 498.39 MB | apache-2.0 | B | 複製待ち |
| ryo0634/bsd_ja_en | ビジネスの場面ごとの会話を日英で対訳にしたデータ。 | 24,171 | 9 | 1.85 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| tayano/edinet-fraud-testset | 日本の有価証券報告書の本文と会計不正のラベルを集めたテストセット。 | 22,709 | 2〜5 | 713.35 MB | other | D | 複製待ち |
| TheFinAI/JF-ICR | 日本企業の決算説明会や株主総会の質疑応答で、経営陣の回答が前向きな行動や決定を示すか、拒むかを 5 段階で付けたデータ。 | 563.30 KB | apache-2.0 | B | 利用条件の同意待ち | ||
| TheFinAI/JF-TE | 日本企業の開示文書から、入れ子になった名詞の複合語を含む金融用語を抜き出す課題のデータ。 | 606.49 KB | cc-by-4.0 | B | 利用条件の同意待ち | ||
| legalontech/Legal-Rikai-Open-Benchmark | 日本語の企業法務の作業で LLM を評価するベンチマークのデータ。 | 15.57 MB | other | D | 利用条件の同意待ち |
業種・セクター固有のラベル付きテキストデータセット（医薬・エネルギー・サプライチェーン・自動車・航空・消費・銀行/保険/不動産）
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| CFPB/consumer-finance-complaints | 消費者向けの金融商品・サービスについて、消費者が企業に対応を求めて送った苦情を集めたデータ。 | 3,079,747 | 18 | 26.47 KB | cc0-1.0 | A | 複製済み |
| araag2/TrialBench | 臨床試験の有害事象と死亡率を予測するタスクの、会話形式・処理済み・原データの形式を並べたデータ。 | 579,457 | 4〜63 | 1.34 GB | D | 複製済み | |
| jang1563/clinical-trial-decision-benchmark | 完了した臨床試験 1,000 件に、advance、stop、verify のいずれかの判断ラベルを付けた評価用のベンチマーク。 |
5,797 | 4〜30 | 215.10 KB | apache-2.0 | A | 複製済み |
| kuroneko5943/stock11 | 分かち書きされた中国語の文に、業種ごとの感情ラベル（POS・NEG・NEU）を付けたデータ。 | 270,601 | 5 | 20.36 MB | apache-2.0 | A | 複製済み |
| GooseWithStories/clinical-trial-outcomes-2020plus | ClinicalTrials.gov に結果が掲載された、2020 年以降に始まった臨床試験のエンドポイントを正規化したデータ。 | 138,960 | 22〜35 | 67.08 MB | cc0-1.0 | A | 複製待ち |
| QCRI/CrisisBench-english | 災害などの危機に関するソーシャルメディアの投稿を、人道情報の処理のために集めた英語のツイートのデータ。 | 244,456 | 7 | 83.41 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| QCRI/HumAID-all | 2016 年から 2019 年にかけての 19 件の自然災害の期間に投稿された英語のツイートに、人道支援のカテゴリを人手で付けたデータ。 | 76,484 | 2 | 7.25 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| ade-benchmark-corpus/ade_corpus_v2 | 薬の有害反応（ADE）に関する英語の医学文のデータ。 | 30,616 | 2〜4 | 2.24 MB | unknown | D | 複製待ち |
| anamnesis-data/clinical_trials_history | 臨床試験の登録簿の過去の版をすべて保持した履歴のデータ。 | 2.88 GB | cc-by-nc-4.0 | C | 複製待ち | ||
| araag2/Evidence_Inference_v2 | 無作為化比較試験（RCT）を記述した生物医学論文と、その論文について、ある介入と比較対象の、ある転帰に対する効果を問うプロンプトのデータ。 | 37,533 | 4〜14 | 353.75 MB | cc-by-sa-4.0 | B | 複製待ち |
| araag2/HINT | 臨床試験の結果の予測を扱う HINT の論文（arXiv:2102.04252）に関するデータセット。 | 37,431 | 4〜10 | 54.41 MB | cc-by-sa-4.0 | B | 複製待ち |
| chufangao/CTO | 創薬における臨床試験の結果を予測するためのデータ。 | 364,253 | 5〜73 | 2.39 GB | mit | B | 複製待ち |
| elihoole/asrs-aviation-reports | NASA の Aviation Safety Reporting System（ASRS）に公開されている航空事故の報告を集めた、要約のためのデータ。 | 47,723 | 111 | 333.46 MB | apache-2.0 | B | 複製待ち |
| knowledgator/events_classification_biotech | バイオテックのニュース記事に、イベントの種類を表すラベルを付けた多ラベル分類のデータ。 | 10.16 MB | odc-by | A | 複製待ち | ||
| lainmn/AgentDS-Insurance | 保険の契約者と保険金請求のデータを集めた AgentDS ベンチマークの一部。 | 1,316 | 2 | 1.40 GB | cc-by-nc-sa-4.0 | C | 複製待ち |
| newsdata01/Global-Energy-and-Oil-Market-News-Dataset | 世界のエネルギーと石油の市場を扱う英語のニュース記事のデータ。 | 10.18 MB | mit | C | 複製待ち | ||
| opentargets/clinical_trial_reason_to_stop | 臨床試験が早期に中止された理由の文に、17 種類の分類のラベルを付けたデータ。 | 3,747 | 19 | 1.91 MB | apache-2.0 | A | 複製待ち |
| osanseviero/twitter-airline-sentiment | 2015 年 2 月に収集された、米国の航空会社 6 社へのツイートの感情のデータ。 | 14,640 | 15 | 8.47 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| paperswithbacktest/Stocks-Weekly-CFPBComplaints | CFPB の消費者苦情を、上場企業の銘柄ごとに週次で対応づけたデータ。 | 1,730,498 | 25 | 462.73 MB | other | D | 複製待ち |
| paperswithbacktest/Stocks-Weekly-PharmaClinicalPredict | 医薬品の臨床試験について、結果に到達する確率、残りの期間、経済的影響をモデルで推定したデータ。 | 91,981 | 9 | 10.05 MB | other | D | 複製待ち |
| vic35get/nhtsa_complaints_dataset | NHTSA（National Highway Traffic Safety Administration）が収集した車両の苦情のデータ。 | 12,534 | 5 | 3.32 MB | apache-2.0 | A | 複製待ち |
汎用英語 text classification / NLU データセット カタログ（HF Hub, 2026-11-10 時点）
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| ChilleD/StrategyQA | yes/no 形式の質問応答のデータ。 | 2,290 | 6 | 1.12 MB | mit | A | 複製済み |
| CogComp/mc_taco | 英語の、時間に関する常識の理解を測る多肢選択式の質問応答のデータ。 | 13,225 | 5 | 12.02 KB | unknown | D | 複製済み |
| CogComp/trec | 英語の質問文を、6 種類の粗いクラス（略語、実体、説明、人間、場所、数値）と 50 種類の細かいクラスに分けた質問分類のデータ。 | 5,952 | 3 | 16.89 KB | unknown | D | 複製済み |
| EleutherAI/hendrycks_ethics | Hendrycks らによる ETHICS のデータセット。 | 11.60 KB | other | D | 複製済み | ||
| ErnestSDavis/winograd_wsc | Winograd Schema Challenge の問題を集めた、代名詞が指す相手を 2 択で選ぶ英語のデータ。 | 558 | 8 | 15.20 KB | cc-by-4.0 | A | 複製済み |
| Hate-speech-CNERG/hatexplain | ヘイトスピーチか、攻撃的か、通常かの 3 クラスに加えて、標的となった共同体と根拠のトークンに注釈を付けた英語の投稿のデータ。 | 19,229 | 4 | 16.01 KB | cc-by-4.0 | A | 複製済み |
| Paul/hatecheck | ヘイトスピーチの検出モデルを機能ごとに調べるためのテストケースのデータ。 | 3,728 | 12 | 658.42 KB | cc-by-4.0 | A | 複製済み |
| RobZamp/sick | 英語の文の組を集めた意味理解のベンチマーク（SICK）のデータ。 | 9,840 | 11 | 13.35 KB | cc-by-nc-sa-3.0 | C | 複製済み |
| allenai/cosmos_qa | 日常の語りを題材に、文脈に明記されていない原因や結果を推論させる四択の読解問題のデータ。 | 35,210 | 8 | 13 KB | cc-by-4.0 | A | 複製済み |
| allenai/scifact | 専門家が書いた科学的な主張を抄録と組にし、ラベルと論拠を付けた事実検証のデータ。 | 7,194 | 4〜6 | 20.48 KB | cc-by-nc-2.0 | C | 複製済み |
| allenai/social_i_qa | 人の行動とその社会的な意味を推論させる三択の質問応答のデータ。 | 35,364 | 6 | 12.53 KB | D | 複製済み | |
| cornell-movie-review-data/rotten_tomatoes | Rotten Tomatoes の映画レビューから作った文を、肯定と否定の 2 値に分けたデータ。 | 10,662 | 2 | 889.68 KB | unknown | D | 複製済み |
| dataset-org/dream | 対話を読んで答える多肢選択の読解データ。 | 10,197 | 6 | 9.33 KB | unknown | D | 複製済み |
| dynabench/dynasent | 英語の文を、positive、negative、neutral の 3 値で感情分類するベンチマーク用のデータ。 | 37.92 KB | D | 複製済み | |||
| fever/fever | 英語の事実検証のデータ。 | 5,845,480 | 3〜7 | 23.23 KB | cc-by-sa-3.0, gpl-3.0 | B | 複製済み |
| hover-nlp/hover | 事実検証（主張が根拠の文書で支持されるかを判定する）のデータ。 | 26,171 | 7 | 9.79 KB | cc-by-sa-4.0 | B | 複製済み |
| jhu-cogsci/hans | 自然言語推論（NLI）の評価用データ。 | 60,000 | 10 | 13.41 KB | unknown | D | 複製済み |
| lucasmccabe/logiqa | 中国の国家公務員試験で公開されている論理的読解の問題の、英語版の四択のデータ。 | 8,678 | 4 | 8.87 KB | D | 複製済み | |
| mteb/amazon_reviews_multi | Amazon のレビューを de、en、es、fr、ja、zh の 6 言語で集めたデータ。 | 2,520,000 | 4 | 458.92 MB | D | 複製済み | |
| sentence-transformers/stsb | 文の意味的類似度（STS）のデータ。 | 8,628 | 3 | 724.71 KB | D | 複製済み | |
| stanfordnlp/sentiment140 | Twitter の英語のツイートを、顔文字を手がかりに自動でラベル付けして集めたデータ。 | 1,600,498 | 5 | 14.82 KB | D | 複製済み | |
| tdiggelm/climate_fever | インターネットで集めた、気候変動に関する実世界の主張を検証するためのデータ。 | 1,535 | 4 | 878.21 KB | unknown | D | 複製済み |
| truthfulqa/truthful_qa | 言語モデルが質問に真実で答えるかを測るベンチマーク用の 817 問のデータ。 | 1,634 | 3〜7 | 504.84 KB | apache-2.0 | A | 複製済み |
| ybisk/piqa | 物理的な常識を問う二択の質問応答のデータ。 | 21,035 | 4 | 14.95 KB | unknown | D | 複製済み |
| Anthropic/hh-rlhf | 有用性と無害性に関する人間の選好データ。 | 169,352 | 2 | 94.75 MB | mit | A | 複製待ち |
| Deysi/spam-detection-dataset | スパムかどうかを判定するためのデータ。 | 10,900 | 2 | 2.58 MB | apache-2.0 | A | 複製待ち |
| GonzaloA/fake_news | 英語のフェイクニュースの判定データ。 | 40,587 | 4 | 169.51 MB | D | 複製待ち | |
| Intel/polite-guard | 丁寧さを polite、somewhat polite、neutral、impolite の 4 段階に分類するデータ。 | 100,200 | 4 | 38.44 MB | cdla-permissive-2.0 | A | 複製待ち |
| Muennighoff/flan | FLAN データセットを前処理し直したもので、FLAN の公開以降に加えられた更新をすべて反映した多タスクのデータ。 | 3,530,340 | 3 | 1.79 GB | D | 複製待ち | |
| Rowan/hellaswag | 文脈の続きとして正しい文を選ぶ、常識的な NLI のデータ。 | 59,950 | 10 | 36.80 MB | D | 複製待ち | |
| Salesforce/cos_e | CommonsenseQA の問題に、自然言語の説明を付けた常識推論のデータ。 | 19,522 | 6 | 3.54 MB | unknown | D | 複製待ち |
| SetFit/mnli | 自然言語推論（NLI）のデータで、Hub 上の公式の GLUE の MNLI を移植したもの（matched 版を含む）。 | 412,313 | 5 | 100.04 MB | D | 複製待ち | |
| SetFit/sst5 | Stanford Sentiment Treebank の文を、very positive、positive、neutral、negative、very negative の 5 段階で感情分類したデータ。 | 11,855 | 3 | 1.84 MB | D | 複製待ち | |
| SetFit/subj | 映画について述べた文が主観的か客観的かを注釈したデータで、SentEval で使われた SUBJ データセットである。 | 10,000 | 3 | 1.81 MB | D | 複製待ち | |
| allenai/art | AI2 が公開した、常識的な物語の文脈を扱う推論（アブダクティブ NLI）のデータ。 | 171,186 | 5 | 9.20 MB | unknown | D | 複製待ち |
| allenai/openbookqa | ある科目について、オープンブック試験を模した多肢選択式の問題のデータ。 | 11,914 | 4〜8 | 1.40 MB | unknown | D | 複製待ち |
| allenai/prosocial-dialog | 英語の対話データで、安全でない可能性のある発話に対して向社会的な応答を、安全性のラベルとともに集めたもの。 | 165,681 | 11 | 117.12 MB | cc-by-4.0 | A | 複製待ち |
| allenai/qasc | 小学校の理科に関する 8 択の多肢選択式の問題のデータ。 | 9,980 | 8 | 2.36 MB | cc-by-4.0 | B | 複製待ち |
| allenai/sciq | クラウドソーシングで集めた、物理・化学・生物などの理科試験の問題のデータ。 | 13,679 | 6 | 4.68 MB | cc-by-nc-3.0 | C | 複製待ち |
| allenai/scitail | 理科の多肢選択式の試験を元にした含意（entailment）のデータ。 | 107,088 | 3〜7 | 13.50 MB | D | 複製待ち | |
| allenai/swag | 次に何が起こるかを 4 択から選ぶ、根拠に基づく常識推論のデータ。 | 207,109 | 11〜16 | 44.92 MB | unknown | D | 複製待ち |
| allenai/winogrande | Winograd Schema Challenge に着想を得た、穴埋め形式の二択の常識推論のデータ。 | 81,442 | 4 | 4.62 MB | D | 複製待ち | |
| aps/super_glue | GLUE にならって作られた言語理解のベンチマーク SuperGLUE のデータ。 | 196,313 | 4〜9 | 102.54 MB | other | D | 複製待ち |
| cais/mmlu | 人文科学・社会科学・理工系などの 57 の分野から多肢選択式の問題を集めた、大規模なテストのデータ。 | 231,400 | 1〜4 | 270.04 MB | mit | A | 複製待ち |
| community-datasets/yahoo_answers_topics | Yahoo! Answers の質問を、トピック 10 種に分類するデータ。 | 1,460,000 | 5 | 533.44 MB | unknown | D | 複製待ち |
| dair-ai/emotion | 英語の Twitter メッセージに、悲しみ、喜び、愛、怒り、恐れ、驚きの 6 つの感情を付けたデータ。 | 436,809 | 2 | 28.19 MB | other | D | 複製待ち |
| ealvaradob/phishing-dataset | フィッシングかどうかを判定するためのデータで、URL、SMS、メール、HTML のコードを含む。 | 1.70 GB | apache-2.0 | A | 複製待ち | ||
| ehovy/race | 中国の英語の試験から集めた、読解問題の四択のデータ。 | 195,374 | 5 | 83.05 MB | other | D | 複製待ち |
| facebook/anli | 英語の自然言語推論（NLI）のデータ。 | 169,265 | 5 | 26.30 MB | cc-by-nc-4.0 | C | 複製待ち |
| fancyzhx/amazon_polarity | Amazon の商品レビューを肯定と否定の 2 値に分けたデータ。 | 4,000,000 | 3 | 1.15 GB | apache-2.0 | A | 複製待ち |
| fancyzhx/dbpedia_14 | DBpedia 2014 から選んだ 14 のクラスに記事を分ける分類のデータ。 | 630,000 | 3 | 119.43 MB | cc-by-sa-3.0 | B | 複製待ち |
| fancyzhx/yelp_polarity | Yelp のレビューを肯定と否定の 2 値に分けたデータ。 | 598,000 | 2 | 273.81 MB | D | 複製待ち | |
| google-research-datasets/paws | 英語の言い換え判定（パラフレーズ識別）のデータ。 | 751,450 | 4 | 129.30 MB | other | D | 複製待ち |
| google/boolq | はい・いいえで答える質問応答のデータ。 | 12,697 | 3 | 4.95 MB | cc-by-sa-3.0 | D | 複製待ち |
| lukaemon/bbh | BIG-Bench のうち難しいとされた 27 タスクを集めたデータ。 | 6,511 | 2 | 659.03 KB | D | 複製待ち | |
| mteb/amazon_counterfactual | Amazon の顧客レビューに、反事実（起こらなかった事柄や起こりえなかった事柄を述べる文）かどうかのアノテーションを付けたデータ。 | 20,701 | 3 | 1.65 MB | cc-by-4.0 | A | 複製待ち |
| mteb/amazon_massive_intent | MASSIVE の、51 言語の話し言葉の文を、意図（intent）で分類するデータ。 | 842,571 | 5 | 16.96 MB | apache-2.0 | A | 複製待ち |
| mteb/emotion | 英語の Twitter メッセージに、怒り、恐れ、喜び、愛、悲しみ、驚きの 6 つの基本感情を付けたデータ。 | 19,930 | 3 | 4.09 MB | unknown | D | 複製待ち |
| mteb/imdb | Large Movie Review Dataset（mteb/imdb）の映画レビューを、感情で分類するための MTEB 派生のデータ。 | 49,582 | 3 | 178.67 MB | unknown | D | 複製待ち |
| mteb/toxic_conversations_50k | Civil Comments プラットフォームのコメントに、有害（toxic）かどうかのアノテーションを付けたデータ。 | 100,000 | 3 | 35.22 MB | cc-by-4.0 | A | 複製待ち |
| mteb/tweet_sentiment_extraction | Kaggle の Tweet Sentiment Extraction 競技のツイートを、感情で分類するデータ。 | 30,164 | 4 | 6.21 MB | unknown | D | 複製待ち |
| nyu-mll/blimp | 英語の文法現象ごとの最小対（文法的な文と非文法的な文の組）を集めた、言語モデルの評価用のデータ。 | 67,000 | 10 | 3.96 MB | cc-by-4.0 | A | 複製待ち |
| nyu-mll/glue | GLUE の複数の課題をまとめたデータ。 | 1,485,043 | 3〜4 | 162.29 MB | other | D | 複製待ち |
| nyu-mll/multi_nli | 英語の自然言語推論（NLI）のデータ。 | 412,349 | 10 | 224.02 MB | cc-by-3.0, cc-by-sa-3.0, mit, other | D | 複製待ち |
| openbmb/UltraFeedback | 複数の LLM の応答を GPT-4 が 4 つの観点で採点した、選好と評価のデータ。 | 63,967 | 6 | 940.03 MB | mit | A | 複製待ち |
| openlifescienceai/medmcqa | AIIMS と NEET PG の入学試験の医学問題を集めた、四択の質問応答のデータ。 | 193,155 | 11 | 88.32 MB | apache-2.0 | D | 複製待ち |
| osyvokon/pavlick-formality-scores | 文ごとのフォーマルさ（formality）を、評点の平均で -3 から 3 の連続値にしたデータ。 | 11,274 | 3 | 2.28 MB | cc-by-3.0 | A | 複製待ち |
| ought/raft | 実世界の英語のデータセットを集めた、分類課題 11 種の少数ショットの評価用データ。 | 29,262 | 3〜9 | 9.84 MB | other | D | 複製待ち |
| pietrolesci/nli_fever | 事実検証データ FEVER を、自然言語推論（NLI）の形式に作り直したもの。 | 248,342 | 7 | 55.91 MB | D | 複製待ち | |
| qiaojin/PubMedQA | 生物医学の研究の問いに答える質問応答のデータ。 | 273,518 | 4〜5 | 300.50 MB | mit | A | 複製待ち |
| raquiba/Sarcasm_News_Headline | The Onion と HuffPost のニュース見出しを、皮肉かどうかで分けたデータ。 | 55,328 | 3 | 11.62 MB | D | 複製待ち | |
| sileod/probability_words_nli | 確率語（Words of estimative probability）を使った自然言語推論のデータ。 | 71,597 | 10〜11 | 44.04 MB | D | 複製待ち | |
| skg/toxigen-data | 暗示的なヘイトスピーチの検出のためのデータで、すべての事例は GPT-3 と論文の手法で生成された英語の文である。 | 319,301 | 1〜49 | 219.02 MB | D | 複製待ち | |
| stanfordnlp/SHP | Reddit の質問や指示への投稿に付いた、2 つのトップレベルのコメントのどちらが好まれたかを示す選好データ。 | 385,563 | 15 | 827.31 MB | D | 複製待ち | |
| stanfordnlp/imdb | 強い肯定または否定の映画レビューに、2 値の感情ラベル（pos・neg）を付けたデータ。 | 100,000 | 2 | 83.46 MB | other | D | 複製待ち |
| stanfordnlp/snli | 英語の文のペア 57 万組に、含意（entailment）、矛盾（contradiction）、中立（neutral）のいずれかのラベルを付けた自然言語推論のデータ。 | 570,152 | 3 | 20.46 MB | cc-by-sa-4.0 | B | 複製待ち |
| stanfordnlp/sst2 | 映画レビューの文に、肯定（positive）と否定（negative）の 2 値の感情ラベルを付けたデータ。 | 70,042 | 3 | 3.34 MB | unknown | D | 複製待ち |
| tals/vitaminc | Wikipedia の改訂（編集）から作られた事実検証のデータ。 | 488,904 | 10 | 255.56 MB | cc-by-sa-3.0 | B | 複製待ち |
| tasksource/bigbench | BIG-bench の課題を、公式版の面倒な依存関係を必要としない形にした課題集。 | 839,050 | 5 | 302.41 MB | apache-2.0 | A | 複製待ち |
| tdavidson/hate_speech_offensive | ツイートを、ヘイトスピーチ、攻撃的な言葉、どちらでもないのいずれかに分類したデータ。 | 24,783 | 6 | 1.63 MB | unknown | D | 複製待ち |
| ucberkeley-dlab/measuring-hate-speech | SNS の投稿に対するヘイトスピーチの度合いを測るためのデータ。 | 135,556 | 143 | 34.23 MB | cc-by-4.0 | B | 複製待ち |
科学・学術・技術（科学的主張の検証、論文分類、査読、特許、脆弱性、医療 QA）
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| HDLTex/web_of_science | Web of Science の文書を階層的なカテゴリに分類するデータで、WOS-11967、WOS-46985、WOS-5736 の 3 つを含む。 | 64,688 | 4 | 14.49 KB | B | 複製済み | |
| ImperialCollegeLondon/health_fact | 公衆衛生に関する主張の真偽を、説明文を付けて判定するための PUBHEALTH データ。 | 12,292 | 9 | 16.86 KB | mit | A | 複製済み |
| JerMa88/ICLR_Peer_Reviews_2024 | ICLR 2024 の投稿論文と査読のデータ。 | 28,170 | 38 | 1.05 GB | D | 複製済み | |
| allenai/qasper | NLP の論文 1,585 本を対象にした、学術論文の質問応答のデータ。 | 1,585 | 6 | 39.97 KB | cc-by-4.0 | A | 複製済み |
| allenai/scicite | 学術論文の引用の意図を分類するデータ。 | 10,969 | 14 | 19.56 KB | unknown | D | 複製済み |
| allenai/scifact_entailment | 科学的な主張を論文の抄録に照らして検証する、含意（entailment）のデータ。 | 1,259 | 7 | 10.35 KB | cc-by-nc-2.0 | C | 複製済み |
| copenlu/scientific-exaggeration-detection | 健康科学のプレスリリースと元の論文の要旨について、結論の誇張（exaggeration）を専門家が注釈したデータ。 | 663 | 6 | 354.01 KB | gpl-3.0 | B | 複製済み |
| dwadden/covidfact_entailment | COVID-19 に関する主張を科学研究論文の要旨に照らして検証する、含意（entailment）のデータ。 | 1,257 | 7 | 10.03 KB | cc-by-nc-2.0 | C | 複製済み |
| dwadden/healthver_entailment | 公衆衛生に関する主張を科学研究論文の要旨に照らして検証する、含意（entailment）のデータ。 | 7,135 | 7 | 10.77 KB | cc-by-nc-2.0 | C | 複製済み |
| nanyy1025/bioasq_7b_yesno | 医療・科学の質問応答の候補として調査メモに挙がるデータで、列は answer、context、questions の 3 つ、件数は 885 と小さい。 |
885 | 3 | 2.54 MB | D | 複製済み | |
| smallari/openreview-iclr2024-peer-reviews-RAW | OpenReview に公開された論文の査読を集めたデータで、調査メモでは ICLR 2024 のものとされる。 | 14,808 | 8 | 96.22 MB | D | 複製済み | |
| tasksource/patent-phrase-similarity | 特許の文脈で、2 つのフレーズの類似度を付けたデータ。 | 48,548 | 6 | 2.93 MB | cc-by-4.0 | A | 複製済み |
| turingmachine/hupd-npe-balanced-same-year-same-class-subset | 特許の出願と審査の記録のデータ。 | 33,158 | 22 | 1.02 GB | B | 複製済み | |
| ulab-ai/ResearchArcade-openreview-papers | OpenReview に投稿された論文の一覧のデータ。 | 49,418 | 6 | 39.21 MB | D | 複製済み | |
| CIRCL/vulnerability-scores | 脆弱性の説明文から深刻度を予測するモデル VLAI の学習と評価に使うデータ。 | 837,209 | 11 | 336.52 MB | cc-by-4.0 | A | 複製待ち |
| GBaker/MedQA-USMLE-4-options | 医学の試験問題から集めた、医療の多肢選択問題のデータ。 | 11,451 | 6 | 18.29 MB | cc-by-4.0 | D | 複製待ち |
| KnutJaegersberg/science_finding_sentence_certainty | 科学的な知見を述べた文に、その確からしさを表す数値を付けたデータ。 | 1,551 | 4 | 252.77 KB | mit | B | 複製待ち |
| NortheasternUniversity/big_patent | 米国特許の明細書の説明節（description）と要約節（abstract）の組のデータ。 |
2,682,724 | 2 | 34.19 GB | cc-by-4.0 | A | 複製待ち |
| allenai/csabstruct | 計算機科学の論文の要旨 2,189 件に、文ごとに修辞的な役割のラベルを付けたデータ。 | 2,189 | 4 | 1.34 MB | apache-2.0 | A | 複製待ち |
| allenai/peer_read | 科学論文の査読のデータ。 | 24,728 | 2〜12 | 32.02 KB | unknown | D | 複製待ち |
| allenai/scirepeval | 科学論文の題名（title）、要旨（abstract）、掲載先（venue）と被引用数（n_citations）を並べたデータで、構成は cite_count や fos など 20 個に分かれる。 |
12,375,686 | 2〜10 | 27.44 GB | D | 複製待ち | |
| allenai/sciriff | 科学文献を読んで指示に従う 54 のタスクの実演（指示と期待される応答の組）を集めたデータ。 | 432,740 | 4 | 1.42 GB | odc-by | A | 複製待ち |
| bstee615/bigvul | ソフトウェアの脆弱性（CVE）に関する関数のコードのデータ。 | 217,007 | 11 | 252.97 MB | D | 複製待ち | |
| bstee615/diversevul | ソフトウェアの関数のコードに CWE 分類などを付けたデータ。 | 330,492 | 8 | 311.53 MB | D | 複製待ち | |
| ccdv/patent-classification | 特許の文書を 9 つのクラスに分類するデータ。 | 70,000 | 2 | 285.04 MB | D | 複製待ち | |
| colin/PrimeVul | PrimeVul のミラーで、脆弱性の情報（cve、cve_desc、cwe）と関数のコード（func）などを列に持つ。 |
233,941 | 15 | 1.35 GB | mit | A | 複製待ち |
| derek-thomas/ScienceQA | 科学の問いに答える、画像を含むことがある選択式の問題のデータ。 | 21,208 | 13 | 626.49 MB | cc-by-sa-4.0 | C | 複製待ち |
| kejian/ACL-ARC | ACL Anthology の NLP 論文の引用文脈に、引用の意図（intent）のラベルを付けた非公式の再配布データで、台帳では background が 51% を占めるとされる。 |
1,941 | 20 | 6.52 MB | D | 複製待ち | |
| nhop/OpenReview | OpenReview に投稿された論文のメタデータを集め、定期的に更新しているデータ。 | 34,638 | 35 | 1.22 GB | cc-by-nc-4.0 | C | 複製待ち |
| stasvinokur/cve-and-cwe-dataset-1999-2025 | NVD（National Vulnerability Database）に公開された CVE の記述を、CVE-1999-0001 から 2025 年 5 月 30 日時点まで集めたデータ。 | 280,694 | 8 | 102.60 MB | cc0-1.0 | A | 複製待ち |
| tasksource/scinli | 科学論文の文の組に、自然言語推論（natural language inference）のラベルを付けたデータ。 | 107,412 | 4 | 39.44 MB | apache-2.0 | B | 複製待ち |
| umbc-scify/scifact-open | 科学的な主張 206 件の試験データに、50 万件の妨害用の文書（ディストラクタ）を加えたデータ。 | 500,206 | 2〜7 | 418.22 MB | D | 複製待ち | |
| xamxte/cve-to-cwe | NVD の脆弱性の説明文を、CWE の分類と MITRE ATT&CK の手法に対応づけるためのデータ。 | 290,446 | 5 | 52.38 MB | cc-by-4.0 | A | 複製待ち |
行動・心理・価値観・経営と組織の質のラベル付きテキストデータセット
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| BrachioLab/multilingual_politeness | 複数の言語の発話に、実数の丁寧さのスコア（politeness）を付けたデータ。 |
22,798 | 4 | 3.92 MB | cc | D | 複製済み |
| RuyuanWan/Politeness_Disagreement | Stanford Politeness Corpus（Wikipedia）を加工し、アノテーター間の不一致を付けたデータ。 | 2,174 | 3 | 319.27 KB | D | 複製済み | |
| SALT-NLP/NormBank | 社会規範（norm）と、場面（setting）・行動（behavior）・制約（constraints）の列からなるデータ。 |
155,423 | 9 | 49.60 MB | cc-by-sa-4.0 | B | 複製済み |
| SocialGrep/reddit-wallstreetbets-aug-2021 | Reddit の r/WallStreetBets の 8 月 1 か月分の投稿とコメントを集めたデータ。 | 12.97 KB | cc-by-4.0 | D | 複製済み | ||
| bigbio/bioscope | 医療・生物学の英語の文章に、否定（negation）と推測（speculation）、そのスコープを注釈したコーパス BioScope のデータ。 | 34.86 KB | cc-by-2.0 | B | 複製済み | ||
| buley/cognitive-biases | 認知バイアスの項目をまとめたデータ。 | 180 | 4〜23 | 96.18 KB | cc-by-4.0 | A | 複製済み |
| facebook/empathetic_dialogues | 感情を話題にした会話のデータで、Facebook の EmpatheticDialogues 論文の実装として公開されたもの。 | 99,646 | 8 | 12.84 KB | cc-by-nc-4.0 | C | 複製済み |
| kchawla123/casino | キャンプ場の隣人を演じる二人が、食料・水・薪のパッケージを交渉した対話のデータ。 | 1,030 | 3 | 1.26 MB | cc-by-4.0 | A | 複製済み |
| maciejskorski/morality-MFTC-onehot | 道徳的な基盤（care・fairness・loyalty・authority・sanctity など）のラベルを、数値の列で付けたテキストのデータ。 | 33,858 | 10 | 2.78 MB | D | 複製済み | |
| mc-ai/conversations-gone-awry | 会話の発話の列を集めたデータで、台帳では交渉や礼儀など会話の振る舞いを扱う項目に挙がっている。 | 42,680 | 4 | 37.96 MB | D | 複製済み | |
| mikelewis0/deal_or_no_dialog | 本・帽子・ボールを分ける取引を交渉する、英語の対話のデータ。 | 20,406 | 1〜4 | 12.89 KB | cc-by-4.0 | A | 複製済み |
| ninoscherrer/moralchoice | 英語の、LLM の道徳的な信念を測るための、仮想的な道徳シナリオと調査の問いのテンプレートのデータ。 | 3 | 3 | 504.24 KB | cc-by-4.0 | A | 複製済み |
| sohaibmalik/glassdoor_reviews | Glassdoor に投稿された従業員のレビューのデータ。 | 838,566 | 18 | 292.86 MB | apache-2.0 | B | 複製済み |
| stanfordnlp/craigslist_bargains | Craigslist に出された品物の価格を、買い手と売り手が交渉する対話を集めたデータ。 | 6,682 | 5 | 19.39 KB | unknown | D | 複製済み |
| tasksource/scruples | Reddit 由来の、行動の是非に関する判断のデータ。 | 32,766 | 10 | 74.96 MB | apache-2.0 | D | 複製済み |
| webis/Touche23-ValueEval | 議論の背後にある人間の価値を、0/1 のラベルで示したデータ。 | 46.97 KB | cc-by-4.0 | A | 複製済み | ||
| Anthropic/persuasion | 主張に対する人間の論証と、モデルが生成した論証を、説得力のスコアとともに集めたデータ。 | 3,939 | 8 | 6.94 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| Cleanlab/stanford-politeness | 編集依頼の文章を対象に、丁寧さを分類するためのデータ。 | 2.97 MB | mit | B | 複製待ち | ||
| USC-MOLA-Lab/MFRC | Reddit のコメントに道徳的な感情のカテゴリ（Moral Foundations Theory に基づく）のラベルを付けたデータ。 | 53,827 | 7 | 19.38 MB | D | 複製待ち | |
| ahs10/essays-big5 | 性格の尺度（Big Five の O・C・E・A・N）の値を対応づけた、エッセイのデータ。 | 2,467 | 8 | 4.88 MB | apache-2.0 | B | 複製待ち |
| allenai/ValuePrism | Delphi のユーザーデモから得た状況に、GPT-4 で機械的に生成した価値・権利・義務の候補と、それが支持・反対・文脈による（valence）かを示す説明を付けた英語のデータ。 |
401.12 MB | D | 複製待ち | |||
| andreagasparini/dreaddit | Reddit の 5 つのカテゴリのコミュニティの投稿から取った文の区間に、ストレスのラベルを付けたデータ。 | 3,553 | 116 | 2.31 MB | D | 複製待ち | |
| demelin/moral_stories | クラウドソーシングで作った、規範に沿う行動と逸脱した行動を含む短い物語のデータ。 | 720,000 | 9 | 258.93 MB | mit | A | 複製待ち |
| jecht/cognitive_bias | 認知バイアスの 4 種（framing・group attribution・status quo・anchoring）を、LLM のバイアス評価用に CSV にまとめたデータ。 | 43.08 MB | cc-by-2.0 | A | 複製待ち | ||
| jingjietan/kaggle-mbti | 性格の尺度（Big Five の O・C・E・A）の値と ptype を、テキストに対応づけたデータ。 |
8,675 | 7 | 40.40 MB | apache-2.0 | B | 複製待ち |
| jingjietan/pandora-big5 | 書き手の Big Five（O・C・E・A・N）のスコアを、1 件のコメントに対応づけたデータ。 | 3,006,566 | 8 | 511.16 MB | apache-2.0 | B | 複製待ち |
| spawn99/PersuasionForGood | 説得する側と説得される側の対話を、発話の文ごとに分けたデータ。 | 20,932 | 5 | 3.76 MB | mit | B | 複製待ち |
| tum-nlp/cognitive-biases-in-llms | 大規模言語モデルの認知バイアスを測るための、合成の選択式テストのデータ。 | 30,000 | 5 | 58.66 MB | cc-by-sa-4.0 | C | 複製待ち |
| wassname/moral_stories_foundations | Moral Stories の行動のペアに、道徳的な基盤（care・fairness・loyalty・authority・sanctity）のタグを付けた、選好学習用のデータ。 | 36,000 | 8〜40 | 5.40 MB | cc-by-sa-4.0 | B | 複製待ち |
| wassname/social_chemistry_101 | Reddit と ROCStories の状況に、ワーカーが書いた社会的・道徳的なルール（rule-of-thumb）と、その判断を付けた Social Chemistry 101 のデータ。 | 355,922 | 25 | 21.11 MB | cc-by-sa-4.0 | B | 複製待ち |
| wenkai-li/big5_chat | LLM の性格を形づくるための、合成の学習用データ。 | 100,000 | 14 | 88.55 MB | apache-2.0 | A | 複製待ち |
表・スキーマ・知識グラフ・商品属性・メタデータの型と整合を判断するデータセット
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| VLyb/YAGO3-10 | 知識グラフのトリプル（head・relation・tail）のデータで、1 行が 1 つのトリプル。 |
1,089,040 | 3 | 51.79 MB | unlicense | B | 複製済み |
| av-generation/ae-110k-dataset | 商品の説明文から属性と値を抜き出す、属性値の抽出・正規化のデータ。 | 39,505 | 11 | 6.56 MB | D | 複製済み | |
| griffith-bigdata/schema_linking_dataset | 質問文とデータベースのスキーマを対応づける（スキーマリンキング）ための text-to-SQL のデータ。 | 63.77 MB | mit | A | 複製済み | ||
| matchbench/Abt-Buy | 商品の同一判定（エンティティマッチング）のデータ。 | 11,748 | 3〜4 | 535.85 KB | D | 複製済み | |
| matchbench/viznet | 表の列に意味型を付けたデータ。 | 35.18 MB | B | 複製済み | |||
| shivangibithel/SOTAB | 半構造化された表の列に Schema.org の型を付けた、列型アノテーションのデータ。 | 162,351 | 3 | 21.43 KB | cc-by-4.0 | B | 複製済み |
| siavashsaki/wdc-pave-ave | 商品のタイトルと説明文から属性と値を JSON に抜き出す、構造化抽出のデータ。 | 5 | 1.04 MB | cc-by-4.0 | B | 複製済み | |
| xlangai/spider | データベースの領域をまたぐ text-to-SQL のデータ。 | 8,034 | 6 | 963.93 KB | cc-by-sa-4.0 | B | 複製済み |
| LipengCS/Table-GPT | 表に関する多様なタスクの学習用とテスト用のデータ。 | 134,484 | 7 | 2.70 GB | mit | A | 複製待ち |
| NECOUDBFM/Jellyfish-Instruct | データ前処理（DP）の指示データで、エラー検出・データ補完・スキーママッチング・エンティティマッチングの 4 つのタスクを扱う。 | 421.88 MB | cc-by-4.0 | B | 複製待ち | ||
| TimSchopf/arxiv_categories | arXiv の論文のタイトルと要旨に、複数のカテゴリを付けた分類のデータ。 | 204,118 | 3〜5 | 126.84 MB | mit | B | 複製待ち |
| anhaidgroup/polaris-wikitables-v2 | Wikipedia の記事から取った表 3,361 件に対する、キーワード検索の関連度判定のデータ。 | 6,390 | 2〜3 | 3.30 MB | odc-by | B | 複製待ち |
| birdsql/bird23-train-filtered | text-to-SQL の学習用データで、BIRD の train 分割から、スキーマと合い質問に忠実な例だけを残した絞り込み版。 | 6,601 | 4 | 3.45 MB | cc-by-sa-4.0 | B | 複製待ち |
| intfloat/wikidata5m | 知識グラフのデータで、列は text の 1 つだけ。 |
4,815,483 | 1 | 1.57 GB | D | 複製待ち | |
| jiofidelus/SecuTable | セキュリティ分野の表に、知識グラフへの対応づけ（意味的表解釈）の正解を付けたデータ。 | 584.71 MB | cc-by-4.0 | A | 複製待ち | ||
| osunlp/TableInstruct | 実世界の表と現実的なタスクを集めた、表のための指示チューニング用データセット。 | 37.95 GB | cc-by-4.0 | B | 複製待ち | ||
| permutans/wikidata-claims | Wikidata の全アイテムとプロパティのステートメント（主張）のデータ。 | 789,435,443 | 13 | 44.63 GB | cc0-1.0 | A | 複製待ち |
| target-benchmark/gittables-corpus | 関係データベースの表を集めた GitTables コーパスの派生データ。 | 50,000 | 5 | 109.97 MB | apache-2.0 | C | 複製待ち |
| tasksource/esci | 検索クエリと商品の組に、関連度のラベル（esci_label）を付けたショッピング検索のデータ。 |
2,680,364 | 14 | 2.52 GB | apache-2.0 | A | 複製待ち |
| wdc/products-2017 | オンラインストアの商品の組が同じ商品を指すかを判定する、商品マッチングのデータ。 | 370,348 | 18 | 170.22 MB | unknown | D | 複製待ち |
| zidcenek/GLAMI-Entity-Matching-Dataset | GLAMI の EC 商品掲載の重複検出のデータ。 | 17.81 GB | apache-2.0 | A | 複製待ち | ||
| zjunlp/iepile | 既存の情報抽出（IE）データセットを統合した、スキーマに基づく指示形式の大規模コーパス。 | 1.87 GB | cc-by-nc-sa-4.0 | C | 複製待ち |
金融・投資判断の推論ログ・思考トレース・判断の根拠を含むオープンデータ
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| BUPT-Reasoning-Lab/FinanceReasoning | 金融 QA の推論を評価するためのベンチマークで、調査メモでは学習用ではないとされている。 | 113.13 MB | cc-by-4.0 | B | 複製済み | ||
| Flipcoin/llm-forecast-bench | LLM が Base 上の予測市場 FlipCoin で実際の USDC を賭けて出した予測を、市場価格に照らして採点したデータ。 | 366 | 9〜17 | 143.74 KB | cc-by-4.0 | B | 複製済み |
| ImBinarry/FinClaimRadar-Financial-Reasoning | 金融上の主張を、証拠の根拠に基づく 6 分類に当て、段階的な推論の連鎖を付けたデータ。 | 630 | 35 | 1.93 MB | cc-by-sa-4.0 | B | 複製済み |
| Uris001/equity-research-dataset | 合成の売り手側アナリストノートと、その銘柄の合成ファンダメンタルズに実際の将来リターンを結びつけた株式調査のデータ。 | 9,999 | 47 | 26.08 MB | mit | B | 複製済み |
| antgroup/Agentar-DeepFinance-100K | 金融 QA の推論蒸留に分類される、role と content を持つメッセージの列のデータ。 |
99,068 | 2 | 853.70 MB | D | 複製済み | |
| gitmoney313/financial-reasoning-cot-r1 | 定量的なファイナンスと市場戦略の問題に、DeepSeek-R1 形式の段階的な推論と答えを付けたデータ。 | 63.39 KB | mit | B | 複製済み | ||
| jackzhousmu/trading-agents-data | 投資判断・売買エージェントのログとして台帳に挙がったデータ。 | 154.48 MB | D | 複製済み | |||
| layer3xyz/arena-alpha-paired-decisions-v0 | Hyperliquid の無期限先物の短い競技で、エージェントが下した売買の判断を集めた公開版のデータ。 | 2,931 | 9〜46 | 13.01 MB | cc-by-4.0 | B | 複製済み |
| nikhilchandak/OpenForesight | ニュース記事から検索拡張のプロンプトで自動生成した、将来の出来事の予測質問のデータ。 | 56,616 | 19 | 483.49 MB | mit | B | 複製済み |
| sccaglayanworkacc/equity-research-agentic-eval | 株式調査の 11 個のツールを使うエージェントを比べるための、55 件の評価用データ。 | 55 | 16 | 318.56 KB | cc-by-4.0 | B | 複製済み |
| valuesimplex-ai-lab/FIR-Bench-Research-Reports-FinQA | 中国語のアナリスト風レポートの生成データとして、調査メモの台帳に挙がったデータ。 | 1,362,227 | 4 | 269.88 MB | apache-2.0 | B | 複製済み |
| Anay2010/laya-trading-decisions | Laya の判断モデルを学習させるための、金融商品の市場状態に対する売買判断のデータ。 | 5,264 | 3 | 7.20 MB | apache-2.0 | B | 複製待ち |
| BUILDERlym/STRUX-Transcripts | 銘柄と日付ごとの書き起こしを集めたデータ。 | 13,098 | 5 | 342.74 MB | D | 複製待ち | |
| DianJin/DianJin-Fin-PRM-Data | 中国語の金融の資格試験の問題に、段階ごとの推論トレースと多次元の品質アノテーションを付けた、Process Reward Model 学習用のデータ。 | 4,969 | 23 | 102.47 MB | apache-2.0 | B | 複製待ち |
| DianJin/DianJin-R1-Data | 中国語と英語の金融の問題に、推論の過程と答えを付けたデータ。 | 36,568 | 2 | 206.20 MB | mit | B | 複製待ち |
| FinGPT/fingpt-forecaster-dow30-202305-202405 | 株価の動きを予測させる prompt と、その回答のデータ。 | 1,530 | 5 | 4.50 MB | B | 複製待ち | |
| FinGPT/fingpt-forecaster-sz50-20230201-20240101 | 中国株の株価の動きを予測させる、中国語の prompt と回答のデータ。 | 2,254 | 5 | 4.09 MB | D | 複製待ち | |
| HiThink-Research/BizFinBench.v2 | 中国と米国の株式市場について、実際の金融プラットフォームへの利用者の問い合わせだけを集めた評価用のベンチマーク。 | 476.60 MB | apache-2.0 | B | 複製待ち | ||
| Jackrong/financial-economics-reasoning | 金融・経済・ビジネスの中国語と英語の項目（BAAI/IndustryInstruction_Finance-Economics）に、教師モデルの推論の連鎖を付けたデータ。 | 122,275 | 8 | 1.19 GB | apache-2.0 | B | 複製待ち |
| Josephgflowers/Finance-Instruct-500k | 金融に関連する指示と応答を、複数の公開データセットから集めて重複を除いたデータ。 | 518,185 | 3 | 580.09 MB | apache-2.0 | B | 複製待ち |
| TheFinAI/FinCoT | 7 つの公開の金融 QA データセットの質問に、GPT-4o が作った推論の過程を付けたデータ。 | 9,186 | 5 | 61.70 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| TheFinAI/Fino1_RL_train_9301 | FinQA、ConvFinQA、TAT-QA などの数値推論の質問に GPT-4o の推論の過程を付けた、強化学習用のデータ。 | 9,301 | 20 | 167.09 MB | cc-by-nc-sa-4.0 | C | 複製待ち |
| TheFinAI/Fino1_Reasoning_Path_FinQA | FinQA の質問に GPT-4o の推論経路を組み合わせた、Fino1-8B の学習用のデータ。 | 14.79 MB | cc-by-4.0 | B | 複製待ち | ||
| YuehHanChen/forecasting | カードが引用する Halawi らの論文（Approaching Human-Level Forecasting with Language Models）と関連する、予測質問のデータ。 | 5,516 | 14 | 48.67 MB | apache-2.0 | B | 複製待ち |
| ZennyKenny/synthetic_vc_financial_decisions_reasoning_dataset | 架空のスタートアップ案に対するベンチャーキャピタルの投資判断を、合成して作ったデータ。 | 200 | 9 | 3.43 MB | mit | B | 複製待ち |
| ezra77/llm-forecast-calibration | 解決済みの Manifold Markets の二値の質問 212 件に対して GLM-5.3 が出した予測の生データ。 | 4,238 | 7〜14 | 44.45 MB | other | D | 複製待ち |
| forecastingresearch/forecastbench-datasets | LLM の予測能力を測るベンチマーク ForecastBench が生成した予測のデータ。 | 189.61 MB | cc-by-sa-4.0 | B | 複製待ち | ||
| layer3xyz/arena-alpha-paired-decisions-full-v0 | Hyperliquid の無期限先物の短い競技で、人間とフロンティアモデルが同じ市場の観測に基づいて下した判断を集めた完全版のデータ。 | 82.41 MB | other | D | 利用条件の同意待ち |
金融・経済・ニュース領域のラベル付きテキストデータセット
| データセット | 内容 | 行数 | 列数 | 容量 | ライセンス | 区分 | 状態 |
|---|---|---|---|---|---|---|---|
| ChanceFocus/flare-mlesg | 金融・経済テキストの系統に分類されたデータ。 | 300 | 6 | 230.96 KB | D | 複製済み | |
| SaguaroCapital/sentiment-analysis-in-commodity-market-gold | 金の市場に関するニュースの見出し一万件余りに、価格の方向・資産の比較・過去と将来の情報・価格のセンチメントを人手で付けたデータ。 | 10,570 | 10 | 937.45 KB | cc-by-nc-nd-4.0 | C | 複製済み |
| SemEvalWorkshop/sem_eval_2020_task_11 | 英語のニュース記事に、プロパガンダの技法が使われている箇所を付けたデータ。 | 536 | 4 | 20.82 KB | unknown | D | 複製済み |
| TheFinAI/en-fomc | FinBen-FOMC は、FOMC（Shah ら, 2023）の文を改変した、中央銀行の政策のタカ派（Hawkish）・ハト派（Dovish）・中立（Neutral）を判定するデータ。 | 496 | 6 | 147.72 KB | cc-by-nc-4.0 | D | 複製済み |
| gtfintechlab/Numclaim | 米国の上場企業のアナリストレポートと決算説明会の書き起こしから取った文に、将来や推測の財務予測（INCLAIM）か、過去や現在の事実（OUTOFCLAIM）かのラベルを付けたデータ。 | 2,681 | 2 | 214.70 KB | D | 複製済み | |
| gtfintechlab/bank_of_england | イングランド銀行の議事録から取った文に、金融政策のスタンス、時制、不確実性の三つの観点でラベルを付けたデータ。 | 3,000 | 6 | 317.38 KB | cc-by-nc-sa-4.0 | C | 複製済み |
| nickmuchi/financial-classification | Financial PhraseBank と Kaggle の金融テキストのデータセットを組み合わせた、金融文の分類用データ。 | 5,057 | 2 | 424.80 KB | D | 複製済み | |
| takala/financial_phrasebank | 金融ニュースの英語の文に、感情の極性（positive・negative・neutral）を付けたデータ。 | 14,780 | 2 | 698.68 KB | cc-by-nc-sa-3.0 | C | 複製済み |
| thagen/FinCausal20 | 金融ニュースの文の因果を扱う FinCausal 2020 のデータで、1 行が 1 文、text に本文、entity に整数の組の列、index に ID が入る。 |
25,216 | 3 | 3.36 MB | D | 複製済み | |
| ucsbnlp/liar | PolitiFact から得た、政治家などの短い言明約 1.3 万件に、真実性の判定ラベルを付けたデータ。 | 12,836 | 14 | 12.74 KB | unknown | D | 複製済み |
| zeroshot/twitter-financial-news-sentiment | Twitter で集めた金融関連のツイートに、弱気・強気・中立の三値のセンチメントを付けた英語のデータ。 | 11,931 | 2 | 1.08 MB | mit | A | 複製済み |
| ChanceFocus/flare-sm-acl | 調査メモで金融・経済テキストの候補として挙がっているデータ。 | 27,056 | 6 | 46.31 MB | D | 複製待ち | |
| ChanceFocus/flare-sm-cikm | 金融・経済テキストの系統に分類されたデータ。 | 4,970 | 6 | 19.18 MB | D | 複製待ち | |
| FinGPT/fingpt-sentiment-train | 金融の感情分析の学習用データで、1 行が 1 件、instruction に指示文、input に本文、output に答えが入る。 |
76,772 | 3 | 6.42 MB | D | 複製待ち | |
| Instrumetriq/crypto-market-sentiment-observations | 暗号資産の市場の値動きと X（Twitter）上のセンチメントを、時刻を揃えて観測したデータ。 | 345,492 | 19 | 520.27 MB | cc-by-4.0 | D | 複製待ち |
| SemEvalWorkshop/hyperpartisan_news_detection | ニュース記事の本文が、過度に党派的な論法に従っているかを判定するためのデータ。 | 750,645 | 5〜6 | 1.35 GB | cc-by-4.0 | D | 複製待ち |
| SetFit/20_newsgroups | Scikit-learn 版の 20 newsgroups データセットで、20 のトピックのニュースグループの投稿を集めたもの。 | 18,846 | 3 | 23.72 MB | D | 複製待ち | |
| SetFit/bbc-news | BBC News の記事を business、entertainment、politics、sport、tech の 5 つのカテゴリに分類したデータ。 | 2,225 | 3 | 10.21 MB | D | 複製待ち | |
| TheFinAI/en-nwgi | ニュースの文の感情を strong negative から strong positive までの七段階で分類するための NWGI のデータ。 | 20,231 | 5 | 2.86 MB | mit | D | 複製待ち |
| fancyzhx/ag_news | ニュース記事の文章を World、Sports、Business、Sci/Tech の 4 つのトピックに分類したデータ。 | 127,600 | 2 | 19.83 MB | unknown | D | 複製待ち |
| gtfintechlab/finer-ord | 英語の金融ニュースに、人・場所・組織の固有表現を付けたデータ。 | 116,721 | 4 | 1.56 MB | cc-by-nc-4.0 | D | 複製待ち |
| gtfintechlab/ipo-text | SEC に提出された IPO 関連の書類（S-1 と F-1）を集めたデータ。 | 109,690 | 23 | 2.61 GB | cc-by-4.0 | D | 複製待ち |
| heegyu/news-category-dataset | ニュースの見出しと短い説明に、カテゴリを付けたデータ。 | 209,527 | 6 | 87.30 MB | cc-by-4.0 | B | 複製待ち |
| marksverdhei/clickbait_title_classification | ニュースの見出しに、クリックベイトかどうかのラベルを付けたデータ。 | 32,000 | 2 | 1.84 MB | mit | D | 複製待ち |
| nlpaueb/finer-139 | SEC に提出された英語の年次報告書と四半期報告書から作った、財務報告書の数値のトークンに、XBRL のタグに対応する 139 種類の実体型を付ける固有表現認識のデータ。 | 1,121,256 | 3 | 103.25 MB | cc-by-sa-4.0 | B | 複製待ち |
| tasksource/sentfin | 金融ニュースの見出しに、そこに出てくるエンティティへのセンチメントを付けた SEntFiN のデータを、tasksource 向けに組み直したもの。 | 14,318 | 4 | 1.95 MB | mit | A | 複製待ち |
| ucirvine/reuters21578 | 1987 年に Reuters の金融ニュース配信から集められた記事の、テキスト分類用データ。 | 55,737 | 13 | 8.19 MB | other | D | 複製待ち |
| zeroshot/twitter-financial-news-topic | Twitter で集めた金融関連のツイートに、Earnings・Macro・IPO など二十のトピックのうち一つを付けた英語のデータ。 | 21,107 | 2 | 2.97 MB | mit | A | 複製待ち |
| TheFinAI/en-fiqasa | FinBen という大規模言語モデル向けの金融ベンチマークに入れた、金融の投稿の感情分析のデータ。 | 1,173 | 6 | 171.79 KB | other | D | 利用条件の同意待ち |
| TheFinAI/en-fpb | FinBen という大規模言語モデル向けの金融ベンチマークに入れた Financial PhraseBank（FPB）の、金融ニュースの文の感情分析データ。 | 956.69 KB | cc-by-sa-3.0 | B | 利用条件の同意待ち | ||
| TheFinAI/en-ma | FinBen という金融ベンチマークに入れた MA（Yang ら, 2020）の、M&A の案件が完了したか噂のままかを判定するデータ。 | 500 | 6 | 1.23 MB | other | D | 利用条件の同意待ち |
| TheFinAI/en-multifin | FinBen という金融ベンチマークに入れた MultiFin（Jørgensen ら, 2023）の英語の見出しのデータで、トピックを六つに分ける多クラス分類用。 | 546 | 6 | 67.53 KB | other | D | 利用条件の同意待ち |
| TheFinAI/en-tsa | FinBen という金融ベンチマークに入れた TSA（Cortis ら, 2017）の、金融の文章に含まれる特定の対象（企業など）ごとの感情を -1 から 1 の数値で判定するデータ。 | 561 | 4 | 72.24 KB | cc-by-nc-sa-4.0 | C | 利用条件の同意待ち |
| gtfintechlab/fomc_communication | FOMC の講演・議事録・記者会見の書き起こしから取った文に、タカ派・ハト派・中立のラベルを付けたデータ。 | 2,480 | 5 | 784.46 KB | cc-by-nc-4.0 | C | エラー |
除外したもの
- Downloads last month
- -
Papers for HYUKI5/dataset-catalog
Can Language Models Solve Graph Problems in Natural Language?
Paper • 2305.10037 • Published • 2
Can Transformers Reason in Fragments of Natural Language?
Paper • 2211.05417 • Published
HINT: Hierarchical Interaction Network for Trial Outcome Prediction Leveraging Web Data
Paper • 2102.04252 • Published