ikedachin/imabari_wiki_qa_v4_program_validated

Imabari QA v4 — Program Validated

Dataset Summary

Imabari QA v4 — Program Validated is a Japanese question-answering dataset for supervised fine-tuning (SFT).

It is derived from:

• Source corpus: ikedachin/imabari_wiki_cpt_v3
• QA generation model: Qwen3.8-27B-NVFP4

The dataset contains synthetic question-answer pairs together with generated reasoning traces in the thinking field.

The primary difference from the original Imabari Wiki QA v4 dataset is the introduction of deterministic programmatic validation of the generated thinking format.

Generated samples are automatically checked using predefined programmatic rules. Samples whose thinking field does not conform to the expected format are rejected and regenerated.

The resulting dataset contains 4,146 samples, divided into train and valid splits at approximately a 9:1 ratio.

Important

"Program Validated" refers to programmatic validation of the structure and format of generated reasoning traces.

It does not mean that the semantic correctness, factual correctness, or logical validity of the reasoning has been automatically proven.

---

日本語

データセット概要

Imabari QA v4 — Program Validated は、日本語LLMの教師ありファインチューニング（SFT）を目的として作成したQAデータセットです。

本データセットは以下を基礎としています。

• 元コーパス: ikedachin/imabari_wiki_cpt_v3
• QA生成モデル: Qwen3.8-27B-NVFP4

質問、回答に加え、thinking フィールドに合成されたReasoningを収録しています。

元となる Imabari Wiki QA v4 との最大の違いは、生成された thinking に対して、プログラムによる決定論的なフォーマット検証を実施していることです。

生成された thinking が事前に定義した期待形式を満たしているかをプログラムによって機械的に判定し、条件を満たさないデータは採用せず、再度データ合成を行っています。

最終的なデータ数は 4,146件 です。

重要

本データセットにおける「Program Validated」は、主として Reasoningの形式・構造に対するプログラム検証を意味します。

thinking の内容そのものについて、事実性、論理的妥当性、推論の正しさを保証するものではありません。

---

Dataset Variants

Imabari QA v4では、検証方法の違いを明確にするため、以下の命名規則を使用します。

Dataset	Validation Method
ikedachin/imabari_wiki_qa_v4	Original synthetic dataset
ikedachin/imabari_qa_v4_program_validated	Deterministic programmatic validation
ikedachin/imabari_qa_v4_human_validated	Human validation

本データセットの Program Validated は、人間による目視評価ではなく、事前に定義されたルールに基づいてプログラムが自動判定したデータセットであることを示しています。

---

What Changed from v4?

元となる ikedachin/imabari_wiki_qa_v4 では、LLMによって生成された thinking を含むQAデータを収録しています。

一方、本データセットでは生成後に Programmatic Validation の工程を追加しています。

概念的なパイプラインは以下の通りです。

Source corpus
    ↓
Synthetic QA generation
    ↓
question
thinking
answer
    ↓
Programmatic validation
of the thinking format
    ↓
 ┌─────────────────────┐
 │ Validation passed   │
 └─────────────────────┘
           ↓
         Keep

 ┌─────────────────────┐
 │ Validation failed   │
 └─────────────────────┘
           ↓
         Reject
           ↓
       Regenerate

日本語で表現すると、以下の処理になります。

元テキスト
    ↓
QAデータ合成
    ↓
question
thinking
answer
    ↓
thinkingの形式を
プログラムで機械判定
    ↓
 ┌───────────────┐
 │ 条件を満たす  │
 └───────────────┘
        ↓
       採用

 ┌───────────────┐
 │ 条件を満たさない │
 └───────────────┘
        ↓
       除外
        ↓
      再合成

---

Why Programmatic Validation?

Synthetic ReasoningをLLMによって大量生成すると、生成モデルが指示した形式から逸脱する場合があります。

例えば、Reasoningとして期待していない形式の文章、生成時の指示に由来するテキスト、想定外のマークアップなどが thinking に含まれる可能性があります。

このようなデータをそのままSFTに使用すると、モデルがReasoningの内容だけでなく、意図していないフォーマットや生成パターンまで学習する可能性があります。

そこで、本データセットでは生成された thinking の構造をプログラムによって検査します。

Programmatic Validation の特徴

• プログラムによる自動判定
• 事前に定義されたルールによる判定
• 同じ入力に対して同じ判定を行う決定論的処理
• 人間による主観的な判定を使用しない
• LLM Judgeによる意味的評価とは異なる
• 条件を満たさないデータを除外
• 不適合データについて再度データ合成を実施

これにより、Reasoning SFTデータとしての構造的一貫性を高めることを目的としています。

---

Program Validation vs. Human Validation

本データセットでは、Program Validation と Human Validation を明確に区別しています。

Program Validated

ikedachin/imabari_qa_v4_program_validated

プログラムによって事前定義された条件を機械的に評価します。

主な目的は、

• フォーマット異常の検出
• 構造的一貫性の確保
• 大量データに対する再現可能な品質管理

です。

Human Validated

ikedachin/imabari_qa_v4_human_validated

人間がデータを確認して評価した別バージョンです。

したがって、

Program Validated
≠
Human Validated

です。

Program Validated版を、人間による品質保証済みデータとして解釈しないよう注意してください。

---

Validation Scope

プログラムによる検証では、生成された thinking が想定する形式・構造を満たしているかを判定します。

検証が目的としているもの

• thinking のフォーマット一貫性
• 想定外の生成形式の検出
• Reasoning SFTデータとしての構造的品質
• 機械的に検出可能な異常データの除去

検証が保証しないもの

本検証は以下を保証するものではありません。

• Reasoningの論理的正しさ
• Reasoningに含まれるすべての事実の正しさ
• 最終回答の事実性
• 質問と回答の完全な整合性
• 元資料への完全なGrounding
• Reasoningの各ステップの妥当性
• thinking が生成モデル内部の実際の思考過程を表していること

つまり、本データセットにおけるValidationは、

Semantic Validationではなく、主として Structural / Format Validation

です。

---

Dataset Size

総データ数は 4,146件 です。

train:valid = 9:1 となるように分割しています。

Split	Examples	Ratio
train	3,731	89.99%
valid	415	10.01%
Total	4,146	100%

---

Dataset Structure

主なデータ構造は元となる imabari_wiki_qa_v4 を継承しています。

{
  "qa_id": "550e8400-e29b-41d4-a716-446655440000",
  "question": "Question text",
  "thinking": "- Reasoning step 1\n- Reasoning step 2\n- Reasoning step 3",
  "answer": "Final answer",
  "eval": "5",
  "qa_generator": "Qwen3.8-27B-NVFP4",
  "messages": [
    {
      "role": "user",
      "content": "Question text"
    },
    {
      "role": "assistant",
      "content": "<think>- Reasoning step 1\n- Reasoning step 2\n- Reasoning step 3</think>\n\nFinal answer"
    }
  ],
  "source_files": [
    "all.jsonl"
  ],
  "id": "19239",
  "chunk_index": 0
}

Fields

Field	Type	Description
qa_id	string	QAレコード固有のUUID
question	string	質問
thinking	string	Programmatic Validationを通過したReasoning
answer	string	最終回答
eval	string	QAデータの評価値
qa_generator	string	QA生成に使用したモデル
messages	list	Chat形式のSFTデータ
source_files	list[string]	元データファイル
id	string	元記事・元文書のID
chunk_index	int64	元データにおけるチャンク番号

---

SFT Message Format

messages フィールドはChat形式のSFTに利用できます。

アシスタント側のメッセージは基本的に、

<think>
Reasoning
</think>

Final answer

という形式です。

thinking と answer は独立したフィールドとしても保持しています。

そのため、

• messages を使用したChat SFT
• thinking + answer を使ったReasoning SFT
• answer のみを使ったSFT
• Reasoningデータの分析
• 独自Chat Templateへの変換

などに利用できます。

---

Main Characteristics

• 日本語QAデータセット
• 今治市・愛媛県などの地域情報を含む
• Wikipedia由来コーパスを基礎とした合成データ
• Qwen3.8-27B-NVFP4 によるSynthetic QA
• Reasoningを thinking として保持
• <think>...</think> 形式のChat SFTデータ
• Programmatic Validationを導入
• 決定論的なルールによる機械判定
• フォーマット不適合データを除外
• 不適合サンプルを再合成
• eval によるQA評価値を保持
• 元データとのトレーサビリティを保持
• Program Validated版とHuman Validated版を分離

---

Intended Uses

本データセットは主に以下の用途を想定しています。

• Japanese LLM supervised fine-tuning
• Instruction tuning
• Reasoning SFT
• Chat SFT
• LoRA / QLoRA
• 地域特化LLM
• 地域知識QA
• Synthetic QA研究
• Synthetic Reasoning研究
• Reasoningデータの品質管理研究
• Programmatic Data Validationの研究
• Synthetic Data Filteringの研究
• Reasoning Format Validationの研究
• Program Validated / Human Validatedデータの比較
• SFTデータ品質とモデル性能の関係の検証

---

Research Use

特に、本データセットと元の imabari_wiki_qa_v4 を比較することで、

Raw Synthetic Reasoning
        vs.
Programmatically Validated Synthetic Reasoning

の違いを調査できます。

また、別途用意されたHuman Validated版と組み合わせることで、

Original Synthetic Dataset
          ↓
 ┌────────┴────────┐
 ↓                 ↓
Program          Human
Validated        Validated

という比較も可能です。

これにより、例えば以下の研究が考えられます。

• Programmatic ValidationはSFT性能を改善するか
• Human Validationとの差はどの程度か
• Format QualityがReasoning生成に与える影響
• Synthetic Dataの品質と学習効率の関係
• 機械的フィルタリングと人間による選別の比較
• データ品質向上に必要な人的コストと性能改善のトレードオフ

---

Loading the Dataset

from datasets import load_dataset

dataset = load_dataset(
    "ikedachin/imabari_qa_v4_program_validated"
)

print(dataset)

例えばtrainデータの1件目は以下のように取得できます。

sample = dataset["train"][0]

print(sample["question"])
print(sample["thinking"])
print(sample["answer"])

Chat SFT用データは以下のように取得できます。

messages = dataset["train"][0]["messages"]

print(messages)

---

Limitations

本データセットには以下の制約があります。

Synthetic Data

本データセットはLLMによって合成されたデータを含みます。

そのため、

• hallucination
• factual error
• reasoning error
• bias
• generator-specific patterns

などを含む可能性があります。

Program Validation Does Not Guarantee Correctness

Programmatic Validationを通過したデータであっても、内容が正しいとは限りません。

特に、

Validation Passed

は、

Factually Correct
Logically Correct
Human Verified

を意味しません。

Generated Reasoning

thinking は生成モデルによって合成されたReasoningテキストです。

これは生成モデル内部の実際の推論過程を直接観測したものではありません。

したがって、thinking は学習用のSynthetic Reasoning Traceとして扱ってください。

Regional Expressions

回答には地域風・方言風の表現が含まれる場合があります。

これらの表現が実際の今治方言を完全かつ正確に再現していることを保証するものではありません。

High-Risk Applications

医療、法律、金融、防災、行政など、事実性が重要となる用途において、本データセットまたは本データセットで学習したモデルを唯一の情報源として使用することは推奨しません。

---

Recommended Interpretation

このデータセットの位置付けは、

「正しさが保証されたReasoningデータセット」ではなく、「事前定義された構造条件をプログラムで検証したSynthetic Reasoning SFTデータセット」

です。

Programmatic Validationによって、Synthetic Reasoningの構造的一貫性と再現可能な品質管理を向上させることを主な目的としています。

---

Related Datasets

Repository	Description
ikedachin/imabari_wiki_cpt_v3	Source corpus
ikedachin/imabari_wiki_qa_v4	Original synthetic QA / Reasoning dataset
ikedachin/imabari_qa_v4_program_validated	Programmatically validated variant
ikedachin/imabari_qa_v4_human_validated	Human-validated variant

---

License

This dataset is released under the CC BY-SA 4.0 license.

The dataset is derived from datasets and source materials subject to their respective licensing conditions.

Users should confirm the applicable attribution, share-alike, redistribution, and commercial-use requirements before using or redistributing the dataset.

---

Citation

If you use this dataset in your research, please cite the dataset as:

@misc{ikedachin_imabari_qa_v4_program_validated,
  title     = {Imabari QA v4 - Program Validated},
  author    = {ikedachin},
  year      = {2026},
  publisher = {Hugging Face},
  note      = {Programmatically validated synthetic reasoning SFT dataset derived from Imabari Wiki QA v4}
}