cvusk/japanese-contract-document-understanding

Japanese Contract Document Understanding (synthetic, with full ground truth)

100 synthetic Japanese business contracts rendered to PDF, each paired with complete, machine-generated ground truth — page text, clause tree (chapter / article / paragraph / item), tables, figures, cross-references, party roles, bounding boxes, reading order, and 4,500 QA pairs. Every company, person, address, amount and document number is fictional; nothing is copied from real templates.

• 100 documents = 50 written contracts, each rendered in 1–3 of 4 page layouts, covering 10 contract types, 656 pages in total.
• The JSON is the single source of truth; the PDF is its deterministic rendering (JSON → HTML → PDF), so the paper and the labels cannot disagree.
• 150 dpi page images (pages/*.png) are included for OCR / VLM evaluation.
• Released under cc-by-4.0 © 2026 Yusuke Shibui (shibuiwilliam). See LICENSE.

⚠ Not for training AI models

THIS DATASET MUST NOT BE USED TO TRAIN, FINE-TUNE, DISTILL, OR OTHERWISE DEVELOP ANY ARTIFICIAL INTELLIGENCE OR MACHINE LEARNING MODEL, INCLUDING LARGE LANGUAGE MODELS (LLMs) AND VISION-LANGUAGE MODELS (VLMs).

The clauses, tables, figure descriptions and QA pairs in this dataset were written by Claude (Anthropic) inside a Claude Code session; they are Outputs of that service. Anthropic's Usage Policy prohibits "Utilization of inputs and outputs to train an AI model (e.g., 'model scraping' or 'model distillation') without prior authorization from Anthropic" (https://www.anthropic.com/legal/aup).

EVALUATION IS NOT TRAINING. Benchmarking or evaluating document-reading systems (OCR, layout analysis, VLMs, structured extraction), retrieval and RAG pipelines, or AI agents against this dataset is the purpose it was built for, and nothing above restricts it. Neither does using it as test fixtures, as few-shot examples, or as a retrieval corpus at inference time. What is excluded is updating model weights from it.

This is a NOTICE, not an additional condition of the license above. CC BY 4.0 Section 2(a)(5)(B) forbids imposing further restrictions on downstream recipients, so this statement is not offered as a term of that grant and does not narrow it. It tells you about a restriction that arises from Anthropic's Usage Policy and that binds everyone subject to that policy. If you need to train on data of this kind, obtain prior authorization from Anthropic first.

What it is for

1. OCR / VLM text reading from page images or PDF.
2. Clause-structure extraction (the chapter→article→paragraph→item tree and where an element sits in it).
3. Table structure understanding (row header × column header → value) and figure structure (nodes / edges / paths).
4. Reference resolution (cross-references, defined terms, party aliases 甲 / 乙).
5. Document QA (extraction, reference following, and arithmetic).
6. Layout robustness: the same contract body rendered in two different page layouts — content labels stay identical, only boxes and reading order change.
7. Retrieval / RAG evaluation — the corpus-wide passages, queries and relevance judgements built from these documents are a companion dataset: cvusk/japanese-contract-document-understanding-retrieval.

What it is not for

• Any real-world legal use. The clauses are dummies written for reading evaluation and have not been reviewed by a lawyer. The documents have no legal effect.
• Reproducing real contract templates (only structure and layout conventions were studied; every sentence is original).
• Training, fine-tuning or distilling any AI / ML model (see the section above; this is a restriction from Anthropic's Usage Policy, not from the dataset license).
• Language-model pre-training (too small, deliberately narrow subject matter).
• Scanned / photographed / handwritten document evaluation: these PDFs are born-digital, with no skew, shadow, noise or seal impressions.

Configs

config	rows	what one row is	files
documents	100	one document — title, type, layout, parties, paths to its artifacts	views/documents.jsonl
pages	656	one page — page text and the relative path of its PNG	views/pages.jsonl
qa	4,500	one QA pair — answer in typed columns plus the raw answer_json	views/qa.jsonl
elements	42,789	one element — text, structural citation, page, bounding boxes	*/elements.jsonl

from datasets import load_dataset
from huggingface_hub import snapshot_download

pages = load_dataset("cvusk/japanese-contract-document-understanding", "pages", split="train")
root  = snapshot_download("cvusk/japanese-contract-document-understanding", repo_type="dataset")

# `image` is a path relative to the repository root, so join it with the download:
png = f"{root}/{pages[0]['image']}"      # 150 dpi PNG of that page
txt = pages[0]["text"]                    # its ground-truth text

The per-document directories hold the authoritative ground truth (source.json, layout.json, answer.json, qa.json, elements.jsonl, doc.pdf, pages/*.png); the three files under views/ are flat projections for the viewer.

Sample qa row / qaのサンプル1件

{
  "doc_id": "con-0001--ct-a4-1col-form",
  "content_id": "con-0001",
  "doctype": "contracting",
  "style_id": "ct-a4-1col-form",
  "qa_id": "qa_auto_001",
  "type": "count",
  "source": "auto",
  "question": "表２「出来高と部分払の割合」には何行ありますか。表頭の行は数えません。",
  "answer_type": "number",
  "answer_text": null,
  "answer_number": 4.0,
  "answer_list": null,
  "answer_json": "4.0",
  "evidence": [
    "tbl_part",
    "tbl_part__caption"
  ],
  "page_hint": [
    7,
    8
  ]
}

Files

manifest.json          every document (pages, QA count, artifacts, checksums, status)
data-card.md           full data card: measured scale, breakdown, QA, limits and biases
SHA256SUMS             checksums of everything distributed here
views/                 flat jsonl projections for the dataset viewer
licenses/              font licenses for the faces embedded in the PDFs
<content_id>--<style_id>/
  doc.pdf  pages/page-001.png …  source.json  layout.json  answer.json  qa.json
  elements.jsonl  passages.jsonl

The corpus-wide retrieval evaluation set (passages / queries / qrels) is published as a separate dataset: cvusk/japanese-contract-document-understanding-retrieval. Its passage_id is <doc_id>::<element_id>, so it joins back to the documents here. Each document directory still carries its own passages.jsonl, so that set can be rebuilt or extended from this repository alone.

Read data-card.md next: it is generated by measuring these files and holds the scale, the per-type breakdown, the label vocabulary, the quality-assurance results, and the known limits and biases.

Generator code: https://github.com/shibuiwilliam/synthetic-data/tree/main/contracts

Citation

@misc{japanese_contract_document_understanding,
  title  = {Japanese Contract Document Understanding: a fully synthetic Japanese business-contract dataset with complete ground truth},
  author = {Yusuke Shibui (shibuiwilliam)},
  year   = {2026},
  howpublished = {Hugging Face Hub},
  url    = {https://huggingface.co/datasets/cvusk/japanese-contract-document-understanding}
}

---

日本語版 — 生成した契約書データセットの読み方

日本語契約書の構造読み取り評価セット（合成・完全な正解つき）

このファイルは keiyaku publish（keiyaku export からも呼ばれる）が生成する。手で編集しない（CLAUDE.md §0.4-3）。仕様は docs/publishing.md（公開の形）と docs/evaluation.md（予測の形と採点）、データの素性は data-card.md。

• 生成物は cc-by-4.0 で配布する（著作権表示：© 2026 Yusuke Shibui (shibuiwilliam)）。本文は LICENSE。
• 実務の契約書としては使えない（法律専門家の校閲を受けていないダミーである）。
• 会社名・人物名・住所・金額・契約書番号はすべて架空で、実在のひな型を転載していない。 これらの固有名詞は可能な限り実在しないものを選ぶよう努めているが、万が一実在する名称・住所等と偶然一致していることが判明した場合は、該当箇所を修正する。
• AI モデルの学習・蒸留には使えない（次節）。評価・ベンチマークは対象外。
• 検索評価セット（passages / queries / qrels）は別のデータセットで配布している：cvusk/japanese-contract-document-understanding-retrieval。文書そのものはこのリポジトリにある。

⚠ AI モデルの学習・蒸留には使えない

本データセットを LLM・VLM・その他 AI モデルの学習・ファインチューニング・蒸留・ 強化学習の素材に使ってはならない。

本データセットの条文・表・図の説明・QA は、Claude Code セッション内で Claude（Anthropic）が 書いた Output である。Anthropic の Usage Policy は「入力と出力を AI モデルの学習 （model scraping・model distillation を含む）に用いること」を事前許可なしに禁じている （https://www.anthropic.com/legal/aup）。学習に使う必要がある場合は、まず Anthropic の事前許可を得ること。

評価は学習ではない。 ドキュメント読み取り（OCR・レイアウト解析・VLM・構造化抽出）・ 検索／RAG・AI エージェントの評価とベンチマークは、このデータセットが作られた目的そのもので、 上の制限は一切かからない。テストフィクスチャとしての利用、few-shot の実例、 推論時の検索コーパスとしての利用も同じく対象外である。除かれるのはモデルの重みを更新する用途だけ。

なお、この節は告知であってライセンス条件ではない。 CC BY 4.0 は下流の受領者に追加の制限を 課すことを禁じている（第 2 条(a)(5)(B)）ため、上の禁止を CC BY の付与条件として書くことはできず、 書いてもいない。制限の出どころは Anthropic の Usage Policy であり、同ポリシーの適用を受ける者を縛る。

並び

dataset/
  README.md                このファイル（Hub のデータセットカード）
  data-card.md             **データカード**（規模・内訳・作り方・品質保証・制限と偏り・ライセンス）
  manifest.json            全文書の一覧（ページ数・QA 数・成果物・checksums・status）
  SHA256SUMS             配布するファイルの SHA256
  views/                   **Viewer と `load_dataset()` のための平らな面**（一次資料の射影）
    documents.jsonl          1 行 1 文書
    pages.jsonl              1 行 1 ページ（ページ本文と PNG の相対パス）
    qa.jsonl                 1 行 1 問（答えは型ごとの列＋生の `answer_json`）
  licenses/                PDF に埋め込まれているフォントのライセンス本文
  <content_id>--<style_id>/
    doc.pdf                  PDF（フォント埋め込み・テキスト層あり）
    pages/page-001.png …     150dpi のページ画像（VLM の入力）
    source.json              内容＋構造＋意味（レイアウト非依存）＋ derived
    layout.json              描画結果（ページ・要素の bbox・読み順・ヘッダ/フッタ）
    answer.json              ページ別テキスト ＋ outline（**source と layout は内包しない**）
    qa.json                  45 問（自動＋執筆。内訳は data-card.md §5.5）
    elements.jsonl           **1 行 1 要素の平らな索引。評価スクリプトはまずこれを読む**
    passages.jsonl           この文書ぶんの検索パッセージ

render.html（デバッグ用の中間 HTML）は配布しない（CLAUDE.md §1.1）。

どのファイルを使うか

やりたいこと	読むファイル
ページ画像から本文を読み取る精度	pages/*.png ＋ answer.json の pages[].text
文章の構造内の位置づけ（第2章 第1条 (1)）	elements.jsonl の citation / node_kind / path_ids
見出しツリー	answer.json の outline（kind / parent_id / citation つき）
表の構造	source.json の grid ＋ derived.tables[].header_path / records
図の構造	derived.figures[].graph（6 種共通の nodes / edges）＋ paths
列挙の「N 番目」	derived.enumerations
読み順	layout.json の pages[].reading_order（内容の単位。ラベルと本文の内訳は含まない）
検索の評価	別データセット cvusk/japanese-contract-document-understanding-retrieval（passages.jsonl ＋ queries.jsonl ＋ qrels.jsonl）
一覧・絞り込み（Viewer）	views/documents.jsonl / pages.jsonl / qa.jsonl

注意点

• answer.json は source と layout を内包しない。 同じディレクトリに実体があるので 参照で足りる（内包すると同じ正解が 3 か所に並び、どれが正か分からなくなる）。 3 つをまとめて扱いたいときは keiyaku.answer.load_answer(dataset_dir) を使う。

• 座標は pt・原点は左上。 elements.jsonl には正規化 [0,1] の bboxes_norm も入れてある。 PNG は 150dpi なので、pt × 150/72 でピクセル座標になる。

• 繰り返し表頭とヘッダ/フッタは PDF のテキスト層に何度も出る。 answer.json の pages[].text からは除いてある（text_with_furniture が除く前）。 elements.jsonl の repeated が true の fragment は表頭の再掲。

• 段組では 1 つの要素が複数の fragment に割れる。 bboxes は配列。

• 同じ content を 1–3 通りの版面で描いた文書がある。 本文は同一で版面だけが違うので、 レイアウト頑健性の評価に使える。検索コーパスは重複を避けて content ごとに 1 スタイルだけ採っている。

• views/qa.jsonl の答えは型ごとに列が分かれている（answer_text / answer_number / answer_list）。採点に使う正本は各文書の qa.json の answer で、views はその射影である （Arrow が 1 列に複数の型を入れられないため。docs/publishing.md §4）。

• qrels の扱い（grade 1 の打ち切りを含む）は別データセットのカードに書いてある： cvusk/japanese-contract-document-understanding-retrieval。

• すべて架空の会社・商品である（各文書の奥付に明記）。

• PDF にはフォントが埋め込まれている（実測：Noto-Sans-JP、Noto-Sans-JP-Bold、Noto-Serif-JP、Noto-Serif-JP-Bold）。ライセンス本文は licenses/ に同梱してある。

採点

uv run keiyaku eval dataset/<doc_id> --pred pred.json     # 読み取り
uv run keiyaku eval --search-run run.json                 # 検索
uv run keiyaku eval dataset/<doc_id> --oracle             # ハーネスの自己評価
uv run keiyaku eval dataset/<doc_id> --oracle --misread 0.3   # 現実の読み取り誤りで崩して採点

採点ハーネスを含む生成コード：https://github.com/shibuiwilliam/synthetic-data/tree/main/contracts