Hugging Face's logo

Datasets:
tohoku-nlp
/
nanochat-jp-eval-bundle

Tasks:
Multiple Choice
Question Answering
Text Generation
Languages:
Japanese
License:
Dataset card Data Studio Files
xet
 Community
Dataset Preview
Duplicate
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
The dataset generation failed
Error code:   DatasetGenerationError
Exception:    CastError
Message:      Couldn't cast
question: string
choices: list<item: string>
  child 0, item: string
answer: int64
subject: string
query: string
gold: int64
to
{'query': Value('string'), 'choices': List(Value('string')), 'gold': Value('int64')}
because column names don't match
Traceback:    Traceback (most recent call last):
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1827, in _prepare_split_single
                  for key, table in generator:
                                    ^^^^^^^^^
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 613, in wrapped
                  for item in generator(*args, **kwargs):
                              ~~~~~~~~~^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 343, in _generate_tables
                  self._cast_table(pa_table, json_field_paths=json_field_paths),
                  ~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
                  pa_table = table_cast(pa_table, self.info.features.arrow_schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2378, in table_cast
                  return cast_table_to_schema(table, schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2306, in cast_table_to_schema
                  raise CastError(
                  ...<3 lines>...
                  )
              datasets.table.CastError: Couldn't cast
              question: string
              choices: list<item: string>
                child 0, item: string
              answer: int64
              subject: string
              query: string
              gold: int64
              to
              {'query': Value('string'), 'choices': List(Value('string')), 'gold': Value('int64')}
              because column names don't match
              
              The above exception was the direct cause of the following exception:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1369, in compute_config_parquet_and_info_response
                  parquet_operations, partial, estimated_dataset_info = stream_convert_to_parquet(
                                                                        ~~~~~~~~~~~~~~~~~~~~~~~~~^
                      builder, max_dataset_size_bytes=max_dataset_size_bytes
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  )
                  ^
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 948, in stream_convert_to_parquet
                  builder._prepare_split(split_generator=splits_generators[split], file_format="parquet")
                  ~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1694, in _prepare_split
                  for job_id, done, content in self._prepare_split_single(
                                               ~~~~~~~~~~~~~~~~~~~~~~~~~~^
                      gen_kwargs=gen_kwargs, job_id=job_id, **_prepare_split_args
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  ):
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1880, in _prepare_split_single
                  raise DatasetGenerationError("An error occurred while generating the dataset") from e
              datasets.exceptions.DatasetGenerationError: An error occurred while generating the dataset

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

query
string
choices
list
gold
int64
商品はエアー・クッションで梱包されていた。なぜなら、
[ "それは壊れやすかった。", "それは小さかった。" ]
0
私は私のポケットを空にした。そのため、
[ "私はチケットの半券を回収した。", "私は武器を見つけた。" ]
0
シロアリが家に侵入した。そのため、
[ "シロアリは家から姿を消した。", "シロアリは家の中の材木を食い荒らした。" ]
1
旅行者たちが国境にたどり着いた。そのため、
[ "監視員は彼らのパスポートをチェックした。", "監視員は、彼らが密輸をしていると非難した。" ]
0
事務所は閉まっていた。なぜなら、
[ "休日であった。", "夏であった。" ]
0
少女はエネルギーを使い果たした。なぜなら、
[ "彼女はチェッカーで遊んだ。", "彼女は縄跳びをした。" ]
1
女性は、列の中で彼女がいた場所が分からなくなった。なぜなら、
[ "さらに多くの人が列に入った。", "彼女は列の外に出た。" ]
1
少女が彼女の鼻をつまんだ。なぜなら、
[ "赤ちゃんが、彼女のよだれ掛けによだれを垂らした。", "赤ちゃんが彼女のおむつを汚した。" ]
1
バンドが彼らのヒット曲を演奏した。そのため、
[ "聴衆は音楽に合わせて手を叩いた。", "聴衆は礼儀正しく静かに聴いた。" ]
0
少女は彼女の数学の教師にお礼を言いたかった。そのため、
[ "少女は放課後に居残りをさせられた。", "少女は教師にりんごを持ってきた。" ]
1
若いキャンパーたちは恐怖を感じた。なぜなら、
[ "彼らのキャンプ・リーダーが彼らに怪談話をした。", "彼らはキャンプファイアーでマシュマロを焼いた。" ]
0
男性が彼の頭を打った。そのため、
[ "彼は物思いにふけった。", "彼は脳震盪を起こした。" ]
1
私が切った小切手が不渡りになった。なぜなら、
[ "私の銀行口座は残高がなかった。", "私は昇給した。" ]
0
男性のメール受信箱はスパム・メールでいっぱいであった。そのため、
[ "彼はスパム・メールを削除した。", "彼は大量のメールを送った。" ]
0
船員が隔離された。なぜなら、
[ "彼は病気にさらされた。", "彼は病気から回復した。" ]
0
少女がコードを記憶した。なぜなら、
[ "彼女はそれを独りで暗唱した。", "彼女はそれを書き留めておくのを忘れた。" ]
0
私はグラスに水を注いだ。そのため、
[ "私は水で私の喉の渇きを癒した。", "グラスがいっぱいになった。" ]
1
男性は、彼の友人が話し終わったときに沈黙を通した。なぜなら、
[ "彼は、彼の友人に支援を申し出たかった。", "彼は、彼の友人が言ったことについて考えていた。" ]
1
事故が起きたのは私の責任だ。そのため、
[ "私は罪悪感を覚えた。", "私は告発した。" ]
0
チェーンがばらばらになった。なぜなら、
[ "チェーンはタイヤに巻きつけられていた。", "チェーンの中に破損したリンクがあった。" ]
1
カップルは歩み寄ることにした。なぜなら、
[ "彼らは言い争いに疲れた。", "彼らは問題を議論しないようにした。" ]
0
女性は公職に立候補することを決意した。そのため、
[ "彼女は選挙運動のマネージャーを雇った。", "彼女は法廷で証言した。" ]
0
男性は彼の旅行中に寒くなると予想した。そのため、
[ "彼は彼のスーツケースに防寒衣を詰めた。", "彼は大きなスーツケースを持って旅行した。" ]
0
生徒は質問の答えを知っていた。そのため、
[ "彼は彼の手を挙げた。", "彼は怠けた。" ]
0
男性が目から涙を流した。なぜなら、
[ "彼の目にごみが入った。", "彼はゴーグルで彼の目を覆った。" ]
0
選手が5連勝を達成した。そのため、
[ "彼女の対戦相手は彼女の不正を非難した。", "彼女の対戦相手は彼女を気の毒だと思った。" ]
0
教師が生徒の答案用紙をビリビリに破った。なぜなら、
[ "彼は、生徒がカンニングしているのを見つけた。", "生徒の答えは間違っていた。" ]
0
私は一息ついて話すのを止めた。なぜなら、
[ "私は声が出なくなった。", "私は息切れした。" ]
1
冷凍食品が解けた。なぜなら、
[ "私はそれを電子レンジに入れた。", "私はそれをビニール・ラップで包んだ。" ]
0
従業員が仮病を使った。なぜなら、
[ "彼は胃けいれんを起こした。", "彼は休みたかった。" ]
1
少女がプールに着水した。なぜなら、
[ "彼女はプール・デッキを走った。", "彼女は飛び込み台から飛び込んだ。" ]
1
映画のチケットが完売した。なぜなら、
[ "映画の封切日であった。", "映画は評判が悪かった。" ]
0
男性が痩せた。そのため、
[ "人々は彼を隔離した。", "人々は彼を称賛した。" ]
1
少女の手が水膨れになった。なぜなら、
[ "彼女はタイプライターで手紙を書いた。", "彼女はロープをよじ上った。" ]
1
サーカスの出演者が一輪車に乗ってジャグリングをした。そのため、
[ "観客は驚いて歓声を上げた。", "曲芸師が空中ブランコをこいだ。" ]
0
私は我慢ならなかった。なぜなら、
[ "私の友人は私を待たせた。", "私の友人は遅刻せずに到着した。" ]
0
交戦中の国々が平和を望んだ。そのため、
[ "彼らは核兵器を開発した。", "彼らは協定を交渉した。" ]
1
男性が睡眠薬を飲んだ。そのため、
[ "彼は眠くなった。", "彼は熱を出した。" ]
0
女性がソファーにぶつかった。そのため、
[ "ソファーの脚が緩んだ。", "彼女は彼女の膝を打った。" ]
1
少年が風船を押し潰した。そのため、
[ "風船は破裂した。", "風船は飛んで行った。" ]
0
旅行者たちがホテルの部屋にチェックインした。そのため、
[ "彼らはスーツケースの荷を解いた。", "彼らは空港に行った。" ]
0
私は桃をかじった。そのため、
[ "桃に傷が付いた。", "果汁がこぼれた。" ]
1
私の手がベタベタになった。なぜなら、
[ "私はドーナツを食べた。", "私は甘いものに目がなかった。" ]
0
私はドアを押した。そのため、
[ "ドアが開いた。", "ドアの鍵が掛かった。" ]
0
活動家たちが製品の不買運動をした。なぜなら、
[ "製品の品質保証試験が行われた。", "製品は児童労働によって製造された。" ]
1
私は壁に穴を開けた。そのため、
[ "ネズミが穴から這い出た。", "粉塵が穴から吹き出した。" ]
1
女性は彼女の姉妹を羨ましく思った。なぜなら、
[ "彼女の姉妹は幸せであった。", "彼女の姉妹は離婚した。" ]
0
私は私のシャツにワインをこぼした。そのため、
[ "私はエプロンを着けた。", "私は私のシャツを着替えた。" ]
1
レジ係がレジを開けた。なぜなら、
[ "客は彼の財布を捜した。", "客は彼女にお金を手渡した。" ]
1
ストリート・ミュージシャンに人だかりができた。そのため、
[ "人々は彼に小銭を与えた。", "彼は人だかりを追い払った。" ]
0
小さな少年が彼のベビーシッターに泣きついた。なぜなら、
[ "彼は彼の両親が恋しかった。", "おやつの時間であった。" ]
0
操縦士のレーダーが嵐を感知した。そのため、
[ "操縦士は嵐を避けて飛行した。", "操縦士は嵐の中を飛行した。" ]
0
木が落葉した。そのため、
[ "葉が紅葉した。", "落葉が地面に積もった。" ]
1
少年は悪ふざけしたい気分であった。そのため、
[ "彼は、彼の姉妹と一緒にカード・ゲームをすることにした。", "彼は、彼の姉妹にいたずらを仕掛けることにした。" ]
1
子供がトイレに行きたいと訴えた。そのため、
[ "彼の父親は彼に炭酸飲料を与えた。", "彼の父親はガソリン・スタンドで車を止めた。" ]
1
子供が水槽に魚の餌を撒いた。そのため、
[ "魚は水槽から跳び出した。", "魚は餌に向かって泳いだ。" ]
1
女性の政治観が変わった。そのため、
[ "彼女は彼女の支持政党を乗り換えた。", "彼女は抗議行動に参加した。" ]
0
洗面台が詰まった。そのため、
[ "私は蛇口をひねった。", "私はそこに排水管洗浄剤を流し込んだ。" ]
1
乗客たちが列車を降りた。なぜなら、
[ "列車は駅に到着した。", "列車はその汽笛を鳴らした。" ]
0
男性が封筒の蓋を濡らして上から押さえた。そのため、
[ "彼は封筒に切手を貼った。", "彼は封緘した。" ]
1
友人たちが音信不通になった。なぜなら、
[ "彼らは互いの交流を楽しんだ。", "彼らは別々の街に引っ越した。" ]
1
経理担当者が会社の資金を不正に管理していた。そのため、
[ "彼女は彼女の職を解かれた。", "彼女は産休に入った。" ]
0
私は時計を見た。なぜなら、
[ "私は時計が時を刻む音を聞いた。", "私は時刻を確認したかった。" ]
1
私の手がつった。なぜなら、
[ "私は随筆を手書きした。", "私の妻と私は手をつないだ。" ]
0
ボルトが堅く締まった。なぜなら、
[ "私はボルトを交換した。", "私はレンチをひねった。" ]
1
カップルがアパートの賃貸契約を結んだ。そのため、
[ "カップルはアパートに引っ越した。", "市はそのアパートを使用禁止にした。" ]
0
女性が屋外でポーチに座っていた。なぜなら、
[ "彼女は夕日を見たかった。", "彼女は稲光を見たと思った。" ]
0
男性が水中でライフジャケットを着用していた。なぜなら、
[ "彼は泳げなかった。", "水深は浅かった。" ]
0
女性がワープロでタイプミスをした。そのため、
[ "彼女は文書を削除した。", "彼女はバックスペース・キーを押した。" ]
1
少女が彼女の友人に自慢した。なぜなら、
[ "彼女は悪い点を取った。", "彼女はコンテストで優勝した。" ]
1
芝生がぬかるんでいた。なぜなら、
[ "一晩中土砂降りであった。", "それは雑草だらけであった。" ]
0
女性が寝坊した。なぜなら、
[ "彼女はホテルに宿泊した。", "彼女は、彼女の目覚まし時計をセットするのを忘れた。" ]
1
男性が日焼け止め剤を塗った。なぜなら、
[ "彼は日陰に座った。", "彼は海辺へ行った。" ]
1
研究者たちが理論を証明した。そのため、
[ "研究者たちは理論を撤回した。", "人々は理論を受け入れた。" ]
1
試合会場のファンからブーイングが起こった。なぜなら、
[ "試合は延長戦に突入した。", "レフェリーが判定を間違えた。" ]
1
私は鍵に私の組み合わせ数字を入れた。そのため、
[ "私は鍵を閉めた。", "鍵がぽんと開いた。" ]
1
混雑が激しくなった。そのため、
[ "父親は、彼の息子にいくらかのお金を手渡した。", "父親は彼の息子の手を掴んだ。" ]
1
雪で私設車道が通れなくなった。そのため、
[ "私は雪を集めて雪玉にした。", "私は通り道の雪かきをした。" ]
1
カヤックの漕ぎ手たちが彼らのオールを漕いだ。そのため、
[ "カヤックは岸にたどり着いた。", "カヤックは波にぶつかった。" ]
0
少女が彼女の自転車の運転を誤った。そのため、
[ "彼女はハンドルから手を放した。", "彼女はフェンスに衝突した。" ]
1
私は扇風機をつけた。そのため、
[ "水が私の肌にかかった。", "私は涼しい空気があたるのを感じた。" ]
1
サーファーたちが海辺に戻った。なぜなら、
[ "彼らはびしょ濡れであった。", "彼らはサメを見た。" ]
1
私は浴槽の排水栓を抜いた。そのため、
[ "浴槽の水が抜けた。", "水が床に飛び散った。" ]
0
夫は、浮気をして彼の妻を裏切ったことに罪悪感を抱いた。そのため、
[ "彼は彼女の浮気を非難した。", "彼は彼の浮気を彼女に告白した。" ]
1
ポスターのインクがにじんだ。なぜなら、
[ "私はインクが乾くのを待った。", "私はポスターに水をこぼした。" ]
1
子供が悲鳴を上げて目を覚ました。なぜなら、
[ "彼は悪い夢を見た。", "彼はおねしょをした。" ]
0
少年がテーブルの上に足を乗せた。そのため、
[ "彼の父親はテーブルに着いた。", "彼の父親は彼に説教をした。" ]
1
私の友人が、彼の顔を私の方に向けた。なぜなら、
[ "私は彼の名前を叫んだ。", "私は私の手を大きく振った。" ]
0
政府がその国民を抑圧した。そのため、
[ "国民は暴動を起こした。", "国民は投票するための登録を行った。" ]
0
少年が森で迷子になった。そのため、
[ "彼はテントを張った。", "彼は助けを求めて叫んだ。" ]
1
女性が海外を旅行した。なぜなら、
[ "彼女は絵を習いたかった。", "彼女は異文化を学びたかった。" ]
1
男性が彼の同僚に嫉妬した。なぜなら、
[ "彼の同僚が昇進した。", "彼の同僚は遅くまで働いた。" ]
0
男性が宇宙人を目撃した。なぜなら、
[ "彼は幻覚を起こしていた。", "彼は瞑想していた。" ]
0
男性の髪が金髪になった。なぜなら、
[ "彼はそれを脱色した。", "彼はそれにシャンプーをかけた。" ]
0
芸術家が新しい作品を制作した。なぜなら、
[ "彼女は彼女の前作を批評した。", "彼女は思いがけないひらめきを感じた。" ]
1
息子が家を出て行った。なぜなら、
[ "彼は軍を除隊した。", "彼は大学へ進学しようとしていた。" ]
1
本が本棚から落ちた。なぜなら、
[ "棚板には埃が積もっていた。", "地震で本棚が揺れた。" ]
1
私の家が停電した。そのため、
[ "私は照明を点けた。", "私は回路遮断器をリセットした。" ]
1
私たちはジェット・コースターに乗った。なぜなら、
[ "それは怖そうであった。", "それは面白そうであった。" ]
1
ポップコーンの袋が弾け始めた。なぜなら、
[ "私は袋にバターを流し込んだ。", "私はそれを電子レンジで加熱した。" ]
1
End of preview.

nanochat-jp-eval-bundle

nanochat の日本語フォーク nanochat-jp で使用する 日本語評価データ一式（eval bundle） です． 既存の公開日本語ベンチマークを nanochat の評価コードがそのまま読める形式へ変換し，設定ファイルとあわせて配布しています．

評価は2系統あります．

  • CORE: ベースモデル（事前学習直後）向け．few-shot の尤度比較（multiple choice）または継続生成（language modeling）で採点します．対象タスクと shot 数は core.yaml で定義されます．
  • Chat: SFT / RL 後のチャットモデル向け．few-shot の実例を user/assistant のターンとして与え，生成結果を採点します．タスクは nanochat-jp の nanochat/chat_eval_common.py に登録されています．

CORE

タスク ファイル 形式 shot 数 件数 ランダム
JAQKET world_knowledge/jaqket.jsonl language modeling 10 2,000 0%
COPA-ja commonsense_reasoning/copa_ja.jsonl multiple choice (2択) 0 500 50%
Global-PIQA (parallel) commonsense_reasoning/global_piqa_parallel.jsonl multiple choice (4択) 10 103 25%
Global-PIQA (nonparallel) commonsense_reasoning/global_piqa_nonparallel.jsonl multiple choice (2択) 10 100 50%
JCommonsenseQA commonsense_reasoning/jcommonsenseqa.jsonl multiple choice (5択) 10 1,118 20%
JSQuAD reading_comprehension/jsquad.jsonl language modeling 10 4,420 0%

Chat

タスク ファイル 採点 shot 数 件数 ランダム
JMMLU jmmlu/jmmlu.jsonl 生成文中の最後の A–D ラベル 4（同一科目） 7,097 25%
JamC-QA jamcqa/jamcqa.jsonl 生成文中の最後の A–D ラベル 4（同一カテゴリ） 2,309 25%
PFGen pfgen/pfgen.jsonl n-gram / キーワードによる流暢性・正確性・有用性の平均 20 50 0
YOMI-Bench (生成) yomi_bench/generation.jsonl 読み・韻の生成一致 3 2,880 0
YOMI-Bench (分類) yomi_bench/classification.jsonl 選択肢ラベルの尤度比較 4 5,760 37.5%

jamcqa/jamcqa_dev.jsonl（32件）は現在の評価では読み込まれません．過去の評価との互換のために同梱しています． 5タスクすべての結果が揃うと，ランダムベースラインで中心化した平均として ChatCORE が算出されます．

ライセンス

ライセンスの異なる複数のベンチマークを変換・収録しているため，本データセット全体に単一のライセンスは設定していません（other）．各ファイルは原典のライセンスおよび利用条件を引き継ぎます．

タスク 出典 ライセンス
JAQKET（v2.0 test） kumapo/JAQKET（原典: AI王） CC BY-SA 4.0
COPA-ja nlp-titech/copa-japanese BSD 2-Clause
Global-PIQA（parallel / nonparallel の日本語部分） mrlbenchmarks/global-piqa-parallel，同 nonparallel CC BY-SA 4.0
JCommonsenseQA，JSQuAD yahoojapan/JGLUE CC BY-SA 4.0
JMMLU nlp-waseda/JMMLU CC BY-SA 4.0（CC BY-NC-ND の JMMLU_NC_ND 科目は不使用）
JamC-QA sbintuitions/JamC-QA CC BY-SA 4.0
PFGen pfnet-research/pfgen-bench Apache-2.0
YOMI-Bench benchmark-release/YOMI-Bench CC BY-SA 4.0

core.yaml と eval_meta_data.csv の形式は上流 nanochat（および Mosaic Eval Gauntlet）に由来します．

注意

  • 本データは評価専用です．学習データに混入させないでください．
  • 変換の過程でプロンプト形式・shot 数・スコアリング方法を nanochat の評価コードに合わせているため，各ベンチマークの公式スコアとは直接比較できません．
  • 収録データの多くはウェブ由来のテキストを含み，内容の正確性は原典に依存します．

謝辞

ベンチマークを公開されている各データセットの作成者の皆様に感謝申し上げます． また，本プロジェクトの推進にあたり，多方面でご協力を賜りましたTohoku NLP Groupの皆様に心より御礼申し上げます．
Downloads last month
143
Total file size:
53 MB

Collection including tohoku-nlp/nanochat-jp-eval-bundle