Dataset Viewer
The dataset viewer is not available for this split.
Cannot load the dataset split (in streaming mode) to extract the first rows.
Error code: StreamingRowsError
Exception: TypeError
Message: Couldn't cast array of type string to null
Traceback: Traceback (most recent call last):
File "/src/services/worker/src/worker/utils.py", line 149, in get_rows_or_raise
return get_rows(
dataset=dataset,
...<4 lines>...
column_names=column_names,
)
File "/src/libs/libcommon/src/libcommon/utils.py", line 272, in decorator
return func(*args, **kwargs)
File "/src/services/worker/src/worker/utils.py", line 129, in get_rows
rows_plus_one = list(itertools.islice(safe_iter(ds, dataset=dataset), rows_max_number + 1))
File "/src/services/worker/src/worker/utils.py", line 544, in safe_iter
yield from ds.decode(False) if ds.features else ds
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 3052, in __iter__
for key, example in ex_iterable:
^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2559, in __iter__
for key, pa_table in self._iter_arrow():
~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2584, in _iter_arrow
for key, pa_table in self.ex_iterable._iter_arrow():
~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 558, in _iter_arrow
for key, pa_table in iterator:
^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 440, in _iter_arrow
for key, pa_table in self.generate_tables_fn(**gen_kwags):
~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 361, in _generate_tables
self._cast_table(pa_table, json_field_paths=json_field_paths),
~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
pa_table = table_cast(pa_table, self.info.features.arrow_schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2381, in table_cast
return cast_table_to_schema(table, schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2315, in cast_table_to_schema
cast_array_to_feature(
~~~~~~~~~~~~~~~~~~~~~^
table[name] if name in table_column_names else pa.array([None] * len(table), type=schema.field(name).type),
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
feature,
^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1861, in wrapper
return pa.chunked_array([func(chunk, *args, **kwargs) for chunk in array.chunks])
~~~~^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2121, in cast_array_to_feature
casted_array_values = _c(array.values, feature.feature)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1863, in wrapper
return func(array, *args, **kwargs)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2071, in cast_array_to_feature
_c(children[name] if name in array_fields else null_array, subfeature)
~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1863, in wrapper
return func(array, *args, **kwargs)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2121, in cast_array_to_feature
casted_array_values = _c(array.values, feature.feature)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1863, in wrapper
return func(array, *args, **kwargs)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2071, in cast_array_to_feature
_c(children[name] if name in array_fields else null_array, subfeature)
~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1863, in wrapper
return func(array, *args, **kwargs)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2155, in cast_array_to_feature
return array_cast(
array,
...<2 lines>...
allow_decimal_to_str=allow_decimal_to_str,
)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1863, in wrapper
return func(array, *args, **kwargs)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2014, in array_cast
raise TypeError(f"Couldn't cast array of type {_short_str(array.type)} to {_short_str(pa_type)}")
TypeError: Couldn't cast array of type string to nullNeed help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
JPPostBench v1
トラック
- Track A — 分類。 短い投稿120件に、42カテゴリ（Piqoのラベルセット）の いずれか1つがラベル付けされています。指標は正解率（multi-gold）、 正解率（primary）、macro-F1、1件あたりの処理時間です。
- Track B — おすすめランキング。 いいね履歴と候補投稿の集合が与えられ、
候補を順位付けします。指標は NDCG@6（ほか mean reward、like-rate）。
devセットは2種類あります：
track_b_dev.jsonl（手書き3ケース、 スモークテスト用）とtrack_b_dev2.jsonl（生成された24ユーザー、 評価の主対象）。
アダプター契約
参加者は以下を実装します：
- Track A：
classify(text) -> label - Track B：
rank(history, candidates) -> ordered candidate ids
LLM参加者は OpenAI 互換エンドポイント経由で呼び出され、全員に同一の
バージョン管理されたプロンプトが使われます（ゼロショット、temperature 0、
出力予算は共通、テキストのみ）。詳細は bench/prompts.py と
bench/adapters.py を参照してください。
実行方法
python -m bench.run_bench --track a --data data/track_a_dev.jsonl \
--contestants piqo,tfidf-centroid,majority,random --hardware "VM CPU"
python -m bench.run_bench --track b --data data/track_b_dev2.jsonl \
--contestants piqo,tfidf-centroid,random,popularity --hardware "VM CPU"
プロンプトのバージョンは v2 です： すべてのLLM参加者に同じ1行の ラベル定義が渡され、ラベル一覧はアイテムごとに（シード付きで） シャッフルされます。Track B の候補はシード付きでシャッフルされた順序と 振り直されたIDで提示され、相対時刻とケースの現在時刻（now）も表示されます。 パースは文書化された段階的な階層に従います（厳密なJSON → コードフェンス 除去 → 最初の括弧の抽出 → ラベル名の対応付け）。いずれかの段階で復旧できた 応答は形式エラーになりません。レポートには全参加者の Wilson 95%信頼区間、 ペア比較（Track A は McNemar 検定、Track B はユーザー単位のペア ブートストラップ）、および段階利得版と併記される二値利得版の NDCG@6 が 含まれます（段階利得の対応付けには 0.5 の下限があります： 中立な投稿を 6件選ぶとちょうど 0.5 になります）。
data/track_b_dev2.jsonl（24ユーザー × 候補120件）は
gen_track_b_dev2.py で生成されています： 正解は段階的なトピック重み、
トピック内の投稿品質、新しさへの感度、8%のラベルノイズで決まるため、
語彙的なトピック一致だけでは解けません。dev の生成器は意図的に公開して
いますが、将来のテスト分割の生成器とシードは公開しません。
ロスターについて： Freshness ベースラインは v1 には含まれません。
Qwen 3.5 2B が全トラックの LLM 参加者として含まれます。参照実行の
記録は results/ にあります。
カナリア： jppostbench-canary-7f3a91c2-2026（汚染検出用。このデータセットで学習しないでください）
注意事項 — 引用前に必ずお読みください
- devセットは合成データです（Track A と Track B v1 は手書き、 Track B dev2 は生成）。評価パイプラインのスモークテスト用に作られた もので、実世界での品質を保証するものではありません。テスト分割は まだなく、ここにある数値はすべて dev / デバッグ用の数値です。
- 初期の Track B dev は3ケースしかなく、95%信頼区間は実質的に
3ユーザーの最小値–最大値になってしまいます。スモークテストを
超える用途には
track_b_dev2.jsonl（24ユーザー）を使ってください。 - Track A の正解ラベルは単一のアノテーター（ベンチマーク作者）による
もので、アノテーター間一致度は測定されていません。
also_acceptableもほぼ空のため、multi-gold の仕組みはほとんど機能していません。 - 実在の Yudetter 投稿は含まれておらず、実データのテストを作成する
こともできません： Yudetter の利用規約では、ユーザーの投稿を AI の
評価に使用したり再配布したりすることが認められていません。
教師ありの上限（Piqo 自身の合成コーパスで学習した分類器）は含めて
いません。下限としては
randomが用意されています。
ライセンス
MIT
- Downloads last month
- 112