qleap/Rescored_dataset_qsearched_by_NAGISA_V4

NAGISA_V4 再評価データセット（qsearched）

公開されている将棋の局面集 penguinkumimanu/shogi_hao_depth9_Shuffled_qsearch の shuffled_01.bin に入っている 5 億局面を、評価関数 NAGISA_V4（HalfKA-2304 の NNUE）を使って、 深さ 9、MultiPV 5 でもう一度探索し直したものです。

• 500,000,000 行。shuffled_01.bin の 1 件が 1 行で、同じ順に並んでいます
• 256 個の parquet ファイル（data/teacher-00000.parquet から data/teacher-00255.parquet）。 1 ファイルが 1,953,125 行で、zstd 圧縮、8192 行ごとの row group です。 合計は 39,209,075,864 バイト（約 39.2 GB）です
• 列と型は Knowledge_distilled_dataset_by_NAGISA_V4 と同じ 5 列です

局面の出どころ

元データは penguinkumimanu/shogi_hao_depth9_Shuffled_qsearch （リビジョン fa24a74）の shuffled_01.bin です。YaneuraOu の学習用 PackedSfenValue 形式 （1 件 40 バイト）で、500,000,000 件、20,000,000,000 バイトあります。

探索の条件

探索プログラム	attic（rshogi/attic-shogi の 1fc9e08 に、コミットしていない変更を加えたもの）。実行ファイルの SHA-256 は d20ebf4095e42dacfc1af87476d818c83e2ae3d0af806353fed7db6cd8f0cbd9
評価関数	NAGISA_V4（NNUE、HalfKA-2304）
nn.bin の SHA-256	39dd05367e1b66c8a12d41aefb9ca81070dc643060bcb5cb3306043f118e7415
FV_SCALE	28
探索	深さ 9、MultiPV 5
置換表	探索スレッドごとに 16 MB
千日手	quick-draw
入玉宣言勝ちの規則	CSA 27 点法

shuffled_01.bin を 256 等分して探索しています。すべて同じ実行ファイルと同じ nn.bin を使い、上の表の条件は共通です。 1 件につき探索は 1 回で、対局はしていません。

FV_SCALE は、評価値への換算に使う除数です。NNUE が出す生の値は、この数で割って初めて 評価値（cp）になります。FV_SCALE を 16（エンジンの既定値）にして同じ nn.bin を読むと、 評価値は 28 で換算したときの 1.75 倍になります。他の学習データと混合するときは、 FV_SCALE が一致しているか確かめてください。

置換表と再現性

置換表とヒストリテーブル（指し手の並べ替えに使う統計）は、スレッドの中で局面ごとに消していません。 そのため、同じ局面でも、それまでに同じスレッドが探索した局面によって、評価値や最善手が少し変わりえます。

候補手がない局面

探索が指し手を返さずに終わるのは、手番側が入玉宣言で勝てる局面と、合法手が一つもない局面のときです。 候補手のリストが空の行は 36,340 行あり、内訳は入玉宣言で勝てる局面が 11,818 行、 合法手が一つもない局面が 24,522 行です。この行の value_q には、探索の評価値から作った +1 と −1 がそれぞれ入っています。

変換のしかた

Knowledge_distilled_dataset_by_NAGISA_V4 を作ったときと同じ変換規則（manaka-common::card）です。

詰みスコアとして扱う評価値	|cp| が 31,900 以上（32000 - 100）
value_q	tanh(cp / 1512.173)。詰みスコアは ±1
候補手の確率	候補手の cp を 100 で割って softmax にかける（温度 100 cp）
候補手の確率（最善手の評価値が詰みスコアの局面）	最善手を 1、ほかの候補手を 0 とする（one-hot）

value_q は探索を始めた局面の探索評価値から作ります。candidates は MultiPV の各候補手で、最善手が先頭、 候補手ごとにその手の cp があります（探索を始めた局面の手番側から見た値です）。 最善手の cp が詰みスコア（|cp| が 31,900 以上）の行は 41,665,706 行（8.33%）あります。 局面の合法手が 5 手に満たないため、候補が 1 から 4 手しかない行が 514 行あります。

value_q が ±1 でも詰みスコアとは限りません。float32 では |cp| が 31,900 に達するよりずっと小さい値で tanh が評価値の符号に応じて +1 か −1 に丸められます。teacher-00000.parquet では、詰みスコアではない評価値でも 14,013 cp 以上ですでに +1 になっています。 詰みスコアかどうかは、value_q ではなく、候補手がある行では、先頭の候補手（最善手）の cp で判定してください。 value_q がちょうど ±1 の行は 43,124,519 行（8.62%）あり、最善手の評価値が詰みスコアの行と、候補手がない行を合わせた数より多くなっています。

Knowledge_distilled_dataset_by_NAGISA_V4 と違って、同じ局面を 1 行にまとめていません。全体の i 行目はshuffled_01.bin の i 件目です （0 から数えます）。shuffled_01.bin に重複があれば、ここにも重複があります。teacher-NNNNN.parquet の NNNNN を N とすると、 そのファイルにはshuffled_01.bin の 1,953,125 * N 件目から 1,953,125 * (N + 1) 件目の手前までが入っています。

列

列	型	意味
packed	固定長バイト列（96）	局面。手番は最後のバイト
ply	uint16	手数。範囲は 2 から 399、中央値は 78
value_q	float32	教師値。探索を始めた局面の探索評価値から作った値で、手番側から見た値
weight	uint32	すべて 1（まとめていないため）
candidates	list<struct<mv uint16, prob float32, cp int16>>	候補手と、その学習用の確率と cp。候補手がない局面では空

packed の中身と mv の符号化（move16）は、Knowledge_distilled_dataset_by_NAGISA_V4 と同じです。 合法手の一覧や合法手マスクは入れていません。必要なら packed から作り直してください。

フッター

各 parquet ファイルのフッターに、変換設定（pov、fv_scale、mate_scale、mate_slack、 eval_coef、softmax_temp_cp、policy_source）と、行の範囲（source_start 以上 source_end 未満）などを入れています。