HYUKI5/hover-nlp__hover

hover-nlp/hover（複製）

データの内容

事実検証（主張が根拠の文書で支持されるかを判定する）のデータ。1 行が 1 件の主張（claim）で、根拠の一覧（supporting_facts）、ラベル（label、SUPPORTED か NOT_SUPPORTED）、根拠の段数（num_hops）を持つ。test 分割のラベルは非公開で、-1 で表される。

データの概要

項目	値
行数	26,171（1 構成・3 分割の合計）
列数	7
容量	9.79 KB（ファイル 3 本）
ファイルの形式	py 1
言語	en
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
default	train 18,171、validation 4,000、test 4,000	7

列（構成 default）

列	型
id	int32
uid	string
claim	string
supporting_facts	list<struct>
label	struct{class_label: struct{names: struct{…}}}
num_hops	int32
hpqa_id	string

行数と列は元のカードの YAML（dataset_info）の記載。データセットビューアでは読めなかった。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

hover-nlp/hover をリビジョン c0e43052759879b3461642ca6c0dd26658f47691 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/hover-nlp/hover
• 複製したリビジョン: c0e43052759879b3461642ca6c0dd26658f47691（2024-01-18 11:05:51+00:00）
• 元のライセンス表記: ['cc-by-sa-4.0']

論文

• https://arxiv.org/abs/2011.03088

アノテーションの方法

元のカードにアノテーションの節はあるが、中身は空欄（More Information Needed）だった。

微調整に使うときの注意

• 調査メモの台帳での区分: B（継承条件・gated・モデル由来の条件・上流の規約などが付く）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
general_english_nlu.md	2. NLI・言い換え・事実検証・スタンス（noul / 3 択 choice） (L130)	cc-by-sa-4.0	確認済	原文注記: - hover-nlp/hover: arXiv 2011.03088（タグ）。train 18,171 / val 4,000 / test 4,000（test ラベルは非公開と理解）。ラベル NOT_SUPPORT

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

データセットカード: HoVer

目次

• データセットの説明
  • データセットの概要
  • 対応するタスクとリーダーボード
  • 言語
• データセットの構造
  • データのインスタンス
  • データのフィールド
  • データの Splits
• データセットの作成
  • 整備の根拠
  • 元データ
  • アノテーション
  • 個人情報と機微な情報
• データを使う際の考慮事項
  • データセットの社会的影響
  • バイアスについての議論
  • その他の既知の制限
• 追加情報
  • データセットの整備者
  • ライセンス情報
  • 引用情報
  • 貢献

データセットの説明

• ホームページ: https://hover-nlp.github.io/
• リポジトリ: https://github.com/hover-nlp/hover
• 論文: https://arxiv.org/abs/2011.03088
• リーダーボード: https://hover-nlp.github.io/
• 連絡先: [More Information Needed]

データセットの概要

[More Information Needed]

対応するタスクとリーダーボード

[More Information Needed]

言語

[More Information Needed]

データセットの構造

データのインスタンス

学習用データの例を以下に示す。

{'id': 14856, 'uid': 'a0cf45ea-b5cd-4c4e-9ffa-73b39ebd78ce', 'claim': 'The park at which Tivolis Koncertsal is located opened on 15 August 1843.', 'supporting_facts': [{'key': 'Tivolis Koncertsal', 'value': 0}, {'key': 'Tivoli Gardens', 'value': 1}], 'label': 'SUPPORTED', 'num_hops': 2, 'hpqa_id': '5abca1a55542993a06baf937'}

test set では、文に対して利用できるのは id、uid、claim だけである。test set のラベルは利用できず、-1 で表される。

データのフィールド

[More Information Needed]

データの Splits

[More Information Needed]

データセットの作成

整備の根拠

[More Information Needed]

元データ

[More Information Needed]

初期のデータ収集と正規化

[More Information Needed]

元の言語の生産者は誰か？

[More Information Needed]

アノテーション

[More Information Needed]

アノテーションの過程

[More Information Needed]

アノテーターは誰か？

[More Information Needed]

個人情報と機微な情報

[More Information Needed]

データを使う際の考慮事項

データセットの社会的影響

[More Information Needed]

バイアスについての議論

[More Information Needed]

その他の既知の制限

[More Information Needed]

追加情報

データセットの整備者

[More Information Needed]

ライセンス情報

[More Information Needed]

引用情報

[More Information Needed]

貢献

このデータセットを追加してくれた @abhishekkrthakur に感謝する。

原文（英語）

Dataset Card for HoVer

Dataset Summary

[More Information Needed]

Supported Tasks and Leaderboards

[More Information Needed]

Languages

[More Information Needed]

Dataset Structure

Data Instances

A sample training set is provided below

{'id': 14856, 'uid': 'a0cf45ea-b5cd-4c4e-9ffa-73b39ebd78ce', 'claim': 'The park at which Tivolis Koncertsal is located opened on 15 August 1843.', 'supporting_facts': [{'key': 'Tivolis Koncertsal', 'value': 0}, {'key': 'Tivoli Gardens', 'value': 1}], 'label': 'SUPPORTED', 'num_hops': 2, 'hpqa_id': '5abca1a55542993a06baf937'}

Please note that in test set sentence only id, uid and claim are available. Labels are not available in test set and are represented by -1.

Data Fields

[More Information Needed]

Data Splits

[More Information Needed]

Dataset Creation

Curation Rationale

[More Information Needed]

Source Data

[More Information Needed]

Initial Data Collection and Normalization

[More Information Needed]

Who are the source language producers?

[More Information Needed]

Annotations

[More Information Needed]

Annotation process

[More Information Needed]

Who are the annotators?

[More Information Needed]

Personal and Sensitive Information

[More Information Needed]

Considerations for Using the Data

Social Impact of Dataset

[More Information Needed]

Discussion of Biases

[More Information Needed]

Other Known Limitations

[More Information Needed]

Additional Information

Dataset Curators

[More Information Needed]

Licensing Information

[More Information Needed]

Citation Information

[More Information Needed]

Contributions

Thanks to @abhishekkrthakur for adding this dataset.