HYUKI5/tasksource__LogicNLI

tasksource/LogicNLI（複製）

データの内容

一階述語論理の推論を診断するための、NLI 形式の合成データ。1 行が前提（premise）・仮説（hypothesis）・正解（label）の組で、カードによれば常識による推論と切り離した FOL の推論を問うよう作られている。調査メモでは label が self_contradiction を含む 4 値の体系で、他のデータとは異なるとされる。ライセンスは空欄である。

データの概要

項目	値
行数	20,000（1 構成・3 分割の合計）
列数	3
容量	718.45 KB（ファイル 5 本）
ファイルの形式	parquet 3
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
default	train 16,000、validation 2,000、test 2,000	3

列（構成 default・分割 train）

列	型	先頭の行の値
premise	string	Nathalie is not blue. Gabriel is concerned. Nath…
hypothesis	string	Baird is not serious.
label	string	self_contradiction

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

tasksource/LogicNLI をリビジョン ac9d30ac7351c5f9bb31970b7ae82182b8b4f5e8 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/tasksource/LogicNLI
• 複製したリビジョン: ac9d30ac7351c5f9bb31970b7ae82182b8b4f5e8（2024-01-29 12:26:11+00:00）
• 元のライセンス表記: other

論文

• https://aclanthology.org/2021.emnlp-main.303

アノテーションの方法

元のカードにアノテーションの節が無かった。下の「調査メモの記述」と「元のカード」を参照。

微調整に使うときの注意

• 調査メモの台帳での区分: D（記載なし・other・unknown・資料間の食い違い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
reasoning_argument_numeric.md	Q6. 論理推論・時間推論（形式論理・読解の論理・規則推論・時間）のラベルが付いたデータは何があるか (L164)	記載なし	確認済	原文注記: 合成。self_contradiction を含む 4 値の体系は他と異なる。ライセンス空欄
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	unspecified / license_use=unspecified	確認済	license_use=unspecified ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

データセットカード: "LogicNLI"

@inproceedings{tian-etal-2021-diagnosing,
    title = "Diagnosing the First-Order Logical Reasoning Ability Through {L}ogic{NLI}",
    author = "Tian, Jidong  and
      Li, Yitian  and
      Chen, Wenqing  and
      Xiao, Liqiang  and
      He, Hao  and
      Jin, Yaohui",
    editor = "Moens, Marie-Francine  and
      Huang, Xuanjing  and
      Specia, Lucia  and
      Yih, Scott Wen-tau",
    booktitle = "Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing",
    month = nov,
    year = "2021",
    address = "Online and Punta Cana, Dominican Republic",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2021.emnlp-main.303",
    doi = "10.18653/v1/2021.emnlp-main.303",
    pages = "3738--3747",
    abstract = "Recently, language models (LMs) have achieved significant performance on many NLU tasks, which has spurred widespread interest for their possible applications in the scientific and social area. However, LMs have faced much criticism of whether they are truly capable of reasoning in NLU. In this work, we propose a diagnostic method for first-order logic (FOL) reasoning with a new proposed benchmark, LogicNLI. LogicNLI is an NLI-style dataset that effectively disentangles the target FOL reasoning from commonsense inference and can be used to diagnose LMs from four perspectives: accuracy, robustness, generalization, and interpretability. Experiments on BERT, RoBERTa, and XLNet, have uncovered the weaknesses of these LMs on FOL reasoning, which motivates future exploration to enhance the reasoning ability.",
}

https://github.com/omnilabNLP/LogicNLI

原文（英語）

Dataset Card for "LogicNLI"

@inproceedings{tian-etal-2021-diagnosing,
    title = "Diagnosing the First-Order Logical Reasoning Ability Through {L}ogic{NLI}",
    author = "Tian, Jidong  and
      Li, Yitian  and
      Chen, Wenqing  and
      Xiao, Liqiang  and
      He, Hao  and
      Jin, Yaohui",
    editor = "Moens, Marie-Francine  and
      Huang, Xuanjing  and
      Specia, Lucia  and
      Yih, Scott Wen-tau",
    booktitle = "Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing",
    month = nov,
    year = "2021",
    address = "Online and Punta Cana, Dominican Republic",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2021.emnlp-main.303",
    doi = "10.18653/v1/2021.emnlp-main.303",
    pages = "3738--3747",
    abstract = "Recently, language models (LMs) have achieved significant performance on many NLU tasks, which has spurred widespread interest for their possible applications in the scientific and social area. However, LMs have faced much criticism of whether they are truly capable of reasoning in NLU. In this work, we propose a diagnostic method for first-order logic (FOL) reasoning with a new proposed benchmark, LogicNLI. LogicNLI is an NLI-style dataset that effectively disentangles the target FOL reasoning from commonsense inference and can be used to diagnose LMs from four perspectives: accuracy, robustness, generalization, and interpretability. Experiments on BERT, RoBERTa, and XLNet, have uncovered the weaknesses of these LMs on FOL reasoning, which motivates future exploration to enhance the reasoning ability.",
}

https://github.com/omnilabNLP/LogicNLI