HYUKI5/hpprc__jsick

hpprc/jsick（複製）

データの内容

英語の SICK を人手で日本語に訳して作った、日本語の NLI と STS のデータセット JSICK。1 件は前提文 premise と仮説文 hypothesis の組に、含意の label と類似度の score が付き、英語訳の列 premise_en などを含む。語順と格助詞を調べる JSICK-stress という版もあり、JSICK の文の統語構造を組み替えて作られるとカードにある。

データの概要

項目	値
行数	20,654（4 構成・6 分割の合計）
列数	10〜15（構成による）
容量	155.38 KB（ファイル 5 本）
ファイルの形式	py 1、lock 1、toml 1
言語	ja, en
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
base	train 4,500、test 4,927	15
original	train 4,500、test 4,927	15
stress	test 900	10
stress-original	test 900	10

列（構成 base・分割 train。構成ごとに列が違う）

列	型	先頭の行の値
id	int32	1
premise	string	子供たちのグループが庭で遊んでいて、後ろの方には年を取った男性が立っている
hypothesis	string	庭にいる男の子たちのグループが遊んでいて、男性が後ろの方に立っている
label	class_label(3: entailment, neutral, contradiction)	1
score	float32	3.700000047683716
premise_en	string	A group of kids is playing in a yard and an old …
hypothesis_en	string	A group of boys in a yard is playing and a man i…
label_en	class_label(3: entailment, neutral, contradiction)	1
score_en	float32	4.5
corr_entailment_labelAB_En	string	nan
corr_entailment_labelBA_En	string	nan
image_ID	string	3155657768_b83a7831e5.jpg
original_caption	string	A group of children playing in a yard , a man in…
semtag_short	string	nan
semtag_long	string	nan

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

hpprc/jsick をリビジョン 6f27df527556f0c2774f45297cfca7780477ad75 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/hpprc/jsick
• 複製したリビジョン: 6f27df527556f0c2774f45297cfca7780477ad75（2023-04-11 06:18:09+00:00）
• 元のライセンス表記: ['cc-by-sa-4.0']

論文

• https://aclanthology.org/L14-1314/
• http://vcvpaiva.github.io/includes/pubs/2017-iwcs.pdf
• https://aclanthology.org/2022.tacl-1.73

アノテーションの方法

アノテーション

JSICK データセットにアノテーションを付けるため、クラウドソーシングのプラットフォーム「Lancers」を使い、JSICK の含意ラベルと類似度スコアを再アノテーションした。 アノテーターは、プラットフォームから無作為に選ばれた日本語母語話者 6 人であった。 アノテーターには、ガイドラインを完全に理解し、10 問のテスト問題で正解と同じラベルを付けることが求められた。

含意ラベルには、多数決で一致したアノテーションを正解ラベルとして採用した。また、各例について多数決の判断が意味的に妥当かどうかを確認した。 類似度スコアには、アノテーションの結果の平均を正解スコアとして使った。 JSICK データセットの生のアノテーションは 公開されている。 アノテーションの平均所要時間は 1 ペアあたり 1 分で、含意ラベルの Krippendorff's alpha は 0.65 であった。

微調整に使うときの注意

• 調査メモの台帳での区分: D（記載なし・other・unknown・資料間の食い違い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
multilingual_cjk.md	2. 日本語データセット (L106)	cc-by-sa-4.0(HF)/ JMTEB 表は CC BY 4.0 → 不一致	確認済	複数/混在/食い違い ／ 確認印なし(各ファイルの凡例により確認済扱い) ／ 原文注記: script同梱。ja・en 両方を含む

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

JSICK のデータセットカード

目次

• JSICK のデータセットカード
  • 目次
  • データセットの説明
    • データセットの概要
      • 日本語の構成的知識を含む文（JSICK）データセット。
      • JSICK-stress テストセット
    • 言語
  • データセットの構造
    • データの実例
      • base
      • stress
    • データのフィールド
      • base
      • stress
    • データの分割
    • アノテーション
  • 追加情報
    • ライセンス情報
    • 引用情報
    • 貢献者

データセットの説明

• ホームページ: https://github.com/verypluming/JSICK
• リポジトリ: https://github.com/verypluming/JSICK
• 論文: https://direct.mit.edu/tacl/article/doi/10.1162/tacl_a_00518/113850/Compositional-Evaluation-on-Japanese-Textual
• 論文: https://www.jstage.jst.go.jp/article/pjsai/JSAI2021/0/JSAI2021_4J3GS6f02/_pdf/-char/ja

データセットの概要

公式の GitHub より:

日本語の構成的知識を含む文（JSICK）データセット。

JSICK は、英語のデータセット SICK (Marelli et al., 2014) を人手で日本語に翻訳して作られた、日本語の NLI と STS のデータセットである。 このデータセットが、多言語の構成的推論をより高度に行えるモデルの研究に役立つことを願っている。

JSICK-stress テストセット

JSICK-stress テストセットは、モデルが日本語の語順と格助詞を捉えているかを調べるためのデータセットである。 JSICK-stress テストセットは、JSICK の文のペアの統語構造を変換して作られる。そこでは、含意ラベルと類似度スコアを予測する際に、モデルが語順と格助詞に注意を払っているかを分析する。

JSICK のテストセットには、前提文 A（列 sentence_A_Ja_origin）が基本語順として、それぞれ ga-o（主格-対格）、ga-ni（主格-与格）、ga-de（主格-道具格/場所格）の関係を含む文のペアが、それぞれ 1666、797、1006 組含まれる。

JSICK-stress テストセットは、これらのペアの統語構造を次の 3 通りの方法で変換して提供する:

• scrum_ga_o: 語順を入れ替えたペア。前提文 A の語順を、それぞれ o-ga、ni-ga、de-ga の順に入れ替える。
• ex_ga_o: 言い換えたペア。前提文 A の格助詞（ga、o、ni、de）だけを入れ替える。
• del_ga_o: 言い換えたペア。前提文 A の格助詞（ga、o、ni）だけを削除する。

言語

JSICK の言語データは、日本語と英語である。

データセットの構造

データの実例

特定の構成を読み込むには、バージョンに依存する接尾辞を付けなければならない:

import datasets as ds

dataset: ds.DatasetDict = ds.load_dataset("hpprc/jsick")
print(dataset)
# DatasetDict({
#     train: Dataset({
#         features: ['id', 'premise', 'hypothesis', 'label', 'score', 'premise_en', 'hypothesis_en', 'label_en', 'score_en', 'corr_entailment_labelAB_En', 'corr_entailment_labelBA_En', 'image_ID', 'original_caption', 'semtag_short', 'semtag_long'],
#         num_rows: 4500
#     })
#     test: Dataset({
#         features: ['id', 'premise', 'hypothesis', 'label', 'score', 'premise_en', 'hypothesis_en', 'label_en', 'score_en', 'corr_entailment_labelAB_En', 'corr_entailment_labelBA_En', 'image_ID', 'original_caption', 'semtag_short', 'semtag_long'],
#         num_rows: 4927
#     })
# })

dataset: ds.DatasetDict = ds.load_dataset("hpprc/jsick", name="stress")
print(dataset)
# DatasetDict({
#     test: Dataset({
#         features: ['id', 'premise', 'hypothesis', 'label', 'score', 'sentence_A_Ja_origin', 'entailment_label_origin', 'relatedness_score_Ja_origin', 'rephrase_type', 'case_particles'],
#         num_rows: 900
#     })
# })

base

例は次のとおりである:

{
    'id': 1,
    'premise': '子供たちのグループが庭で遊んでいて、後ろの方には年を取った男性が立っている',
    'hypothesis': '庭にいる男の子たちのグループが遊んでいて、男性が後ろの方に立っている',
    'label': 1, // (neutral)
    'score': 3.700000047683716,
    'premise_en': 'A group of kids is playing in a yard and an old man is standing in the background',
    'hypothesis_en': 'A group of boys in a yard is playing and a man is standing in the background',
    'label_en': 1, // (neutral)
    'score_en': 4.5,
    'corr_entailment_labelAB_En': 'nan',
    'corr_entailment_labelBA_En': 'nan',
    'image_ID': '3155657768_b83a7831e5.jpg',
    'original_caption': 'A group of children playing in a yard , a man in the background .',
    'semtag_short': 'nan',
    'semtag_long': 'nan',
}

stress

例は次のとおりである:

{
    'id': '5818_de_d',
    'premise': '女性火の近くダンスをしている',
    'hypothesis': '火の近くでダンスをしている女性は一人もいない',
    'label': 2,  // (contradiction)
    'score': 4.0,
    'sentence_A_Ja_origin': '女性が火の近くでダンスをしている',
    'entailment_label_origin': 2,
    'relatedness_score_Ja_origin': 3.700000047683716,
    'rephrase_type': 'd',
    'case_particles': 'de'
}

データのフィールド

base

一般的な NLI データセットの列名を採用したバージョンである。

名前	説明
id	元の SICK と同じ ID。
premise	日本語の 1 文目。
hypothesis	日本語の 2 文目。
label	日本語での含意ラベル。
score	日本語での関連度スコア。範囲は [1-5]。
premise_en	英語の 1 文目。
hypothesis_en	英語の 2 文目。
label_en	英語での元の含意ラベル。
score_en	英語での元の関連度スコア。範囲は [1-5]。
semtag_short	日本語での言語現象のタグ。
semtag_long	日本語での言語現象のタグの詳細。
image_ID	8K ImageFlickr データセット にある元の画像。
original_caption	8K ImageFlickr データセット にある元のキャプション。
corr_entailment_labelAB_En	(Karouli et al., 2017) による、A から B への修正された英語の含意ラベル。
corr_entailment_labelBA_En	(Karouli et al., 2017) による、B から A への修正された英語の含意ラベル。

stress

名前	説明
id	ID（元の SICK と同じ）。
premise	日本語の 1 文目。
hypothesis	日本語の 2 文目。
label	日本語での含意ラベル。
score	日本語での関連度スコア。範囲は [1-5]。
sentence_A_Ja_origin	JSICK テストセットにある、元の前提文 A。
entailment_label_origin	元の含意ラベル。
relatedness_score_Ja_origin	元の関連度スコア。
rephrase_type	文のペアの統語構造に施した変換の種類。
case_particles	文中の名詞の機能や役割を示す、日本語の文法上の助詞。

データの分割

名前	train	validation	test
base	4,500		4,927
original	4,500		4,927
stress			900
stress-original			900

アノテーション

JSICK データセットにアノテーションを付けるため、クラウドソーシングのプラットフォーム「Lancers」を使い、JSICK の含意ラベルと類似度スコアを再アノテーションした。 アノテーターは、プラットフォームから無作為に選ばれた日本語母語話者 6 人であった。 アノテーターには、ガイドラインを完全に理解し、10 問のテスト問題で正解と同じラベルを付けることが求められた。

含意ラベルには、多数決で一致したアノテーションを正解ラベルとして採用した。また、各例について多数決の判断が意味的に妥当かどうかを確認した。 類似度スコアには、アノテーションの結果の平均を正解スコアとして使った。 JSICK データセットの生のアノテーションは 公開されている。 アノテーションの平均所要時間は 1 ペアあたり 1 分で、含意ラベルの Krippendorff's alpha は 0.65 であった。

追加情報

• verypluming/JSICK
• Compositional Evaluation on Japanese Textual Entailment and Similarity
• JSICK: 日本語構成的推論・類似度データセットの構築

ライセンス情報

CC BY-SA 4.0

引用情報

@article{yanaka-mineshima-2022-compositional,
    title = "Compositional Evaluation on {J}apanese Textual Entailment and Similarity",
    author = "Yanaka, Hitomi  and
      Mineshima, Koji",
    journal = "Transactions of the Association for Computational Linguistics",
    volume = "10",
    year = "2022",
    address = "Cambridge, MA",
    publisher = "MIT Press",
    url = "https://aclanthology.org/2022.tacl-1.73",
    doi = "10.1162/tacl_a_00518",
    pages = "1266--1284",
}

@article{谷中 瞳2021,
  title={JSICK: 日本語構成的推論・類似度データセットの構築},
  author={谷中 瞳 and 峯島 宏次},
  journal={人工知能学会全国大会論文集},
  volume={JSAI2021},
  number={ },
  pages={4J3GS6f02-4J3GS6f02},
  year={2021},
  doi={10.11517/pjsai.JSAI2021.0_4J3GS6f02}
}

貢献者

このデータセットを作成してくれた Hitomi Yanaka と Koji Mineshima に感謝する。

原文（英語）

Dataset Card for JSICK

Dataset Summary

From official GitHub:

Japanese Sentences Involving Compositional Knowledge (JSICK) Dataset.

JSICK is the Japanese NLI and STS dataset by manually translating the English dataset SICK (Marelli et al., 2014) into Japanese. We hope that our dataset will be useful in research for realizing more advanced models that are capable of appropriately performing multilingual compositional inference.

JSICK-stress Test set

The JSICK-stress test set is a dataset to investigate whether models capture word order and case particles in Japanese. The JSICK-stress test set is provided by transforming syntactic structures of sentence pairs in JSICK, where we analyze whether models are attentive to word order and case particles to predict entailment labels and similarity scores.

The JSICK test set contains 1666, 797, and 1006 sentence pairs (A, B) whose premise sentences A (the column sentence_A_Ja_origin) include the basic word order involving ga-o (nominative-accusative), ga-ni (nominative-dative), and ga-de (nominative-instrumental/locative) relations, respectively.

We provide the JSICK-stress test set by transforming syntactic structures of these pairs by the following three ways:

• scrum_ga_o: a scrambled pair, where the word order of premise sentences A is scrambled into o-ga, ni-ga, and de-ga order, respectively.
• ex_ga_o: a rephrased pair, where the only case particles (ga, o, ni, de) in the premise A are swapped
• del_ga_o: a rephrased pair, where the only case particles (ga, o, ni) in the premise A are deleted

Languages

The language data in JSICK is in Japanese and English.

Dataset Structure

Data Instances

When loading a specific configuration, users has to append a version dependent suffix:

import datasets as ds

dataset: ds.DatasetDict = ds.load_dataset("hpprc/jsick")
print(dataset)
# DatasetDict({
#     train: Dataset({
#         features: ['id', 'premise', 'hypothesis', 'label', 'score', 'premise_en', 'hypothesis_en', 'label_en', 'score_en', 'corr_entailment_labelAB_En', 'corr_entailment_labelBA_En', 'image_ID', 'original_caption', 'semtag_short', 'semtag_long'],
#         num_rows: 4500
#     })
#     test: Dataset({
#         features: ['id', 'premise', 'hypothesis', 'label', 'score', 'premise_en', 'hypothesis_en', 'label_en', 'score_en', 'corr_entailment_labelAB_En', 'corr_entailment_labelBA_En', 'image_ID', 'original_caption', 'semtag_short', 'semtag_long'],
#         num_rows: 4927
#     })
# })

dataset: ds.DatasetDict = ds.load_dataset("hpprc/jsick", name="stress")
print(dataset)
# DatasetDict({
#     test: Dataset({
#         features: ['id', 'premise', 'hypothesis', 'label', 'score', 'sentence_A_Ja_origin', 'entailment_label_origin', 'relatedness_score_Ja_origin', 'rephrase_type', 'case_particles'],
#         num_rows: 900
#     })
# })

base

An example of looks as follows:

{
    'id': 1,
    'premise': '子供たちのグループが庭で遊んでいて、後ろの方には年を取った男性が立っている',
    'hypothesis': '庭にいる男の子たちのグループが遊んでいて、男性が後ろの方に立っている',
    'label': 1, // (neutral)
    'score': 3.700000047683716,
    'premise_en': 'A group of kids is playing in a yard and an old man is standing in the background',
    'hypothesis_en': 'A group of boys in a yard is playing and a man is standing in the background',
    'label_en': 1, // (neutral)
    'score_en': 4.5,
    'corr_entailment_labelAB_En': 'nan',
    'corr_entailment_labelBA_En': 'nan',
    'image_ID': '3155657768_b83a7831e5.jpg',
    'original_caption': 'A group of children playing in a yard , a man in the background .',
    'semtag_short': 'nan',
    'semtag_long': 'nan',
}

stress

An example of looks as follows:

{
    'id': '5818_de_d',
    'premise': '女性火の近くダンスをしている',
    'hypothesis': '火の近くでダンスをしている女性は一人もいない',
    'label': 2,  // (contradiction)
    'score': 4.0,
    'sentence_A_Ja_origin': '女性が火の近くでダンスをしている',
    'entailment_label_origin': 2,
    'relatedness_score_Ja_origin': 3.700000047683716,
    'rephrase_type': 'd',
    'case_particles': 'de'
}

Data Fields

base

A version adopting the column names of a typical NLI dataset.

Name	Description
id	The ids (the same with original SICK).
premise	The first sentence in Japanese.
hypothesis	The second sentence in Japanese.
label	The entailment label in Japanese.
score	The relatedness score in the range [1-5] in Japanese.
premise_en	The first sentence in English.
hypothesis_en	The second sentence in English.
label_en	The original entailment label in English.
score_en	The original relatedness score in the range [1-5] in English.
semtag_short	The linguistic phenomena tags in Japanese.
semtag_long	The details of linguistic phenomena tags in Japanese.
image_ID	The original image in 8K ImageFlickr dataset.
original_caption	The original caption in 8K ImageFlickr dataset.
corr_entailment_labelAB_En	The corrected entailment label from A to B in English by (Karouli et al., 2017).
corr_entailment_labelBA_En	The corrected entailment label from B to A in English by (Karouli et al., 2017).

stress

Name	Description
id	Ids (the same with original SICK).
premise	The first sentence in Japanese.
hypothesis	The second sentence in Japanese.
label	The entailment label in Japanese
score	The relatedness score in the range [1-5] in Japanese.
sentence_A_Ja_origin	The original premise sentences A from the JSICK test set.
entailment_label_origin	The original entailment labels.
relatedness_score_Ja_origin	The original relatedness scores.
rephrase_type	The type of transformation applied to the syntactic structures of the sentence pairs.
case_particles	The grammatical particles in Japanese that indicate the function or role of a noun in a sentence.

Data Splits

name	train	validation	test
base	4,500		4,927
original	4,500		4,927
stress			900
stress-original			900

Annotations

To annotate the JSICK dataset, they used the crowdsourcing platform "Lancers" to re-annotate entailment labels and similarity scores for JSICK. They had six native Japanese speakers as annotators, who were randomly selected from the platform. The annotators were asked to fully understand the guidelines and provide the same labels as gold labels for ten test questions.

For entailment labels, they adopted annotations that were agreed upon by a majority vote as gold labels and checked whether the majority judgment vote was semantically valid for each example. For similarity scores, they used the average of the annotation results as gold scores. The raw annotations with the JSICK dataset are publicly available. The average annotation time was 1 minute per pair, and Krippendorff's alpha for the entailment labels was 0.65.

Additional Information

• verypluming/JSICK
• Compositional Evaluation on Japanese Textual Entailment and Similarity
• JSICK: 日本語構成的推論・類似度データセットの構築

Licensing Information

CC BY-SA 4.0

Citation Information

@article{yanaka-mineshima-2022-compositional,
    title = "Compositional Evaluation on {J}apanese Textual Entailment and Similarity",
    author = "Yanaka, Hitomi  and
      Mineshima, Koji",
    journal = "Transactions of the Association for Computational Linguistics",
    volume = "10",
    year = "2022",
    address = "Cambridge, MA",
    publisher = "MIT Press",
    url = "https://aclanthology.org/2022.tacl-1.73",
    doi = "10.1162/tacl_a_00518",
    pages = "1266--1284",
}

@article{谷中 瞳2021,
  title={JSICK: 日本語構成的推論・類似度データセットの構築},
  author={谷中 瞳 and 峯島 宏次},
  journal={人工知能学会全国大会論文集},
  volume={JSAI2021},
  number={ },
  pages={4J3GS6f02-4J3GS6f02},
  year={2021},
  doi={10.11517/pjsai.JSAI2021.0_4J3GS6f02}
}

Contributions

Thanks to Hitomi Yanaka and Koji Mineshima for creating this dataset.