The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.

launch/open_question_type（複製）

データの内容

自由回答形式の質問を、その種類でアノテーションしたデータ。1 行が 1 件の質問で、質問文は question、2 人のアノテーターがそれぞれ付けた上位 2 種類のラベルは annotator1 と annotator2、意見の不一致を解消した最終ラベルは resolve_type に入る。質問は Yahoo Answers と Reddit の利用者が書いたもので、ライセンスは CC BY 4.0 である。

データの概要

項目	値
行数	4,956（1 構成・3 分割の合計）
列数	5
容量	1.09 MB（ファイル 7 本）
ファイルの形式	ids 3、jsonl 1、py 1
言語	en
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
`default`	`train` 3,716、`validation` 580、`test` 660	5

列（構成 `default`・分割 `train`）

列	型	先頭の行の値
`id`	`string`	`1000491`
`question`	`string`	`When two bacteria exchange genetic information, …`
`annotator1`	`list<string>`	`[2 件]`
`annotator2`	`list<string>`	`[2 件]`
`resolve_type`	`string`	`concept`

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

launch/open_question_type をリビジョン 1cf33ab60b1855c636eed32ca381dbac55116571 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

元のデータセット: https://huggingface.co/datasets/launch/open_question_type
複製したリビジョン: 1cf33ab60b1855c636eed32ca381dbac55116571（2022-11-09 01:58:10+00:00）
元のライセンス表記: ['cc-by-4.0']

論文

アノテーションの方法

元データの言語の生成者は誰か？

Yahoo Answer と Reddit の利用者。

微調整に使うときの注意

調査メモの台帳での区分: A（許諾型のライセンスだけで、疑義の注記が無い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
`jev_sources_tasksource_bekko.csv`	CSV（tasksource-jev-typed-decisions）	cc-by-4.0, CC BY 4.0 (DPI), Custom (DPI) / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

データセットカード: OpenQuestionType

目次
データセットの説明
- データセットの要約
- 対応するタスクとリーダーボード
- 言語
データセットの構造
- データのインスタンス
- データのフィールド
- データ分割
データセットの作成
- 収集の根拠
- 元データ
- アノテーション
- 個人情報と機微な情報
データ利用上の留意点
- データセットの社会的影響
- バイアスについての議論
- その他の既知の制約
その他の情報
- データセットの作成者
- ライセンス情報
- 引用情報
- 貢献者

データセットの説明

Homepage: https://shuyangcao.github.io/projects/ontology_open_ended_question/
Repository: https://github.com/ShuyangCao/open-ended_question_ontology
Paper: https://aclanthology.org/2021.acl-long.502/
Leaderboard: [Needs More Information]
Point of Contact: [Needs More Information]

データセットの要約

自由回答形式の質問に対して、質問の種類をアノテーションしたもの。

対応するタスクとリーダーボード

[More Information Needed]

言語

英語

データセットの構造

データのインスタンス

例は次のようになる。

{
    "id": "123",
    "question": "A test question?",
    "annotator1": ["verification", None],
    "annotator2": ["concept", None],
    "resolve_type": "verification"
}

データのフィールド

id: string のフィーチャー。
question: string のフィーチャー。
annotator1: 2 つの要素からなるシーケンスのフィーチャー。1 つ目は 1 人目のアノテーターが最も確信を持って付けたラベルで、2 つ目は 1 人目のアノテーターが 2 番目に確信を持って付けたラベルである。
annotator2: 2 つの要素からなるシーケンスのフィーチャー。1 つ目は 2 人目のアノテーターが最も確信を持って付けたラベルで、2 つ目は 2 人目のアノテーターが 2 番目に確信を持って付けたラベルである。
resolve_type: string のフィーチャー。意見の不一致を解消した後の最終的なラベル。

データ分割

train: 3716
valid: 580
test: 660

データセットの作成

収集の根拠

[More Information Needed]

元データ

初期のデータ収集と正規化

[More Information Needed]

元データの言語の生成者は誰か？

Yahoo Answer と Reddit の利用者。

個人情報と機微な情報

なし。

データ利用上の留意点

データセットの社会的影響

[More Information Needed]

バイアスについての議論

[More Information Needed]

その他の既知の制約

[More Information Needed]

その他の情報

データセットの作成者

[More Information Needed]

ライセンス情報

CC BY 4.0

引用情報

@inproceedings{cao-wang-2021-controllable,
    title = "Controllable Open-ended Question Generation with A New Question Type Ontology",
    author = "Cao, Shuyang  and
      Wang, Lu",
    booktitle = "Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing (Volume 1: Long Papers)",
    month = aug,
    year = "2021",
    address = "Online",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2021.acl-long.502",
    doi = "10.18653/v1/2021.acl-long.502",
    pages = "6424--6439",
    abstract = "We investigate the less-explored task of generating open-ended questions that are typically answered by multiple sentences. We first define a new question type ontology which differentiates the nuanced nature of questions better than widely used question words. A new dataset with 4,959 questions is labeled based on the new ontology. We then propose a novel question type-aware question generation framework, augmented by a semantic graph representation, to jointly predict question focuses and produce the question. Based on this framework, we further use both exemplars and automatically generated templates to improve controllability and diversity. Experiments on two newly collected large-scale datasets show that our model improves question quality over competitive comparisons based on automatic metrics. Human judges also rate our model outputs highly in answerability, coverage of scope, and overall quality. Finally, our model variants with templates can produce questions with enhanced controllability and diversity.",
}

原文（英語）

Dataset Card for OpenQuestionType

Dataset Summary

Question types annotated on open-ended questions.

Supported Tasks and Leaderboards

[More Information Needed]

Languages

English

Dataset Structure

Data Instances

An example looks as follows.

{
    "id": "123",
    "question": "A test question?",
    "annotator1": ["verification", None],
    "annotator2": ["concept", None],
    "resolve_type": "verification"
}

Data Fields

id: a string feature.
question: a string feature.
annotator1: a sequence feature containing two elements. The first one is the most confident label by the first annotator and the second one is the second-most confident label by the first annotator.
annotator2: a sequence feature containing two elements. The first one is the most confident label by the second annotator and the second one is the second-most confident label by the second annotator.
resolve_type: a string feature which is the final label after resolving disagreement.

Data Splits

train: 3716
valid: 580
test: 660

Dataset Creation

Curation Rationale

[More Information Needed]

Source Data

Initial Data Collection and Normalization

[More Information Needed]

Who are the source language producers?

Yahoo Answer and Reddit users.

Personal and Sensitive Information

None.

Considerations for Using the Data

Social Impact of Dataset

[More Information Needed]

Discussion of Biases

[More Information Needed]

Other Known Limitations

[More Information Needed]

Additional Information

Dataset Curators

[More Information Needed]

Licensing Information

CC BY 4.0

Citation Information

@inproceedings{cao-wang-2021-controllable,
    title = "Controllable Open-ended Question Generation with A New Question Type Ontology",
    author = "Cao, Shuyang  and
      Wang, Lu",
    booktitle = "Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing (Volume 1: Long Papers)",
    month = aug,
    year = "2021",
    address = "Online",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2021.acl-long.502",
    doi = "10.18653/v1/2021.acl-long.502",
    pages = "6424--6439",
    abstract = "We investigate the less-explored task of generating open-ended questions that are typically answered by multiple sentences. We first define a new question type ontology which differentiates the nuanced nature of questions better than widely used question words. A new dataset with 4,959 questions is labeled based on the new ontology. We then propose a novel question type-aware question generation framework, augmented by a semantic graph representation, to jointly predict question focuses and produce the question. Based on this framework, we further use both exemplars and automatically generated templates to improve controllability and diversity. Experiments on two newly collected large-scale datasets show that our model improves question quality over competitive comparisons based on automatic metrics. Human judges also rate our model outputs highly in answerability, coverage of scope, and overall quality. Finally, our model variants with templates can produce questions with enhanced controllability and diversity.",
}

Downloads last month: 42

launch/open_question_type（複製）

データの内容

データの概要

構成と分割

列（構成 default・分割 train）

複製について

出典

論文

アノテーションの方法

微調整に使うときの注意

調査メモの記述

元のカード（日本語訳）

データセットカード: OpenQuestionType

目次

データセットの説明

データセットの要約

対応するタスクとリーダーボード

言語

データセットの構造

データのインスタンス

データのフィールド

データ分割

データセットの作成

収集の根拠

元データ

初期のデータ収集と正規化

元データの言語の生成者は誰か？

個人情報と機微な情報

データ利用上の留意点

データセットの社会的影響

バイアスについての議論

その他の既知の制約

その他の情報

データセットの作成者

ライセンス情報

引用情報

Dataset Card for OpenQuestionType

Dataset Summary

Supported Tasks and Leaderboards

Languages

Dataset Structure

Data Instances

Data Fields

Data Splits

Dataset Creation

Curation Rationale

Source Data

Initial Data Collection and Normalization

Who are the source language producers?

Personal and Sensitive Information

Considerations for Using the Data

Social Impact of Dataset

Discussion of Biases

Other Known Limitations

Additional Information

Dataset Curators

Licensing Information

Citation Information

列（構成 `default`・分割 `train`）