Hugging Face's logo

Datasets:
llm-book
/
aio_from_tohoku

Dataset card Files Community
1
aio_from_tohoku
File size: 3,191 Bytes 
65fe19e
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
 
import json
from typing import Any, Dict, Iterator, List, Tuple

import datasets
from datasets import Value


_DESCRIPTION = (
    "書籍『大規模言語モデル入門』で使用する、「AI王」コンペティションのQAデータセットです。"
    "GitHub リポジトリ cl-tohoku/quiz-datasets で公開されているデータセットを利用しています。"
)
_HOMEPAGE = "https://github.com/cl-tohoku/quiz-datasets"
_LICENSE = (
    "本データセットに含まれる一部のクイズ問題の著作権は abc/EQIDEN 実行委員会に帰属するものであり、"
    "これらのクイズ問題は本書における使用許諾を得ているものです。"
    "本データセットに含まれる一部のクイズ問題は株式会社キュービックおよび株式会社カプリティオに依頼し作成したものであり、"
    "これらのクイズ問題は クリエイティブ・コモンズ表示・継承ライセンス 4.0 (CC BY-SA 4.0) ライセンスの下に提供されています。"
    "本データセットにパッセージとして付与されている Wikipedia のコンテンツは、"
    "クリエイティブ・コモンズ表示・継承ライセンス 3.0 (CC BY-SA 3.0) および GNU 自由文書ライセンス (GFDL) の下に配布されているものです。"
    f"クイズ問題のライセンスについて、詳細は {_HOMEPAGE} を参照してください。"
)

_URL_BASE = "https://github.com/cl-tohoku/quiz-datasets/releases/download"
_URLS = {
    "train": f"{_URL_BASE}/v1.0.0/datasets.no_passages.aio_02_train.jsonl.gz",
    "dev": f"{_URL_BASE}/v1.0.0/datasets.no_passages.aio_02_dev.jsonl.gz",
}


class Aio(datasets.GeneratorBasedBuilder):
    VERSION = datasets.Version("1.0.0")

    def _info(self) -> datasets.DatasetInfo:
        features = datasets.Features({
            "qid": Value("string"),
            "competition": Value("string"),
            "timestamp": Value("string"),
            "section": Value("string"),
            "number": Value("string"),
            "original_question": Value("string"),
            "original_answer": Value("string"),
            "original_additional_info": Value("string"),
            "question": Value("string"),
            "answers": [Value("string")],
        })
        return datasets.DatasetInfo(
            description=_DESCRIPTION,
            homepage=_HOMEPAGE,
            license=_LICENSE,
            features=features,
        )

    def _split_generators(self, dl_manager: datasets.DownloadManager) -> List[datasets.SplitGenerator]:
        filepaths = dl_manager.download_and_extract(_URLS)

        split_generators = [
            datasets.SplitGenerator(name=datasets.Split.TRAIN, gen_kwargs={"filepath": filepaths["train"]}),
            datasets.SplitGenerator(name=datasets.Split.VALIDATION, gen_kwargs={"filepath": filepaths["dev"]}),
        ]
        return split_generators

    def _generate_examples(self, filepath: str) -> Iterator[Tuple[int, Dict[str, Any]]]:
        with open(filepath) as f:
            for i, line in enumerate(f):
                item = json.loads(line)
                yield i, item