Hugging Face's logo

Datasets:
taishi-i
/
nagisa_stopwords

Modalities:
Text
Languages:
Japanese
Size:
10K<n<100K
Tags:
stopwords
Libraries:
Datasets
mlcroissant
License:
Dataset card Viewer Files Community
nagisa_stopwords / test_nagisa_stopwords.py
taishi-i's picture
taishi-i
add nagisa_stopwords datasets
30143df
raw history blame contribute delete
No virus
4.01 kB
from datasets import load_dataset
def test_load_dataset():
dataset = load_dataset("taishi-i/nagisa_stopwords")
nagisa_stopwords = dataset["nagisa_stopwords"]
assert "words" in nagisa_stopwords.features
assert "postags" in nagisa_stopwords.features
expected_words = [
"の",
"、",
"。",
"て",
"に",
"を",
"が",
"は",
"と",
"た",
"し",
"で",
"も",
"ます",
"\u3000",
"で",
"です",
"1",
"こと",
"な",
"0",
"に",
"いる",
"する",
"い",
"か",
"2",
"「",
"」",
"から",
"お",
"れ",
"まし",
"・",
"(",
")",
"さ",
"ない",
"ある",
"いう",
"よう",
"年",
"だ",
"あり",
"や",
"3",
"その",
"なっ",
"!",
"ませ",
"ん",
"5",
"この",
"ない",
"ご",
"9",
"月",
"的",
"4",
"ば",
"など",
"人",
"もの",
"8",
"でき",
"方",
"なり",
"ため",
"6",
"なる",
"まで",
"7",
"?",
"ね",
"者",
"それ",
"さん",
"場合",
"たい",
"私",
"れる",
"日",
"ん",
"思い",
"これ",
"自分",
"ください",
"時",
"できる",
"日",
"だけ",
"...",
"でしょう",
"日本",
"-",
"き",
"おり",
"一",
"たら",
"られ",
]
assert expected_words == nagisa_stopwords["words"]
expected_postags = [
"助詞",
"補助記号",
"補助記号",
"助詞",
"助詞",
"助詞",
"助詞",
"助詞",
"助詞",
"助動詞",
"動詞",
"助詞",
"助詞",
"助動詞",
"空白",
"助動詞",
"助動詞",
"名詞",
"名詞",
"助動詞",
"名詞",
"助動詞",
"動詞",
"動詞",
"動詞",
"助詞",
"名詞",
"補助記号",
"補助記号",
"助詞",
"接頭辞",
"助動詞",
"助動詞",
"補助記号",
"補助記号",
"補助記号",
"動詞",
"助動詞",
"動詞",
"動詞",
"形状詞",
"名詞",
"助動詞",
"動詞",
"助詞",
"名詞",
"連体詞",
"動詞",
"補助記号",
"助動詞",
"助動詞",
"名詞",
"連体詞",
"形容詞",
"接頭辞",
"名詞",
"名詞",
"接尾辞",
"名詞",
"助詞",
"助詞",
"名詞",
"名詞",
"名詞",
"動詞",
"名詞",
"動詞",
"名詞",
"名詞",
"動詞",
"助詞",
"名詞",
"補助記号",
"助詞",
"接尾辞",
"代名詞",
"接尾辞",
"名詞",
"助動詞",
"代名詞",
"助動詞",
"名詞",
"助詞",
"動詞",
"代名詞",
"名詞",
"動詞",
"名詞",
"動詞",
"接尾辞",
"助詞",
"補助記号",
"助動詞",
"名詞",
"補助記号",
"動詞",
"動詞",
"名詞",
"助動詞",
"助動詞",
]
assert expected_postags == nagisa_stopwords["postags"]