Create README.md
Browse files
README.md
ADDED
@@ -0,0 +1,20 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
---
|
2 |
+
widget:
|
3 |
+
- text: "ドクウツボ(毒鱓)Gymnothoraxjavanicus(Bleeker,1859)は体長3メートルの記録がある大型種で、鰓孔が黒いことで近縁種と区別できる。 インド洋と太平洋の熱帯域に広く分布し、日本では琉球列島で見られる。 ドクウツボはインド洋とどの海域の熱帯域に分布しますか? "
|
4 |
+
---
|
5 |
+
|
6 |
+
## モデル詳細
|
7 |
+
[cl-tohoku/bert-base-japanese](https://huggingface.co/cl-tohoku/bert-base-japanese) を JaQuAD で fine-tuning した [SkelterLabsInc/bert-base-japanese-jaquad](https://huggingface.co/SkelterLabsInc/bert-base-japanese-jaquad) に対して [TextPruner](https://github.com/airaria/TextPruner) を使って
|
8 |
+
Transformer Pruning したモデル。
|
9 |
+
枝刈りには,JaQuADの訓練データのうち1024件を使用し,10イテレーションで実施。
|
10 |
+
FFNのサイズを30%, attention head の数を 10 % 削減 (ffn: 3072, head: 12 -> ffn: 2150, head: 10)。
|
11 |
+
|
12 |
+
|
13 |
+
|
14 |
+
## JaQuAD の validation データでの性能
|
15 |
+
- フルモデル
|
16 |
+
- F1 score: 0.779
|
17 |
+
- Exact Match: 0.614
|
18 |
+
- 枝刈り後のモデル
|
19 |
+
- F1 score: 0.756
|
20 |
+
- Exact Match: 0.587
|