misawann
/

bert-base-jaquad-ffn2150-head-10

Question Answering

Inference Endpoints

Model card Files Files and versions Community

misawann commited on May 13, 2022

Commit

7a9c8d5

•

1 Parent(s): 5133809

Update README.md

Files changed (1) hide show

README.md +2 -1

README.md CHANGED Viewed

@@ -9,7 +9,8 @@ widget:
 Transformer Pruning したモデル。
 - 枝刈りには，JaQuADの訓練データのうち1024件を使用し，10イテレーションで実施。
 - FFNのサイズを30%， attention head の数を 10 % 削減 (ffn: 3072, head: 12 -> ffn: 2150, head: 10)。
-- ※ [JaQuAD の実験コード](https://github.com/SkelterLabsInc/JaQuAD/blob/main/JaQuAD.ipynb)と同じ前処理をした上で使用してください。hf hub 上では

 Transformer Pruning したモデル。
 - 枝刈りには，JaQuADの訓練データのうち1024件を使用し，10イテレーションで実施。
 - FFNのサイズを30%， attention head の数を 10 % 削減 (ffn: 3072, head: 12 -> ffn: 2150, head: 10)。
+- ※ [JaQuAD の実験コード](https://github.com/SkelterLabsInc/JaQuAD/blob/main/JaQuAD.ipynb)と同じ前処理をした上で使用してください。
+- ※ 上記の理由で，hf hub　の Hosted inference API 上では適切な予測が出力されません。