Commit
·
8c92b1b
1
Parent(s):
a1f3fdb
Update README.md
Browse files
README.md
CHANGED
|
@@ -71,9 +71,6 @@ model = MobileBertForSequenceClassification.from_pretrained("ysakuramoto/mobileb
|
|
| 71 |
1. IB-BERT<sub>LARGE</sub>をlr=5e-4で1Mステップ学習しました。
|
| 72 |
1. IB-BERT<sub>LARGE</sub>モデルを240kステップ蒸留後、mobileBERTをlr=5e-4で2Mステップ学習しました。
|
| 73 |
- トータルで2ヶ月半くらいかかりました。。エラー出まくってつらかったです。
|
| 74 |
-
- tensorflow liteでの利用
|
| 75 |
-
- こちらで説明されています。その名の通りモバイルのためのモデルなんですね。
|
| 76 |
-
- https://www.tensorflow.org/lite/examples/bert_qa/overview
|
| 77 |
|
| 78 |
# ライセンス
|
| 79 |
[CC-BY SA 3.0](https://creativecommons.org/licenses/by-sa/3.0/deed.ja)
|
|
|
|
| 71 |
1. IB-BERT<sub>LARGE</sub>をlr=5e-4で1Mステップ学習しました。
|
| 72 |
1. IB-BERT<sub>LARGE</sub>モデルを240kステップ蒸留後、mobileBERTをlr=5e-4で2Mステップ学習しました。
|
| 73 |
- トータルで2ヶ月半くらいかかりました。。エラー出まくってつらかったです。
|
|
|
|
|
|
|
|
|
|
| 74 |
|
| 75 |
# ライセンス
|
| 76 |
[CC-BY SA 3.0](https://creativecommons.org/licenses/by-sa/3.0/deed.ja)
|