Commit
•
884154f
1
Parent(s):
e2120ff
Update README.md
Browse files
README.md
CHANGED
|
@@ -3,6 +3,7 @@ library_name: transformers
|
|
| 3 |
datasets:
|
| 4 |
- llm-jp/magpie-sft-v1.0
|
| 5 |
---
|
|
|
|
| 6 |
|
| 7 |
モデル
|
| 8 |
https://huggingface.co/llm-jp/llm-jp-3-13b
|
|
@@ -10,15 +11,10 @@ https://huggingface.co/llm-jp/llm-jp-3-13b
|
|
| 10 |
こちらのデータセットを使用してファインチューニングを行っています。
|
| 11 |
https://huggingface.co/datasets/llm-jp/magpie-sft-v1.0
|
| 12 |
|
| 13 |
-
|
| 14 |
-
[松尾研大規模言語モデル講座2024](https://weblab.t.u-tokyo.ac.jp/lecture/course-list/large-language-model/)のコンペ用の提出モデル作成の一環として作成・公開しています。
|
| 15 |
-
|
| 16 |
1. 以下はcolabでの推論サンプルコードです。
|
| 17 |
-
|
| 18 |
-
```
|
| 19 |
-
|
| 20 |
|
| 21 |
-
|
| 22 |
import torch
|
| 23 |
from transformers import AutoTokenizer, AutoModelForCausalLM
|
| 24 |
tokenizer = AutoTokenizer.from_pretrained("llm-jp/llm-jp-3-13b")
|
|
@@ -37,3 +33,7 @@ with torch.no_grad():
|
|
| 37 |
print(tokenizer.decode(output))
|
| 38 |
```
|
| 39 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 3 |
datasets:
|
| 4 |
- llm-jp/magpie-sft-v1.0
|
| 5 |
---
|
| 6 |
+
[松尾研大規模言語モデル講座2024](https://weblab.t.u-tokyo.ac.jp/lecture/course-list/large-language-model/)のコンペ用の提出モデル作成の一環として作成・公開しています。
|
| 7 |
|
| 8 |
モデル
|
| 9 |
https://huggingface.co/llm-jp/llm-jp-3-13b
|
|
|
|
| 11 |
こちらのデータセットを使用してファインチューニングを行っています。
|
| 12 |
https://huggingface.co/datasets/llm-jp/magpie-sft-v1.0
|
| 13 |
|
|
|
|
|
|
|
|
|
|
| 14 |
1. 以下はcolabでの推論サンプルコードです。
|
| 15 |
+
```!pip install torch transformers accelerate bitsandbytes ```
|
|
|
|
|
|
|
| 16 |
|
| 17 |
+
```
|
| 18 |
import torch
|
| 19 |
from transformers import AutoTokenizer, AutoModelForCausalLM
|
| 20 |
tokenizer = AutoTokenizer.from_pretrained("llm-jp/llm-jp-3-13b")
|
|
|
|
| 33 |
print(tokenizer.decode(output))
|
| 34 |
```
|
| 35 |
|
| 36 |
+
ライセンス
|
| 37 |
+
本モデルは学習に利用したデータの関係で以下のライセンスの影響を受けます。
|
| 38 |
+
https://huggingface.co/llm-jp/llm-jp-13b-v1.0
|
| 39 |
+
https://huggingface.co/datasets/llm-jp/magpie-sft-v1.0
|