Update README.md
Browse files
README.md
CHANGED
|
@@ -14,7 +14,8 @@ license: apache-2.0
|
|
| 14 |
- **ライセンス :** apache-2.0
|
| 15 |
|
| 16 |
### 注意
|
| 17 |
-
|
|
|
|
| 18 |
~~~
|
| 19 |
"""
|
| 20 |
<s>以下は、タスクを説明する指示です。要求を適切に満たす応答を書きなさい
|
|
@@ -26,7 +27,9 @@ license: apache-2.0
|
|
| 26 |
"""
|
| 27 |
~~~
|
| 28 |
|
| 29 |
-
|
|
|
|
|
|
|
| 30 |
|
| 31 |
~~~python
|
| 32 |
import torch
|
|
@@ -58,10 +61,8 @@ model = AutoModelForCausalLM.from_pretrained(
|
|
| 58 |
|
| 59 |
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
|
| 60 |
|
| 61 |
-
|
| 62 |
instruction = "東京は日本の"
|
| 63 |
|
| 64 |
-
|
| 65 |
prompt = f"<s>以下は、タスクを説明する指示です。要求を適切に満たす応答を書きなさい\n\n### 指示:\n{instruction}\n\n### 応答:\n"
|
| 66 |
print(prompt)
|
| 67 |
model_input = tokenizer(prompt, return_tensors="pt").to(model.device)
|
|
@@ -81,6 +82,7 @@ with torch.no_grad():
|
|
| 81 |
)
|
| 82 |
print("----"*20)
|
| 83 |
del input_ids
|
|
|
|
| 84 |
~~~
|
| 85 |
|
| 86 |
|
|
|
|
| 14 |
- **ライセンス :** apache-2.0
|
| 15 |
|
| 16 |
### 注意
|
| 17 |
+
プロンプトは次の形式でのみ学習しています。
|
| 18 |
+
|
| 19 |
~~~
|
| 20 |
"""
|
| 21 |
<s>以下は、タスクを説明する指示です。要求を適切に満たす応答を書きなさい
|
|
|
|
| 27 |
"""
|
| 28 |
~~~
|
| 29 |
|
| 30 |
+
|
| 31 |
+
### テキスト生成のサンプルコード
|
| 32 |
+
|
| 33 |
|
| 34 |
~~~python
|
| 35 |
import torch
|
|
|
|
| 61 |
|
| 62 |
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
|
| 63 |
|
|
|
|
| 64 |
instruction = "東京は日本の"
|
| 65 |
|
|
|
|
| 66 |
prompt = f"<s>以下は、タスクを説明する指示です。要求を適切に満たす応答を書きなさい\n\n### 指示:\n{instruction}\n\n### 応答:\n"
|
| 67 |
print(prompt)
|
| 68 |
model_input = tokenizer(prompt, return_tensors="pt").to(model.device)
|
|
|
|
| 82 |
)
|
| 83 |
print("----"*20)
|
| 84 |
del input_ids
|
| 85 |
+
torch.cuda.empty_cache()
|
| 86 |
~~~
|
| 87 |
|
| 88 |
|