Update README.md

README.md

@@ -13,7 +13,6 @@ base_model:
 前提:Google Colab上での実行想定します。
 
 ## 必要なライブラリのインストール
-
 ```python
 !pip install -U bitsandbytes
 !pip install -U transformers
@@ -22,6 +21,7 @@ base_model:
 !pip install -U peft
 ```
 ## 必要なライブラリの読み込み
+```python
 from transformers import (
     AutoModelForCausalLM,
     AutoTokenizer,
@@ -31,13 +31,16 @@ from peft import PeftModel
 import torch
 from tqdm import tqdm
 import json
+```
 
 ## ベースモデル、LoRAアダプタの指定
+```python
 base_model_id = "llm-jp/llm-jp-3-13b"
 adapter_id = "arbk/llm_jp_3_13b_finetune_30"
-
+```
 
 ## ベースモデルとトークナイザーの読み込み
+```python
 from huggingface_hub import login
 HF_TOKEN = "Your_Token" # 自身のhuggingfaceのトークンを入力
 login(token=HF_TOKEN)
@@ -56,11 +59,14 @@ model = AutoModelForCausalLM.from_pretrained(
 )
 
 tokenizer = AutoTokenizer.from_pretrained(base_model_id, trust_remote_code=True, token = HF_TOKEN)
+```
 
 ## 元のモデルにLoRAのアダプタを統合。
+```python
 model = PeftModel.from_pretrained(model, adapter_id, token = HF_TOKEN)
-
+```
 ## タスクとなるデータの読み込み。
+```python
 datasets = []
 with open("file_name", "r") as f: # file_nameにファイル名を入力。事前に自身のカレントディレクトリにファイルをアップロードしてください。
     item = ""
@@ -70,9 +76,10 @@ with open("file_name", "r") as f: # file_nameにファイル名を入力。事
       if item.endswith("}"):
         datasets.append(json.loads(item))
         item = ""
-
+```
 
 ## モデルを用いてタスクの推論。
+```python
 results = []
 for data in tqdm(datasets):
 
@@ -97,11 +104,15 @@ for data in tqdm(datasets):
   output = tokenizer.decode(outputs[tokenized_input.size(1):], skip_special_tokens=True)
 
   results.append({"task_id": data["task_id"], "input": input, "output": output})
-
+```
 ## 結果をjsonl形式で保存。
+```python
 import re
 jsonl_id = re.sub(".*/", "", adapter_id) # デフォルトではadapter_id用いたファイル名になります。必要に応じて変更してください。
 with open(f"./{jsonl_id}-outputs.jsonl", 'w', encoding='utf-8') as f:
     for result in results:
         json.dump(result, f, ensure_ascii=False)
         f.write('\n')
+```
+
+以上