Update README.md

README.md

@@ -5,21 +5,22 @@ license: cc-by-4.0
 Mixtral8X7B Instructの日本語生成を安定させるためのLora実験モデルです。  
 
 注：bf16での使用を想定しています。  
-量子化推論する場合は、bf16で読み込んだ状態でLora適応、またはマージ、その後に量子化してください。
+量子化推論する場合は、bf16でモデルを読み込んだ状態でLora適応またはマージ、その後に量子化してください。
 
 **目的**
 
-Mixtral-8x7Bは優秀な言語モデルですが、日本語のアウトプットに、多言語が混入するcode-switchingがよく見られます。  
-元の性能を維持しながら、日本語生成を安定させる方法としてLoraの効果を検証しました。
+Mixtral-8x7Bは高性能な言語モデルですが、日本語出力に多言語が混入するcode-switchingがよく見られます。  
+元の性能を維持しながら、日本語生成を安定させる方法として、Loraの効果を検証しました。
 
 **学習データセット**
 
 学習データセットとして、下記のDPOデータセットを使用しています。  
-今回は、chosenのデータを使用しsft学習しています。
+DPO trainingはVRAM消費が多く、今回はchosenのデータを使用したsft学習しています。
 
 Chatbot Arena Conversations JA (calm2) Dataset   
-lmsys/chatbot_arena_conversationsのユーザ入力（CC-BY 4.0）を和訳  
-和訳にはfacebookの翻訳モデル（MIT License）が使用されています。  
+指示文 : [lmsys/chatbot_arena_conversations](https://huggingface.co/datasets/lmsys/chatbot_arena_conversations)のユーザ入力（CC-BY 4.0）を利用。  
+指示文の和訳 : [facebookの翻訳モデル（MIT License）](https://huggingface.co/facebook/wmt21-dense-24-wide-en-x)が使用されています。  
+応答文 : calm2-7b-chat（Apache 2.0）の出力です。
 [cyberagent/chatbot-arena-ja-calm2-7b-chat-experimental](https://huggingface.co/datasets/cyberagent/chatbot-arena-ja-calm2-7b-chat-experimental)
 
 **evaluation**
@@ -69,15 +70,7 @@ num_fewshot: 2, batch_size: 1
 |jaqket_v2-0.1-0.3|    0.1|exact_match|67.9553|   |      |
 |                 |       |f1         |78.7550|   |      |
 
-**考察**
-
-追加の事前学習なく安定した日本語出力が可能となったのは以下の作用と考えました。  
-未学習のモデルでは、日本語のシグナルが弱く言語選択が不安定になっていると推測されます。  
-Loraのみでも日本語コードへのバイアスを一定レベル強めることが可能となり、  
-もともと学習していた日本語のシグナルを抽出しやすくなったと考えられました。  
 
 **その他**
 
-他の言語も出力可能でした。  
-学習時のcontext長は4096tokenまでですが、4k token以上の出力も可能です。  
-一定以上の出力すると、その後のtokenの日本語バイアスが安定するのかもしれないです。
+Lora学習時のcontext長は4096tokenまでですが、4k token以上の出力も可能です。