File size: 927 Bytes
7f12c11 4b45e82 7f12c11 4b45e82 7f12c11 4b45e82 7f12c11 4b45e82 7f12c11 4b45e82 7f12c11 4b45e82 7f12c11 4b45e82 7f12c11 4b45e82 7f12c11 4b45e82 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 |
---
library_name: transformers
license: other
---
# 日本語向けLlama3 8B
# はじめに
このリポジトリはLlama3を日本語化しようとしたモデルのリポジトリです。
# ライセンス
Llama 3 ライセンスなので商用利用可能です。ただし、Llama 3ライセンスをよく読んで使ってください。
# 学習データ
- llm-jp/databricks-dolly-15k-ja
- cl-nagoya/auto-wiki-qa
# 学習方法
cl-nagoya/auto-wiki-qaにある約240万件の学習データでLoRAによるインストラクションチューニングを1epoch行い、LoRAをマージしました。
その後、返答が味気なさすぎたので、llm-jp/databricks-dolly-15k-jaでLoRAによるインストラクションチューニングを1epoch行い、LoRAをマージしました。
# ハードウェア
- NVIDIA A6000x2
# ソフトウェア
- transformers
- trl
# 学習時間
- 50 GPU hours
|