MrBananaHuman
commited on
Commit
•
7fc9300
1
Parent(s):
fc45e64
Create README.md
Browse files
README.md
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
kakao brain에서 공개한 kogpt 6b model을 fp16으로 저장한 모델입니다.
|
| 2 |
+
|
| 3 |
+
### 카카오브레인 모델을 fp16으로 로드하는 방법
|
| 4 |
+
|
| 5 |
+
'''
|
| 6 |
+
from transformers import GPTJForCausalLM
|
| 7 |
+
model = GPTJForCausalLM.from_pretrained('kakaobrain/kogpt', cache_dir='./my_dir', revision='KoGPT6B-ryan1.5b', torch_dtype=torch.float16)
|
| 8 |
+
'''
|
| 9 |
+
|
| 10 |
+
### 참고 링크
|
| 11 |
+
https://github.com/kakaobrain/kogpt/issues/6?fbclid=IwAR1KpWhuHnevQvEWV18o16k2z9TLgrXkbWTkKqzL-NDXHfDnWcIq7I4SJXM
|