Update README.md
Browse files
README.md
CHANGED
@@ -1,3 +1,22 @@
|
|
1 |
-
---
|
2 |
-
license: llama3
|
3 |
-
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
---
|
2 |
+
license: llama3
|
3 |
+
---
|
4 |
+
모델 : llama3 8B instruct
|
5 |
+
|
6 |
+
데이터 : AIhub 데이터셋, 자체 제작 데이터셋
|
7 |
+
|
8 |
+
모델 학습 파라미터 : 모델의 파라미터 중 10%정도를 trainable한 parameter로 설정
|
9 |
+
|
10 |
+
generate config :
|
11 |
+
|
12 |
+
max_new_tokens = 1024,
|
13 |
+
|
14 |
+
repetition_penalty = 1.1, #1.1~1.2
|
15 |
+
|
16 |
+
temperature = 0.75,
|
17 |
+
|
18 |
+
do_sample= True
|
19 |
+
|
20 |
+
top_k = 5
|
21 |
+
|
22 |
+
주의 : 민감 데이터가 들어가 있을 수 있습니다.
|