cocoirun commited on
Commit
aac5fc4
โ€ข
1 Parent(s): 553b542

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +26 -1
README.md CHANGED
@@ -1,3 +1,28 @@
1
  ---
2
- license: cc-by-4.0
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
+ license: cc-by-sa-4.0
3
  ---
4
+ <h1>orca-platypus - instruct ๋ชจ๋ธ v1.8</h1>
5
+
6
+ <b><ํ•™์Šต ๋ฐ์ดํ„ฐ ๊ตฌ์ถ•></b>
7
+ kyujinpy ๋‹˜์ด ๊ณต๊ฐœํ•˜์‹  KOR-OpenOrca-Platypus ๋ฐ์ดํ„ฐ๋ฅผ ์ผ๋ถ€ ์‚ญ์ œ(์ƒ˜ํ”Œ๋ง) ๋ฐ ์ •์ œ ์ž‘์—… ์ง„ํ–‰ํ•˜์—ฌ ํ™œ์šฉ.
8
+ ๊ทธ ์ดํ›„ ํ•ด๋‹น ๋ฐ์ดํ„ฐ๋“ค์„ ๋ณด๋ฉฐ ๊ด€๋ จ ํƒœ์Šคํฌ๋ฅผ ์ถ”์ถœํ•˜์˜€๊ณ  ์ด๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ
9
+ ํ•ด๋‹น ํƒœ์Šคํฌ์— ๋งž์ถฐ์„œ NLP ๊ด€๋ จ ์˜คํ”ˆ์†Œ์Šค ๋ฐ์ดํ„ฐ๋ฅผ ํ™œ์šฉํ•˜์—ฌ ํ•™์Šต๋ฐ์ดํ„ฐ๋ฅผ ์ž์ฒด์ ์œผ๋กœ
10
+ ์—ญ์‚ฌ, ๊ณผํ•™, ์ˆ˜ํ•™, ๊ธฐ๊ณ„๋…ํ•ด, ๋ฆฌ๋ทฐ ๋ถ„์„ ๋ฌธ์ œ๋ฅผ gpt๋ฅผ ํ†ตํ•ด์„œ ๊ตฌ์ถ•ํ•˜์˜€๊ณ ,
11
+ aihub ์ผ๋ฐ˜์ƒ์‹ ๋ฐ ๊ธฐ๊ณ„๋…ํ•ด ๋ฐ์ดํ„ฐ๋ฅผ ํ™œ์šฉํ•˜์—ฌ ์ถ”๊ฐ€๋กœ ํ•™์Šต ๋ฐ์ดํ„ฐ๋ฅผ ๊ตฌ์ถ•(ํ˜•ํƒœ์†Œ ๊ด€๋ จ, ๊ธฐ๊ณ„๋…ํ•ด ๊ด€๋ จ ๋ฐ ์š”์•ฝ)
12
+ ๊ฐ์ข… ๋ธ”๋กœ๊ทธ์—์„œ ์—ญ์‚ฌ ๋ฐ ์ƒ์‹ ํ€ด์ฆˆ๋ฅผ ์‚ฌ๋žŒ์ด ์ง์ ‘ ํ•™์Šต๋ฐ์ดํ„ฐ ํ˜•ํƒœ๋กœ ๋ณ€๊ฒฝ
13
+ AI2AI Challenge ๋ฐ์ดํ„ฐ ํ˜•ํƒœ๋ฅผ ๋ณด๊ณ  gpt๋ฅผ ํ†ตํ•ด ์ดˆ๋“ฑ ์ˆ˜์ค€์˜ ๊ณผํ•™ ์ˆ˜ํ•™ ๋ฌธ์ œ ์œ ํ˜•์„ ์ œ์ž‘ 500๋ฌธ์ œ
14
+ ์˜์–ด ๋ฒˆ์—ญ ๋ฐ์ดํ„ฐ ์˜ํ•œ/ํ•œ์˜ ๋ฐ์ดํ„ฐ ํ•™์Šต ๋ฐ์ดํ„ฐ๋กœ ํ™œ์šฉ ์ง„ํ–‰
15
+ ์ด ๋ฐ์ดํ„ฐ 4๋งŒ๊ฐœ ์ •๋„ ์‚ฌ์šฉํ•˜์˜€์Šต๋‹ˆ๋‹ค.
16
+
17
+ <br>
18
+ <br>
19
+ + TruthfulQA ๊ด€๋ จ ๋ฌธ์ œ ์ถ”๊ฐ€๋ฅผ ์ง„ํ–‰ํ•˜์˜€์Šต๋‹ˆ๋‹ค.(์†์„ค ๊ด€๋ จ ์ฐธ๊ฑฐ์ง“ ๋ฌธ์ œ)
20
+ + ๊ธฐ๊ณ„๋…ํ•ด ๊ด€๋ จ ํ•™์Šต ๋ฐ์ดํ„ฐ๋ฅผ ChatGPT๋ฅผ ํ†ตํ•ด์„œ ๋‹ต๋ณ€์„ ์–ป์–ด ํ•™์Šต
21
+ + ๋ฌธ๋ฒ•๊ด€๋ จ ํ•™์Šต ๋ฐ์ดํ„ฐ
22
+ - ๊ธฐ์กด์— 1.2์—์„œ ์„ฑ๋Šฅ ์ €ํ•˜๋ฅผ ๋ณด์ธ ์ผ๋ถ€ mmlu ๋ฐ์ดํ„ฐ๋ฅผ ์ œ๊ฑฐํ•˜์˜€์Šต๋‹ˆ๋‹ค.
23
+
24
+ <br>
25
+ ###ํ•™์Šต ๋ฐ์ดํ„ฐ ํŒŒ์ผ์€ ๋น„๊ณต๊ฐœ์ž…๋‹ˆ๋‹ค.
26
+ <br>
27
+ <b><ํ•™์Šต></b>
28
+ ํ•™์Šต์€ LoRA๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ A100 40G *2์—์„œ ํ•™์Šต์„ ์ง„ํ–‰ํ•˜์˜€์Šต๋‹ˆ๋‹ค.