Update README.md
Browse files
README.md
CHANGED
@@ -16,7 +16,7 @@ AI ์ ๋น
๋ฐ์ดํฐ ๋ถ์ ์ ๋ฌธ ๊ธฐ์
์ธ Linkbricks(www.linkbricks.com)์
|
|
16 |
ํ๊ตญ์ด ํ ํฐ 17๋ง๊ฐ๋ฅผ ์ถ๊ฐํ ํ ํฌ๋์ด์ ๋ก llama3 ๊ณ์ด ํ์ธํ๋์ ๊ธฐ์กด llama3 ํ ํฌ๋์ด์ ๋์ ์ฌ์ฉํ ์ ์๋๋ก tokenzier_config.json๊ณผ special_tokens_map.json ์ ์์ ์์ด
|
17 |
tokenzier.json์ vocab๊ณผ merges ๋ง appendํ ํ ํฌ๋์ด์ ์ด๋ค.
|
18 |
ํ๊ธ ์ฝํผ์ค ์ฝ 6์ต๊ฑด์์ frequency>2 ์ด์๋ง ์ถ์ถํ ํ ํฐ๋ค๋ก์ ๊ณผํ, ์์ , ์ฌํ, ๋ฌธํ, ๋ด์ค, ๋ฆฌ๋ทฐ, ์์
, ์ฑํ
๋ฑ์ ๋๋ถ๋ถ ์ปค๋ฒํ๋ค.
|
19 |
-
์ฐธ๊ณ ๋ก llama2๊ฐ ์๋ํผ์ค์ผํ
์ค๊ณ์ด ํ ํฌ๋์ด์ ๋ผ๋ฉด ์ด๋ฒ llama3์์๋ ๋ฐ์ดํธ๋ ๋ฒจ bpe๋ก ๋ณ๊ฒฝ๋์ด ๊ธฐ๋ณธ ํ ํฌ๋์ด์ ๋ฅผ ๋ฐ์ดํธ๋ ๋ฒจbpe๋ก ํ๊ณ ํ๋ฆฌํ ํฌ๋์ด์ ์
|
20 |
์ค์ ํ์์ต๋๋ค.
|
21 |
<br>
|
22 |
<br>
|
|
|
16 |
ํ๊ตญ์ด ํ ํฐ 17๋ง๊ฐ๋ฅผ ์ถ๊ฐํ ํ ํฌ๋์ด์ ๋ก llama3 ๊ณ์ด ํ์ธํ๋์ ๊ธฐ์กด llama3 ํ ํฌ๋์ด์ ๋์ ์ฌ์ฉํ ์ ์๋๋ก tokenzier_config.json๊ณผ special_tokens_map.json ์ ์์ ์์ด
|
17 |
tokenzier.json์ vocab๊ณผ merges ๋ง appendํ ํ ํฌ๋์ด์ ์ด๋ค.
|
18 |
ํ๊ธ ์ฝํผ์ค ์ฝ 6์ต๊ฑด์์ frequency>2 ์ด์๋ง ์ถ์ถํ ํ ํฐ๋ค๋ก์ ๊ณผํ, ์์ , ์ฌํ, ๋ฌธํ, ๋ด์ค, ๋ฆฌ๋ทฐ, ์์
, ์ฑํ
๋ฑ์ ๋๋ถ๋ถ ์ปค๋ฒํ๋ค.
|
19 |
+
์ฐธ๊ณ ๋ก llama2๊ฐ ์๋ํผ์ค์ผํ
์ค๊ณ์ด ํ ํฌ๋์ด์ ๋ผ๋ฉด ์ด๋ฒ llama3์์๋ ๋ฐ์ดํธ๋ ๋ฒจ bpe๋ก ๋ณ๊ฒฝ๋์ด ๊ธฐ๋ณธ ํ ํฌ๋์ด์ ๋ฅผ ๋ฐ์ดํธ๋ ๋ฒจbpe๋ก ํ๊ณ ํ๋ฆฌํ ํฌ๋์ด์ ์ ๋
ธ๋ฉ๋ผ์ด์ ํ์ดํ๋ผ์ธ๋ค์ ๊ธฐ์กด llama3 ํ ํฌ๋์ด์ ์ ๋์ผํ๊ฒ
|
20 |
์ค์ ํ์์ต๋๋ค.
|
21 |
<br>
|
22 |
<br>
|