iapyx-v3-exaone-3.5-7.8b โ Iapyx v3 (LG AI ์ฐ๊ตฌ์)
2026 AI ๋ฃจํค ๊ฒฐ์ Team Iapyx(AI ๋ผ์ดํ ๊ฐ๋์ธ, ๊ตญ๋ด AI ํธ๋)๊ฐ ๋ํ ์ง๊ธ A100 80GB ร2์์ LGAI-EXAONE/EXAONE-3.5-7.8B-Instruct๋ฅผ ์ ์ฒด ๊ฐ์ค์น ํ์ธํ๋(FSDP) ๋ฐฉ์์ผ๋ก ๊ฐ๋ฅด์น ๊ฒฐ๊ณผ๋ค.
ํ์ ์ ์ ํ์ ๊ฒฐ์ ์ ๊ท์น์ด ๋ด๋ฆฌ๊ณ , ์ด ๋ชจ๋ธ์ ์ ํด์ง ์นธ(JSON)ยท๋๊ตฌ ๊ณ ๋ฅด๊ธฐยท์๋ฅ ์นธ ์ฝ๊ธฐยท๊ฒ์ฐยทํํ ๋ค๋ฌ๊ธฐ๋ฅผ ๋ฐฐ์ด๋ค.
๊ณผ์ 6์ข (๊ฐ์ held-out, ๊ฐ์ ์ฑ์ ์ฝ๋)
| ์งํ | ๊ฐ๋ฅด์น๊ธฐ ์ | ๊ฐ๋ฅด์น ๋ค |
|---|---|---|
| ์ํ ๋ฑ๊ธ macro-F1 | 0.000 | 1.000 |
| ๋๊ตฌ ๊ณ ๋ฅด๊ธฐ ์ ํ๋ | 0.270 | 1.000 |
| ์๋ฅ ์นธ F1 | 0.010 | 0.996 |
| ๊ฒ์ฐ ์์ ์ผ์น์จ | 0.000 | 0.794 |
| ํํ ์์ ์จ | 0.770 | 0.960 |
| ๋ฒ๋ฅ ์ฉ์ด chrF | 0.093 | 0.124 |
์ข ํฉ(5๊ณผ์ ํ๊ท , domain ์ ์ธ): ์ 0.2100322773460849 โ ํ 0.949963379376807 ยท ํ ๊ฑด ์์ฑ ์ง์ฐ 0.3443s(๋ฐฐ์น, A100)
ํ์ต ๊ตฌ์ฑ
- ์ํฌํฌ 16.0 (๊ฐ์ฅ ์ข์ ์ํฌํฌ 2.0, ํ๊ฐ ์์ค 0.3072514235973358), lr 1e-05, ๋ฐฐ์น 4ร๋์ 4รGPU 1, ์ต๋ ๊ธธ์ด 2048
- ํ์ต ์๊ฐ 22326.9์ด, ํ์ต 11018๊ฑด / ํ๊ฐ 1130๊ฑด
- ๋ฐ์ดํฐ: ํฉ์ฑ SFT(์ํ ํ์ ยท๋๊ตฌ ๊ณ ๋ฅด๊ธฐยท์๋ฅ ์ถ์ถยท๊ฒ์ฐ)๋ ์ ํ ๊ท์น ์์ฑ๊ธฐ, ํํ ๊ณผ์ ์ ๋ต์ ๊ตญ๋ด API K-EXAONE(์ถ๋ก ๋)์์ ๋ฐ์ ์ซ์ยท๊ธธ์ด ๊ฒ์ฌ๋ฅผ ํต๊ณผํ ๊ฒ๋ง, ๋ฒ๋ฅ ์ฉ์ด๋ JusWis/korean-legal-terminology(CC BY 4.0). ํด์ธ ๋ชจ๋ธ์ ๋ฐ์ดํฐยทํ์ตยทํ๊ฐ ์ด๋์๋ ์ฐ์ง ์์๋ค.
- ์์ค์ assistant ํ ํฐ์๋ง. ์ํฌํฌ๋ง๋ค ํ๊ฐ ์์ค์ ์ฌ๊ณ ๊ฐ์ฅ ๋ฎ์ ์ํฌํฌ๋ฅผ ๋จ๊ฒผ๋ค(๊ณผ์ ํฉ ์ง์ ํ์ธ์ฉ ๊ณก์ ์ W&B
iapyx-finetune).
| ์ํฌํฌ | ํ๊ฐ ์์ค |
|---|---|
| 1 | 0.3108 |
| 2 | 0.3073 |
| 3 | 0.3367 |
| 4 | 0.3729 |
| 5 | 0.4085 |
| 6 | 0.4486 |
| 7 | 0.4718 |
| 8 | 0.5164 |
| 9 | 0.5424 |
| 10 | 0.5717 |
| 11 | 0.5968 |
| 12 | 0.6124 |
| 13 | 0.6217 |
| 14 | 0.6247 |
| 15 | 0.6251 |
| 16 | 0.6251 |
๋ผ์ด์ ์คยท์ฉ๋
๋ฐํ ๋ชจ๋ธ ๋ผ์ด์ ์ค: EXAONE AI Model License (์ฐ๊ตฌ์ฉ). ๋ํยท์ฐ๊ตฌ ๋ชฉ์ ์ผ๋ก๋ง ์ผ๋ค.
์ฌํ: https://github.com/AIROOKIE-S/iapyx finetune-v3/ ยท ํ๊ฐ ์๋ณธ https://huggingface.co/datasets/space1637/iapyx-finetune-report (v3/)
- Downloads last month
- 15
Model tree for space1637/iapyx-v3-exaone-3.5-7.8b
Base model
LGAI-EXAONE/EXAONE-3.5-7.8B-Instruct