File size: 1,095 Bytes
67a8b34 a25b2d2 dfbf5dc 727d038 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 |
---
license: apache-2.0
datasets:
- Dongwookss/q_a_korean_futsal
- Dongwookss/prac_fut
- mintaeng/llm_futsaldata_yo
language:
- ko
tags:
- trl
- unsloth
---
<p align="center">
<img src="https://cdn-uploads.huggingface.co/production/uploads/66305fd7fdd79b4fe6d6a5e5/7UDKdaPfBJnazuIi1cUVw.png" width="400" height="400">
</p>
- **Base Model :** 'HuggingFaceH4/zephyr-7b-beta'
- **Purpose :** '์ผ๋ง๋ ์ง ๋ฌผ์ด๋ณด์ธ์~! ํํ!'์ด ๋ง ๋์ ๋ถ์ผ๋ฉฐ 'ํด์'์ฒด๋ฅผ ์ฌ์ฉํ๋ ์ฑ๋ด์ ๊ตฌํํ๋ ค๊ณ ํ๋ค. ํ๋ก์ ํธ ๋ชฉ์ ์ RAG๋ฅผ ํตํด ํ์ด ๋๋ฉ์ธ์ ๋ํ ์ ๋ณด๋ฅผ ์ ๊ณตํ๋ 'ํํ์ด' ์ปจ์
์ด๊ธฐ์ ๋งํฌ ์ค์ ์ด ์ด์ ๊ฐ๋ค.
- **Method :** Unsloth ํจํค์ง๋ฅผ ์ฌ์ฉํ์ฌ gpu ์์์ด ์ด๊ณผ๋์ง ์๋๋ก ํ์์ผ๋ฉฐ SFTrainer๋ฅผ ์ฌ์ฉํ์ฌ ๋ชจ๋ธํ๋ จ์ ์งํํจ.
- **Environ :** Colab L4 GPU๋ฅผ ์ฌ์ฉํ์ฌ ์งํํ์์ต๋๋ค.
- **About gguf :** ํํ์ด ์ต์ข
๋ฒ์ ์ ๋ง๋ค๊ธฐ ์ํด ๊ฐ ๋จ๊ณ๋ณ ๋ชจ๋ธ์ ์ ์ฅํ์์ต๋๋ค. ๋ชจ๋ธ **์์ํ(Quantize)** ์ข
๋ฅ๋ก F16, Q8_0, Q5_K_M 3๊ฐ์ง๋ก ์ ์ฅํ์์ต๋๋ค. |