1๋ ๋์ LLM๊ณผ ํจ๊ป ๊ตฌ์ถํ๋ฉฐ ๋ฐฐ์ด ์
(https://eugeneyan.com/writing/llm-lessons/)(eugeneyan.com)
73P by xguru 11์ผ์ | favorite) | ๋๊ธ 9๊ฐ
- ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(LLM)์ ์ฌ์ฉํ ๊ฐ๋ฐ์ด ํฅ๋ฏธ๋ก์ด ์๊ธฐ์
- ์ง๋ 1๋ ๋์ LLM์ด ์ค์ ์ ํ๋ฆฌ์ผ์ด์ ์ "์ถฉ๋ถํ ์ข์" ์์ค์ด ๋์์ผ๋ฉฐ, ๋งค๋ ๋ ์ข์์ง๊ณ ์ ๋ ดํด์ง๊ณ ์์
- ์์ ๋ฏธ๋์ด์ ๋ฐ๋ชจ์ ํจ๊ป, 2025๋ ๊น์ง AI์ ์ฝ 2000์ต ๋ฌ๋ฌ๊ฐ ํฌ์๋ ๊ฒ์ผ๋ก ์ถ์ ๋จ
- ์ ์ฒด๋ค์ API๋ก ์ธํด LLM์ด ๋ ์ ๊ทผํ๊ธฐ ์ฌ์์ ธ, ML ์์ง๋์ด์ ๊ณผํ์๋ฟ๋ง ์๋๋ผ ๋ชจ๋๊ฐ ์ ํ์ ์ธํ ๋ฆฌ์ ์ค๋ฅผ ๊ตฌ์ถํ ์ ์๊ฒ ๋จ
- AI๋ก ๊ตฌ์ถํ๋ ์ง์ ์ฅ๋ฒฝ์ ๋ฎ์์ก์ง๋ง, ๋ฐ๋ชจ ์ด์์ผ๋ก ํจ๊ณผ์ ์ธ ์ ํ๊ณผ ์์คํ ์ ๋ง๋๋ ๊ฒ์ ์ฌ์ ํ ์ด๋ ค์
- ์ฐ๋ฆฌ๋ ์ง๋ 1๋
๋์ ๊ตฌ์ถํด ์์ผ๋ฉฐ, ๊ทธ ๊ณผ์ ์์ ๋ง์ ์ด๋ ค์์ ๋ฐ๊ฒฌํ์
- ์ฐ๋ฆฌ์ ์ค์๋ฅผ ํผํ๊ณ ๋ ๋น ๋ฅด๊ฒ ๋ฐ๋ณตํ ์ ์๋๋ก ์ฐ๋ฆฌ๊ฐ ๋ฐฐ์ด ๋ด์ฉ์ ๊ณต์ ํ๊ณ ์ ํจ
- ์ด ๊ธ์ ์ธ ๋ถ๋ถ์ผ๋ก ๊ตฌ์ฑ๋จ:
- Tactical(์ ์ ์ ): ํ๋กฌํํ
, RAG, ์ํฌํ๋ก์ฐ ์์ง๋์ด๋ง, ํ๊ฐ ๋ฐ ๋ชจ๋ํฐ๋ง์ ์ํ ๋ช ๊ฐ์ง ์ค์ฒ ์ฌํญ
- LLM์ผ๋ก ๊ตฌ์ถํ๋ ์ค๋ฌด์๋ ์ฃผ๋ง ํ๋ก์ ํธ๋ฅผ ์งํํ๋ ์ฌ๋๋ค์ ์ํด ์์ฑ๋จ
- Operational(์ด์์ ): ์ ํ ์ถ์์ ์กฐ์ง์ , ์ผ์์ ๊ด์ฌ์ฌ์ ํจ๊ณผ์ ์ธ ํ ๊ตฌ์ถ ๋ฐฉ๋ฒ
- ์ง์ ๊ฐ๋ฅํ๊ณ ์์ ์ ์ผ๋ก ๋ฐฐํฌํ๋ ค๋ ์ ํ/๊ธฐ์ ๋ฆฌ๋๋ฅผ ์ํ ๋ด์ฉ
- Strategic(์ ๋ต์ ): "PMF ์ ์ GPU ์์", "๋ชจ๋ธ์ด ์๋ ์์คํ
์ ์ง์ค" ๋ฑ์ ์๊ฒฌ์ ๋ด์ ์ฅ๊ธฐ์ ์ด๊ณ ํฐ ๊ทธ๋ฆผ ๊ด์ ๊ณผ ๋ฐ๋ณตํ๋ ๋ฐฉ๋ฒ
- ์ฐฝ์ ์์ ๊ฒฝ์์ง์ ์ผ๋์ ๋๊ณ ์์ฑ๋จ
- Tactical(์ ์ ์ ): ํ๋กฌํํ
, RAG, ์ํฌํ๋ก์ฐ ์์ง๋์ด๋ง, ํ๊ฐ ๋ฐ ๋ชจ๋ํฐ๋ง์ ์ํ ๋ช ๊ฐ์ง ์ค์ฒ ์ฌํญ
- ์ด ๊ฐ์ด๋๋ LLM์ ์ฌ์ฉํ์ฌ ์ฑ๊ณต์ ์ธ ์ ํ์ ๊ตฌ์ถํ๊ธฐ ์ํ ์ค์ฉ์ ์ธ ์๋ด์๊ฐ ๋๋ ๊ฒ์ ๋ชฉํ๋ก ํจ
- ์ฐ๋ฆฌ ์์ ์ ๊ฒฝํ์์ ๋น๋กฏ๋์์ผ๋ฉฐ ์ ๊ณ ์ ๋ฐ์ ์ฌ๋ก๋ฅผ ์ ์ํจ
[์ ์ : LLM ์ฌ์ฉ์ ํต์ฌ]
- ์ด ์น์
์์๋ ์๋ก ๋ฑ์ฅํ๋ LLM ์คํ์ ํต์ฌ ๊ตฌ์ฑ ์์์ ๋ํ ๋ชจ๋ฒ ์ฌ๋ก๋ฅผ ๊ณต์ ํจ
- ํ์ง๊ณผ ์ ๋ขฐ์ฑ์ ๋์ด๊ธฐ ์ํ ํ๋กฌํํ ํ, ์ถ๋ ฅ์ ํ๊ฐํ๊ธฐ ์ํ ์ ๋ต, ๊ทธ๋ผ์ด๋ฉ์ ๊ฐ์ ํ๊ธฐ ์ํ ๊ฒ์ ์ฆ๊ฐ ์์ฑ ์์ด๋์ด ๋ฑ์ด ํฌํจ๋จ
- ๋ํ ํด๋จผ ์ธ ๋ ๋ฃจํ ์ํฌํ๋ก์ฐ๋ฅผ ์ค๊ณํ๋ ๋ฐฉ๋ฒ๋ ํ๊ตฌํ ์์ ์
์ ์ 1. ํ๋กฌํํ
- ์๋ก์ด ์ ํ๋ฆฌ์ผ์ด์
์ ๊ฐ๋ฐํ ๋๋ ํ๋กฌํํ
์ผ๋ก ์์ํ ๊ฒ์ ๊ถ์ฅํจ
- ํ๋กฌํํ ์ ์ค์์ฑ์ ๊ณผ์ํ๊ฐํ๊ฑฐ๋ ๊ณผ๋ํ๊ฐํ๊ธฐ ์ฌ์
- ์ฌ๋ฐ๋ฅธ ํ๋กฌํํ ๊ธฐ์ ์ ์ ๋๋ก ์ฌ์ฉํ๋ฉด ๋งค์ฐ ๋ฉ๋ฆฌ ๊ฐ ์ ์๊ธฐ ๋๋ฌธ์ ๊ณผ์ํ๊ฐ๋๋ ๊ฒฝํฅ์ด ์์
- ํ๋กฌํํธ ๊ธฐ๋ฐ ์ ํ๋ฆฌ์ผ์ด์ ๋ ์ ๋๋ก ์๋ํ๋ ค๋ฉด ํ๋กฌํํธ ์ฃผ๋ณ์ ์๋นํ ์์ง๋์ด๋ง์ด ํ์ํ๊ธฐ ๋๋ฌธ์ ๊ณผ๋ํ๊ฐ๋๋ ๊ฒฝํฅ์ด ์์
๊ธฐ๋ณธ ํ๋กฌํํ ๊ธฐ์ ์ ์ต๋ํ ํ์ฉํ๋ ๋ฐ ์ง์ค
- ๋ค์ํ ๋ชจ๋ธ๊ณผ ์์
์์ ์ฑ๋ฅ ํฅ์์ ์ง์์ ์ผ๋ก ๋์์ด ๋๋ ๋ช ๊ฐ์ง ํ๋กฌํํ
๊ธฐ์ ์ด ์์
- N-shot ํ๋กฌํํธ + ๋ฌธ๋งฅ ๋ด ํ์ต, ์ฌ๊ณ ์ ์ฐ์(Chain-of-Thought), ๊ด๋ จ ๋ฆฌ์์ค ์ ๊ณต ๋ฑ์
- N-shot ํ๋กฌํํธ์ ๋ฌธ๋งฅ ๋ด ํ์ต
- N-shot ํ๋กฌํํธ๋ฅผ ํตํ ๋ฌธ๋งฅ ๋ด ํ์ต์ ์์ด๋์ด๋ LLM์๊ฒ ์์ ์ ์์ฐํ๊ณ ์ถ๋ ฅ์ ๊ธฐ๋์ ๋ง์ถ๋ ๋ช ๊ฐ์ง ์์๋ฅผ ์ ๊ณตํ๋ ๊ฒ์
- N์ด ๋๋ฌด ๋ฎ์ผ๋ฉด ๋ชจ๋ธ์ด ํด๋น ํน์ ์์์ ๊ณผ๋ํ๊ฒ ๊ณ ์ ๋์ด ์ผ๋ฐํ ๋ฅ๋ ฅ์ด ์ ํ๋ ์ ์์
- ๊ฒฝํ์ ์ผ๋ก N โฅ 5๋ฅผ ๋ชฉํ๋ก ํ๊ณ , ์์ญ ๊ฐ๊น์ง ์ฌ์ฉํ๋ ๊ฒ์ ๋๋ ค์ํ์ง ๋ง ๊ฒ
- ์์๋ ์์๋๋ ์ ๋ ฅ ๋ถํฌ๋ฅผ ๋ํํด์ผ ํจ
- ์ ์ฒด ์ ์ถ๋ ฅ ์์ ์ ๊ณตํ ํ์๋ ์์ผ๋ฉฐ, ๋ง์ ๊ฒฝ์ฐ ์ํ๋ ์ถ๋ ฅ์ ์์๋ก ์ถฉ๋ถํจ
- ๋๊ตฌ ์ฌ์ฉ์ ์ง์ํ๋ LLM์ ์ฌ์ฉํ๋ ๊ฒฝ์ฐ, N-shot ์์์์๋ ์์ด์ ํธ๊ฐ ์ฌ์ฉํ๊ธฐ๋ฅผ ์ํ๋ ๋๊ตฌ๋ฅผ ์ฌ์ฉํด์ผ ํจ
- ์ฌ๊ณ ์ ์ฐ์(Chain-of-Thought, CoT) ํ๋กฌํํ
- CoT ํ๋กฌํํ ์์๋ LLM์ด ์ต์ข ๋ต๋ณ์ ๋ฐํํ๊ธฐ ์ ์ ์ฌ๊ณ ๊ณผ์ ์ ์ค๋ช ํ๋๋ก ์ฅ๋ คํจ
- LLM์๊ฒ ๋ฉ๋ชจ๋ฆฌ์์ ๋ชจ๋ ๊ฒ์ ์ํํ ํ์๊ฐ ์๋๋ก ์ค์ผ์นํจ๋๋ฅผ ์ ๊ณตํ๋ ๊ฒ์ผ๋ก ์๊ฐํ ์ ์์
- ์๋ ์ ๊ทผ ๋ฐฉ์์ ๋จ์ํ "๋จ๊ณ๋ณ๋ก ์๊ฐํด ๋ณด์"๋ผ๋ ๋ฌธ๊ตฌ๋ฅผ ์ง์นจ์ ์ผ๋ถ๋ก ์ถ๊ฐํ๋ ๊ฒ์ด์์ง๋ง, CoT๋ฅผ ๋ ๊ตฌ์ฒด์ ์ผ๋ก ๋ง๋๋ ๊ฒ์ด ๋์์ด ๋๋ค๋ ๊ฒ์ ๋ฐ๊ฒฌํจ
- 1~2๋ฌธ์ฅ์ผ๋ก ๊ตฌ์ฒด์ฑ์ ์ถ๊ฐํ๋ฉด ํ๊ฐ ๋ฐ์๋ฅ ์ด ์๋นํ ๊ฐ์ํ๋ ๊ฒฝ์ฐ๊ฐ ๋ง์
- ์ต๊ทผ์๋ ์ด ๊ธฐ์ ์ด ๋ฏฟ๋ ๋งํผ ๊ฐ๋ ฅํ์ง์ ๋ํด ์๋ฌธ์ด ์ ๊ธฐ๋๊ณ ์์
- ๋ํ CoT๊ฐ ์ฌ์ฉ๋ ๋ ์ถ๋ก ์ค์ ์ ํํ ์ด๋ค ์ผ์ด ์ผ์ด๋๋์ง์ ๋ํด ์๋นํ ๋ ผ์์ด ์์
- ๊ทธ๋ผ์๋ ๋ถ๊ตฌํ๊ณ ๊ฐ๋ฅํ ๊ฒฝ์ฐ ์คํํด ๋ณผ ๋งํ ๊ธฐ์ ์
- ๊ด๋ จ ๋ฆฌ์์ค ์ ๊ณต
- ๊ด๋ จ ๋ฆฌ์์ค๋ฅผ ์ ๊ณตํ๋ ๊ฒ์ ๋ชจ๋ธ์ ์ง์ ๊ธฐ๋ฐ์ ํ์ฅํ๊ณ , ํ๊ฐ์ ์ค์ด๋ฉฐ, ์ฌ์ฉ์์ ์ ๋ขฐ๋ฅผ ๋์ด๋ ๊ฐ๋ ฅํ ๋ฉ์ปค๋์ฆ์
- ๊ฒ์ ์ฆ๊ฐ ์์ฑ(Retrieval Augmented Generation, RAG)์ ํตํด ์ํ๋๋ ๊ฒฝ์ฐ๊ฐ ๋ง์
- ๋ชจ๋ธ์ ์๋ต์ ์ง์ ํ์ฉํ ์ ์๋ ํ ์คํธ ์ค๋ํซ์ ์ ๊ณตํ๋ ๊ฒ์ ํ์์ ์ธ ๊ธฐ์ ์
- ๊ด๋ จ ๋ฆฌ์์ค๋ฅผ ์ ๊ณตํ ๋๋ ๋จ์ํ ํฌํจํ๋ ๊ฒ์ผ๋ก๋ ์ถฉ๋ถํ์ง ์์
- ๋ชจ๋ธ์๊ฒ ๋ฆฌ์์ค ์ฌ์ฉ์ ์ฐ์ ์ํ๊ณ , ์ง์ ์ฐธ์กฐํ๋ฉฐ, ๋๋ก๋ ๋ฆฌ์์ค๊ฐ ์ถฉ๋ถํ์ง ์์ ๋ ์ธ๊ธํ๋๋ก ์ง์ํ๋ ๊ฒ์ ์์ง ๋ง์์ผ ํจ
- ์ด๋ฌํ ๊ฒ๋ค์ ์์ด์ ํธ ์๋ต์ ๋ฆฌ์์ค ์ฝํผ์ค์ "Ground"ํ๋ ๋ฐ ๋์์ด ๋จ
์ ๋ ฅ๊ณผ ์ถ๋ ฅ ๊ตฌ์กฐํ
- ๊ตฌ์กฐํ๋ ์
๋ ฅ๊ณผ ์ถ๋ ฅ์ ๋ชจ๋ธ์ด ์
๋ ฅ์ ๋ ์ ์ดํดํ๊ณ ๋ค์ด์คํธ๋ฆผ ์์คํ
๊ณผ ์์ ์ ์ผ๋ก ํตํฉํ ์ ์๋ ์ถ๋ ฅ์ ๋ฐํํ๋ ๋ฐ ๋์์ด ๋จ
- ์ ๋ ฅ์ ์ง๋ ฌํ ํ์์ ์ถ๊ฐํ๋ฉด ์ปจํ ์คํธ์ ํ ํฐ ๊ฐ ๊ด๊ณ, ํน์ ํ ํฐ์ ๋ํ ์ถ๊ฐ ๋ฉํ๋ฐ์ดํฐ(์ ํ ๋ฑ) ๋๋ ์์ฒญ์ ๋ชจ๋ธ ํ์ต ๋ฐ์ดํฐ์ ์ ์ฌํ ์์์ ๊ด๋ จ์ํค๋ ๋ฐ ๋์์ด ๋ ์ ์์
- ์๋ฅผ ๋ค์ด, ์ธํฐ๋ท์์ SQL ์์ฑ์ ๋ํ ๋ง์ ์ง๋ฌธ์ SQL ์คํค๋ง๋ฅผ ์ง์ ํ๋ ๊ฒ์ผ๋ก ์์ํจ
- ๋ฐ๋ผ์ Text-to-SQL์ ๋ํ ํจ๊ณผ์ ์ธ ํ๋กฌํํ ์๋ ๊ตฌ์กฐํ๋ ์คํค๋ง ์ ์๊ฐ ํฌํจ๋์ด์ผ ํจ
- ๊ตฌ์กฐํ๋ ์ถ๋ ฅ์ ์ ์ฌํ ๋ชฉ์ ์ ์ํํ์ง๋ง, ์์คํ
์ ๋ค์ด์คํธ๋ฆผ ๊ตฌ์ฑ ์์๋ก์ ํตํฉ์ ๋จ์ํํจ
- Instructor์ Outlines๋ ๊ตฌ์กฐํ๋ ์ถ๋ ฅ์ ์ ์๋ํจ
- (LLM API SDK๋ฅผ ๊ฐ์ ธ์ค๋ ๊ฒฝ์ฐ Instructor๋ฅผ ์ฌ์ฉํ๊ณ , ์์ฒด ํธ์คํ ๋ชจ๋ธ์ Huggingface๋ฅผ ๊ฐ์ ธ์ค๋ ๊ฒฝ์ฐ Outlines๋ฅผ ์ฌ์ฉ)
- ๊ตฌ์กฐํ๋ ์ ๋ ฅ์ ์์ ์ ๋ช ํํ๊ฒ ํํํ๊ณ ํ์ต ๋ฐ์ดํฐ์ ํ์๊ณผ ์ ์ฌํ๋ฏ๋ก ๋ ๋์ ์ถ๋ ฅ ๊ฐ๋ฅ์ฑ์ ๋์
- Instructor์ Outlines๋ ๊ตฌ์กฐํ๋ ์ถ๋ ฅ์ ์ ์๋ํจ
- ๊ตฌ์กฐํ๋ ์
๋ ฅ์ ์ฌ์ฉํ ๋๋ ๊ฐ LLM ์ ํ๊ตฐ๋ง๋ค ์ ํธํ๋ ๋ฐฉ์์ด ์๋ค๋ ์ ์ ์ ์ํด์ผ ํจ
- Claude๋
<xml>
์ ์ ํธํ๋ ๋ฐ๋ฉด GPT๋ Markdown๊ณผ JSON์ ์ ํธํจ - XML์ ์ฌ์ฉํ๋ฉด
<response>
ํ๊ทธ๋ฅผ ์ ๊ณตํ์ฌ Claude์ ์๋ต์ ๋ฏธ๋ฆฌ ์ฑ์ธ ์๋ ์์
- Claude๋
์๊ณ ํ ๊ฐ์ง ์ผ์ ์ํ๋ ํ๋กฌํํธ๋ฅผ ๋ง๋ค ๊ฒ
- ์ํํธ์จ์ด์์ ํํ ์ํฐ ํจํด/์ฝ๋ ์ค๋ฉ์ ๋ชจ๋ ๊ฒ์ ์ํํ๋ ๋จ์ผ ํด๋์ค๋ ํจ์์ธ "God Object"์
- ์ด๋ ํ๋กฌํํธ์๋ ๋์ผํ๊ฒ ์ ์ฉ๋จ
- ํ๋กฌํํธ๋ ์ผ๋ฐ์ ์ผ๋ก ๊ฐ๋จํ๊ฒ ์์ํจ
- ๋ช ๋ฌธ์ฅ์ ์ง์นจ, ๋ช ๊ฐ์ง ์์๋ก ์์ํ ์ ์์
- ๊ทธ๋ฌ๋ ์ฑ๋ฅ์ ๊ฐ์ ํ๊ณ ๋ ๋ง์ edge case๋ฅผ ์ฒ๋ฆฌํ๋ ค๊ณ ํ๋ฉด์ ๋ณต์ก์ฑ์ด ์ฆ๊ฐํจ
- ๋ ๋ง์ ์ง์นจ, ๋ค๋จ๊ณ ์ถ๋ก , ์์ญ ๊ฐ์ ์์ ๋ฑ์ด ์ถ๊ฐ๋จ
- ๊ฒฐ๊ตญ ์ฒ์์๋ ๋จ์ํ๋ ํ๋กฌํํธ๊ฐ 2,000 ํ ํฐ์ ํ๋์ผ์ํ์ธ์ด ๋์ด๋ฒ๋ฆผ
- ๊ฒ๋ค๊ฐ ๋ ์ผ๋ฐ์ ์ด๊ณ ์ง๊ด์ ์ธ ์ ๋ ฅ์ ๋ํ ์ฑ๋ฅ์ ์คํ๋ ค ์ ํ๋จ
- GoDaddy๋ ์ด ๋ฌธ์ ๋ฅผ LLM ๊ตฌ์ถ์์ ์ป์ ๊ตํ ์ค 1์๋ก ๊ผฝ์
- ์์คํ
๊ณผ ์ฝ๋๋ฅผ ๋จ์ํ๊ฒ ์ ์งํ๋ ค๊ณ ๋
ธ๋ ฅํ๋ ๊ฒ์ฒ๋ผ, ํ๋กฌํํธ๋ ๋ง์ฐฌ๊ฐ์ง์ฌ์ผ ํจ
- ํ์ ๋
น์ทจ๋ก ์์ฝ๊ธฐ์ ๋ํด ๋จ์ผ ๋ง๋ฅ ํ๋กฌํํธ๋ฅผ ์ฌ์ฉํ๋ ๋์ , ๋ค์๊ณผ ๊ฐ์ ๋จ๊ณ๋ก ๋๋ ์ ์์
- ์ฃผ์ ๊ฒฐ์ ์ฌํญ, ์กฐ์น ํญ๋ชฉ ๋ฐ ๋ด๋น์๋ฅผ ๊ตฌ์กฐํ๋ ํ์์ผ๋ก ์ถ์ถ
- ์ถ์ถ๋ ์ธ๋ถ ์ ๋ณด๋ฅผ ์๋ณธ ๋ น์ทจ๋ก๊ณผ ๋น๊ตํ์ฌ ์ผ๊ด์ฑ ํ์ธ
- ๊ตฌ์กฐํ๋ ์ธ๋ถ ์ ๋ณด์์ ๊ฐ๊ฒฐํ ์์ฝ ์์ฑ
- ํ์ ๋
น์ทจ๋ก ์์ฝ๊ธฐ์ ๋ํด ๋จ์ผ ๋ง๋ฅ ํ๋กฌํํธ๋ฅผ ์ฌ์ฉํ๋ ๋์ , ๋ค์๊ณผ ๊ฐ์ ๋จ๊ณ๋ก ๋๋ ์ ์์
- ๊ฒฐ๊ณผ์ ์ผ๋ก ๋จ์ผ ํ๋กฌํํธ๋ฅผ ์ฌ๋ฌ ๊ฐ์ ๋จ์ํ๊ณ ์ง์ค์ ์ด๋ฉฐ ์ดํดํ๊ธฐ ์ฌ์ด ํ๋กฌํํธ๋ก ๋ถํ ํจ
- ์ด๋ ๊ฒ ๋ถํ ํ๋ฉด ์ด์ ๊ฐ ํ๋กฌํํธ๋ฅผ ๊ฐ๋ณ์ ์ผ๋ก ๋ฐ๋ณตํ๊ณ ํ๊ฐํ ์ ์์
์ปจํ ์คํธ ํ ํฐ ๋ง๋ค๊ธฐ
- ์์ด์ ํธ์ ์ค์ ๋ก ์ ์กํด์ผ ํ๋ ์ปจํ
์คํธ์ ์์ ๋ํ ๊ฐ์ ์ ์ฌ๊ณ ํ๊ณ ๋์ ํด์ผ ํจ
- ๋ฏธ์ผ๋์ ค๋ก์ฒ๋ผ ์ปจํ ์คํธ ์กฐ๊ฐ์์ ๋ง๋ค์ด ๊ฐ๋ ๊ฒ์ด ์๋๋ผ, ๋ถํ์ํ ์ฌ๋ฃ๋ฅผ ๊น์๋ด์ด ์กฐ๊ฐ์์ ๋๋ฌ๋ด์ผ ํจ
- RAG๋ ์ ์ฌ์ ์ผ๋ก ๊ด๋ จ๋ ๋๋ฆฌ์ ๋ธ๋ก์ ๋ชจ๋ ๋ชจ์ผ๋ ๋ฐ ๋๋ฆฌ ์ฌ์ฉ๋๋ ๋ฐฉ๋ฒ์ด์ง๋ง, ํ์ํ ๊ฒ์ ์ถ์ถํ๊ธฐ ์ํด ๋ฌด์์ ํ๊ณ ์๋๊ฐ?
- ๋ชจ๋ธ์ ์ ์ก๋๋ ์ต์ข
ํ๋กฌํํธ๋ฅผ ๊ฐ์ ธ์ ๋ชจ๋ ์ปจํ
์คํธ ๊ตฌ์ฑ, ๋ฉํ ํ๋กฌํํ
, RAG ๊ฒฐ๊ณผ์ ํจ๊ป ๋น ํ์ด์ง์ ๋ฐฐ์นํ๊ณ ์ฝ์ด๋ณด๋ ๊ฒ์ด ์ปจํ
์คํธ๋ฅผ ์ฌ๊ณ ํ๋ ๋ฐ ๋์์ด ๋๋ค๋ ๊ฒ์ ๋ฐ๊ฒฌํจ
- ์ด ๋ฐฉ๋ฒ์ ์ฌ์ฉํ์ฌ ์ค๋ณต, ์๊ฐ ๋ชจ์์ ์ธ ์ธ์ด ๋ฐ ํ์์ด ์๋ชป๋ ๋ถ๋ถ์ ๋ฐ๊ฒฌํ ์ ์์
- ๋ค๋ฅธ ํต์ฌ ์ต์ ํ๋ ์ปจํ
์คํธ์ ๊ตฌ์กฐ์
- Bag-of-docs ํํ์ ์ธ๊ฐ์๊ฒ ๋์์ด ๋์ง ์์ผ๋ฏ๋ก ์์ด์ ํธ์๊ฒ ์ข๋ค๊ณ ๊ฐ์ ํ์ง ๋ง์์ผ ํจ
- ์ปจํ ์คํธ์ ๊ฐ ๋ถ๋ถ ๊ฐ์ ๊ด๊ณ๋ฅผ ๊ฐ์กฐํ๊ณ ์ถ์ถ์ ๊ฐ๋ฅํ ํ ๋จ์ํ๊ฒ ๋ง๋ค ์ ์๋๋ก ์ปจํ ์คํธ๋ฅผ ๊ตฌ์ฑํ๋ ๋ฐฉ๋ฒ์ ์ ์คํ๊ฒ ๊ณ ๋ คํด์ผ ํจ
์ ์ 2. ์ ๋ณด ๊ฒ์ / RAG
- ํ๋กฌํํ
์ธ์๋ LLM์ ์กฐ์ ํ๋ ๋ ๋ค๋ฅธ ํจ๊ณผ์ ์ธ ๋ฐฉ๋ฒ์ ํ๋กฌํํธ์ ์ผ๋ถ๋ก ์ง์์ ์ ๊ณตํ๋ ๊ฒ์
- ์ด๋ ์ ๊ณต๋ ์ปจํ ์คํธ์ LLM์ ground์ํค๋ฉฐ, ์ด๋ ๋ฌธ๋งฅ ๋ด ํ์ต์ ์ฌ์ฉ๋จ
- ์ด๋ฅผ ๊ฒ์ ์ฆ๊ฐ ์์ฑ(Retrieval-Augmented Generation, RAG)์ด๋ผ๊ณ ํจ
- ์ค๋ฌด์๋ค์ RAG๊ฐ ์ง์์ ์ ๊ณตํ๊ณ ์ถ๋ ฅ์ ๊ฐ์ ํ๋ ๋ฐ ํจ๊ณผ์ ์ด๋ฉฐ, ๋ฏธ์ธ ์กฐ์ ์ ๋นํด ํจ์ฌ ์ ์ ๋ ธ๋ ฅ๊ณผ ๋น์ฉ์ด ๋ ๋ค๋ ๊ฒ์ ๋ฐ๊ฒฌํจ
- RAG๋ ๊ฒ์๋ ๋ฌธ์์ ๊ด๋ จ์ฑ, ๋ฐ๋ ๋ฐ ์ธ๋ถ ์ ๋ณด๋งํผ๋ง ์ข์
RAG ์ถ๋ ฅ์ ํ์ง์ ๊ฒ์๋ ๋ฌธ์์ ํ์ง์ ๋ฐ๋ผ ๋ฌ๋ผ์ง๋ฉฐ, ๋ช ๊ฐ์ง ์์๋ฅผ ๊ณ ๋ คํ ์ ์์
- ์ฒซ ๋ฒ์งธ์ด์ ๊ฐ์ฅ ๋ช
๋ฐฑํ ์ฒ๋๋ "๊ด๋ จ์ฑ"
- ์ด๋ ์ผ๋ฐ์ ์ผ๋ก ํ๊ท ์ญ์์(Mean Reciprocal Rank, MRR) ๋๋ ์ ๊ทํ๋ ํ ์ธ ๋์ ์ด๋(Normalized Discounted Cumulative Gain, NDCG)๊ณผ ๊ฐ์ ์์ ์งํ๋ก ์ ๋ํ๋จ
- MRR์ ์์คํ ์ด ์์ ๋ชฉ๋ก์์ ์ฒซ ๋ฒ์งธ ๊ด๋ จ ๊ฒฐ๊ณผ๋ฅผ ์ผ๋ง๋ ์ ๋ฐฐ์นํ๋์ง ํ๊ฐํ๋ ๋ฐ๋ฉด, NDCG๋ ๋ชจ๋ ๊ฒฐ๊ณผ์ ๊ด๋ จ์ฑ๊ณผ ์์น๋ฅผ ๊ณ ๋ คํจ
- ์ด๋ค์ ๊ด๋ จ ๋ฌธ์๋ฅผ ๋ ๋์ด, ๊ด๋ จ ์๋ ๋ฌธ์๋ฅผ ๋ ๋ฎ๊ฒ ์์๋ฅผ ๋งค๊ธฐ๋ ์์คํ ์ ์ฑ๋ฅ์ ์ธก์ ํจ
- ์๋ฅผ ๋ค์ด, ์ํ ๋ฆฌ๋ทฐ ์์ฝ์ ์์ฑํ๊ธฐ ์ํด ์ฌ์ฉ์ ์์ฝ์ ๊ฒ์ํ๋ ๊ฒฝ์ฐ, ํน์ ์ํ์ ๋ํ ๋ฆฌ๋ทฐ๋ฅผ ๋ ๋์ด ์์๋ฅผ ๋งค๊ธฐ๊ณ ๋ค๋ฅธ ์ํ์ ๋ํ ๋ฆฌ๋ทฐ๋ ์ ์ธํ๋ ๊ฒ์ด ์ข์
- ์ ํต์ ์ธ ์ถ์ฒ ์์คํ ๊ณผ ๋ง์ฐฌ๊ฐ์ง๋ก ๊ฒ์๋ ํญ๋ชฉ์ ์์๋ LLM์ด ๋ค์ด์คํธ๋ฆผ ์์ ์ ์ํํ๋ ๋ฐฉ์์ ์๋นํ ์ํฅ์ ๋ฏธ์นจ
- ์ํฅ์ ์ธก์ ํ๋ ค๋ฉด ๊ฒ์๋ ํญ๋ชฉ์ ์์ ์ํ์์ RAG ๊ธฐ๋ฐ ์์ ์ ์คํํด ๋ณด๊ณ , RAG ์ถ๋ ฅ์ด ์ด๋ป๊ฒ ์ํ๋๋์ง ํ์ธํ ๊ฒ
- ๋๋ฒ์งธ๋ก "์ ๋ณด ๋ฐ๋"
- ๋ ๋ฌธ์๊ฐ ๋์ผํ๊ฒ ๊ด๋ จ๋ ๊ฒฝ์ฐ, ๋ ๊ฐ๊ฒฐํ๊ณ ๊ด๋ จ ์๋ ์ธ๋ถ ์ ๋ณด๊ฐ ์ ์ ๋ฌธ์๋ฅผ ์ ํธํด์ผ ํจ
- ์ํ ์๋ก ๋์๊ฐ๋ฉด, ์ํ ๋๋ณธ๊ณผ ๋ชจ๋ ์ฌ์ฉ์ ๋ฆฌ๋ทฐ๋ฅผ ๊ด๋ฒ์ํ ์๋ฏธ์์ ๊ด๋ จ์ด ์๋ค๊ณ ๊ฐ์ฃผํ ์ ์์
- ๊ทธ๋ผ์๋ ๋ถ๊ตฌํ๊ณ ๋์ ํ๊ฐ๋ฅผ ๋ฐ์ ๋ฆฌ๋ทฐ์ ํธ์ง ๋ฆฌ๋ทฐ๋ ์ ๋ณด ๋ฐ๋๊ฐ ๋ ๋์ ๊ฐ๋ฅ์ฑ์ด ์์
- ๋ง์ง๋ง์ผ๋ก, ๋ฌธ์์ ์ ๊ณต๋ "์ธ๋ถ ์ ๋ณด ์์ค"์ ๊ณ ๋ คํ ๊ฒ
- ์์ฐ์ด์์ SQL ์ฟผ๋ฆฌ๋ฅผ ์์ฑํ๊ธฐ ์ํ RAG ์์คํ
์ ๊ตฌ์ถํ๋ค๊ณ ์์ํด ๋ณด์
- ์ด ์ด๋ฆ์ด ์๋ ํ ์ด๋ธ ์คํค๋ง๋ฅผ ์ปจํ ์คํธ๋ก ์ ๊ณตํ๋ ๊ฒ๋ง์ผ๋ก๋ ์ถฉ๋ถํ ์ ์์
- ๊ทธ๋ฌ๋ ์ด ์ค๋ช ๊ณผ ์ผ๋ถ ๋ํ ๊ฐ์ ํฌํจํ๋ฉด ์ด๋จ๊น?
- ์ถ๊ฐ ์ธ๋ถ ์ ๋ณด๋ LLM์ด ํ ์ด๋ธ์ ์๋ฏธ๋ฅผ ๋ ์ ์ดํดํ๊ณ ๋ ์ ํํ SQL์ ์์ฑํ๋ ๋ฐ ๋์์ด ๋ ์ ์์
- ์์ฐ์ด์์ SQL ์ฟผ๋ฆฌ๋ฅผ ์์ฑํ๊ธฐ ์ํ RAG ์์คํ
์ ๊ตฌ์ถํ๋ค๊ณ ์์ํด ๋ณด์
ํค์๋ ๊ฒ์์ ์์ง ๋ง๊ณ , ๊ธฐ์ค์ ๊ณผ ํ์ด๋ธ๋ฆฌ๋ ๊ฒ์์ ์ฌ์ฉํ ๊ฒ
- Embedding ๊ธฐ๋ฐ RAG ๋ฐ๋ชจ๊ฐ ๋๋ฆฌ ํผ์ ธ ์๊ธฐ ๋๋ฌธ์ ์ ๋ณด ๊ฒ์ ๋ถ์ผ์ ์์ญ ๋
๊ฐ์ ์ฐ๊ตฌ์ ์๋ฃจ์
์ ์๊ฑฐ๋ ๊ฐ๊ณผํ๊ธฐ ์ฌ์
- ๊ทธ๋ผ์๋ ๋ถ๊ตฌํ๊ณ ์๋ฒ ๋ฉ์ ์์ฌํ ์ฌ์ง ์์ด ๊ฐ๋ ฅํ ๋๊ตฌ์ด์ง๋ง, ๋ง๋ฅ์ ์๋
- ํค์๋ ๊ธฐ๋ฐ ๊ฒ์์ ์ฅ์
- ์ฒซ์งธ, ์๋ฒ ๋ฉ์ ๋์ ์์ค์ ์๋ฏธ๋ก ์ ์ ์ฌ์ฑ์ ํฌ์ฐฉํ๋ ๋ฐ ํ์ํ์ง๋ง, ์ฌ์ฉ์๊ฐ ์ด๋ฆ(์: Ilya), ๋๋ฌธ์์ด(์: RAG) ๋๋ ID(์: claude-3-sonnet)๋ฅผ ๊ฒ์ํ ๋์ ๊ฐ์ด ๋ ๊ตฌ์ฒด์ ์ด๊ณ ํค์๋ ๊ธฐ๋ฐ์ ์ฟผ๋ฆฌ์๋ ์ด๋ ค์์ ๊ฒช์ ์ ์์
- BM25์ ๊ฐ์ ํค์๋ ๊ธฐ๋ฐ ๊ฒ์์ ์ด๋ฅผ ์ํด ๋ช ์์ ์ผ๋ก ์ค๊ณ๋จ
- ์ฌ์ฉ์๋ค์ ํค์๋ ๊ธฐ๋ฐ ๊ฒ์์ ์ค๋ซ๋์ ์ฌ์ฉํด ์๊ธฐ ๋๋ฌธ์ ๋น์ฐํ ๊ฒ์ผ๋ก ์ฌ๊ธฐ๊ณ ์์ ๊ฒ์ด๋ฉฐ, ๊ฒ์ํ๊ณ ์ ํ๋ ๋ฌธ์๊ฐ ๋ฐํ๋์ง ์์ผ๋ฉด ์ข์ ๊ฐ์ ๋๋ ์ ์์
- ๋์งธ, ํค์๋ ๊ฒ์์ผ๋ก ๋ฌธ์๊ฐ ๊ฒ์๋ ์ด์ ๋ฅผ ์ดํดํ๋ ๊ฒ์ด ๋ ์ง๊ด์ ์
- ์ฟผ๋ฆฌ์ ์ผ์นํ๋ ํค์๋๋ฅผ ํ์ธํ ์ ์๊ธฐ ๋๋ฌธ
- ๋ฐ๋ฉด์ ์๋ฒ ๋ฉ ๊ธฐ๋ฐ ๊ฒ์์ ํด์ ๊ฐ๋ฅ์ฑ์ด ๋ฎ์
- ์ ์งธ, ์์ญ ๋ ๋์ ์ต์ ํ๋๊ณ ์ค์ ์์ ๊ฒ์ฆ๋ Lucene์ด๋ OpenSearch์ ๊ฐ์ ์์คํ ๋๋ถ์ ํค์๋ ๊ฒ์์ด ์ผ๋ฐ์ ์ผ๋ก ๋ ๊ณ์ฐ์ ์ผ๋ก ํจ์จ์ ์
- ์ฒซ์งธ, ์๋ฒ ๋ฉ์ ๋์ ์์ค์ ์๋ฏธ๋ก ์ ์ ์ฌ์ฑ์ ํฌ์ฐฉํ๋ ๋ฐ ํ์ํ์ง๋ง, ์ฌ์ฉ์๊ฐ ์ด๋ฆ(์: Ilya), ๋๋ฌธ์์ด(์: RAG) ๋๋ ID(์: claude-3-sonnet)๋ฅผ ๊ฒ์ํ ๋์ ๊ฐ์ด ๋ ๊ตฌ์ฒด์ ์ด๊ณ ํค์๋ ๊ธฐ๋ฐ์ ์ฟผ๋ฆฌ์๋ ์ด๋ ค์์ ๊ฒช์ ์ ์์
- ๋๋ถ๋ถ์ ๊ฒฝ์ฐ ํ์ด๋ธ๋ฆฌ๋ ์ ๊ทผ ๋ฐฉ์์ด ๊ฐ์ฅ ํจ๊ณผ์
- ๋ช ๋ฐฑํ ์ผ์น ํญ๋ชฉ์๋ ํค์๋ ๋งค์นญ์ ์ฌ์ฉํ๊ณ , ๋์์ด, ์์์ด, ์ฒ ์ ์ค๋ฅ ๋ฐ ๋ฉํฐ๋ชจ๋ฌ(์: ์ด๋ฏธ์ง์ ํ ์คํธ)์๋ ์๋ฒ ๋ฉ์ ์ฌ์ฉ
- Shortwave๋ ์ฟผ๋ฆฌ ์ฌ์์ฑ, ํค์๋ + ์๋ฒ ๋ฉ ๊ฒ์, ๋ญํน ๋ฑ ์์ ๋ค์ RAG ํ์ดํ๋ผ์ธ์ ์ด๋ป๊ฒ ๊ตฌ์ถํ๋์ง ๊ณต์ ํ๋ฐ ์์
์๋ก์ด ์ง์์ ๋ํด์๋ ํ์ธํ๋๋ณด๋ค RAG๋ฅผ ์ ํธ
- RAG์ ํ์ธํ๋ ๋ชจ๋ ์๋ก์ด ์ ๋ณด๋ฅผ LLM์ ํตํฉํ๊ณ ํน์ ์์
์ ๋ํ ์ฑ๋ฅ์ ํฅ์์ํค๋ ๋ฐ ์ฌ์ฉ๋ ์ ์์
- ๊ทธ๋ ๋ค๋ฉด ์ด๋ค ๊ฒ์ ๋จผ์ ์๋ํด์ผ ํ ๊น?
- RAG์ ์ฅ์
- ์ต๊ทผ ์ฐ๊ตฌ์ ๋ฐ๋ฅด๋ฉด RAG๊ฐ ๋ ์ฐ์ํ ์ ์์
- ํ ์ฐ๊ตฌ์์๋ RAG์ ๋น์ง๋ ๋ฏธ์ธ ์กฐ์ (์ง์์ ์ฌ์ ํ์ต์ด๋ผ๊ณ ๋ ํจ)์ MMLU์ ์์ฌ ๋ฌธ์ ์ ํ์ ์งํฉ์์ ํ๊ฐํ์ฌ ๋น๊ตํจ
- RAG๊ฐ ํ์ต ์ค์ ์ ํ ์ง์๊ณผ ์์ ํ ์๋ก์ด ์ง์ ๋ชจ๋์ ๋ํด ๋ฏธ์ธ ์กฐ์ ๋ณด๋ค ์ง์์ ์ผ๋ก ๋ ์ฐ์ํ ์ฑ๋ฅ์ ๋ณด์์
- ๋ค๋ฅธ ๋
ผ๋ฌธ์์๋ ๋์
๋ฐ์ดํฐ ์ธํธ์ ๋ํด RAG์ ์ง๋ ๋ฏธ์ธ ์กฐ์ ์ ๋น๊ตํจ
- ๋ง์ฐฌ๊ฐ์ง๋ก RAG์ ์ฑ๋ฅ ํฅ์์ด ๋ฏธ์ธ ์กฐ์ ๋ณด๋ค ์ปธ์ผ๋ฉฐ, ํนํ GPT-4์์ ๋๋๋ฌ์ง(๋ ผ๋ฌธ์ ํ 20 ์ฐธ์กฐ)
- ์ฑ๋ฅ ํฅ์ ์ธ์๋ RAG๋ ์ฌ๋ฌ ์ค์ฉ์ ์ธ ์ฅ์ ์ด ์์
- ์ฒซ์งธ, ์ง์์ ์ธ ์ฌ์ ํ์ต์ด๋ ๋ฏธ์ธ ์กฐ์ ์ ๋นํด ๊ฒ์ ์ธ๋ฑ์ค๋ฅผ ์ต์ ์ํ๋ก ์ ์งํ๋ ๊ฒ์ด ๋ ์ฝ๊ณ ์ ๋ ดํจ
- ๋์งธ, ๊ฒ์ ์ธ๋ฑ์ค์ ์ ํดํ๊ฑฐ๋ ํธํฅ๋ ๋ด์ฉ์ด ํฌํจ๋ ๋ฌธ์ ๊ฐ ์๋ ๋ฌธ์๊ฐ ์๋ ๊ฒฝ์ฐ ๋ฌธ์ ๊ฐ ์๋ ๋ฌธ์๋ฅผ ์ฝ๊ฒ ์ญ์ ํ๊ฑฐ๋ ์์ ํ ์ ์์
- ๋ํ RAG์ R์ ๋ฌธ์๋ฅผ ๊ฒ์ํ๋ ๋ฐฉ๋ฒ์ ๋ํด ๋ ์ธ๋ถํ๋ ์ ์ด๋ฅผ ์ ๊ณตํจ
- ์๋ฅผ ๋ค์ด ์ฌ๋ฌ ์กฐ์ง์ ์ํด RAG ์์คํ ์ ํธ์คํ ํ๋ ๊ฒฝ์ฐ, ๊ฒ์ ์ธ๋ฑ์ค๋ฅผ ๋ถํ ํ์ฌ ๊ฐ ์กฐ์ง์ด ์์ฒด ์ธ๋ฑ์ค์ ๋ฌธ์๋ง ๊ฒ์ํ ์ ์๋๋ก ํ ์ ์์
- ์ด๋ ๊ฒ ํ๋ฉด ํ ์กฐ์ง์ ์ ๋ณด๋ฅผ ์ค์๋ก ๋ค๋ฅธ ์กฐ์ง์ ๋ ธ์ถํ๋ ์ผ์ด ์๋๋ก ํ ์ ์์
์ฅ๋ฌธ ์ปจํ ์คํธ ๋ชจ๋ธ์ด RAG๋ฅผ ์ธ๋ชจ์๊ฒ ๋ง๋ค์ง๋ ์์ ๊ฒ์
- Gemini 1.5๊ฐ ์ต๋ 1,000๋ง ํ ํฐ ํฌ๊ธฐ์ ์ปจํ
์คํธ ์๋์ฐ๋ฅผ ์ ๊ณตํจ์ ๋ฐ๋ผ ์ผ๋ถ์์๋ RAG์ ๋ฏธ๋์ ์๋ฌธ์ ์ ๊ธฐํ๊ธฐ ์์ํจ
- 1,000๋ง ํ ํฐ์ ์ปจํ
์คํธ ์๋์ฐ๋ ๊ธฐ์กด RAG ํ๋ ์์ํฌ ๋๋ถ๋ถ์ ๋ถํ์ํ๊ฒ ๋ง๋ฆ
- ๋ฐ์ดํฐ๋ฅผ ์ปจํ ์คํธ์ ๋ฃ๊ณ ํ์์ฒ๋ผ ๋ชจ๋ธ๊ณผ ๋ํํ๊ธฐ๋ง ํ๋ฉด ๋จ
- ์ด๋ ๋๋ถ๋ถ์ ์์ง๋์ด๋ง ๋
ธ๋ ฅ์ด RAG์ ํฌ์
๋๋ ์คํํธ์
, ์์ด์ ํธ, langchain ํ๋ก์ ํธ์ ์ด๋ค ์ํฅ์ ์ค์ง ์์ํด ๋ณด๋ผ
- ํ ๋ฌธ์ฅ์ผ๋ก ์์ฝํ๋ฉด 1,000๋ง ์ปจํ ์คํธ๊ฐ RAG๋ฅผ ์ฃฝ์ธ๋ค๋ ๊ฒ
- 1,000๋ง ํ ํฐ์ ์ปจํ
์คํธ ์๋์ฐ๋ ๊ธฐ์กด RAG ํ๋ ์์ํฌ ๋๋ถ๋ถ์ ๋ถํ์ํ๊ฒ ๋ง๋ฆ
- RAG์ ์ง์์ ํ์์ฑ
- ์ฅ๋ฌธ ์ปจํ
์คํธ๊ฐ ์ฌ๋ฌ ๋ฌธ์ ๋ถ์์ด๋ PDF์์ ์ฑํ
๋ฑ์ ์ฌ์ฉ ์ฌ๋ก์ ๊ฒ์ ์ฒด์ธ์ ๊ฐ ๋ ๊ฒ์ด๋ผ๋ ์ ์ ์ฌ์ค์ด์ง๋ง, RAG์ ์ข
๋ง์ ๋ํ ์๋ฌธ์ ํฌ๊ฒ ๊ณผ์ฅ๋จ
- ์ฒซ์งธ, 1,000๋ง ํ ํฐ์ ์ปจํ ์คํธ ์๋์ฐ๊ฐ ์๋๋ผ๋ ๋ชจ๋ธ์ ์ ๋ ฅํ ์ ๋ณด๋ฅผ ์ ํํ๋ ๋ฐฉ๋ฒ์ด ์ฌ์ ํ ํ์ํจ
- ๋์งธ, ์ข์ ๋ฐ๋๊ตฌ๋ฉ ํ๊ฐ๋ฅผ ๋์ด์ ๋ชจ๋ธ์ด ๊ทธ๋ ๊ฒ ํฐ ์ปจํ ์คํธ์ ๋ํด ํจ๊ณผ์ ์ผ๋ก ์ถ๋ก ํ ์ ์๋ค๋ ์ค๋๋ ฅ ์๋ ๋ฐ์ดํฐ๋ ์์ง ๋ณด์ง ๋ชปํจ
- ๋ฐ๋ผ์ ์ข์ ๊ฒ์(๋ฐ ๋ญํน) ์์ด๋ ์ฃผ์๋ฅผ ๋ถ์ฐ์ํค๋ ์ ๋ณด๋ก ๋ชจ๋ธ์ ์๋ํ๊ฑฐ๋ ์ฌ์ง์ด ์์ ํ ๋ฌด๊ดํ ์ ๋ณด๋ก ์ปจํ ์คํธ ์๋์ฐ๋ฅผ ์ฑ์ธ ์ํ์ด ์์
- ์ฅ๋ฌธ ์ปจํ
์คํธ๊ฐ ์ฌ๋ฌ ๋ฌธ์ ๋ถ์์ด๋ PDF์์ ์ฑํ
๋ฑ์ ์ฌ์ฉ ์ฌ๋ก์ ๊ฒ์ ์ฒด์ธ์ ๊ฐ ๋ ๊ฒ์ด๋ผ๋ ์ ์ ์ฌ์ค์ด์ง๋ง, RAG์ ์ข
๋ง์ ๋ํ ์๋ฌธ์ ํฌ๊ฒ ๊ณผ์ฅ๋จ
- ๋ง์ง๋ง์ผ๋ก ๋น์ฉ ๋ฌธ์ ๊ฐ ์์
- Transformer์ ์ถ๋ก ๋น์ฉ์ ์ปจํ ์คํธ ๊ธธ์ด์ ๋ฐ๋ผ ์ ๊ณฑ(๋๋ ๊ณต๊ฐ๊ณผ ์๊ฐ ๋ชจ๋์์ ์ ํ)์ผ๋ก ์ฆ๊ฐํจ
- ์กฐ์ง์ ์ ์ฒด Google Drive ๋ด์ฉ์ ์ฝ์ ์ ์๋ ๋ชจ๋ธ์ด ์กด์ฌํ๋ค๊ณ ํด์ ๊ฐ ์ง๋ฌธ์ ๋ตํ๊ธฐ ์ ์ ๊ทธ๋ ๊ฒ ํ๋ ๊ฒ์ด ์ข์ ์๊ฐ์ ์๋
- RAM ์ฌ์ฉ ๋ฐฉ์์ ๋ํ ๋น์ ๋ฅผ ๊ณ ๋ คํด ๋ณด์
- ์์ญ ํ ๋ผ๋ฐ์ดํธ์ ๋ฌํ๋ RAM์ด ์๋ ์ปดํจํ ์ธ์คํด์ค๊ฐ ์กด์ฌํ์ง๋ง, ์ฌ์ ํ ๋์คํฌ์์ ์ฝ๊ณ ์ฐ๊ณ ์์
- ๋ฐ๋ผ์ ์์ง RAG๋ฅผ ์ฐ๋ ๊ธฐํต์ ๋ฒ๋ฆฌ์ง ๋ง ๊ฒ
- ์ด ํจํด์ ์ปจํ ์คํธ ์๋์ฐ์ ํฌ๊ธฐ๊ฐ ์ปค์ง์๋ก ์ฌ์ ํ ์ ์ฉํ ๊ฒ์
์ ์ 3. ์ํฌํ๋ก์ฐ ํ๋ ๋ฐ ์ต์ ํ
- LLM์ ํ๋กฌํํธ๋ฅผ ์ฃผ๋ ๊ฒ์ ์์์ ๋ถ๊ณผํจ
- LLM์ ์ต๋ํ ํ์ฉํ๋ ค๋ฉด ๋จ์ผ ํ๋กฌํํธ๋ฅผ ๋์ด ์ํฌํ๋ก์ฐ๋ฅผ ์์ฉํด์ผ ํจ
- ์๋ฅผ ๋ค์ด, ๋ณต์กํ ๋จ์ผ ์์ ์ ์ฌ๋ฌ ๊ฐ์ ๋ ๊ฐ๋จํ ์์ ์ผ๋ก ์ด๋ป๊ฒ ๋ถํ ํ ์ ์์๊น?
- ๋ฏธ์ธ ์กฐ์ ์ด๋ ์บ์ฑ์ด ์ฑ๋ฅ ํฅ์๊ณผ ์ง์ฐ/๋น์ฉ ๊ฐ์์ ๋์์ด ๋๋ ์์ ์ ์ธ์ ์ผ๊น?
- ์ด ์น์ ์์๋ ๊ฒ์ฆ๋ ์ ๋ต๊ณผ ์ค์ ์ฌ๋ก๋ฅผ ๊ณต์ ํ์ฌ LLM ์ํฌํ๋ก์ฐ๋ฅผ ์ต์ ํํ๊ณ ๊ตฌ์ถํ๋ ๋ฐ ๋์์ ์ค
๋จ๊ณ๋ณ, ๋ค์ค ํด "Flow"๋ ํฐ ์ฑ๋ฅ ํฅ์์ ์ ๊ณตํ ์ ์์
- ํ๋์ ํฐ ํ๋กฌํํธ๋ฅผ ์ฌ๋ฌ ๊ฐ์ ์์ ํ๋กฌํํธ๋ก ๋ถํดํจ์ผ๋ก์จ ๋ ๋์ ๊ฒฐ๊ณผ๋ฅผ ์ป์ ์ ์๋ค๋ ๊ฒ์ ์ด๋ฏธ ์๊ณ ์์
- AlphaCodium์ด ๊ทธ ์์์
- ๋จ์ผ ํ๋กฌํํธ์์ ๋ค๋จ๊ณ ์ํฌํ๋ก์ฐ๋ก ์ ํํจ์ผ๋ก์จ CodeContests์์ GPT-4 ์ ํ๋(pass@5)๋ฅผ 19%์์ 44%๋ก ๋์
- ์ํฌํ๋ก์ฐ์๋ ๋ค์์ด ํฌํจ๋จ
- ๋ฌธ์ ์ ๋ํ ์๊ณ
- ๊ณต๊ฐ ํ ์คํธ์ ๋ํ ์ถ๋ก
- ๊ฐ๋ฅํ ์๋ฃจ์ ์์ฑ
- ๊ฐ๋ฅํ ์๋ฃจ์ ์์ ๋งค๊ธฐ๊ธฐ
- ํฉ์ฑ ํ ์คํธ ์์ฑ
- ๊ณต๊ฐ ๋ฐ ํฉ์ฑ ํ ์คํธ์ ๋ํ ์๋ฃจ์ ๋ฐ๋ณต
- AlphaCodium์ด ๊ทธ ์์์
- ๋ช
ํํ ๋ชฉํ๋ฅผ ๊ฐ์ง ์์ ์์
์ ์ต์์ ์์ด์ ํธ ๋๋ ํ๋ฆ ํ๋กฌํํธ๋ฅผ ๋ง๋ฆ
- ๋ชจ๋ ์์ด์ ํธ ํ๋กฌํํธ๊ฐ ๊ตฌ์กฐํ๋ ์ถ๋ ฅ์ ์์ฒญํ ํ์๋ ์์ง๋ง, ๊ตฌ์กฐํ๋ ์ถ๋ ฅ์ ์์ด์ ํธ์ ํ๊ฒฝ๊ณผ์ ์ํธ ์์ฉ์ ์กฐ์ ํ๋ ์์คํ ๊ณผ์ ์ธํฐํ์ด์ค์ ํฐ ๋์์ด ๋จ
- ์๋ํด ๋ณผ ๋งํ ๊ฒ๋ค
- ๊ฐ๋ฅํ ํ ์๊ฒฉํ๊ฒ ์ง์ ๋ ๋ช
์์ ๊ณํ ๋จ๊ณ
- ๋ฏธ๋ฆฌ ์ ์๋ ๊ณํ ์ค์์ ์ ํํ๋ ๊ฒ์ ๊ณ ๋ คํ ๊ฒ
- ์๋ ์ฌ์ฉ์ ํ๋กฌํํธ๋ฅผ ์์ด์ ํธ ํ๋กฌํํธ๋ก ๋ค์ ์์ฑ
- ์ด ๊ณผ์ ์์ ์ ๋ณด ์์ค์ด ๋ฐ์ํ๋ฏ๋ก ์ฃผ์ํ ๊ฒ
- ์ ํ ์ฒด์ธ, DAG ๋ฐ ์ํ ๋จธ์ ์ผ๋ก์์ ์์ด์ ํธ ๋์
- ๋ค์ํ ์ข ์์ฑ๊ณผ ๋ ผ๋ฆฌ ๊ด๊ณ๋ ์๋ก ๋ค๋ฅธ ๊ท๋ชจ์ ๋ ์ ํฉํ๊ฑฐ๋ ๋ ์ ํฉํ ์ ์์
- ๋ค์ํ ์์ ์ํคํ ์ฒ์์ ์ฑ๋ฅ ์ต์ ํ๋ฅผ ์ด๋์ด๋ผ ์ ์์๊น?
- ๊ณํ ๊ฒ์ฆ
- ๊ณํ์๋ ์ต์ข ๊ฒฐ๊ณผ๋ฌผ์ด ์ ์๋ํ๋๋ก ๋ค๋ฅธ ์์ด์ ํธ์ ์๋ต์ ํ๊ฐํ๋ ๋ฐฉ๋ฒ์ ๋ํ ์ง์นจ์ ํฌํจํ ์ ์์
- ๊ณ ์ ๋ ์
์คํธ๋ฆผ ์ํ๋ก ํ๋กฌํํธ ์์ง๋์ด๋ง
- ์์ด์ ํธ ํ๋กฌํํธ๊ฐ ์ด์ ์ ๋ฐ์ํ ์ ์๋ ๋ค์ํ ๋ณํ์ ๋ํด ํ๊ฐ๋๋์ง ํ์ธํ ๊ฒ
- ๊ฐ๋ฅํ ํ ์๊ฒฉํ๊ฒ ์ง์ ๋ ๋ช
์์ ๊ณํ ๋จ๊ณ
ํ์ฌ๋ก์๋ ๊ฒฐ์ ๋ก ์ ์ํฌํ๋ก์ฐ์ ์ฐ์ ์์๋ฅผ ๋ ๊ฒ
- AI ์์ด์ ํธ๋ ์ฌ์ฉ์ ์์ฒญ๊ณผ ํ๊ฒฝ์ ๋์ ์ผ๋ก ๋ฐ์ํ ์ ์์ง๋ง, ์ด๋ค์ ๋น๊ฒฐ์ ๋ก ์ ํน์ฑ์ ๋ฐฐํฌ์ ์ด๋ ค์์ ์ค
- ์์ด์ ํธ๊ฐ ์ํํ๋ ๊ฐ ๋จ๊ณ๋ ์คํจํ ๊ฐ๋ฅ์ฑ์ด ์์ผ๋ฉฐ, ์ค๋ฅ์์ ๋ณต๊ตฌํ ๊ฐ๋ฅ์ฑ์ ๋ฎ์
- ๋ฐ๋ผ์ ์์ด์ ํธ๊ฐ ๋ค๋จ๊ณ ์์ ์ ์ฑ๊ณต์ ์ผ๋ก ์๋ฃํ ๊ฐ๋ฅ์ฑ์ ๋จ๊ณ ์๊ฐ ์ฆ๊ฐํจ์ ๋ฐ๋ผ ๊ธฐํ๊ธ์์ ์ผ๋ก ๊ฐ์ํจ
- ๊ทธ ๊ฒฐ๊ณผ ์์ด์ ํธ๋ฅผ ๊ตฌ์ถํ๋ ํ์ ์ ๋ขฐํ ์ ์๋ ์์ด์ ํธ๋ฅผ ๋ฐฐํฌํ๋ ๋ฐ ์ด๋ ค์์ ๊ฒช์
- ์ ๋งํ ์ ๊ทผ ๋ฐฉ์์ ๊ฒฐ์ ๋ก ์ ๊ณํ์ ์์ฑํ๊ณ ์ด๋ฅผ ๊ตฌ์กฐํ๋๊ณ ์ฌํ ๊ฐ๋ฅํ ๋ฐฉ์์ผ๋ก ์คํํ๋ ์์ด์ ํธ ์์คํ
์ ๊ฐ๋ ๊ฒ์
- ์ฒซ ๋ฒ์งธ ๋จ๊ณ์์๋ ์์ ์์ค์ ๋ชฉํ๋ ํ๋กฌํํธ๊ฐ ์ฃผ์ด์ง๋ฉด ์์ด์ ํธ๊ฐ ๊ณํ์ ์์ฑํจ
- ๊ทธ๋ฐ ๋ค์ ๊ณํ์ด ๊ฒฐ์ ๋ก ์ ์ผ๋ก ์คํ๋จ
- ์ด๋ฅผ ํตํด ๊ฐ ๋จ๊ณ๋ฅผ ๋ณด๋ค ์์ธก ๊ฐ๋ฅํ๊ณ ์ ๋ขฐํ ์ ์๊ฒ ๋ง๋ค ์ ์์
- ์ฅ์
- ์์ฑ๋ ๊ณํ์ ์์ด์ ํธ์ ํ๋กฌํํธ๋ฅผ ์ ๊ณตํ๊ฑฐ๋ ๋ฏธ์ธ ์กฐ์ ํ๊ธฐ ์ํ few-shot ์ํ๋ก ์ฌ์ฉ๋ ์ ์์
- ๊ฒฐ์ ๋ก ์ ์คํ์ ์์คํ ์ ๋ ์ ๋ขฐํ ์ ์๊ฒ ๋ง๋ค์ด ํ ์คํธ์ ๋๋ฒ๊น ์ด ๋ ์ฌ์์ง. ๋ํ ์คํจ๋ ๊ณํ์ ํน์ ๋จ๊ณ๋ก ์ถ์ ๋ ์ ์์
- ์์ฑ๋ ๊ณํ์ ๋ฐฉํฅ์ฑ ๋น์ํ ๊ทธ๋ํ(DAG)๋ก ํํ๋ ์ ์์ผ๋ฉฐ, ์ ์ ํ๋กฌํํธ์ ๋นํด ์ดํดํ๊ณ ์๋ก์ด ์ํฉ์ ์ ์ํ๊ธฐ ์ฌ์
- ๊ฐ์ฅ ์ฑ๊ณต์ ์ธ ์์ด์ ํธ ๊ตฌ์ถ์๋ ์ฃผ๋์ด ์์ง๋์ด๋ฅผ ๊ด๋ฆฌํ๋ ๋ฐ ๊ฐ๋ ฅํ ๊ฒฝํ์ ๊ฐ์ง ์ฌ๋์ผ ์ ์์
- ๊ณํ ์์ฑ ๊ณผ์ ์ ์ฃผ๋์ด๋ฅผ ์ง์ํ๊ณ ๊ด๋ฆฌํ๋ ๋ฐฉ์๊ณผ ์ ์ฌํ๊ธฐ ๋๋ฌธ
- ์ฃผ๋์ด์๊ฒ ๋ชจํธํ๊ณ ๊ฐ๋ฐฉ์ ์ธ ๋ฐฉํฅ ๋์ ๋ช ํํ ๋ชฉํ์ ๊ตฌ์ฒด์ ์ธ ๊ณํ์ ์ ๊ณตํ๋ ๊ฒ์ฒ๋ผ, ์์ด์ ํธ์๊ฒ๋ ๋์ผํ๊ฒ ํด์ผ ํจ
- ๊ฒฐ๊ตญ ์ ๋ขฐํ ์ ์๊ณ ์๋ํ๋ ์์ด์ ํธ์ ํต์ฌ์
- ๋ณด๋ค ๊ตฌ์กฐํ๋๊ณ ๊ฒฐ์ ๋ก ์ ์ธ ์ ๊ทผ ๋ฐฉ์์ ์ฑํํ๊ณ ,
- ํ๋กฌํํธ๋ฅผ ๊ฐ์ ํ๊ณ ๋ชจ๋ธ์ ๋ฏธ์ธ ์กฐ์ ํ๊ธฐ ์ํ ๋ฐ์ดํฐ๋ฅผ ์์งํ๋ ๋ฐ์ ๋ฐ๊ฒฌ๋ ๊ฐ๋ฅ์ฑ์ด ๋์
- ์ด๊ฒ ์์ด๋ ๋๋๋ก ๋งค์ฐ ์ ์๋ํ ์ ์์ง๋ง ํ๊ท ์ ์ผ๋ก ์ฌ์ฉ์๋ฅผ ์ค๋ง์์ผ ์ ์ง๋ ฅ์ด ๋ฎ์์ง๋ ์์ด์ ํธ๋ฅผ ๊ตฌ์ถํ๊ฒ ๋ ๊ฒ์
์จ๋ ๋งค๊ฐ๋ณ์ ์ด์์ ๋ค์ํ ์ถ๋ ฅ ์ป๊ธฐ
- LLM์ ์ถ๋ ฅ์ ๋ค์์ฑ์ด ํ์ํ ์์
์ด ์๋ค๊ณ ๊ฐ์ ํด ๋ณด์
- ์ฌ์ฉ์๊ฐ ์ด์ ์ ๊ตฌ๋งคํ ์ ํ ๋ชฉ๋ก์ ๊ณ ๋ คํ์ฌ ์นดํ๋ก๊ทธ์์ ๊ตฌ๋งคํ ์ ํ์ ์ ์ํ๋ LLM ํ์ดํ๋ผ์ธ์ ์์ฑํ๊ณ ์์ ์ ์์
- ํ๋กฌํํธ๋ฅผ ์ฌ๋ฌ ๋ฒ ์คํํ ๋ ๊ฒฐ๊ณผ ์ถ์ฒ์ด ๋๋ฌด ์ ์ฌํ๋ค๋ ๊ฒ์ ์ ์ ์์
- ๋ฐ๋ผ์ LLM ์์ฒญ์ Temperature(์จ๋) ๋งค๊ฐ๋ณ์๋ฅผ ๋์ผ ์ ์์
- ์จ๋ ๋งค๊ฐ๋ณ์๋ฅผ ๋์ด๋ฉด LLM ์๋ต์ด ๋ ๋ค์ํด์ง
- ์ํ๋ง ์ ๋ค์ ํ ํฐ์ ํ๋ฅ ๋ถํฌ๊ฐ ๋ ํํํด์ ธ ์ผ๋ฐ์ ์ผ๋ก ์ ํ๋ ๊ฐ๋ฅ์ฑ์ด ๋ฎ์ ํ ํฐ์ด ๋ ์์ฃผ ์ ํ๋จ
- ๊ทธ๋ฌ๋ ์จ๋๋ฅผ ๋์ผ ๋ ์ถ๋ ฅ ๋ค์์ฑ๊ณผ ๊ด๋ จ๋ ์ผ๋ถ ์คํจ ๋ชจ๋๊ฐ ๋ฐ์ํ ์ ์์
- ์๋ฅผ ๋ค์ด ์นดํ๋ก๊ทธ์ ์ผ๋ถ ์ ํ์ด ์ ํฉํ ์ ์์ง๋ง LLM์ ์ํด ์ถ๋ ฅ๋์ง ์์ ์ ์์
- LLM์ด ํ์ต ์ ๋ฐฐ์ด ๋ด์ฉ์ ๊ธฐ๋ฐ์ผ๋ก ํ๋กฌํํธ๋ฅผ ๋ฐ๋ฅผ ๊ฐ๋ฅ์ฑ์ด ๋์ ๊ฒฝ์ฐ ๋์ผํ ์์์ ์ ํ์ด ์ถ๋ ฅ์์ ๊ณผ๋ ๋ํ๋ ์ ์์
- ์จ๋๊ฐ ๋๋ฌด ๋์ผ๋ฉด ์กด์ฌํ์ง ์๋ ์ ํ(๋๋ ๋ฌด์๋ฏธํ ๋ด์ฉ)์ ์ฐธ์กฐํ๋ ์ถ๋ ฅ์ด ์์ฑ๋ ์ ์์
- ์จ๋๋ฅผ ๋์ธ๋ค๊ณ ํด์ LLM์ด ์์ํ๋ ํ๋ฅ ๋ถํฌ(์: ๊ท ์ผ ๋ฌด์์)์์ ์ถ๋ ฅ์ ์ํ๋งํ๋ค๋ ๋ณด์ฅ์ ์์
- ๊ทธ๋ผ์๋ ๋ถ๊ตฌํ๊ณ ์ถ๋ ฅ ๋ค์์ฑ์ ๋์ด๊ธฐ ์ํ ๋ค๋ฅธ ํธ๋ฆญ์ด ์์
- ๊ฐ์ฅ ๊ฐ๋จํ ๋ฐฉ๋ฒ์ ํ๋กฌํํธ ๋ด ์์๋ฅผ ์กฐ์ ํ๋ ๊ฒ
- ์๋ฅผ ๋ค์ด ํ๋กฌํํธ ํ ํ๋ฆฟ์ ๊ณผ๊ฑฐ ๊ตฌ๋งค ๋ด์ญ๊ณผ ๊ฐ์ ํญ๋ชฉ ๋ชฉ๋ก์ด ํฌํจ๋ ๊ฒฝ์ฐ, ์ด๋ฌํ ํญ๋ชฉ์ ํ๋กฌํํธ์ ์ฝ์ ํ ๋๋ง๋ค ์์๋ฅผ ์์ผ๋ฉด ์๋นํ ์ฐจ์ด๋ฅผ ๋ง๋ค ์ ์์
- ๋ํ ์ต๊ทผ ์ถ๋ ฅ์ ์งง์ ๋ชฉ๋ก์ ์ ์งํ๋ฉด ์ค๋ณต์ ๋ฐฉ์งํ๋ ๋ฐ ๋์์ด ๋จ
- ์ถ์ฒ ์ ํ ์์์์ LLM์ ์ด ์ต๊ทผ ๋ชฉ๋ก์์ ํญ๋ชฉ ์ ์์ ํผํ๋๋ก ์ง์ํ๊ฑฐ๋, ์ต๊ทผ ์ ์๊ณผ ์ ์ฌํ ์ถ๋ ฅ์ ๊ฑฐ๋ถํ๊ณ ์ฌ์ํ๋งํจ์ผ๋ก์จ ์๋ต์ ๋์ฑ ๋ค์ํํ ์ ์์
- ๋ ๋ค๋ฅธ ํจ๊ณผ์ ์ธ ์ ๋ต์ ํ๋กฌํํธ์ ์ฌ์ฉ๋๋ ํํ์ ๋ค์ํํ๋ ๊ฒ
- ์๋ฅผ ๋ค์ด "์ฌ์ฉ์๊ฐ ์ ๊ธฐ์ ์ผ๋ก ์ฌ์ฉํ๋ ๊ฒ์ ์ข์ํ ํญ๋ชฉ ์ ํ" ๋๋ "์ฌ์ฉ์๊ฐ ์น๊ตฌ์๊ฒ ์ถ์ฒํ ๊ฐ๋ฅ์ฑ์ด ๋์ ์ ํ ์ ํ"๊ณผ ๊ฐ์ ๋ฌธ๊ตฌ๋ฅผ ํตํฉํ๋ฉด ์ด์ ์ ์ด๋์์ผ ์ถ์ฒ ์ ํ์ ๋ค์์ฑ์ ์ํฅ์ ์ค ์ ์์
- ๊ฐ์ฅ ๊ฐ๋จํ ๋ฐฉ๋ฒ์ ํ๋กฌํํธ ๋ด ์์๋ฅผ ์กฐ์ ํ๋ ๊ฒ
์บ์ฑ์ ๊ณผ์ํ๊ฐ๋๊ณ ์์
- ์บ์ฑ์ ๋์ผํ ์
๋ ฅ์ ๋ํ ์๋ต์ ์ฌ๊ณ์ฐํ ํ์์ฑ์ ์ ๊ฑฐํจ์ผ๋ก์จ ๋น์ฉ์ ์ ๊ฐํ๊ณ ์์ฑ ์ง์ฐ ์๊ฐ์ ์ ๊ฑฐํจ
- ๋ํ ์๋ต์ด ์ด์ ์ ๊ฐ๋๋ ์ผ๋ง๋์๋ค๋ฉด, ์ด๋ฌํ ๊ฒ์ฆ๋ ์๋ต์ ์ ๊ณตํ์ฌ ์ ํดํ๊ฑฐ๋ ๋ถ์ ์ ํ ์ฝํ ์ธ ๋ฅผ ์ ๊ณตํ ์ํ์ ์ค์ผ ์ ์์
- ์บ์ฑ์ ๋ํ ๊ฐ๋จํ ์ ๊ทผ ๋ฐฉ์์ ์๋ก์ด ๊ธฐ์ฌ๋ ์ ํ ๋ฆฌ๋ทฐ๋ฅผ ์์ฝํ๋ ๊ฒฝ์ฐ์ ๊ฐ์ด ์ฒ๋ฆฌ ์ค์ธ ํญ๋ชฉ์ ๋ํด ๊ณ ์ ํ ID๋ฅผ ์ฌ์ฉํ๋ ๊ฒ์
- ์์ฒญ์ด ๋ค์ด์ค๋ฉด ์บ์์ ์ด๋ฏธ ์์ฝ์ด ์กด์ฌํ๋์ง ํ์ธํ ์ ์์
- ๊ทธ๋ ๋ค๋ฉด ์ฆ์ ๋ฐํํ ์ ์๊ณ , ๊ทธ๋ ์ง ์๋ค๋ฉด ์์ฑ, ๊ฐ๋๋ ์ผ๋ง ๋ฐ ์ ๊ณตํ ๋ค์ ํฅํ ์์ฒญ์ ์ํด ์บ์์ ์ ์ฅํ ์ ์์
- ์์ฒญ์ด ๋ค์ด์ค๋ฉด ์บ์์ ์ด๋ฏธ ์์ฝ์ด ์กด์ฌํ๋์ง ํ์ธํ ์ ์์
- ์ข ๋ ๊ฐ๋ฐฉํ์ธ ์ฟผ๋ฆฌ์ ๊ฒฝ์ฐ ๊ฐ๋ฐฉํ ์
๋ ฅ์ ๋ํด์๋ ์บ์ฑ์ ํ์ฉํ๋ ๊ฒ์ ๋ถ์ผ์ ๊ธฐ์ ์ ์ฐจ์ฉํ ์ ์์
- ์๋ ์์ฑ ๋ฐ ๋ง์ถค๋ฒ ์์ ๊ณผ ๊ฐ์ ๊ธฐ๋ฅ์ ์ฌ์ฉ์ ์ ๋ ฅ์ ์ ๊ทํํ์ฌ ์บ์ ์ ์ค๋ฅ ์ ๋์ด๋ ๋ฐ ๋์์ด ๋จ
finetune(ํ์ธ ํ๋)์ด ํ์ํ ์์
- ๊ฐ์ฅ ์๋ฆฌํ๊ฒ ์ค๊ณ๋ ํ๋กฌํํธ์กฐ์ฐจ๋ ๋ถ์กฑํ ์ผ๋ถ ์์
์ด ์์ ์ ์์
- ์๋ฅผ ๋ค์ด ์๋นํ ํ๋กฌํํธ ์์ง๋์ด๋ง ์ดํ์๋ ์์คํ ์ด ์ฌ์ ํ ์ ๋ขฐํ ์ ์๊ณ ๊ณ ํ์ง์ ์ถ๋ ฅ์ ๋ฐํํ๋ ๋ฐ์ ๋ฉ์ด์ง ์ ์์
- ์ด ๊ฒฝ์ฐ ํน์ ์์ ์ ์ํด ๋ชจ๋ธ์ ํ์ธํ๋ํด์ผ ํ ์ ์์
- ์ฑ๊ณต์ ์ธ ํ์ธ ํ๋ ์ฌ๋ก
- Honeycomb์ Natural Language Query Assistant
- ์ฒ์์๋ "ํ๋ก๊ทธ๋๋ฐ ๋งค๋ด์ผ"์ด ๋ฌธ๋งฅ ๋ด ํ์ต์ ์ํ n-shot ์์ ์ ํจ๊ป ํ๋กฌํํธ์ ์ ๊ณต๋จ
- ์ด๊ฒ์ด ์ ๋๋ก ์๋ํ์ง๋ง, ๋ชจ๋ธ์ ํ์ธ ํ๋ํ๋ฉด ๋๋ฉ์ธ ํน์ ์ธ์ด์ ๊ตฌ๋ฌธ๊ณผ ๊ท์น์ ๋ํ ๋ ๋์ ์ถ๋ ฅ์ ์ป์ ์ ์์
- Rechat์ Lucy
- LLM์ ํ๋ก ํธ์๋๊ฐ ์ฌ๋ฐ๋ฅด๊ฒ ๋ ๋๋งํ๊ธฐ ์ํด ๊ตฌ์กฐํ๋ ๋ฐ์ดํฐ์ ๋น๊ตฌ์กฐํ๋ ๋ฐ์ดํฐ๋ฅผ ๊ฒฐํฉํ ๋งค์ฐ ํน์ ํ ํ์์ผ๋ก ์๋ต์ ์์ฑํด์ผ ํจ
- ํ์ธ ํ๋์ ์ผ๊ด๋๊ฒ ์๋ํ๋๋ก ํ๋ ๋ฐ ํ์์ ์
- Honeycomb์ Natural Language Query Assistant
- ํ์ธํ๋์ด ํจ๊ณผ์ ์ผ ์ ์์ง๋ง ์๋นํ ๋น์ฉ์ด ์๋ฐ๋จ
- ํ์ธ ํ๋ ๋ฐ์ดํฐ์ ์ฃผ์์ ๋ฌ๊ณ , ๋ชจ๋ธ์ ํ์ธ ํ๋ ๋ฐ ํ๊ฐํ ๋ค์, ๊ฒฐ๊ตญ ์์ฒด ํธ์คํ ํด์ผ ํจ
- ๋ฐ๋ผ์ ๋ ๋์ ์ด๊ธฐ ๋น์ฉ์ด ๊ทธ๋งํ ๊ฐ์น๊ฐ ์๋์ง ๊ณ ๋ คํด์ผ ํจ
- ํ๋กฌํํ
์ผ๋ก 90%๊น์ง ๋๋ฌํ ์ ์๋ค๋ฉด ํ์ธ ํ๋์ ํฌ์ํ ๊ฐ์น๊ฐ ์์ ์ ์์
- ๊ทธ๋ฌ๋ ํ์ธ ํ๋ํ๊ธฐ๋ก ๊ฒฐ์ ํ๋ค๋ฉด ์ธ๊ฐ์ด ์ฃผ์์ ๋จ ๋ฐ์ดํฐ ์์ง ๋น์ฉ์ ์ค์ด๊ธฐ ์ํด ํฉ์ฑ ๋ฐ์ดํฐ์ ๋ํด ์์ฑ ๋ฐ ํ์ธ ํ๋ํ๊ฑฐ๋ ์คํ ์์ค ๋ฐ์ดํฐ๋ฅผ ๋ถํธ์คํธ๋ฉํ ์ ์์
์ ์ 4. ํ๊ฐ ๋ฐ ๋ชจ๋ํฐ๋ง
- LLM ํ๊ฐ๋ ์ง๋ขฐ๋ฐญ์ด ๋ ์ ์์
- LLM์ ์ ๋ ฅ๊ณผ ์ถ๋ ฅ์ ์์์ ํ ์คํธ์ด๋ฉฐ, ์ค์ ํ๋ ์์ ๋ ๋ค์ํจ
- ๊ทธ๋ผ์๋ ๋ถ๊ตฌํ๊ณ ์๊ฒฉํ๊ณ ์ ์คํ ํ๊ฐ๋ ์ค์ํจ
- OpenAI์ ๊ธฐ์ ๋ฆฌ๋๋ค์ด ํ๊ฐ์ ์ฐธ์ฌํ๊ณ ๊ฐ๋ณ ํ๊ฐ์ ๋ํด ํผ๋๋ฐฑ์ ์ ๊ณตํ๋ ๊ฒ์ด ์ฐ์ฐ์ด ์๋
- LLM ์ ํ๋ฆฌ์ผ์ด์
ํ๊ฐ์๋ ๋ค์ํ ์ ์์ ์ถ์๊ฐ ํ์ํจ
- ๋จ์ํ ๋จ์ ํ ์คํธ์ด๊ฑฐ๋, ๊ด์ฐฐ ๊ฐ๋ฅ์ฑ๊ณผ ๋ ์ ์ฌํ๊ฑฐ๋, ๋จ์ํ ๋ฐ์ดํฐ ๊ณผํ์ผ ์ ์์
- ์ฐ๋ฆฌ๋ ์ด๋ฌํ ๋ชจ๋ ๊ด์ ์ด ์ ์ฉํ๋ค๋ ๊ฒ์ ๋ฐ๊ฒฌํจ
- ์ด๋ฒ ์น์ ์์๋ ํ๊ฐ ๋ฐ ๋ชจ๋ํฐ๋ง ํ์ดํ๋ผ์ธ ๊ตฌ์ถ์์ ์ค์ํ ์ฌํญ์ ๋ํด ๋ฐฐ์ด ๊ตํ์ ์ ๊ณตํจ
์ค์ ์ ์ถ๋ ฅ ์ํ์์ ๋ช ๊ฐ์ง assertion ๊ธฐ๋ฐ ๋จ์ ํ ์คํธ ์์ฑ
- ํ๋ก๋์
์์ ์
๋ ฅ๊ณผ ์ถ๋ ฅ์ ์ํ๋ก ๊ตฌ์ฑ๋ ๋จ์ ํ
์คํธ(์ฆ, assertion)๋ฅผ ๋ง๋ค๊ณ , ์ต์ 3๊ฐ์ง ๊ธฐ์ค์ ๋ฐ๋ผ ์ถ๋ ฅ์ ๋ํ ๊ธฐ๋์น๋ฅผ ์ค์
- 3๊ฐ์ง ๊ธฐ์ค์ด ์์์ ์ผ๋ก ๋ณด์ผ ์ ์์ง๋ง, ์์ํ๊ธฐ์ ์ค์ฉ์ ์ธ ์์
- ๋ ์ ์ผ๋ฉด ์์ ์ด ์ถฉ๋ถํ ์ ์๋์ง ์์๊ฑฐ๋ ๋ฒ์ฉ ์ฑ๋ด๊ณผ ๊ฐ์ด ๋๋ฌด ๊ฐ๋ฐฉ์ ์ผ ์ ์์
- ์ด๋ฌํ ๋จ์ ํ ์คํธ ๋๋ assertion์ ํ๋กฌํํธ ํธ์ง, RAG๋ฅผ ํตํ ์ ์ปจํ ์คํธ ์ถ๊ฐ ๋๋ ๊ธฐํ ์์ ๊ณผ ๊ฐ์ ํ์ดํ๋ผ์ธ์ ๋ณ๊ฒฝ ์ฌํญ์ ์ํด ํธ๋ฆฌ๊ฑฐ๋์ด์ผ ํจ
- 3๊ฐ์ง ๊ธฐ์ค์ด ์์์ ์ผ๋ก ๋ณด์ผ ์ ์์ง๋ง, ์์ํ๊ธฐ์ ์ค์ฉ์ ์ธ ์์
- ๋ชจ๋ ์๋ต์ ํฌํจํ๊ฑฐ๋ ์ ์ธํ ๊ตฌ๋ฌธ์ด๋ ์์ด๋์ด๋ฅผ ์ง์ ํ๋ assertion๋ถํฐ ์์ํ๋ ๊ฒ์ ๊ณ ๋ ค
- ๋ํ ๋จ์ด, ํญ๋ชฉ ๋๋ ๋ฌธ์ฅ ์๊ฐ ๋ฒ์ ๋ด์ ์๋์ง ํ์ธํ๋ ๊ฒ์ฌ๋ฅผ ๊ณ ๋ ค
- ๋ค๋ฅธ ์ข
๋ฅ์ ์์ฑ์ ๊ฒฝ์ฐ assertion์ด ๋ค๋ฅด๊ฒ ๋ณด์ผ ์ ์์
- ์๋ฅผ ๋ค์ด ์ฝ๋ ์์ฑ์ ํ๊ฐํ๊ธฐ ์ํ ๊ฐ๋ ฅํ ๋ฐฉ๋ฒ์ธ ์คํ ํ๊ฐ์์๋ ์์ฑ๋ ์ฝ๋๋ฅผ ์คํํ๊ณ ๋ฐํ์ ์ํ๊ฐ ์ฌ์ฉ์ ์์ฒญ์ ์ถฉ๋ถํ์ง ํ์ธ
- ์๋ฅผ ๋ค์ด ์ฌ์ฉ์๊ฐ foo๋ผ๋ ์ ํจ์๋ฅผ ์์ฒญํ๋ฉด ์์ด์ ํธ์ ์์ฑ ์ฝ๋๋ฅผ ์คํํ ํ foo๋ฅผ ํธ์ถํ ์ ์์ด์ผ ํจ
- ์คํ ํ๊ฐ์ ํ ๊ฐ์ง ๊ณผ์ ๋ ์์ด์ ํธ ์ฝ๋๊ฐ ์ข
์ข
๋์ ์ฝ๋์ ์ฝ๊ฐ ๋ค๋ฅธ ํํ๋ก ๋ฐํ์์ ๋จ๊ธด๋ค๋ ๊ฒ
- ์ด๋ค ํ๋นํ ๋ต๋ณ์ด๋ผ๋ ๋ง์กฑ์ํฌ ์ ์๋ ๊ฐ์ฅ ์ฝํ ๊ฐ์ ์ผ๋ก assertion์ "์ํ"ํ๋ ๊ฒ์ด ํจ๊ณผ์ ์ผ ์ ์์
- ๊ณ ๊ฐ์ ์ํด ์๋ํ ๋๋ก ์ ํ์ ์ฌ์ฉํ๋ ๊ฒ(์ฆ, "๋๊ทธํธ๋ฉ")์ ์ค์ ๋ฐ์ดํฐ์์์ ์ฅ์ ๋ชจ๋์ ๋ํ ํต์ฐฐ๋ ฅ์ ์ ๊ณตํ ์ ์์
- ์ด ์ ๊ทผ ๋ฐฉ์์ ์ ์ฌ์ ์ฝ์ ์ ์๋ณํ๋ ๋ฐ ๋์์ด ๋ ๋ฟ๋ง ์๋๋ผ ํ๊ฐ๋ก ๋ณํํ ์ ์๋ ์ ์ฉํ ํ๋ก๋์ ์ํ ์์ค๋ ์ ๊ณตํจ
LLM-as-Judge๋ (์ด๋ ์ ๋) ์๋ํ ์ ์์ง๋ง ๋ง๋ฅ์ ์๋
- LLM-as-Judge๋ ๊ฐ๋ ฅํ LLM์ ์ฌ์ฉํ์ฌ ๋ค๋ฅธ LLM์ ์ถ๋ ฅ์ ํ๊ฐํ๋ ๋ฐฉ์์ผ๋ก, ์ผ๋ถ ์ฌ๋๋ค์๊ฒ๋ ํ์์ ์ผ๋ก ๋ฐ์๋ค์ฌ์ง
- ๊ทธ๋ผ์๋ ๋ถ๊ตฌํ๊ณ ์ ๊ตฌํ๋๋ฉด LLM-as-Judge๋ ์ธ๊ฐ์ ํ๋จ๊ณผ ์๋นํ ์๊ด๊ด๊ณ๋ฅผ ๋ฌ์ฑํ๊ณ , ์ ์ด๋ ์๋ก์ด ํ๋กฌํํธ๋ ๊ธฐ์ ์ด ์ด๋ป๊ฒ ์ํ๋ ์ ์๋์ง์ ๋ํ ์ฌ์ ์ ๋ณด๋ฅผ ๊ตฌ์ถํ๋ ๋ฐ ๋์์ด ๋ ์ ์์
- ํนํ ์๋ณ ๋น๊ต(์: ๋์กฐ๊ตฐ vs ์ฒ๋ฆฌ๊ตฐ)๋ฅผ ํ ๋ LLM-as-Judge๋ ์ผ๋ฐ์ ์ผ๋ก ๋ฐฉํฅ์ ์ฌ๋ฐ๋ฅด๊ฒ ์ก์ง๋ง ์น/ํจ์ ํฌ๊ธฐ๋ ๋ ธ์ด์ฆ๊ฐ ์์ ์ ์์
- LLM-as-Judge๋ฅผ ์ต๋ํ ํ์ฉํ๊ธฐ ์ํ ์ ์
- ์๋ณ ๋น๊ต ์ฌ์ฉ
- LLM์๊ฒ ๋จ์ผ ์ถ๋ ฅ์ Likert ์ฒ๋๋ก ํ๊ฐํ๋๋ก ์์ฒญํ๋ ๋์ ๋ ๊ฐ์ง ์ต์ ์ ์ ์ํ๊ณ ๋ ๋์ ๊ฒ์ ์ ํํ๋๋ก ์์ฒญ
- ์ด๋ ๋ ์์ ์ ์ธ ๊ฒฐ๊ณผ๋ก ์ด์ด์ง๋ ๊ฒฝํฅ์ด ์์
- ์์น ํธํฅ ์ ์ด
- ์ ์๋ ์ต์ ์ ์์๊ฐ LLM์ ๊ฒฐ์ ์ ํธํฅ์ํฌ ์ ์์
- ์ด๋ฅผ ์ํํ๋ ค๋ฉด ๊ฐ ์๋ณ ๋น๊ต๋ฅผ ๋ ๋ฒ ์ํํ๊ณ ๊ฐ ์๊ฐ์ ์์ ์์๋ฅผ ๋ฐ๊ฟ
- ์ค์ํ ํ์๋ ์ฌ๋ฐ๋ฅธ ์ต์ ์ ์น๋ฆฌ๋ฅผ ๊ท์์์ผ์ผ ํจ
- ๋์ ํ์ฉ
- ๊ฒฝ์ฐ์ ๋ฐ๋ผ ๋ ์ต์ ์ด ๋๊ฐ์ด ์ข์ ์ ์์
- ๋ฐ๋ผ์ LLM์ด ์์๋ก ์น์๋ฅผ ์ ํํ ํ์๊ฐ ์๋๋ก ๋์ ์ ์ ์ธํ๋๋ก ํ์ฉ
- Chain-of-Thought ์ฌ์ฉ
- ์ต์ข ์ ํธ๋๋ฅผ ์ ์ํ๊ธฐ ์ ์ LLM์๊ฒ ๊ทธ ๊ฒฐ์ ์ ์ค๋ช ํ๋๋ก ์์ฒญํ๋ฉด ํ๊ฐ ์ ๋ขฐ์ฑ์ด ํฅ์๋ ์ ์์
- ๋ณด๋์ค๋ก, ์ด๋ฅผ ํตํด ๋ ์ฝํ์ง๋ง ๋น ๋ฅธ LLM์ ์ฌ์ฉํ๋ฉด์๋ ์ ์ฌํ ๊ฒฐ๊ณผ๋ฅผ ์ป์ ์ ์์
- ํ์ดํ๋ผ์ธ์ ์ด ๋ถ๋ถ์ด ์์ฃผ ๋ฐฐ์น ๋ชจ๋์ ์๊ธฐ ๋๋ฌธ์ CoT๋ก ์ธํ ์ถ๊ฐ ์ง์ฐ์ ๋ฌธ์ ๊ฐ ๋์ง ์์
- ์๋ต ๊ธธ์ด ์ ์ด
- LLM์ ๋ ๊ธด ์๋ต์ผ๋ก ์น์ฐ์น๋ ๊ฒฝํฅ์ด ์์
- ์ด๋ฅผ ์ํํ๋ ค๋ฉด ์๋ต ์์ ๊ธธ์ด๊ฐ ๋น์ทํ์ง ํ์ธ
- ์๋ณ ๋น๊ต ์ฌ์ฉ
- LLM-as-Judge์ ํนํ ๊ฐ๋ ฅํ ์ ์ฉ์ ์๋ก์ด ํ๋กฌํํธ ์ ๋ต์ ํ๊ท์ ๋ํด ํ์ธํ๋ ๊ฒ
- ํ๋ก๋์ ๊ฒฐ๊ณผ ๋ชจ์์ ์ถ์ ํ ๊ฒฝ์ฐ ๋๋ก๋ ์๋ก์ด ํ๋กฌํํธ ์ ๋ต์ผ๋ก ํด๋น ํ๋ก๋์ ์์ ๋ฅผ ๋ค์ ์คํํ๊ณ LLM-as-Judge๋ฅผ ์ฌ์ฉํ์ฌ ์ ์ ๋ต์ด ์ด๋์์ ์ด๋ ค์์ ๊ฒช์ ์ ์๋์ง ์ ์ํ๊ฒ ํ๊ฐํ ์ ์์
- LLM-as-Judge์ ๊ฐ๋จํ์ง๋ง ํจ๊ณผ์ ์ธ ์ ๊ทผ ๋ฐฉ์์ ์์
- ๋จ์ํ LLM ์๋ต, ํ์ฌ์ ๋นํ(์ฆ, CoT) ๋ฐ ์ต์ข ๊ฒฐ๊ณผ๋ฅผ ๊ธฐ๋ก
- ๊ทธ๋ฐ ๋ค์ ์ดํด๊ด๊ณ์์ ๊ฒํ ํ์ฌ ๊ฐ์ ์์ญ์ ์๋ณ
- 3๋ฒ์ ๋ฐ๋ณต์ ํตํด ์ธ๊ฐ๊ณผ LLM์ ์ผ์น๋๋ 68%์์ 94%๋ก ํฅ์๋จ
- ๊ทธ๋ฌ๋ LLM-as-Judge๋ ๋ง๋ฅ์ด ์๋
- ๊ฐ์ฅ ๊ฐ๋ ฅํ ๋ชจ๋ธ์กฐ์ฐจ๋ ์ ๋ขฐํ ์ ์๊ฒ ํ๊ฐํ์ง ๋ชปํ๋ ๋ฏธ๋ฌํ ์ธ์ด์ ์ธก๋ฉด์ด ์์
- ๋ํ ๊ธฐ์กด์ ๋ถ๋ฅ๊ธฐ์ ๋ณด์ ๋ชจ๋ธ์ด LLM-as-Judge๋ณด๋ค ๋ ๋์ ์ ํ๋๋ฅผ ๋ฌ์ฑํ ์ ์์ผ๋ฉฐ ๋น์ฉ๊ณผ ์ง์ฐ ์๊ฐ์ด ๋ ์ ๋ค๋ ๊ฒ์ ๋ฐ๊ฒฌํจ
- ์ฝ๋ ์์ฑ์ ๊ฒฝ์ฐ LLM-as-Judge๋ ์คํ ํ๊ฐ์ ๊ฐ์ ๋ณด๋ค ์ง์ ์ ์ธ ํ๊ฐ ์ ๋ต๋ณด๋ค ์ฝํ ์ ์์
์์ฑ ๊ฒฐ๊ณผ ํ๊ฐ๋ฅผ ์ํ "์ธํด ํ ์คํธ"
- ์์ฑ ๊ฒฐ๊ณผ๋ฅผ ํ๊ฐํ ๋ ๋ค์๊ณผ ๊ฐ์ "์ธํด ํ
์คํธ"๋ฅผ ์ฌ์ฉํ๋ ๊ฒ์ด ์ข์
- ์ปจํ ์คํธ๋ฅผ ํฌํจํ์ฌ ์ธ์ด ๋ชจ๋ธ์ ๋ํ ์ ํํ ์ ๋ ฅ์ ๊ฐ์ ธ์ ๊ด๋ จ ์ ๊ณต์ ํ๊ท ์ ์ธ ๋ํ์์๊ฒ ๊ณผ์ ๋ก ์ ์ํ๋ค๋ฉด ๊ทธ๋ค์ด ์ฑ๊ณตํ ์ ์์๊น?
- ์ผ๋ง๋ ๊ฑธ๋ฆด๊น?
- ๋ต๋ณ์ด ์๋์ค์ธ ๊ฒฝ์ฐ
- LLM์ ํ์ํ ์ง์์ด ๋ถ์กฑํ๊ธฐ ๋๋ฌธ์ด๋ผ๋ฉด ์ปจํ ์คํธ๋ฅผ ํ๋ถํ๊ฒ ๋ง๋๋ ๋ฐฉ๋ฒ์ ๊ณ ๋ ค
- ์ปจํ ์คํธ๋ฅผ ๊ฐ์ ํด๋ ํด๊ฒฐํ ์ ์๋ค๋ฉด ํ๋ LLM์๋ ๋๋ฌด ์ด๋ ค์ด ์์ ์ผ ์ ์์
- ๋ต๋ณ์ด ์์ด์ง๋ง ์๊ฐ์ด ๊ฑธ๋ฆฌ๋ ๊ฒฝ์ฐ
- ์์
์ ๋ณต์ก์ฑ์ ์ค์ด๋ ค๊ณ ์๋ํด๋ณผ ์ ์์
- ๋ถํด ๊ฐ๋ฅํ๊ฐ?
- ์์ ์ ์ด๋ค ์ธก๋ฉด์ ๋ ํ ํ๋ฆฟํํ ์ ์๋๊ฐ?
- ์์
์ ๋ณต์ก์ฑ์ ์ค์ด๋ ค๊ณ ์๋ํด๋ณผ ์ ์์
- ๋ต๋ณ์ด ์์ด๊ณ ๋น ๋ฅด๊ฒ ํ ์ ์๋ ๊ฒฝ์ฐ
- ๋ฐ์ดํฐ๋ฅผ ํ๊ณ ๋ค ๋
- ๋ชจ๋ธ์ด ์๋ชปํ๊ณ ์๋ ๊ฒ์ ๋ฌด์์ธ๊ฐ?
- ์คํจ์ ํจํด์ ์ฐพ์ ์ ์๋๊ฐ?
- ๋ชจ๋ธ์๊ฒ ์๋ต ์ ์ด๋ ํ์ ์ค์ค๋ก ์ค๋ช ํ๋๋ก ์์ฒญํด๋ณด๊ธฐ
- ๋ฐ์ดํฐ๋ฅผ ํ๊ณ ๋ค ๋
ํน์ ํ๊ฐ์ ์ง๋์น๊ฒ ์ค์ ์ ๋๋ฉด ์ ๋ฐ์ ์ธ ์ฑ๋ฅ์ด ์ ํ๋ ์ ์์
"์ธก์ ์งํ๊ฐ ๋ชฉํ๊ฐ ๋๋ฉด ๋ ์ด์ ์ข์ ์ธก์ ์งํ๊ฐ ์๋๊ฒ ๋๋ค." - Goodhart์ ๋ฒ์น
- ์ด์ ๋ํ ์์๋ก Needle-in-a-Haystack(NIAH) ํ๊ฐ๊ฐ ์์
- ์๋ ํ๊ฐ๋ ์ปจํ ์คํธ ํฌ๊ธฐ๊ฐ ์ปค์ง์ ๋ฐ๋ผ ๋ชจ๋ธ ๋ฆฌ์ฝ์ ์ ๋ํํ๊ณ ๋ฐ๋ ์์น์ ๋ฐ๋ผ ๋ฆฌ์ฝ์ด ์ด๋ป๊ฒ ์ํฅ์ ๋ฐ๋์ง ํ์ธํ๋ ๋ฐ ๋์์ด ๋จ
- ๊ทธ๋ฌ๋ ๋๋ฌด ์ง๋์น๊ฒ ๊ฐ์กฐ๋์ด Gemini 1.5 ๋ณด๊ณ ์์ Figure 1๋ก ์๊ฐ๋จ
- ์ด ํ๊ฐ์๋ ํด ๊ทธ๋ ์ด์์ ์์ธ์ด๋ฅผ ๋ฐ๋ณตํ๋ ๊ธด ๋ฌธ์์ ํน์ ๊ตฌ๋ฌธ("The special magic {city} number is: {number}")์ ์ฝ์ ํ ๋ค์ ๋ชจ๋ธ์ ๋งค์ง ๋๋ฒ๋ฅผ ์๊ธฐ์ํค๋ ์์ ์ด ํฌํจ๋จ
- ์ผ๋ถ ๋ชจ๋ธ์ ๊ฑฐ์ ์๋ฒฝํ ๋ฆฌ์ฝ์ ๋ฌ์ฑํ์ง๋ง NIAH๊ฐ ์ค์ ์ ํ๋ฆฌ์ผ์ด์ ์ ํ์ํ ์ถ๋ก ๋ฐ ๋ฆฌ์ฝ ๋ฅ๋ ฅ์ ์ง์ ์ผ๋ก ๋ฐ์ํ๋์ง๋ ์๋ฌธ
- ๋ณด๋ค ์ค์ฉ์ ์ธ ์๋๋ฆฌ์ค ๊ณ ๋ ค
- 1์๊ฐ ๋ถ๋์ ํ์ ๋ น์ทจ๋ก์ด ์ฃผ์ด์ง๋ฉด LLM์ด ์ฃผ์ ๊ฒฐ์ ๊ณผ ๋ค์ ๋จ๊ณ๋ฅผ ์์ฝํ๊ณ ๊ฐ ํญ๋ชฉ์ ๊ด๋ จ ๋ด๋น์์๊ฒ ์ฌ๋ฐ๋ฅด๊ฒ ๊ท์์ํฌ ์ ์๋๊ฐ?
- ์ด ์์ ์ ๋จ์ํ ์๊ธฐ๋ฅผ ๋์ด ๋ณต์กํ ํ ๋ก ์ ํ์ ํ๊ณ ๊ด๋ จ ์ ๋ณด๋ฅผ ์๋ณํ๋ฉฐ ์์ฝ์ ์ข ํฉํ๋ ๋ฅ๋ ฅ๋ ๊ณ ๋ คํ๋ฏ๋ก ๋ ํ์ค์ ์
- ์ค์ฉ์ ์ธ NIAH ํ๊ฐ์ ์์
- ์์ฌ-ํ์ ํ์ ํตํ ๋ น์ทจ๋ก์ ์ฌ์ฉํ์ฌ LLM์ ํ์์ ์ฝ๋ฌผ์ ๋ํด ์ง๋ฌธ
- ์์คํ๋ ์์ ๋ด๊ทผ ๋์ถ, ๋ ๋ชฌ, ์ผ์ ์น์ฆ ๋ฑ ํผ์ ํ ํ์ ํ์ํ ๋ฌด์์ ์ฌ๋ฃ์ ๋ํ ๊ตฌ๋ฌธ์ ์ฝ์ ํ๋ ๋ฑ ๋ณด๋ค ๋์ ์ ์ธ NIAH๋ ํฌํจ
- ์ฝ๋ฌผ ์์ ์์ ๋ฆฌ์ฝ์ ์ฝ 80%, ํผ์ ์์ ์์๋ 30%์์
- NIAH ํ๊ฐ๋ฅผ ์ง๋์น๊ฒ ๊ฐ์กฐํ๋ฉด ์ถ์ถ ๋ฐ ์์ฝ ์์
์ ์ฑ๋ฅ์ด ๋ฎ์์ง ์ ์์
- ์ด๋ฌํ LLM์ ๋ชจ๋ ๋ฌธ์ฅ์ ์ฃผ์๋ฅผ ๊ธฐ์ธ์ด๋๋ก ๋ฏธ์ธ ์กฐ์ ๋์ด ์๊ธฐ ๋๋ฌธ์ ๊ด๋ จ ์๋ ์ธ๋ถ ์ ๋ณด์ ์ฃผ์ ์ฐ๋ง ์์๋ฅผ ์ค์ํ ๊ฒ์ผ๋ก ์ทจ๊ธํ๊ธฐ ์์ํ ์ ์์
- ๊ทธ๋ฌ๋ฉด ์ต์ข ์ถ๋ ฅ์ ํฌํจ๋ ์ ์์(ํฌํจ๋์ง ๋ง์์ผ ํ ๋๋!)
- ์ด๋ ๋ค๋ฅธ ํ๊ฐ ๋ฐ ์ฌ์ฉ ์ฌ๋ก์๋ ์ ์ฉ๋ ์ ์์
- ์๋ฅผ ๋ค์ด ์์ฝ
- ์ฌ์ค์ ์ผ๊ด์ฑ์ ๊ฐ์กฐํ๋ฉด ๋ ๊ตฌ์ฒด์ ์ด๊ณ (๋ฐ๋ผ์ ์ฌ์ค๊ณผ ์ผ์นํ์ง ์์ ๊ฐ๋ฅ์ฑ์ด ๋ฎ์) ๊ด๋ จ์ฑ์ด ๋จ์ด์ง ์ ์๋ ์์ฝ์ด ์์ฑ๋ ์ ์์
- ๋ฐ๋๋ก ๊ธ์ฐ๊ธฐ ์คํ์ผ๊ณผ ์ ๋ณ์ ๊ฐ์กฐํ๋ฉด ์ฌ์ค์ ๋ถ์ผ์น๋ฅผ ์ด๋ํ ์ ์๋ ๋ ํ๋ คํ ๋ง์ผํ ์ ํ์ ์ธ์ด๊ฐ ์์ฑ๋ ์ ์์
- ์๋ฅผ ๋ค์ด ์์ฝ
์ฃผ์ ๋ฌ๊ธฐ๋ฅผ ์ด์ง ์์ ๋๋ ์๋(pairwise) ๋น๊ต๋ก ๋จ์ํ
- ๋ชจ๋ธ ์ถ๋ ฅ์ ๋ํด ๊ฐ๋ฐฉํ ํผ๋๋ฐฑ์ ์ ๊ณตํ๊ฑฐ๋ Likert ์ฒ๋๋ก ํ๊ฐํ๋ ๊ฒ์ ์ธ์ง์ ์ผ๋ก ๊น๋ค๋ก์
- ๊ทธ ๊ฒฐ๊ณผ ์์ง๋ ๋ฐ์ดํฐ๋ ์ธ๊ฐ ํ๊ฐ์ ๊ฐ์ ๋ณ๋์ฑ์ผ๋ก ์ธํด ๋ ๋ ธ์ด์ฆ๊ฐ ๋ง์์ง๊ณ ๋ฐ๋ผ์ ๋ ์ ์ฉํด์ง
- ๋ณด๋ค ํจ๊ณผ์ ์ธ ์ ๊ทผ ๋ฐฉ์์ ์์
์ ๋จ์ํํ๊ณ ์ฃผ์ ์์ฑ์์ ์ธ์ง์ ๋ถ๋ด์ ์ค์ด๋ ๊ฒ
- ์ ์๋ํ๋ ๋ ๊ฐ์ง ์์ ์ ์ด์ง ๋ถ๋ฅ์ ์๋ ๋น๊ต
- ์ด์ง ๋ถ๋ฅ์์ ์ฃผ์ ์์ฑ์๋ ๋ชจ๋ธ์ ์ถ๋ ฅ์ ๋ํด ๊ฐ๋จํ ์/์๋์ค ํ๋จ์ ๋ด๋ฆฌ๋๋ก ์์ฒญ๋ฐ์
- ์์ฑ๋ ์์ฝ์ด ์์ค ๋ฌธ์์ ์ฌ์ค์ ์ผ๋ก ์ผ์นํ๋์ง, ์ ์๋ ์๋ต์ด ๊ด๋ จ์ด ์๋์ง, ์ ํด์ฑ์ด ํฌํจ๋์ด ์๋์ง ๋ฑ์ ๋ฌผ์ ์ ์์
- Likert ์ฒ๋์ ๋นํด ์ด์ง ๊ฒฐ์ ์ ๋ ์ ํํ๊ณ , ํ๊ฐ์ ๊ฐ ์ผ๊ด์ฑ์ด ๋ ๋์ผ๋ฉฐ, ์ฒ๋ฆฌ๋์ด ๋ ๋์
- Doordash๊ฐ ์ผ๋ จ์ ์/์๋์ค ์ง๋ฌธ์ ํตํด ๋ฉ๋ด ํญ๋ชฉ์ ํ๊ทธ๋ฅผ ๋ถ์ด๊ธฐ ์ํด ๋ ์ด๋ธ๋ง ๋๊ธฐ์ด์ ์ค์ ํ ๋ฐฉ์
- ์๋ ๋น๊ต(Pairewise Comparison)์์ ์ฃผ์ ์์ฑ์๋ ํ ์์ ๋ชจ๋ธ ์๋ต์ ๋ฐ๊ณ ์ด๋ค ๊ฒ์ด ๋ ๋์์ง ๋ฌผ์
- ์ธ๊ฐ์ด A ๋๋ B์ ๊ฐ๋ณ์ ์ผ๋ก ์ ์๋ฅผ ๋งค๊ธฐ๋ ๊ฒ๋ณด๋ค "A๊ฐ B๋ณด๋ค ๋ซ๋ค"๋ผ๊ณ ๋งํ๋ ๊ฒ์ด ๋ ์ฝ๊ธฐ ๋๋ฌธ์ ์ด๋ ๋ ๋น ๋ฅด๊ณ ์ ๋ขฐํ ์ ์๋ ์ฃผ์์ผ๋ก ์ด์ด์ง(Likert ์ฒ๋๋ณด๋ค)
- Llama2 ๋ฐ์
์์ Llama2 ๋
ผ๋ฌธ์ ์ ์ ์ค ํ ๋ช
์ธ Thomas Scialom์ ์๋ ๋น๊ต๊ฐ ์์ฑ๋ ์๋ต๊ณผ ๊ฐ์ ์ง๋ ํ์ต ๋ฏธ์ธ ์กฐ์ ๋ฐ์ดํฐ๋ฅผ ์์งํ๋ ๊ฒ๋ณด๋ค ๋ ๋น ๋ฅด๊ณ ์ ๋ ดํ๋ค๋ ๊ฒ์ ํ์ธํจ
- ์ ์์ ๋น์ฉ์ ๋จ์๋น $3.5์ด๊ณ ํ์์ ๋น์ฉ์ ๋จ์๋น $25
(์ฐธ์กฐ๊ฐ ํ์ ์๋, Reference-free) ํ๊ฐ์ ๊ฐ๋๋ ์ผ์ ์ํธ ๊ตํ์ ์ผ๋ก ์ฌ์ฉ๋ ์ ์์
- ๊ฐ๋๋ ์ผ์ ๋ถ์ ์ ํ๊ฑฐ๋ ์ ํดํ ์ฝํ
์ธ ๋ฅผ ์ก๋ ๋ฐ ๋์์ด ๋๋ ๋ฐ๋ฉด, ํ๊ฐ๋ ๋ชจ๋ธ ์ถ๋ ฅ์ ํ์ง๊ณผ ์ ํ์ฑ์ ์ธก์ ํ๋ ๋ฐ ๋์์ด ๋จ
- ์ฐธ์กฐ๊ฐ ํ์ ์๋ ํ๊ฐ์ ๊ฒฝ์ฐ ๋์ ์ ์๋ฉด์ผ๋ก ๋ณผ ์ ์์
- ์ฐธ์กฐ๊ฐ ํ์ ์๋ ํ๊ฐ๋ ์ธ๊ฐ์ด ์์ฑํ ๋ต๋ณ๊ณผ ๊ฐ์ "golden" reference์ ์์กดํ์ง ์๊ณ ์ ๋ ฅ ํ๋กฌํํธ์ ๋ชจ๋ธ์ ์๋ต๋ง์ผ๋ก ์ถ๋ ฅ ํ์ง์ ํ๊ฐํ ์ ์๋ ํ๊ฐ์
- ์ฐธ์กฐ๊ฐ ํ์ ์๋ ํ๊ฐ์ ๊ฒฝ์ฐ ๋์ ์ ์๋ฉด์ผ๋ก ๋ณผ ์ ์์
- ์ฐธ์กฐ๊ฐ ํ์ ์๋ ํ๊ฐ ์์ : ์์ฝ ํ๊ฐ
- ์์ฝ์ ์ฌ์ค์ ์ผ๊ด์ฑ๊ณผ ๊ด๋ จ์ฑ์ ํ๊ฐํ๊ธฐ ์ํด ์ ๋ ฅ ๋ฌธ์๋ง ๊ณ ๋ คํ๋ฉด ๋จ
- ์์ฝ์ด ์ด๋ฌํ ์งํ์์ ์ ์๊ฐ ๋ฎ์ผ๋ฉด ์ฌ์ฉ์์๊ฒ ํ์ํ์ง ์๋๋ก ์ ํํ ์ ์์ด ํ๊ฐ๋ฅผ ๊ฐ๋๋ ์ผ๋ก ํจ๊ณผ์ ์ผ๋ก ์ฌ์ฉํ ์ ์์
- ์ฐธ์กฐ๊ฐ ํ์ ์๋ "๋ฒ์ญ" ํ๊ฐ :
- ์ธ๊ฐ์ด ๋ฒ์ญํ ์ฐธ์กฐ ์์ด๋ ๋ฒ์ญ์ ํ์ง์ ํ๊ฐํ ์ ์์ด ๋ค์ ๊ฐ๋๋ ์ผ๋ก ์ฌ์ฉํ ์ ์์
LLM์ ๊ทธ๋ฌ๋ฉด ์ ๋ ๋๋ ์ถ๋ ฅ์ ๋ฐํํจ
- LLM ์์
์ ์ฃผ์ ๊ณผ์ ๋ LLM์ด ๊ทธ๋ฌ๋ฉด ์ ๋ ๋๋ ์ข
์ข
์ถ๋ ฅ์ ์์ฑํ๋ค๋ ๊ฒ
- ์ด๋ ๋ฌดํดํ์ง๋ง ๋ฌด์๋ฏธํ ์๋ต์ด๋ ์ ํด์ฑ ๋๋ ์ํํ ๋ด์ฉ๊ณผ ๊ฐ์ ๋ ์ฌ๊ฐํ ๊ฒฐํจ์ผ๋ก ์ด์ด์ง ์ ์์
- ์๋ฅผ ๋ค์ด ๋ฌธ์์์ ํน์ ์์ฑ์ด๋ ๋ฉํ๋ฐ์ดํฐ๋ฅผ ์ถ์ถํ๋ผ๋ ์์ฒญ์ ๋ฐ์ผ๋ฉด LLM์ ํด๋น ๊ฐ์ด ์ค์ ๋ก ์กด์ฌํ์ง ์์ ๋๋ ์์ ์๊ฒ ๊ฐ์ ๋ฐํํ ์ ์์
- ๋๋ ์ปจํ ์คํธ์ ์์ด ์ด์ธ์ ๋ฌธ์๋ฅผ ์ ๊ณตํ๊ธฐ ๋๋ฌธ์ ๋ชจ๋ธ์ด ์์ด ์ด์ธ์ ์ธ์ด๋ก ์๋ตํ ์๋ ์์
- LLM์ "ํด๋น ์์" ๋๋ "์ ์ ์์" ์๋ต์ ๋ฐํํ๋๋ก ํ๋กฌํํธ๋ฅผ ์ ๊ณตํ ์ ์์ง๋ง ์๋ฒฝํ์ง๋ ์์
- ๋ก๊ทธ ํ๋ฅ ์ ์ฌ์ฉํ ์ ์๋ ๊ฒฝ์ฐ์๋ ์ถ๋ ฅ ํ์ง์ ์ข์ง ์์ ์งํ์
- ๋ก๊ทธ ํ๋ฅ ์ ์ถ๋ ฅ์ ํ ํฐ์ด ๋ํ๋ ๊ฐ๋ฅ์ฑ์ ๋ํ๋ด์ง๋ง ์์ฑ๋ ํ ์คํธ์ ์ ํ์ฑ์ ๋ฐ์ํ์ง๋ ์์
- ์คํ๋ ค ์ฟผ๋ฆฌ์ ์๋ตํ๊ณ ์ผ๊ด๋ ์๋ต์ ์์ฑํ๋๋ก ํ๋ จ๋ ๋ช
๋ น์ด ํ๋ ๋ชจ๋ธ์ ๊ฒฝ์ฐ ๋ก๊ทธ ํ๋ฅ ์ด ์ ๋ณด์ ๋์ง ์์ ์ ์์
- ๋ฐ๋ผ์ ๋์ ๋ก๊ทธ ํ๋ฅ ์ ์ถ๋ ฅ์ด ์ ์ฐฝํ๊ณ ์ผ๊ด์ฑ์ด ์์์ ๋ํ๋ผ ์ ์์ง๋ง ์ ํํ๊ฑฐ๋ ๊ด๋ จ์ด ์๋ค๋ ์๋ฏธ๋ ์๋
- ๋ก๊ทธ ํ๋ฅ ์ ์ฌ์ฉํ ์ ์๋ ๊ฒฝ์ฐ์๋ ์ถ๋ ฅ ํ์ง์ ์ข์ง ์์ ์งํ์
- ์ฃผ์ ๊น์ ํ๋กฌํํธ ์์ง๋์ด๋ง์ ์ด๋ ์ ๋ ๋์์ด ๋ ์ ์์ง๋ง, ์์น ์๋ ์ถ๋ ฅ์ ๊ฐ์งํ๊ณ ํํฐ๋ง/์ฌ์์ฑํ๋ ๊ฐ๋ ฅํ ๊ฐ๋๋ ์ผ๋ก ๋ณด์ํด์ผ ํจ
- ์๋ฅผ ๋ค์ด OpenAI๋ ํ์ค ๋ฐ์ธ, ์ํด ๋๋ ์ฑ์ ์ถ๋ ฅ๊ณผ ๊ฐ์ ์์ ํ์ง ์์ ์๋ต์ ์๋ณํ ์ ์๋ ์ฝํ ์ธ ์กฐ์ API๋ฅผ ์ ๊ณตํจ
- ๋ง์ฐฌ๊ฐ์ง๋ก ๊ฐ์ธ ์๋ณ ์ ๋ณด(PII)๋ฅผ ๊ฐ์งํ๊ธฐ ์ํ ์๋ง์ ํจํค์ง๊ฐ ์์
- ๊ฐ๋๋ ์ผ์ ํ ๊ฐ์ง ์ด์ ์ ์ฌ์ฉ ์ฌ๋ก์ ๋ํด ํฌ๊ฒ ๋ฌด๊ดํ๋ฉฐ ๋ฐ๋ผ์ ํน์ ์ธ์ด๋ก ๋ ๋ชจ๋ ์ถ๋ ฅ์ ๊ด๋ฒ์ํ๊ฒ ์ ์ฉ๋ ์ ์๋ค๋ ๊ฒ
- ๋ํ ์ ๋ฐํ ๊ฒ์์ ํตํด ๊ด๋ จ ๋ฌธ์๊ฐ ์์ผ๋ฉด ์์คํ ์ด ๊ฒฐ์ ์ ์ผ๋ก "๋ชจ๋ฅด๊ฒ ์ต๋๋ค"๋ผ๊ณ ์๋ตํ ์ ์์
- LLM์ ์ถ๋ ฅ์ด ์์๋ ๋ ์ถ๋ ฅ์ ์์ฑํ์ง ๋ชปํ ์ ์์
- API ์ ๊ณต์ ์ฒด์ ๊ธด ์ง์ฐ ์๊ฐ๊ณผ ๊ฐ์ ๊ฐ๋จํ ๋ฌธ์ ๋ถํฐ ์ฝํ ์ธ ์กฐ์ ํํฐ์ ์ํด ์ถ๋ ฅ์ด ์ฐจ๋จ๋๋ ๊ฒ๊ณผ ๊ฐ์ ๋ ๋ณต์กํ ๋ฌธ์ ์ ์ด๋ฅด๊ธฐ๊น์ง ๋ค์ํ ์ด์ ๋ก ๋ฐ์ํ ์ ์์
- ๋ฐ๋ผ์ ๋๋ฒ๊น ๋ฐ ๋ชจ๋ํฐ๋ง์ ์ํด ์ ๋ ฅ๊ณผ (์ ์ฌ์ ์ผ๋ก ์ถ๋ ฅ ๋ถ์กฑ์) ์ผ๊ด๋๊ฒ ๊ธฐ๋กํ๋ ๊ฒ์ด ์ค์ํจ
ํ๊ฐ(Hallucination)์ ๋์ง๊ธด ๋ฌธ์ ์
- ์ฝํ
์ธ ์์ ์ฑ์ด๋ PII ๊ฒฐํจ์ ๋ง์ ์ฃผ์๋ฅผ ๋ฐ์ ๊ฑฐ์ ๋ฐ์ํ์ง ์๋ ๋ฐ๋ฉด, ์ฌ์ค์ ๋ถ์ผ์น๋ ๋์ง๊ธฐ๊ฒ ์ง์๋๋ฉฐ ๊ฐ์งํ๊ธฐ๊ฐ ๋ ์ด๋ ค์
- ๋ ํํ๊ฒ ๋ฐ์ํ๋ฉฐ ๊ธฐ์ค ๋ฐ์๋ฅ ์ 5~10%์ด๊ณ , LLM ์ ๊ณต์ ์ฒด๋ก๋ถํฐ ๋ฐฐ์ด ๋ฐ์ ๋ฐ๋ฅด๋ฉด ์์ฝ๊ณผ ๊ฐ์ ๊ฐ๋จํ ์์ ์์๋ 2% ๋ฏธ๋ง์ผ๋ก ๋ฎ์ถ๋ ๊ฒ์ด ์ด๋ ค์ธ ์ ์์
- ์ด๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ํ๋กฌํํธ ์์ง๋์ด๋ง(์์ฑ ์
์คํธ๋ฆผ)๊ณผ ์ฌ์ค์ ๋ถ์ผ์น ๊ฐ๋๋ ์ผ(์์ฑ ๋ค์ด์คํธ๋ฆผ)์ ๊ฒฐํฉํ ์ ์์
- ํ๋กฌํํธ ์์ง๋์ด๋ง์ ๊ฒฝ์ฐ CoT์ ๊ฐ์ ๊ธฐ์ ์ LLM์ด ์ต์ข ์ถ๋ ฅ์ ๋ฐํํ๊ธฐ ์ ์ ์ถ๋ก ์ ์ค๋ช ํ๋๋ก ํจ์ผ๋ก์จ ํ๊ฐ์ ์ค์ด๋ ๋ฐ ๋์์ด ๋จ
- ๊ทธ๋ฐ ๋ค์ ์ฌ์ค์ ๋ถ์ผ์น ๊ฐ๋๋ ์ผ์ ์ ์ฉํ์ฌ ์์ฝ์ ์ฌ์ค์ฑ์ ํ๊ฐํ๊ณ ํ๊ฐ์ ํํฐ๋งํ๊ฑฐ๋ ์ฌ์์ฑํ ์ ์์
- ๊ฒฝ์ฐ์ ๋ฐ๋ผ ํ๊ฐ์ ๊ฒฐ์ ๋ก ์ ์ผ๋ก ๊ฐ์ง๋ ์ ์์
- RAG ๊ฒ์์ ๋ฆฌ์์ค๋ฅผ ์ฌ์ฉํ ๋ ์ถ๋ ฅ์ด ๊ตฌ์กฐํ๋์ด ์๊ณ ๋ฆฌ์์ค๊ฐ ๋ฌด์์ธ์ง ์๋ณํ๋ค๋ฉด ์ ๋ ฅ ์ปจํ ์คํธ์์ ์์ฑ๋์๋์ง ์๋์ผ๋ก ํ์ธํ ์ ์์ด์ผ ํจ
[์ด์: ์ผ์(Day-to-Day) ๋ฐ ์กฐ์ง ๋ฌธ์ ]
์ด์ 1. ๋ฐ์ดํฐ
- ์ฌ๋ฃ์ ํ์ง์ด ์๋ฆฌ์ ๋ง์ ๊ฒฐ์ ํ๋ฏ์ด ์ ๋ ฅ ๋ฐ์ดํฐ์ ํ์ง์ ๊ธฐ๊ณ ํ์ต ์์คํ ์ ์ฑ๋ฅ์ ์ ์ฝํจ
- ๋ํ ์ถ๋ ฅ ๋ฐ์ดํฐ๋ ์ ํ์ด ์๋ํ๋์ง ์ฌ๋ถ๋ฅผ ์ ์ ์๋ ์ ์ผํ ๋ฐฉ๋ฒ์
- ๋ชจ๋ ์ ์๋ ๋ฐ์ดํฐ ๋ถํฌ(๋ชจ๋, ์ฃ์ง ์ผ์ด์ค, ๋ชจ๋ธ์ ํ๊ณ)๋ฅผ ๋ ์ ์ดํดํ๊ธฐ ์ํด ๋งค์ฃผ ๋ช ์๊ฐ ๋์ ์ ๋ ฅ๊ณผ ์ถ๋ ฅ์ ๋ฉด๋ฐํ ์ดํด๋ด
๊ฐ๋ฐ-ํ๋ก๋์ ํธํฅ ํ์ธ
- ์ ํต์ ์ธ ๊ธฐ๊ณ ํ์ต ํ์ดํ๋ผ์ธ์์ ์ค๋ฅ์ ์ผ๋ฐ์ ์ธ ์์ธ์ _ํ๋ จ-์๋น์ค ํธํฅ_์
- ์ด๋ ํ๋ จ์ ์ฌ์ฉ๋๋ ๋ฐ์ดํฐ๊ฐ ๋ชจ๋ธ์ด ํ๋ก๋์ ์์ ์ ํ๋ ๋ฐ์ดํฐ์ ๋ค๋ฅผ ๋ ๋ฐ์ํจ
- ํ๋ จ์ด๋ ๋ฏธ์ธ ์กฐ์ ์์ด LLM์ ์ฌ์ฉํ ์ ์์ผ๋ฏ๋ก ํ๋ จ ์ธํธ๋ ์์ง๋ง ๊ฐ๋ฐ-ํ๋ก๋์
๋ฐ์ดํฐ ํธํฅ์ด๋ผ๋ ์ ์ฌํ ๋ฌธ์ ๊ฐ ๋ฐ์ํจ
- ๊ธฐ๋ณธ์ ์ผ๋ก ๊ฐ๋ฐ ์ค์ ์์คํ
์ ํ
์คํธํ๋ ๋ฐ์ดํฐ๋ ์์คํ
์ด ํ๋ก๋์
์์ ์ง๋ฉดํ ๋ฐ์ดํฐ๋ฅผ ๋ฐ์ํด์ผ ํจ
- ๊ทธ๋ ์ง ์์ผ๋ฉด ํ๋ก๋์ ์ ํ๋๊ฐ ์ ํ๋ ์ ์์
- ๊ธฐ๋ณธ์ ์ผ๋ก ๊ฐ๋ฐ ์ค์ ์์คํ
์ ํ
์คํธํ๋ ๋ฐ์ดํฐ๋ ์์คํ
์ด ํ๋ก๋์
์์ ์ง๋ฉดํ ๋ฐ์ดํฐ๋ฅผ ๋ฐ์ํด์ผ ํจ
- LLM ๊ฐ๋ฐ-ํ๋ก๋์
ํธํฅ์ ๊ตฌ์กฐ์ ํธํฅ๊ณผ ๋ด์ฉ ๊ธฐ๋ฐ ํธํฅ์ ๋ ๊ฐ์ง ์ ํ์ผ๋ก ๋ถ๋ฅ๋ ์ ์์
- ๊ตฌ์กฐ์ ํธํฅ์๋ ๋ชฉ๋กํ ๊ฐ์ ๊ฐ์ง JSON ๋์
๋๋ฆฌ์ JSON ๋ชฉ๋ก ๊ฐ์ ์ฐจ์ด, ์ผ๊ด๋์ง ์์ ์ผ์ด์ฑ, ์คํ๋ ๋ฌธ์ฅ ์กฐ๊ฐ๊ณผ ๊ฐ์ ์ค๋ฅ ๋ฑ ํ์ ๋ถ์ผ์น์ ๊ฐ์ ๋ฌธ์ ๊ฐ ํฌํจ๋จ
- ์ด๋ฌํ ์ค๋ฅ๋ ๋ค์ํ LLM์ด ํน์ ๋ฐ์ดํฐ ํ์์ผ๋ก ํ๋ จ๋๊ณ ํ๋กฌํํธ๊ฐ ์ฌ์ํ ๋ณ๊ฒฝ์ ๋งค์ฐ ๋ฏผ๊ฐํ ์ ์๊ธฐ ๋๋ฌธ์ ์์ธกํ ์ ์๋ ๋ชจ๋ธ ์ฑ๋ฅ์ผ๋ก ์ด์ด์ง ์ ์์
- ๋ด์ฉ ๊ธฐ๋ฐ ๋๋ "์๋ฏธ๋ก ์ " ํธํฅ์ ๋ฐ์ดํฐ์ ์๋ฏธ๋ ๋งฅ๋ฝ์ ์ฐจ์ด๋ฅผ ๋ํ๋
- ๊ตฌ์กฐ์ ํธํฅ์๋ ๋ชฉ๋กํ ๊ฐ์ ๊ฐ์ง JSON ๋์
๋๋ฆฌ์ JSON ๋ชฉ๋ก ๊ฐ์ ์ฐจ์ด, ์ผ๊ด๋์ง ์์ ์ผ์ด์ฑ, ์คํ๋ ๋ฌธ์ฅ ์กฐ๊ฐ๊ณผ ๊ฐ์ ์ค๋ฅ ๋ฑ ํ์ ๋ถ์ผ์น์ ๊ฐ์ ๋ฌธ์ ๊ฐ ํฌํจ๋จ
- ์ ํต์ ์ธ ML๊ณผ ๋ง์ฐฌ๊ฐ์ง๋ก LLM ์
์ถ๋ ฅ ์ ๊ฐ์ ํธํฅ์ ์ฃผ๊ธฐ์ ์ผ๋ก ์ธก์ ํ๋ ๊ฒ์ด ์ ์ฉํจ
- ์ ๋ ฅ ๋ฐ ์ถ๋ ฅ ๊ธธ์ด ๋๋ ํน์ ํ์ ์๊ตฌ ์ฌํญ(์: JSON ๋๋ XML)๊ณผ ๊ฐ์ ๋จ์ ๋ฉํธ๋ฆญ์ ๋ณ๊ฒฝ ์ฌํญ์ ์ถ์ ํ๋ ๊ฐ๋จํ ๋ฐฉ๋ฒ์
- ๋ณด๋ค "๊ณ ๊ธ" ํธํฅ ๊ฐ์ง๋ฅผ ์ํด ์ ์ถ๋ ฅ ์์ ์๋ฒ ๋ฉ์ ํด๋ฌ์คํฐ๋งํ์ฌ ์ฌ์ฉ์๊ฐ ์ด์ ์ ๋ชจ๋ธ์ ๋ ธ์ถ๋์ง ์์ ์์ญ์ ํ์ํ๊ณ ์์์ ๋ํ๋ผ ์ ์๋ ์ฌ์ฉ์๊ฐ ๋ ผ์ํ๋ ์ฃผ์ ์ ๋ณํ์ ๊ฐ์ ์๋ฏธ๋ก ์ ํธํฅ์ ๊ฐ์งํ๋ ๊ฒ์ ๊ณ ๋ คํ ๊ฒ
- ํ๋กฌํํธ ์์ง๋์ด๋ง๊ณผ ๊ฐ์ ๋ณ๊ฒฝ ์ฌํญ์ ํ
์คํธํ ๋๋ ํ๋์์ ๋ฐ์ดํฐ ์ธํธ๊ฐ ์ต์ ์ํ์ด๊ณ ๊ฐ์ฅ ์ต๊ทผ ์ ํ์ ์ฌ์ฉ์ ์ํธ ์์ฉ์ ๋ฐ์ํ๋์ง ํ์ธ
- ์๋ฅผ ๋ค์ด ํ๋ก๋์ ์ ๋ ฅ์์ ์คํ๊ฐ ํํ๋ค๋ฉด ํ๋์์ ๋ฐ์ดํฐ์๋ ์์ด์ผ ํจ
- ๋จ์ํ ์ซ์๋ก ํธํฅ์ ์ธก์ ํ๋ ๊ฒ ์ด์์ผ๋ก ์ถ๋ ฅ์ ๋ํด ์ ์ฑ์ ํ๊ฐ๋ฅผ ์ํํ๋ ๊ฒ์ด ์ ์ตํจ
- ๋ชจ๋ธ์ ์ถ๋ ฅ์ ์ ๊ธฐ์ ์ผ๋ก ๊ฒํ ํ๋ ๊ฒ(์์ด๋ก "๋ฐ์ด๋ธ ์ฒดํฌ"๋ผ๊ณ ์๋ ค์ง ๊ดํ)์ ๊ฒฐ๊ณผ๊ฐ ๊ธฐ๋์ ๋ถํฉํ๊ณ ์ฌ์ฉ์ ์๊ตฌ์ ๊ณ์ ๊ด๋ จ์ฑ์ด ์๋์ง ํ์ธํด์ค
- ํธํฅ ํ์ธ์ ๋น๊ฒฐ์ ๋ก ์ ํตํฉํ๋ ๊ฒ๋ ์ ์ฉํจ
- ํ ์คํธ ๋ฐ์ดํฐ ์ธํธ์ ๊ฐ ์ ๋ ฅ์ ๋ํด ํ์ดํ๋ผ์ธ์ ์ฌ๋ฌ ๋ฒ ์คํํ๊ณ ๋ชจ๋ ์ถ๋ ฅ์ ๋ถ์ํจ์ผ๋ก์จ ๊ฐ๋๋ง ๋ฐ์ํ ์ ์๋ ์ด์ ํ์์ ํฌ์ฐฉํ ๊ฐ๋ฅ์ฑ์ด ๋์์ง
๋งค์ผ LLM ์ ์ถ๋ ฅ ์ํ ํ์ธํ๊ธฐ
- LLM์ ์ญ๋์ ์ด๊ณ ๋์์์ด ์งํํ๊ณ ์์
- ์ธ์์ ์ธ ์ ๋ก์ท ๋ฅ๋ ฅ๊ณผ ์ข ์ข ๊ธฐ๋ถ ์ข์ ์ถ๋ ฅ์๋ ๋ถ๊ตฌํ๊ณ LLM์ ์คํจ ๋ชจ๋๋ ๋งค์ฐ ์์ธกํ ์ ์์
- ๋ง์ถค ์์
์ ๊ฒฝ์ฐ LLM์ ์ฑ๋ฅ์ ๋ํ ์ง๊ด์ ์ธ ์ดํด๋ฅผ ๊ฐ๋ฐํ๊ธฐ ์ํด ๋ฐ์ดํฐ ์ํ์ ์ ๊ธฐ์ ์ผ๋ก ๊ฒํ ํ๋ ๊ฒ์ด ํ์์ ์
- ํ๋ก๋์ ์ ์ ์ถ๋ ฅ ์์ LLM ์ ํ๋ฆฌ์ผ์ด์ ์ "์ค์ ์ฌ๋ฌผ, ์ค์ ์ฅ์"(genchi genbutsu)์ด๋ฉฐ ๋์ฒดํ ์ ์์
- ์ต๊ทผ ์ฐ๊ตฌ์ ๋ฐ๋ฅด๋ฉด ๊ฐ๋ฐ์๊ฐ ๋ ๋ง์ ๋ฐ์ดํฐ์ ์ํธ ์์ฉํ ์๋ก "์ข์" ์ถ๋ ฅ๊ณผ "๋์" ์ถ๋ ฅ์ ๋ํ ์ธ์์ด ๋ณํ๋ค๊ณ ๊ฐ์กฐํจ(์ฆ, ๊ธฐ์ค ํธํฅ)
- ๊ฐ๋ฐ์๋ LLM ์ถ๋ ฅ์ ํ๊ฐํ๊ธฐ ์ํ ์ผ๋ถ ๊ธฐ์ค์ ์ฌ์ ์ ์ ์ํ ์ ์์ง๋ง, ์ด๋ฌํ ์ฌ์ ์ ์๋ ๊ธฐ์ค์ ์ข ์ข ๋ถ์์ ํจ
- ์๋ฅผ ๋ค์ด ๊ฐ๋ฐ ๊ณผ์ ์์ ์ข์ ์๋ต ํ๋ฅ ์ ๋์ด๊ณ ๋์ ์๋ต ํ๋ฅ ์ ๋ฎ์ถ๊ธฐ ์ํด ํ๋กฌํํธ๋ฅผ ์
๋ฐ์ดํธํ ์ ์์
- ์ด๋ฌํ ํ๊ฐ, ์ฌํ๊ฐ ๋ฐ ๊ธฐ์ค ์ ๋ฐ์ดํธ์ ๋ฐ๋ณต ํ๋ก์ธ์ค๋ ์ถ๋ ฅ์ ์ง์ ๊ด์ฐฐํ์ง ์๊ณ ๋ LLM ๋์์ด๋ ์ธ๊ฐ์ ์ ํธ๋๋ฅผ ์์ธกํ๊ธฐ ์ด๋ ต๊ธฐ ๋๋ฌธ์ ํ์ํจ
- ์ด๋ฅผ ํจ๊ณผ์ ์ผ๋ก ๊ด๋ฆฌํ๊ธฐ ์ํด LLM ์
๋ ฅ๊ณผ ์ถ๋ ฅ์ ๊ธฐ๋กํด์ผ ํจ
- ๋งค์ผ ์ด๋ฌํ ๋ก๊ทธ ์ํ์ ๊ฒ์ฌํ๋ฉด ์๋ก์ด ํจํด์ด๋ ์คํจ ๋ชจ๋๋ฅผ ์ ์ํ๊ฒ ์๋ณํ๊ณ ์ ์ํ ์ ์์
- ์๋ก์ด ๋ฌธ์ ๋ฅผ ๋ฐ๊ฒฌํ๋ฉด ์ฆ์ ๊ทธ๊ฒ์ ๋ํ assertion ๋๋ eval์ ์์ฑํ ์ ์์
- ๋ง์ฐฌ๊ฐ์ง๋ก ์คํจ ๋ชจ๋ ์ ์์ ๋ํ ๋ชจ๋ ์
๋ฐ์ดํธ๋ ํ๊ฐ ๊ธฐ์ค์ ๋ฐ์๋์ด์ผ ํจ
- ์ด๋ฌํ "๋ฐ์ด๋ธ ์ฒดํฌ"๋ ์๋ชป๋ ์ถ๋ ฅ์ ์ ํธ์ด๋ฉฐ, ์ฝ๋์ assertion์ ์ด๋ฅผ ์ด์ํจ
- ๋ง์ง๋ง์ผ๋ก ์ด๋ฌํ ํ๋๋ Socialized๋์ด์ผ ํจ
- ์๋ฅผ ๋ค์ด ์จ์ฝ ๋กํ ์ด์ ์ ์ ๋ ฅ ๋ฐ ์ถ๋ ฅ ๊ฒํ ๋๋ ์ฃผ์ ๋ฌ๊ธฐ๋ฅผ ์ถ๊ฐํ๋ ๊ฒ
์ด์ 2. ๋ชจ๋ธ๊ณผ ํจ๊ป ์ผํ๊ธฐ
- LLM API๋ฅผ ์ฌ์ฉํ๋ฉด ์์์ ์ ๊ณต์
์ฒด์ ์ง๋ฅ์ ์์กดํ ์ ์์
- ์ด๋ ์ข์ ์ ์ด์ง๋ง ์ด๋ฌํ ์ข ์์ฑ์ ์ฑ๋ฅ, ์ง์ฐ ์๊ฐ, ์ฒ๋ฆฌ๋ ๋ฐ ๋น์ฉ ์ธก๋ฉด์์ ์ ์ถฉ์ ์ ์๋ฐํจ
- ๋ํ ์ง๋ 1๋
๋์ ๊ฑฐ์ ๋งค์ ๋ ์๋กญ๊ณ ๋ ๋์ ๋ชจ๋ธ์ด ์ถ์๋จ์ ๋ฐ๋ผ ์ค๋๋ ๋ชจ๋ธ์ ํ๊ธฐํ๊ณ ์๋ก์ด ๋ชจ๋ธ๋ก ๋ง์ด๊ทธ๋ ์ด์
ํ ๋ ์ ํ์ ์
๋ฐ์ดํธํ ์ค๋น๊ฐ ๋์ด ์์ด์ผ ํจ
- ์ด ์น์ ์์๋ ์์ ํ ์ ์ดํ ์ ์๋ ๊ธฐ์ , ์ฆ ๋ชจ๋ธ์ ์์ฒด ํธ์คํ ํ๊ณ ๊ด๋ฆฌํ ์ ์๋ ๊ธฐ์ ์ ์ฌ์ฉํ ๋ ์ป์ ๊ตํ์ ๊ณต์ ํจ
- ์ค์ ์ฌ์ฉ ์ฌ๋ก ๋๋ถ๋ถ์ ๊ฒฝ์ฐ LLM์ ์ถ๋ ฅ์ ์ผ์ข
์ ๊ธฐ๊ณ ํ๋
๊ฐ๋ฅ ํ์์ ํตํด ๋ค์ด์คํธ๋ฆผ ์ ํ๋ฆฌ์ผ์ด์
์์ ์๋น๋ ๊ฒ์
- ์๋ฅผ ๋ค์ด ๋ถ๋์ฐ CRM์ธ ReChat์ ํ๋ก ํธ์๋์์ ์์ ฏ์ ๋ ๋๋งํ๊ธฐ ์ํด ๊ตฌ์กฐํ๋ ์๋ต์ด ํ์ํจ
- ์ ์ฌํ๊ฒ ์ ํ ์ ๋ต ์์ด๋์ด ์์ฑ ๋๊ตฌ์ธ Boba๋ ์ ๋ชฉ, ์์ฝ, ํ๋น์ฑ ์ ์ ๋ฐ ์๊ฐ ๋ฒ์ ํ๋๊ฐ ์๋ ๊ตฌ์กฐํ๋ ์ถ๋ ฅ์ด ํ์ํจ
- ๋ง์ง๋ง์ผ๋ก LinkedIn์ LLM์ ์ ํํ์ฌ YAML์ ์์ฑํ๋ ๋ฐฉ๋ฒ์ ๊ณต์ ํ๋๋ฐ, ์ด๋ ์ฌ์ฉํ ๊ธฐ์ ์ ๊ฒฐ์ ํ๊ณ ๊ธฐ์ ์ ํธ์ถํ๋ ๋งค๊ฐ๋ณ์๋ฅผ ์ ๊ณตํ๋ ๋ฐ ์ฌ์ฉ๋จ
- ์ด ์ ํ๋ฆฌ์ผ์ด์
ํจํด์ Postel์ ๋ฒ์น์ ๊ทน๋จ์ ์ธ ๋ฒ์ ์
- ์๋ฝํ๋ ๊ฒ(์์์ ์์ฐ์ด)์ ์์ ๋กญ๊ณ ๋ณด๋ด๋ ๊ฒ(์ ํํ๋ ๊ธฐ๊ณ ํ๋ ๊ฐ๋ฅ ๊ฐ์ฒด)์ ๋ณด์์ ์ด์ด์ผ ํจ
- ๋ฐ๋ผ์ ์ด๊ฒ์ด ๋งค์ฐ ๋ด๊ตฌ์ฑ์ด ์์ ๊ฒ์ผ๋ก ๊ธฐ๋ํจ
- ํ์ฌ Instructor์ Outlines๋ LLM์์ ๊ตฌ์กฐํ๋ ์ถ๋ ฅ์ ์ด๋์ด๋ด๊ธฐ ์ํ ์ฌ์ค์์ ํ์ค์
- LLM API(์: Anthropic, OpenAI)๋ฅผ ์ฌ์ฉํ๋ ๊ฒฝ์ฐ Instructor๋ฅผ ์ฌ์ฉํ๊ณ , ์์ฒด ํธ์คํ ๋ชจ๋ธ(์: Huggingface)์ ์ฌ์ฉํ๋ ๊ฒฝ์ฐ Outlines๋ฅผ ์ฌ์ฉํ ๊ฒ
๋ชจ๋ธ ๊ฐ ํ๋กฌํํธ ๋ง์ด๊ทธ๋ ์ด์ ์ ๊ณ ํต์ค๋ฌ์ด ์ผ์
- ๋๋ก๋ ์ฃผ์ ๊น๊ฒ ๋ง๋ ํ๋กฌํํธ๊ฐ ํ ๋ชจ๋ธ์์๋ ํ๋ฅญํ๊ฒ ์๋ํ์ง๋ง ๋ค๋ฅธ ๋ชจ๋ธ์์๋ ์ ๋๋ก ์๋ํ์ง ์์ ์ ์์
- ์ด๋ ๋ค์ํ ๋ชจ๋ธ ์ ๊ณต์ ์ฒด ๊ฐ์ ์ ํํ ๋๋ฟ๋ง ์๋๋ผ ๋์ผํ ๋ชจ๋ธ์ ๋ฒ์ ๊ฐ์ ์ ๊ทธ๋ ์ด๋ํ ๋๋ ๋ฐ์ํ ์ ์์
- ์๋ฅผ ๋ค์ด Voiceflow๋ gpt-3.5-turbo-0301์์ gpt-3.5-turbo-1106์ผ๋ก ๋ง์ด๊ทธ๋ ์ด์
ํ๋ฉด ์๋ ๋ถ๋ฅ ์์
์์ 10%์ ์ฑ๋ฅ ์ ํ๊ฐ ๋ฐ์ํ๋ค๋ ๊ฒ์ ๋ฐ๊ฒฌํจ
- (๋คํํ๋ ๊ทธ๋ค์ ํ๊ฐ๋ฅผ ๊ฐ์ง๊ณ ์์์!)
- ์ ์ฌํ๊ฒ GoDaddy๋ 1106 ๋ฒ์ ์ผ๋ก ์
๊ทธ๋ ์ด๋ํ๋ฉด gpt-3.5-turbo์ gpt-4 ์ฌ์ด์ ์ฑ๋ฅ ๊ฒฉ์ฐจ๊ฐ ์ขํ์ง๋ ๊ธ์ ์ ์ธ ๋ฐฉํฅ์ ์ถ์ธ๋ฅผ ๊ด์ฐฐํจ
- (๋๋ ๋น์ ์ด ๋ฐ์ฏค ์ฐฌ ์ ๋ฆฌ์์ ๋ณด๋ ์ฌ๋์ด๋ผ๋ฉด ์๋ก์ด ์ ๊ทธ๋ ์ด๋๋ก gpt-4์ ๋ฆฌ๋๊ฐ ์ค์ด๋ ๊ฒ์ ์ค๋งํ ์๋ ์์)
- ๋ฐ๋ผ์ ๋ชจ๋ธ ๊ฐ์ ํ๋กฌํํธ๋ฅผ ๋ง์ด๊ทธ๋ ์ด์
ํด์ผ ํ๋ ๊ฒฝ์ฐ ๋จ์ํ API ์๋ํฌ์ธํธ๋ฅผ ๊ต์ฒดํ๋ ๊ฒ๋ณด๋ค ๋ ๋ง์ ์๊ฐ์ด ๊ฑธ๋ฆด ๊ฒ์ผ๋ก ์์ํด์ผ ํจ
- ๋์ผํ ํ๋กฌํํธ๋ฅผ ์ฐ๊ฒฐํ๋ฉด ์ ์ฌํ๊ฑฐ๋ ๋ ๋์ ๊ฒฐ๊ณผ๋ก ์ด์ด์ง ๊ฒ์ด๋ผ๊ณ ๊ฐ์ ํ์ง ๋ง ๊ฒ
- ๋ํ ์ ๋ขฐํ ์ ์๊ณ ์๋ํ๋ ํ๊ฐ๋ ๋ง์ด๊ทธ๋ ์ด์ ์ ํ์ ์์ ์ฑ๋ฅ์ ์ธก์ ํ๋ ๋ฐ ๋์์ด ๋๋ฉฐ ์๋ ๊ฒ์ฆ์ ํ์ํ ๋ ธ๋ ฅ์ ์ค์ฌ์ค
๋ชจ๋ธ ๋ฒ์ ๊ด๋ฆฌ ๋ฐ ๊ณ ์
- ๋ชจ๋ ๊ธฐ๊ณ ํ์ต ํ์ดํ๋ผ์ธ์์ "๋ฌด์์ด๋ ๋ณ๊ฒฝํ๋ฉด ๋ชจ๋ ๊ฒ์ด ๋ณ๊ฒฝ๋จ"
- ์ด๋ ์ฐ๋ฆฌ ์์ ์ด ํ๋ จํ์ง ์๊ณ ์ฐ๋ฆฌ ๋ชจ๋ฅด๊ฒ ๋ณ๊ฒฝ๋ ์ ์๋ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(LLM)๊ณผ ๊ฐ์ ๊ตฌ์ฑ ์์์ ์์กดํ ๋ ํนํ ๊ด๋ จ์ด ์์
- ๋คํํ๋ ๋ง์ ๋ชจ๋ธ ์ ๊ณต์
์ฒด๋ ํน์ ๋ชจ๋ธ ๋ฒ์ (์: gpt-4-turbo-1106)์ "๊ณ ์ "ํ ์ ์๋ ์ต์
์ ์ ๊ณตํจ
- ์ด๋ฅผ ํตํด ๋ชจ๋ธ ๊ฐ์ค์น์ ํน์ ๋ฒ์ ์ ์ฌ์ฉํ์ฌ ๋ณ๊ฒฝ๋์ง ์๋๋ก ํ ์ ์์
- ํ๋ก๋์
์์ ๋ชจ๋ธ ๋ฒ์ ์ ๊ณ ์ ํ๋ฉด ๋ชจ๋ธ ๋์์ ์๊ธฐ์น ์์ ๋ณ๊ฒฝ์ ๋ฐฉ์งํ ์ ์์
- ์ด๋ ๋ชจ๋ธ์ด ๊ต์ฒด๋ ๋ ๋ฐ์ํ ์ ์๋ ์ง๋์น๊ฒ ์ฅํฉํ ์ถ๋ ฅ์ด๋ ๊ธฐํ ์์์น ๋ชปํ ์คํจ ๋ชจ๋์ ๊ฐ์ ๋ฌธ์ ์ ๋ํ ๊ณ ๊ฐ ๋ถ๋ง์ ํผํ๋ ๋ฐ ๋์์ด ๋ ์ ์์
- ๋ํ ํ๋ก๋์
์ค์ ์ ๋ฏธ๋ฌ๋งํ์ง๋ง ์ต์ ๋ชจ๋ธ ๋ฒ์ ์ ์ฌ์ฉํ๋ "์๋์ฐ ํ์ดํ๋ผ์ธ"์ ์ ์งํ๋ ๊ฒ์ ๊ณ ๋ คํด ๋ณผ ๊ฒ
- ์ด๋ฅผ ํตํด ์๋ก์ด ๋ฆด๋ฆฌ์ค๋ก ์์ ํ ์คํ๊ณผ ํ ์คํธ๋ฅผ ์ํํ ์ ์์
- ์ด๋ฌํ ์๋ก์ด ๋ชจ๋ธ์์ ์ถ๋ ฅ์ ์์ ์ฑ๊ณผ ํ์ง์ ๊ฒ์ฆํ ํ์๋ ํ๋ก๋์ ํ๊ฒฝ์์ ๋ชจ๋ธ ๋ฒ์ ์ ์์ ์๊ฒ ์ ๋ฐ์ดํธํ ์ ์์
์์ ์ ์๋ฃํ ์ ์๋ ๊ฐ์ฅ ์์ ๋ชจ๋ธ ์ ํํ๊ธฐ
- ์๋ก์ด ์ ํ๋ฆฌ์ผ์ด์
์์ ์์
ํ ๋ ์ฌ์ฉ ๊ฐ๋ฅํ ๊ฐ์ฅ ํฌ๊ณ ๊ฐ๋ ฅํ ๋ชจ๋ธ์ ์ฌ์ฉํ๊ณ ์ถ์ ์ ํน์ด ์์
- ๊ทธ๋ฌ๋ ์ผ๋จ ์์ ์ด ๊ธฐ์ ์ ์ผ๋ก ๊ฐ๋ฅํ๋ค๋ ๊ฒ์ด ํ์ธ๋๋ฉด ๋ ์์ ๋ชจ๋ธ๋ก ์ ์ฌํ ๊ฒฐ๊ณผ๋ฅผ ์ป์ ์ ์๋์ง ์คํํด ๋ณผ ๊ฐ์น๊ฐ ์์
- ์์ ๋ชจ๋ธ์ ์ฅ์ ์ ์ง์ฐ ์๊ฐ๊ณผ ๋น์ฉ์ด ๋ฎ๋ค๋ ๊ฒ
- ๋ ์ฝํ ์ ์์ง๋ง Chain-of-Thought, n-shot ํ๋กฌํํธ, ๋ฌธ๋งฅ ๋ด ํ์ต๊ณผ ๊ฐ์ ๊ธฐ์ ์ ์์ ๋ชจ๋ธ์ด ์์ ์ ์ญ๋ ์ด์์ผ๋ก ์ฑ์ฅํ๋ ๋ฐ ๋์์ด ๋ ์ ์์
- LLM API ์ด์์ผ๋ก ํน์ ์์ ์ ๋ํ ๋ฏธ์ธ ์กฐ์ ๋ ์ฑ๋ฅ ํฅ์์ ๋์์ด ๋ ์ ์์
- ์ข
ํฉํ๋ฉด ์์ ๋ชจ๋ธ์ ์ฌ์ฉํ์ฌ ์ ์คํ๊ฒ ์ค๊ณ๋ ์ํฌํ๋ก์ฐ๋ ๋ ๋น ๋ฅด๊ณ ์ ๋ ดํ๋ฉด์๋ ๋จ์ผ ๋ํ ๋ชจ๋ธ์ ์ถ๋ ฅ ํ์ง๊ณผ ์ผ์นํ๊ฑฐ๋ ์ฌ์ง์ด ๋ฅ๊ฐํ ์ ์์
- ์๋ฅผ ๋ค์ด ์ด ํธ์์ Haiku + 10-shot ํ๋กฌํํธ๊ฐ ์ ๋ก์ท Opus์ GPT-4๋ฅผ ๋ฅ๊ฐํ๋ ๋ฐฉ๋ฒ์ ๋ํ ์ผํ๋ฅผ ๊ณต์ ํจ
- ์ฅ๊ธฐ์ ์ผ๋ก ์ถ๋ ฅ ํ์ง, ์ง์ฐ ์๊ฐ ๋ฐ ๋น์ฉ์ ์ต์ ๊ท ํ์ผ๋ก ์์ ๋ชจ๋ธ์ ์ฌ์ฉํ ํ๋ฆ ์์ง๋์ด๋ง์ ๋ ๋ง์ ์ฌ๋ก๊ฐ ๋ํ๋ ๊ฒ์ผ๋ก ์์๋จ
- ๋ ๋ค๋ฅธ ์๋ก ๊ฒธ์ํ ๋ถ๋ฅ ์์
์ ๋ค ์ ์์
- DistilBERT(6,700๋ง ๊ฐ ๋งค๊ฐ๋ณ์)์ ๊ฐ์ ๊ฒฝ๋ ๋ชจ๋ธ์ ๋๋ผ์ธ ์ ๋๋ก ๊ฐ๋ ฅํ ๊ธฐ์ค์ ์
- 4์ต ๊ฐ ๋งค๊ฐ๋ณ์์ DistilBART๋ ๋ ๋ค๋ฅธ ํ๋ฅญํ ์ต์
- ์คํ ์์ค ๋ฐ์ดํฐ์์ ๋ฏธ์ธ ์กฐ์ ๋๋ฉด ์ง์ฐ ์๊ฐ๊ณผ ๋น์ฉ์ 5% ๋ฏธ๋ง์ผ๋ก ๋๋ถ๋ถ์ LLM์ ๋ฅ๊ฐํ๋ 0.84์ ROC-AUC๋ก ํ๊ฐ์ ์๋ณํ ์ ์์
- ์์ ์ ์์ ๋ชจ๋ธ์ ๊ฐ๊ณผํ์ง ๋ง์์ผ ํ๋ค๋ ๊ฒ
- ๋ชจ๋ ๋ฌธ์ ์ ๊ฑฐ๋ํ ๋ชจ๋ธ์ ์ ์ฉํ๊ธฐ๋ ์ฝ์ง๋ง ์ฝ๊ฐ์ ์ฐฝ์์ฑ๊ณผ ์คํ์ผ๋ก ์ฐ๋ฆฌ๋ ์ข ์ข ๋ ํจ์จ์ ์ธ ์๋ฃจ์ ์ ์ฐพ์ ์ ์์
์ด์ 3. ์ ํ
- ์๋ก์ด ๊ธฐ์ ์ ์๋ก์ด ๊ฐ๋ฅ์ฑ์ ์ ๊ณตํ์ง๋ง ํ๋ฅญํ ์ ํ์ ๋ง๋๋ ์์น์ ์์ํจ
- ๋ฐ๋ผ์ ์ฒ์์ผ๋ก ์๋ก์ด ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋๋ผ๋ ์ ํ ์ค๊ณ์ ๋ํด ๋ฐํด๋ฅผ ๋ค์ ๋ฐ๋ช ํ ํ์๋ ์์
- ๊ฒฌ๊ณ ํ ์ ํ ๊ธฐ๋ณธ์ LLM ์ ํ๋ฆฌ์ผ์ด์
๊ฐ๋ฐ์ ๊ธฐ๋ฐ์ผ๋ก ํจ์ผ๋ก์จ ์ป์ ์ ์๋ ๊ฒ์ด ๋ง์
- ์ด๋ฅผ ํตํด ์ฐ๋ฆฌ๊ฐ ์๋น์คํ๋ ์ฌ๋๋ค์๊ฒ ์ค์ ๊ฐ์น๋ฅผ ์ ๊ณตํ ์ ์์
์ด๊ธฐ๋ถํฐ ๋์์ธ์ involveํ๊ธฐ
- ๋์์ด๋๋ฅผ ๋๋ฉด ์ ํ์ ์ด๋ป๊ฒ ๊ตฌ์ถํ๊ณ ์ฌ์ฉ์์๊ฒ ์ ์ํ ์ ์๋์ง ์ดํดํ๊ณ ๊น์ด ์๊ฐํ๊ฒ ๋จ
- ๋๋ก๋ ๋์์ด๋๋ฅผ ์ฌ๋ฌผ์ ์์๊ฒ ๋ง๋๋ ์ฌ๋์ผ๋ก ๊ณ ์ ๊ด๋ ์ ๊ฐ์ง๊ธฐ๋ ํจ
- ๊ทธ๋ฌ๋ ์ฌ์ฉ์ ์ธํฐํ์ด์ค๋ฟ๋ง ์๋๋ผ ๊ธฐ์กด ๊ท์น๊ณผ ํจ๋ฌ๋ค์์ ๊นจ๋๋ผ๋ ์ฌ์ฉ์ ๊ฒฝํ์ ์ด๋ป๊ฒ ๊ฐ์ ํ ์ ์๋์ง ์ฌ๊ณ ํจ
- ๋์์ด๋๋ ์ฌ์ฉ์์ ์๊ตฌ ์ฌํญ์ ๋ค์ํ ํํ๋ก ์ฌ๊ตฌ์ฑํ๋ ๋ฐ ํนํ ์ฌ๋ฅ์ด ์์
- ์ด๋ฌํ ํํ ์ค ์ผ๋ถ๋ ๋ค๋ฅธ ํํ๋ณด๋ค ํด๊ฒฐํ๊ธฐ๊ฐ ๋ ์ฌ์ฐ๋ฏ๋ก AI ์๋ฃจ์ ์ ๋ ๋ง๊ฑฐ๋ ์ ์ ๊ธฐํ๋ฅผ ์ ๊ณตํ ์ ์์
- ๋ค๋ฅธ ๋ง์ ์ ํ๊ณผ ๋ง์ฐฌ๊ฐ์ง๋ก AI ์ ํ ๊ตฌ์ถ์ ์ ํ์ ๊ตฌ๋ํ๋ ๊ธฐ์ ์ด ์๋๋ผ ์ํํ ์์ ์ ์ค์ฌ์ผ๋ก ์ด๋ฃจ์ด์ ธ์ผ ํจ
- ๋ค์๊ณผ ๊ฐ์ ์ง๋ฌธ์ ์ค์ค๋ก์๊ฒ ๋ฌป๋ ๋ฐ ์ด์ ์ ๋ง์ถ ๊ฒ
- "์ฌ์ฉ์๊ฐ ์ด ์ ํ์ ์์ฒญํ๋ ์์ ์ ๋ฌด์์ธ๊ฐ? ๊ทธ ์์ ์ด ์ฑ๋ด์ด ์ํ ๋งํ ์ผ์ธ๊ฐ? ์๋ ์์ฑ์ ์ด๋ค๊ฐ? ์ด์ฉ๋ฉด ๋ค๋ฅธ ๊ฒ์ผ ์๋ ์๋ค!"
- ๊ธฐ์กด ์ค๊ณ ํจํด๊ณผ ๊ทธ๊ฒ์ด ์ํํ ์์
๊ณผ ์ด๋ค ๊ด๋ จ์ด ์๋์ง ๊ณ ๋ คํ ๊ฒ
- ์ด๊ฒ๋ค์ ๋์์ด๋๊ฐ ํ์ ์ญ๋์ ๋ํ๋ ๊ท์คํ ์์ฐ์
ํด๋จผ ์ธ ๋ ๋ฃจํ๋ฅผ ์ํ UX ์ค๊ณ
- ํ์ง ์ข์ ์ฃผ์์ ์ป๋ ํ ๊ฐ์ง ๋ฐฉ๋ฒ์ ์ฌ์ฉ์ ๊ฒฝํ(UX)์ Human-in-the-Loop(HITL)๋ฅผ ํตํฉํ๋ ๊ฒ
- ์ฌ์ฉ์๊ฐ ์ฝ๊ฒ ํผ๋๋ฐฑ๊ณผ ์์ ์ฌํญ์ ์ ๊ณตํ ์ ์๋๋ก ํ๋ฉด ์ฆ๊ฐ์ ์ธ ์ถ๋ ฅ์ ๊ฐ์ ํ๊ณ ๋ชจ๋ธ ๊ฐ์ ์ ์ ์ฉํ ๋ฐ์ดํฐ๋ฅผ ์์งํ ์ ์์
- ์ฌ์ฉ์๊ฐ ์ ํ์ ์
๋ก๋ํ๊ณ ๋ถ๋ฅํ๋ ์ ์์๊ฑฐ๋ ํ๋ซํผ์ ์์ํด ๋ณด์
- UX๋ฅผ ์ค๊ณํ๋ ๋ฐฉ๋ฒ์๋ ์ฌ๋ฌ ๊ฐ์ง๊ฐ ์์
- ์ฌ์ฉ์๊ฐ ์๋์ผ๋ก ์ฌ๋ฐ๋ฅธ ์ ํ ๋ฒ์ฃผ๋ฅผ ์ ํํ๊ณ , LLM์ด ์ฃผ๊ธฐ์ ์ผ๋ก ์ ์ ํ์ ํ์ธํ๊ณ ๋ฐฑ์๋์์ ์๋ชป๋ ๋ถ๋ฅ๋ฅผ ์์
- ์ฌ์ฉ์๋ ๋ฒ์ฃผ๋ฅผ ์ ํ ์ ํํ์ง ์๊ณ , LLM์ด ์ฃผ๊ธฐ์ ์ผ๋ก ๋ฐฑ์๋์์ ์ ํ์ ๋ถ๋ฅ(์ ์ฌ์ ์ค๋ฅ ํฌํจ)
- LLM์ด ์ค์๊ฐ์ผ๋ก ์ ํ ๋ฒ์ฃผ๋ฅผ ์ ์ํ๊ณ , ์ฌ์ฉ์๊ฐ ํ์์ ๋ฐ๋ผ ๊ฒ์ฆ ๋ฐ ์ ๋ฐ์ดํธ ๊ฐ๋ฅ
- UX๋ฅผ ์ค๊ณํ๋ ๋ฐฉ๋ฒ์๋ ์ฌ๋ฌ ๊ฐ์ง๊ฐ ์์
- ์ธ ๊ฐ์ง ์ ๊ทผ ๋ฐฉ์ ๋ชจ๋ LLM์ ํฌํจํ์ง๋ง ๋งค์ฐ ๋ค๋ฅธ UX๋ฅผ ์ ๊ณตํจ
- ์ฒซ ๋ฒ์งธ ์ ๊ทผ ๋ฐฉ์์ ์ด๊ธฐ ๋ถ๋ด์ ์ฌ์ฉ์์๊ฒ ์ง์ฐ๊ณ LLM์ด ์ฌํ ์ฒ๋ฆฌ ๊ฒ์ฌ ์ญํ ์ ํจ
- ๋ ๋ฒ์งธ ์ ๊ทผ ๋ฐฉ์์ ์ฌ์ฉ์์ ๋ ธ๋ ฅ์ด ์ ํ ํ์ํ์ง ์์ง๋ง ํฌ๋ช ์ฑ์ด๋ ์ ์ด๊ถ์ ์ ๊ณตํ์ง ์์
- ์ธ ๋ฒ์งธ ์ ๊ทผ ๋ฐฉ์์ด ์ ์ ํ ๊ท ํ์ ์ ์งํจ
- LLM์ด ์ฌ์ ์ ๋ฒ์ฃผ๋ฅผ ์ ์ํจ์ผ๋ก์จ ์ฌ์ฉ์์ ์ธ์ง ๋ถํ๋ฅผ ์ค์ด๊ณ ์ ํ์ ๋ถ๋ฅํ๊ธฐ ์ํด ์ฐ๋ฆฌ์ ๋ถ๋ฅ๋ฒ์ ๋ฐฐ์ธ ํ์๊ฐ ์์
- ๋์์ ์ฌ์ฉ์๊ฐ ์ ์์ ๊ฒํ ํ๊ณ ํธ์งํ ์ ์๋๋ก ํจ์ผ๋ก์จ ์ ํ ๋ถ๋ฅ ๋ฐฉ์์ ๋ํ ์ต์ข ๊ฒฐ์ ๊ถ์ ์ฌ์ฉ์์ ์์ ๋จ๋จํ ์ฅ์ด์ค
- ๋ณด๋์ค๋ก ์ธ ๋ฒ์งธ ์ ๊ทผ ๋ฐฉ์์ ๋ชจ๋ธ ๊ฐ์ ์ ์ํ ์์ฐ์ค๋ฌ์ด ํผ๋๋ฐฑ ๋ฃจํ๋ฅผ ๋ง๋ฆ
- ์ข์ ์ ์์ ์๋ฝ๋๊ณ (๊ธ์ ๋ ์ด๋ธ) ๋์ ์ ์์ ์ ๋ฐ์ดํธ๋จ(๋ถ์ ํ ๊ธ์ ๋ ์ด๋ธ)
- ์ ์, ์ฌ์ฉ์ ๊ฒ์ฆ ๋ฐ ๋ฐ์ดํฐ ์์ง์ ์ด ํจํด์ ์ฌ๋ฌ ์ ํ๋ฆฌ์ผ์ด์
์์ ์ผ๋ฐ์ ์ผ๋ก ๋ณผ ์ ์์
- ์ฝ๋ฉ ์ด์์คํดํธ: ์ฌ์ฉ์๊ฐ ์ ์์ ์๋ฝ(๊ฐํ ๊ธ์ ), ์๋ฝ ๋ฐ ์กฐ์ (๊ธ์ ) ๋๋ ๋ฌด์(๋ถ์ )ํ ์ ์์
- Midjourney: ์ฌ์ฉ์๊ฐ ์ด๋ฏธ์ง๋ฅผ ์ ์ค์ผ์ผํ๊ณ ๋ค์ด๋ก๋(๊ฐํ ๊ธ์ )ํ๊ฑฐ๋, ์ด๋ฏธ์ง๋ฅผ ๋ณ๊ฒฝ(๊ธ์ )ํ๊ฑฐ๋, ์๋ก์ด ์ด๋ฏธ์ง ์ธํธ๋ฅผ ์์ฑ(๋ถ์ )ํ ์ ์์
- ์ฑ๋ด: ์ฌ์ฉ์๊ฐ ์๋ต์ ๋ํด ์ข์์(๊ธ์ ) ๋๋ ์ซ์ด์(๋ถ์ )๋ฅผ ์ ๊ณตํ๊ฑฐ๋, ์๋ต์ด ์ ๋ง ๋์ ๊ฒฝ์ฐ ์๋ต์ ๋ค์ ์์ฑ(๊ฐํ ๋ถ์ )ํ๋๋ก ์ ํํ ์ ์์
- ํผ๋๋ฐฑ์ ๋ช
์์ ์ด๊ฑฐ๋ ์์์ ์ผ ์ ์์
- ๋ช ์์ ํผ๋๋ฐฑ์ ์ฌ์ฉ์๊ฐ ์ ํ์ ์์ฒญ์ ์๋ตํ์ฌ ์ ๊ณตํ๋ ์ ๋ณด
- ์์์ ํผ๋๋ฐฑ์ ์ฌ์ฉ์๊ฐ ์๋์ ์ผ๋ก ํผ๋๋ฐฑ์ ์ ๊ณตํ ํ์ ์์ด ์ฌ์ฉ์ ์ํธ ์์ฉ์์ ๋ฐฐ์ฐ๋ ์ ๋ณด
- ์ฝ๋ฉ ์ด์์คํดํธ์ Midjourney๋ ์์์ ํผ๋๋ฐฑ์ ์์ด๊ณ ์ข์์์ ์ซ์ด์๋ ๋ช
์์ ํผ๋๋ฐฑ
- ์ฝ๋ฉ ์ด์์คํดํธ์ Midjourney์ฒ๋ผ UX๋ฅผ ์ ์ค๊ณํ๋ฉด ์ ํ๊ณผ ๋ชจ๋ธ์ ๊ฐ์ ํ๊ธฐ ์ํ ๋ง์ ์์์ ํผ๋๋ฐฑ์ ์์งํ ์ ์์
๋ฌด์๋นํ๊ฒ ์๊ตฌ์ฌํญ ๊ณ์ธต(Hierarchy)์ ์ฐ์ ์์ ์ง์ ํ๊ธฐ
- ๋ฐ๋ชจ๋ฅผ ํ๋ก๋์
์ ๋ฐฐ์นํ๋ ๊ฒ์ ๋ํด ์๊ฐํ ๋, ๋ค์์ ๋ํ ์๊ตฌ ์ฌํญ์ ๊ณ ๋ คํด์ผ ํจ
- ์ ๋ขฐ์ฑ: 99.9% ๊ฐ๋ ์๊ฐ, ๊ตฌ์กฐํ๋ ์ถ๋ ฅ ์ค์
- ๋ฌดํด์ฑ: ๊ณต๊ฒฉ์ ์ด๊ฑฐ๋ NSFW ๋๋ ๊ธฐํ ์ ํดํ ์ฝํ ์ธ ๋ฅผ ์์ฑํ์ง ์์
- ์ฌ์ค์ ์ผ๊ด์ฑ: ์ ๊ณต๋ ๋งฅ๋ฝ์ ์ถฉ์คํ๊ณ ์ฌ์ค์ ์๊ณกํ์ง ์์
- ์ ์ฉ์ฑ: ์ฌ์ฉ์์ ์๊ตฌ์ ์์ฒญ์ ๊ด๋ จ๋จ
- ํ์ฅ์ฑ: ์ง์ฐ ์๊ฐ SLA, ์ง์๋๋ ์ฒ๋ฆฌ๋
- ๋น์ฉ: ์์ฐ์ด ๋ฌด์ ํ์ด ์๋๊ธฐ ๋๋ฌธ
- ๊ธฐํ: ๋ณด์, ๊ฐ์ธ ์ ๋ณด ๋ณดํธ, ๊ณต์ ์ฑ, GDPR, DMA ๋ฑ
- ์ด๋ฌํ ๋ชจ๋ ์๊ตฌ ์ฌํญ์ ํ ๋ฒ์ ํด๊ฒฐํ๋ ค๊ณ ํ๋ฉด ์๋ฌด๊ฒ๋ ์ถ์ํ ์ ์์
- ๋ฐ๋ผ์ ์ฐ์ ์์๋ฅผ ์ ํด์ผ ํจ. ๋ฌด์๋นํ๊ฒ.
- ์ด๋ ์ ํ์ด ์๋ํ์ง ์๊ฑฐ๋ ์คํ ๊ฐ๋ฅํ์ง ์์ ์ ์๋ ํํํ ์ ์๋ ์ฌํญ(์: ์ ๋ขฐ์ฑ, ๋ฌดํด์ฑ)์ด ๋ฌด์์ธ์ง ๋ช
ํํ ํ๋ ๊ฒ์ ์๋ฏธํจ
- MVP(Minimum Lovable Product) ์ ํ์ ์๋ณํ๋ ๊ฒ์ด ์ค์ํจ
- ์ฒซ ๋ฒ์งธ ๋ฒ์ ์ด ์๋ฒฝํ์ง ์์ ๊ฒ์ด๋ผ๋ ์ ์ ๋ฐ์๋ค์ด๊ณ ์ถ์ํ๊ณ ๋ฐ๋ณตํด์ผ ํจ
์ฌ์ฉ ์ฌ๋ก์ ๋ฐ๋ฅธ ์ํ ๊ฐ์ ์์ค ์กฐ์
- ์ธ์ด ๋ชจ๋ธ๊ณผ ์ ํ๋ฆฌ์ผ์ด์
์ ๊ฒํ ์์ค์ ๊ฒฐ์ ํ ๋๋ ์ฌ์ฉ ์ฌ๋ก์ ๋์์ ๊ณ ๋ คํด์ผ ํจ
- ์๋ฃ ๋๋ ๊ธ์ต ์กฐ์ธ์ ์ ๊ณตํ๋ ๊ณ ๊ฐ ๋๋ฉด ์ฑ๋ด์ ๊ฒฝ์ฐ ์์ ์ฑ๊ณผ ์ ํ์ฑ์ ๋ํด ๋งค์ฐ ๋์ ๊ธฐ์ค์ด ํ์ํจ
- ์ค์๋ ์๋ชป๋ ์ถ๋ ฅ์ ์ค์ ํผํด๋ฅผ ์ผ์ผํค๊ณ ์ ๋ขฐ๋ฅผ ์์ ์ ์์
- ๊ทธ๋ฌ๋ ์ถ์ฒ ์์คํ ๊ณผ ๊ฐ์ ๋ ์ค์ํ ์ ํ๋ฆฌ์ผ์ด์ ์ด๋ ์ฝํ ์ธ ๋ถ๋ฅ ๋๋ ์์ฝ๊ณผ ๊ฐ์ ๋ด๋ถ ๋๋ฉด ์ ํ๋ฆฌ์ผ์ด์ ์ ๊ฒฝ์ฐ ์ง๋์น๊ฒ ์๊ฒฉํ ์๊ตฌ ์ฌํญ์ ๋ง์ ๊ฐ์น๋ฅผ ์ถ๊ฐํ์ง ์๊ณ ์ง์ ์ ๋ฆ์ถ ๋ฟ์
- ์๋ฃ ๋๋ ๊ธ์ต ์กฐ์ธ์ ์ ๊ณตํ๋ ๊ณ ๊ฐ ๋๋ฉด ์ฑ๋ด์ ๊ฒฝ์ฐ ์์ ์ฑ๊ณผ ์ ํ์ฑ์ ๋ํด ๋งค์ฐ ๋์ ๊ธฐ์ค์ด ํ์ํจ
- ์ด๋ ๋ง์ ํ์ฌ๊ฐ ์ธ๋ถ ์ ํ๋ฆฌ์ผ์ด์
์ ๋นํด ๋ด๋ถ LLM ์ ํ๋ฆฌ์ผ์ด์
์ผ๋ก ๋ ๋น ๋ฅด๊ฒ ์์ง์ด๊ณ ์๋ค๋ ์ต๊ทผ a16z ๋ณด๊ณ ์์ ์ผ์นํจ
- ๋ด๋ถ ์์ฐ์ฑ์ ์ํด AI๋ฅผ ์คํํจ์ผ๋ก์จ ์กฐ์ง์ ๋ ํต์ ๋ ํ๊ฒฝ์์ ์ํ์ ๊ด๋ฆฌํ๋ ๋ฐฉ๋ฒ์ ๋ฐฐ์ฐ๋ฉด์ ๊ฐ์น๋ฅผ ํฌ์ฐฉํ๊ธฐ ์์ํ ์ ์์
- ๊ทธ๋ฐ ๋ค์ ์์ ๊ฐ์ด ์๊ธฐ๋ฉด ๊ณ ๊ฐ ๋๋ฉด ์ฌ์ฉ ์ฌ๋ก๋ก ํ์ฅํ ์ ์์
์ด์ 4. ํ๊ณผ ์ญํ (Roles)
- ์ด๋ค ์ง๋ฌด๋ ์ ์ํ๊ธฐ ์ฝ์ง ์์ง๋ง, ์ด ์๋ก์ด ์์ญ์์ ์
๋ฌด์ ๋ํ ์ง๋ฌด ๊ธฐ์ ์๋ฅผ ์์ฑํ๋ ๊ฒ์ ๋ค๋ฅธ ๊ฒ๋ณด๋ค ๋ ์ด๋ ค์
- ๊ต์ฐจํ๋ ์ง์ฑ ์ ๋ํ ๋ฒค ๋ค์ด์ด๊ทธ๋จ์ด๋ ์ง๋ฌด ๊ธฐ์ ์ ๋ํ ์ ์์ ์๋ตํ๊ฒ ์
- ๊ทธ๋ฌ๋ ์๋ก์ด ์ญํ ์ธ AI ์์ง๋์ด์ ์กด์ฌ๋ฅผ ์ธ์ ํ๊ณ ๊ทธ ์ญํ ์ ๋ํด ๋ ผ์ํ ๊ฒ์
- ์ค์ํ ๊ฒ์ ๋๋จธ์ง ํ๊ณผ ์ฑ ์์ด ์ด๋ป๊ฒ ํ ๋น๋์ด์ผ ํ๋์ง์ ๋ํด ๋ ผ์ํ ๊ฒ์
๋๊ตฌ๊ฐ ์๋ ํ๋ก์ธ์ค์ ์ง์ค
- LLM๊ณผ ๊ฐ์ ์๋ก์ด ํจ๋ฌ๋ค์์ ์ง๋ฉดํ์ ๋ ์ํํธ์จ์ด ์์ง๋์ด๋ ๋๊ตฌ๋ฅผ ์ ํธํ๋ ๊ฒฝํฅ์ด ์์
- ๊ทธ ๊ฒฐ๊ณผ ๋๊ตฌ๊ฐ ํด๊ฒฐํ๋ ค๊ณ ํ๋ ๋ฌธ์ ์ ํ๋ก์ธ์ค๋ฅผ ๊ฐ๊ณผํ๊ฒ ๋จ
- ์ด๋ ๊ฒ ํ๋ฉด์ ๋ง์ ์์ง๋์ด๋ ์ฐ๋ฐ์ ๋ณต์ก์ฑ์ ๊ฐ์ ํ๊ฒ ๋๋๋ฐ, ์ด๋ ํ์ ์ฅ๊ธฐ์ ์ธ ์์ฐ์ฑ์ ๋ถ์ ์ ์ธ ๊ฒฐ๊ณผ๋ฅผ ์ด๋ํจ
- ์๋ฅผ ๋ค์ด ์ด ๊ธ์ ํน์ ๋๊ตฌ๊ฐ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ์ ๋ํ ํ๋กฌํํธ๋ฅผ ์๋์ผ๋ก ์์ฑํ ์ ์๋ ๋ฐฉ๋ฒ์ ๋ํด ์ค๋ช
ํจ
- ๋ฌธ์ ํด๊ฒฐ ๋ฐฉ๋ฒ๋ก ์ด๋ ํ๋ก์ธ์ค๋ฅผ ๋จผ์ ์ดํดํ์ง ์๊ณ ์ด๋ฌํ ๋๊ตฌ๋ฅผ ์ฌ์ฉํ๋ ์์ง๋์ด๋ ๊ฒฐ๊ตญ ๋ถํ์ํ ๊ธฐ์ ๋ถ์ฑ๋ฅผ ๋ ์๊ฒ ๋๋ค๊ณ ์ฃผ์ฅํจ(IMHO ์ ๋นํ๊ฒ)
- ์ฐ๋ฐ์ ๋ณต์ก์ฑ ์ธ์๋ ๋๊ตฌ๋ ์ข
์ข
๋ถ์ถฉ๋ถํ๊ฒ ์ง์ ๋จ
- ์๋ฅผ ๋ค์ด ์ ํด์ฑ, ๊ฐ๊ฒฐ์ฑ, ์ด์กฐ ๋ฑ์ ๋ํ ์ผ๋ฐ ํ๊ฐ๊ธฐ์ ํจ๊ป "LLM ํ๊ฐ ๋๊ตฌ ์์"๋ฅผ ์ ๊ณตํ๋ LLM ํ๊ฐ ๋๊ตฌ ์ฐ์ ์ด ์ฑ์ฅํ๊ณ ์์
- ๋ง์ ํ์ด ์์ ์ ๋๋ฉ์ธ์ ํน์ ์คํจ ๋ชจ๋์ ๋ํด ๋นํ์ ์ผ๋ก ์๊ฐํ์ง ์๊ณ ์ด๋ฌํ ๋๊ตฌ๋ฅผ ์ฑํํ๋ ๊ฒ์ ๋ด
- ์ด์ ๋์กฐ์ ์ผ๋ก EvalGen์ ์ฌ์ฉ์๋ฅผ ๊ธฐ์ค ์ง์ , ๋ฐ์ดํฐ ๋ ์ด๋ธ๋ง, ํ๊ฐ ํ์ธ ๋ฑ ๊ฐ ๋จ๊ณ์ ๊น์ด ์ฐธ์ฌ์์ผ ๋๋ฉ์ธ๋ณ ํ๊ฐ๋ฅผ ์์ฑํ๋ ํ๋ก์ธ์ค๋ฅผ ์ฌ์ฉ์์๊ฒ ๊ฐ๋ฅด์น๋ ๋ฐ ์ค์ ์ ๋
- ์ํํธ์จ์ด๋ ์ฌ์ฉ์๋ฅผ ๋ค์๊ณผ ๊ฐ์ ์ํฌํ๋ก์ฐ๋ก ์๋ดํจ
- EvalGen์ด ์๋ดํ๋ LLM ํ๊ฐ ์ ์์ ๋ชจ๋ฒ ์ฌ๋ก
- ๋๋ฉ์ธ๋ณ ํ
์คํธ ์ ์(ํ๋กฌํํธ์์ ์๋์ผ๋ก ๋ถํธ์คํธ๋ฉ๋จ)
- ์ฝ๋ ๋๋ LLM-as-a-Judge๋ก ์ด์ค์ ์ผ๋ก ์ ์๋จ
- ํ ์คํธ๊ฐ ์ง์ ๋ ๊ธฐ์ค์ ํฌ์ฐฉํ๋์ง ์ฌ์ฉ์๊ฐ ํ์ธํ ์ ์๋๋ก ํ ์คํธ๋ฅผ ์ธ๊ฐ์ ํ๋จ๊ณผ ์ผ์น์ํค๋ ๊ฒ์ ์ค์์ฑ
- ์์คํ (ํ๋กฌํํธ ๋ฑ)์ด ๋ณ๊ฒฝ๋จ์ ๋ฐ๋ผ ํ ์คํธ ๋ฐ๋ณต
- ๋๋ฉ์ธ๋ณ ํ
์คํธ ์ ์(ํ๋กฌํํธ์์ ์๋์ผ๋ก ๋ถํธ์คํธ๋ฉ๋จ)
- EvalGen์ ๊ฐ๋ฐ์์๊ฒ ํ๊ฐ ๊ตฌ์ถ ํ๋ก์ธ์ค์ ๋ํ ๋ฉํ ๋ชจ๋ธ์ ์ ๊ณตํ์ง๋ง ํน์ ๋๊ตฌ์ ๊ณ ์ ํ์ง๋ ์์
- AI ์์ง๋์ด์๊ฒ ์ด๋ฌํ ๋งฅ๋ฝ์ ์ ๊ณตํ ํ์๋ ์ข ์ข ๋ ๊ฐ๋จํ ๋๊ตฌ๋ฅผ ์ ํํ๊ฑฐ๋ ์์ฒด ๋๊ตฌ๋ฅผ ๊ตฌ์ถํ๊ธฐ๋ก ๊ฒฐ์ ํ๋ค๋ ๊ฒ์ ๋ฐ๊ฒฌํจ
- ํ๋กฌํํธ ์์ฑ ๋ฐ ํ๊ฐ ์ด์ธ์ LLM์ ๊ตฌ์ฑ ์์๊ฐ ๋๋ฌด ๋ง์ ์ฌ๊ธฐ์ ๋ชจ๋ ๋์ดํ ์ ์์
- ๊ทธ๋ฌ๋ AI ์์ง๋์ด๊ฐ ๋๊ตฌ๋ฅผ ์ฑํํ๊ธฐ ์ ์ ํ๋ก์ธ์ค๋ฅผ ์ดํดํ๋ ค๊ณ ๋ ธ๋ ฅํ๋ ๊ฒ์ด ์ค์ํจ
ํญ์ ์คํํ๊ธฐ
- ML ์ ํ์ ์คํ๊ณผ ๊น์ด ์ฐ๊ด๋์ด ์์
- A/B ํ ์คํธ, ๋ฌด์์ ๋์กฐ ์ํ๋ฟ๋ง ์๋๋ผ ์์คํ ์ ๊ฐ๋ฅํ ๊ฐ์ฅ ์์ ๊ตฌ์ฑ ์์๋ฅผ ์์ ํ๊ณ ์คํ๋ผ์ธ ํ๊ฐ๋ฅผ ์ํํ๋ ๋น๋ฒํ ์๋๋ฅผ ์๋ฏธํจ
- ๋ชจ๋๊ฐ ํ๊ฐ์ ์ด๊ดํ๋ ์ด์ ๋ ์ค์ ๋ก ์ ๋ขฐ์ฑ๊ณผ ์์ ๊ฐ์ ๊ดํ ๊ฒ์ด ์๋๋ผ ์คํ์ ๊ฐ๋ฅํ๊ฒ ํ๋ ๊ฒ์!
- ํ๊ฐ๊ฐ ๋ ์ข์์๋ก ์คํ์ ๋ ๋นจ๋ฆฌ ๋ฐ๋ณตํ ์ ์๊ณ , ๋ฐ๋ผ์ ์์คํ ์ ์ต์์ ๋ฒ์ ์ผ๋ก ๋ ๋นจ๋ฆฌ ์๋ ดํ ์ ์์
- ์คํ์ด ๋งค์ฐ ์ ๋ ดํด์ก๊ธฐ ๋๋ฌธ์ ๋์ผํ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ๋ค์ํ ์ ๊ทผ ๋ฐฉ์์ ์๋ํ๋ ๊ฒ์ด ์ผ๋ฐ์ ์
- ๋ฐ์ดํฐ ์์ง ๋ฐ ๋ชจ๋ธ ํ๋ จ์ ๋์ ๋น์ฉ์ ์ต์ํ๋จ
- ํ๋กฌํํธ ์์ง๋์ด๋ง ๋น์ฉ์ ์ธ๊ฐ์ ์๊ฐ๋ณด๋ค ์กฐ๊ธ ๋ ๋ค์
- ๋ชจ๋ ์ฌ๋์ด ํ๋กฌํํธ ์์ง๋์ด๋ง์ ๊ธฐ๋ณธ์ ๋ฐฐ์ธ ์ ์๋๋ก ํ์ ๋ฐฐ์นํ ๊ฒ
- ์ด๋ ๋ชจ๋ ์ฌ๋์ด ์คํํ๋๋ก ์ฅ๋ คํ๊ณ ์กฐ์ง ์ ์ฒด์์ ๋ค์ํ ์์ด๋์ด๋ก ์ด์ด์ง
- ๋ฐ์ดํฐ ์์ง ๋ฐ ๋ชจ๋ธ ํ๋ จ์ ๋์ ๋น์ฉ์ ์ต์ํ๋จ
- ํ์์ ์ํด์๋ง ์คํํ์ง ๋ง๊ณ ํ์ฉ์ ์ํด์๋ ์คํ์ ์ฌ์ฉํ ๊ฒ!
- ์๋ก์ด ์์
์ ์๋ ๋ฒ์ ์ด ์๋๊ฐ?
- ํ์ ๋ค๋ฅธ ์ฌ๋์ด ๋ค๋ฅธ ๋ฐฉ์์ผ๋ก ์ ๊ทผํ๋ ๊ฒ์ ๊ณ ๋ คํด ๋ณผ ๊ฒ
- ๋ ๋น ๋ฅผ ์ ์๋ ๋ค๋ฅธ ๋ฐฉ๋ฒ์ผ๋ก ํด๋ณด๊ธฐ
- Chain-of-Thought๋ Few-Shot๊ณผ ๊ฐ์ ํ๋กฌํํธ ๊ธฐ์ ์ ์กฐ์ฌํ์ฌ ํ์ง์ ๋์ผ ๊ฒ
- ๋๊ตฌ๊ฐ ์คํ์ ๋ฐฉํดํ์ง ์๋๋ก ํ ๊ฒ
- ๊ทธ๋ ๋ค๋ฉด ์ฌ๊ตฌ์ถํ๊ฑฐ๋ ๊ฐ์ ํ ์ ์๋ ๊ฒ์ ๊ตฌ๋งคํ ๊ฒ
- ์๋ก์ด ์์
์ ์๋ ๋ฒ์ ์ด ์๋๊ฐ?
- ์ ํ/ํ๋ก์ ํธ ๊ธฐํ ์ค์๋ ํ๊ฐ ๊ตฌ์ถ ๋ฐ ์ฌ๋ฌ ์คํ ์ํ์ ์ํ ์๊ฐ์ ๋ฐ๋ก ํ ์ ํ ๊ฒ
- ์์ง๋์ด๋ง ์ ํ์ ๋ํ ์ ํ ์ฌ์์ ์๊ฐํด ๋ณด๊ณ , ์ฌ๊ธฐ์ ํ๊ฐ์ ๋ํ ๋ช ํํ ๊ธฐ์ค์ ์ถ๊ฐํ ๊ฒ
- ๋ก๋๋งต ์์ฑ ์ ์คํ์ ํ์ํ ์๊ฐ์ ๊ณผ์ํ๊ฐํ์ง ๋ง ๊ฒ
- ํ๋ก๋์ ์น์ธ์ ๋ฐ๊ธฐ ์ ์ ์ฌ๋ฌ ๋ฒ์ ๊ฐ๋ฐ ๋ฐ ํ๊ฐ ๋ฐ๋ณต์ ์์ํ ๊ฒ
๋ชจ๋ ์ฌ๋์ด ์๋ก์ด AI ๊ธฐ์ ์ ์ฌ์ฉํ ์ ์๋๋ก ๊ถํ ๋ถ์ฌ
- ์์ฑํ AI์ ์ฑํ์ด ์ฆ๊ฐํจ์ ๋ฐ๋ผ ์ ๋ฌธ๊ฐ๋ฟ๋ง ์๋๋ผ ์ ์ฒด ํ์ด ์ด ์๋ก์ด ๊ธฐ์ ์ ์ดํดํ๊ณ ์ฌ์ฉํ ์ ์๋ค๊ณ ๋๋ผ๊ธฐ๋ฅผ ์ํจ
- LLM์ด ์ด๋ป๊ฒ ์๋ํ๋์ง(์: ์ง์ฐ ์๊ฐ, ์คํจ ๋ชจ๋, UX)์ ๋ํ ์ง๊ด์ ๊ฐ๋ฐํ๋ ๋ ์ข์ ๋ฐฉ๋ฒ์ ์์
- LLM์ ๋น๊ต์ ์ ๊ทผํ๊ธฐ ์ฌ์
- ํ์ดํ๋ผ์ธ์ ์ฑ๋ฅ์ ํฅ์์ํค๊ธฐ ์ํด ์ฝ๋ฉ ๋ฐฉ๋ฒ์ ์ ํ์๊ฐ ์์ผ๋ฉฐ, ๋ชจ๋ ์ฌ๋์ด ํ๋กฌํํธ ์์ง๋์ด๋ง ๋ฐ ํ๊ฐ๋ฅผ ํตํด ๊ธฐ์ฌํ ์ ์์
- ์ด ์ค ํฐ ๋ถ๋ถ์ ๊ต์ก์
- n-shot ํ๋กฌํํ ๋ฐ CoT์ ๊ฐ์ ๊ธฐ์ ์ด ๋ชจ๋ธ์ ์ํ๋ ์ถ๋ ฅ ๋ฐฉํฅ์ผ๋ก ์กฐ๊ฑดํํ๋ ๋ฐ ๋์์ด ๋๋ ํ๋กฌํํธ ์์ง๋์ด๋ง์ ๊ธฐ์ด๋ถํฐ ์์ํ ์ ์์
- ์ง์์ ๊ฐ์ง ์ฌ๋๋ค์ LLM์ด ๋ณธ์ง์ ์ผ๋ก ์๊ธฐํ๊ท์ ์ด๋ผ๋ ์ ๊ณผ ๊ฐ์ ๋ณด๋ค ๊ธฐ์ ์ ์ธ ์ธก๋ฉด์ ๋ํด์๋ ๊ต์กํ ์ ์์
- ์ฆ, ์ ๋ ฅ ํ ํฐ์ ๋ณ๋ ฌ๋ก ์ฒ๋ฆฌ๋์ง๋ง ์ถ๋ ฅ ํ ํฐ์ ์์ฐจ์ ์ผ๋ก ์์ฑ๋จ
- ๋ฐ๋ผ์ ์ง์ฐ ์๊ฐ์ ์
๋ ฅ ๊ธธ์ด๋ณด๋ค ์ถ๋ ฅ ๊ธธ์ด์ ํจ์์
- ์ด๋ UX๋ฅผ ์ค๊ณํ๊ณ ์ฑ๋ฅ ๊ธฐ๋์น๋ฅผ ์ค์ ํ ๋ ์ฃผ์ ๊ณ ๋ ค ์ฌํญ์
- ์คํ๊ณผ ํ์์ ์ํ ์ค์ต ๊ธฐํ๋ฅผ ์ ๊ณตํ ์๋ ์์
- ํด์ปคํค์ ์ด๋จ๊น?
- ์ ์ฒด ํ์ด ๋ฉฐ์น ๋์ ์ถ์ธก์ฑ ํ๋ก์ ํธ๋ฅผ ํดํนํ๋ ๋ฐ ์๊ฐ์ ๋ณด๋ด๋ ๊ฒ์ด ๋น์ธ ๋ณด์ผ ์ ์์ง๋ง, ๊ทธ ๊ฒฐ๊ณผ๋ ๋น์ ์ ๋๋ผ๊ฒ ํ ์ ์์
- ํด์ปคํค์ ํตํด 3๋
๋ก๋๋งต์ 1๋
์์ ๊ฑฐ์ ์๋ฃํ ํ์ด ์์
- ๋ ๋ค๋ฅธ ํ์ ํด์ปคํค์ ํตํด LLM ๋๋ถ์ ์ด์ ๊ฐ๋ฅํด์ง ํจ๋ฌ๋ค์์ ์ ํํ๋ UX๋ก ์ด์ด์ก์ผ๋ฉฐ, ์ด์ ์ฌํด์ ๊ทธ ์ดํ์ ์ฐ์ ์์๊ฐ ๋์์
- ํด์ปคํค์ ์ด๋จ๊น?
"AI ์์ง๋์ด๋ง์ด ๋ชจ๋ ๊ฒ"์ด๋ผ๋ ํจ์ ์ ๋น ์ง์ง ๋ง ๊ฒ
์๋ก์ด ์ง์ฑ ์ด ์๊ฒจ๋ ๋ ์ด๋ฌํ ์ญํ ๊ณผ ๊ด๋ จ๋ ๋ฅ๋ ฅ์ ๊ณผ๋ํ๊ฐํ๋ ๊ฒฝํฅ์ด ์ด๊ธฐ์ ์์
- ์ด๋ ์ข ์ข ์ด๋ฌํ ์ง์ ์ ์ค์ ๋ฒ์๊ฐ ๋ช ํํด์ง์ ๋ฐ๋ผ ๊ณ ํต์ค๋ฌ์ด ์์ ์ผ๋ก ์ด์ด์ง
- ์ด ๋ถ์ผ์ ์ ์ฐธ์์ ์ฑ์ฉ ๊ด๋ฆฌ์๋ ๊ณผ์ฅ๋ ์ฃผ์ฅ์ ํ๊ฑฐ๋ ๊ณผ๋ํ ๊ธฐ๋๋ฅผ ํ ์ ์์
์ง๋ 10๋ ๋์์ ์ฃผ๋ชฉํ ๋งํ ์๋ ๋ค์๊ณผ ๊ฐ์
- ๋ฐ์ดํฐ ๊ณผํ์: "๋ชจ๋ ์ํํธ์จ์ด ์์ง๋์ด๋ณด๋ค ํต๊ณํ์ ๋ ์ํ๊ณ ๋ชจ๋ ํต๊ณํ์๋ณด๋ค ์ํํธ์จ์ด ์์ง๋์ด๋ง์ ๋ ์ํ๋ ์ฌ๋"
- ๋จธ์ ๋ฌ๋ ์์ง๋์ด(MLE): ๋จธ์ ๋ฌ๋์ ๋ํ ์ํํธ์จ์ด ์์ง๋์ด๋ง ์ค์ฌ์ ๊ด์
์ฒ์์๋ ๋ง์ ์ฌ๋๋ค์ด ๋ฐ์ดํฐ ๊ธฐ๋ฐ ํ๋ก์ ํธ์๋ ๋ฐ์ดํฐ ๊ณผํ์๋ง์ผ๋ก ์ถฉ๋ถํ๋ค๊ณ ๊ฐ์ ํจ
- ๊ทธ๋ฌ๋ ๋ฐ์ดํฐ ๊ณผํ์๋ ๋ฐ์ดํฐ ์ ํ์ ํจ๊ณผ์ ์ผ๋ก ๊ฐ๋ฐํ๊ณ ๋ฐฐํฌํ๊ธฐ ์ํด ์ํํธ์จ์ด ๋ฐ ๋ฐ์ดํฐ ์์ง๋์ด์ ํ๋ ฅํด์ผ ํ๋ค๋ ๊ฒ์ด ๋ถ๋ช ํด์ง
์ด ์คํด๋ AI ์์ง๋์ด๋ผ๋ ์๋ก์ด ์ญํ ์์๋ ๋ค์ ๋ํ๋ฌ์ผ๋ฉฐ, ์ผ๋ถ ํ์ AI ์์ง๋์ด๊ฐ ํ์ํ ์ ๋ถ๋ผ๊ณ ๋ฏฟ์
- ์ค์ ๋ก ๋จธ์ ๋ฌ๋ ๋๋ AI ์ ํ์ ๊ตฌ์ถํ๋ ค๋ฉด ๊ด๋ฒ์ํ ์ ๋ฌธ ์ญํ ์ด ํ์ํจ
์ฐ๋ฆฌ๋ 12๊ฐ ์ด์์ ํ์ฌ์ AI ์ ํ์ ๋ํด ์๋ดํ์ผ๋ฉฐ, ๊ทธ๋ค์ด "AI ์์ง๋์ด๋ง์ด ํ์ํ ์ ๋ถ"๋ผ๋ ๋ฏฟ์์ ํจ์ ์ ๋น ์ง๋ ๊ฒ์ ์ผ๊ด๋๊ฒ ๊ด์ฐฐํจ
- ๊ทธ ๊ฒฐ๊ณผ ์ ํ ๊ตฌ์ถ์ ํ์ํ ์ค์ํ ์ธก๋ฉด์ ๊ฐ๊ณผํ๋ฉด์ ์ ํ์ด ๋ฐ๋ชจ ์ด์์ผ๋ก ํ์ฅํ๋ ๋ฐ ์ด๋ ค์์ ๊ฒช๋ ๊ฒฝ์ฐ๊ฐ ๋ง์
์๋ฅผ ๋ค์ด ํ๊ฐ ๋ฐ ์ธก์ ์ Vibe ์ฒดํฌ ์ด์์ผ๋ก ์ ํ์ ํ์ฅํ๋ ๋ฐ ์ค์ํจ
- ํจ๊ณผ์ ์ธ ํ๊ฐ๋ฅผ ์ํ ๊ธฐ์ ์ ์ ํต์ ์ผ๋ก ๋จธ์ ๋ฌ๋ ์์ง๋์ด์๊ฒ์ ๋ณผ ์ ์๋ ๊ฐ์ ์ค ์ผ๋ถ์ ์ผ์นํจ
- AI ์์ง๋์ด๋ก๋ง ๊ตฌ์ฑ๋ ํ์ ์ด๋ฌํ ๊ธฐ์ ์ด ๋ถ์กฑํ ๊ฐ๋ฅ์ฑ์ด ๋์
- ํจ๊ณผ์ ์ธ ํ๊ฐ๋ฅผ ์ํ ๊ธฐ์ ์ ์ ํต์ ์ผ๋ก ๋จธ์ ๋ฌ๋ ์์ง๋์ด์๊ฒ์ ๋ณผ ์ ์๋ ๊ฐ์ ์ค ์ผ๋ถ์ ์ผ์นํจ
๊ณต๋ ์ ์์ธ Hamel Husain์ ๋ฐ์ดํฐ ํธํฅ ๊ฐ์ง ๋ฐ ๋๋ฉ์ธ ํน์ ํ๊ฐ ์ค๊ณ์ ๊ด๋ จ๋ ์ต๊ทผ ์์ ์์ ์ด๋ฌํ ๊ธฐ์ ์ ์ค์์ฑ์ ์ค๋ช ํจ
AI ์ ํ ๊ตฌ์ถ ์ฌ์ ์์ ํ์ํ ์ญํ ์ ํ ๋ฐ ์๊ธฐ
- ๋จผ์ ์ ํ ๊ตฌ์ถ์ ์ง์คํ ๊ฒ
- AI ์์ง๋์ด๊ฐ ํฌํจ๋ ์ ์์ง๋ง ๋ฐ๋์ ํ์ํ ๊ฒ์ ์๋
- AI ์์ง๋์ด๋ ์ ํ(UX, ๋ฐฐ๊ด ๋ฑ)์ ํ๋กํ ํ์ดํํ๊ณ ์ ์ํ๊ฒ ๋ฐ๋ณตํ๋ ๋ฐ ์ ์ฉํจ
- ๋ค์์ผ๋ก ์์คํ ์ ๊ณ์ธกํ๊ณ ๋ฐ์ดํฐ๋ฅผ ์์งํ์ฌ ์ฌ๋ฐ๋ฅธ ๊ธฐ๋ฐ์ ๋ง๋ค ๊ฒ
- ๋ฐ์ดํฐ ์ ํ๊ณผ ๊ท๋ชจ์ ๋ฐ๋ผ ํ๋ซํผ ๋ฐ/๋๋ ๋ฐ์ดํฐ ์์ง๋์ด๊ฐ ํ์ํ ์ ์์
- ๋ํ ๋ฌธ์ ๋ฅผ ๋๋ฒ๊น ํ๊ธฐ ์ํด ์ด ๋ฐ์ดํฐ๋ฅผ ์ฟผ๋ฆฌํ๊ณ ๋ถ์ํ๋ ์์คํ ์ด ์์ด์ผ ํจ
- ๋ค์์ผ๋ก AI ์์คํ ์ ์ต์ ํํ ๊ฒ
- ์ด๋ ๋ฐ๋์ ๋ชจ๋ธ ํ๋ จ์ ํฌํจํ์ง๋ ์์
- ๊ธฐ๋ณธ ์ฌํญ์๋ ์งํ ์ค๊ณ, ํ๊ฐ ์์คํ ๊ตฌ์ถ, ์คํ ์คํ, RAG ๊ฒ์ ์ต์ ํ, ํ๋ฅ ์ ์์คํ ๋๋ฒ๊น ๋ฑ์ ๋จ๊ณ๊ฐ ํฌํจ๋จ
- MLE๋ ์ด ๋ถ์ผ์ ๋งค์ฐ ๋ฅ์ํจ(๋ฌผ๋ก AI ์์ง๋์ด๋ ์ต๋ํ ์ ์์)
- ์ ํ ๋จ๊ณ๋ฅผ ์๋ฃํ์ง ์์ ๊ฒฝ์ฐ MLE๋ฅผ ๊ณ ์ฉํ๋ ๊ฒ์ ๋ณดํต ํ๋นํ์ง ์์
์ด ์ธ์๋ ํญ์ ๋๋ฉ์ธ ์ ๋ฌธ๊ฐ๊ฐ ํ์ํจ
- ์์ ํ์ฌ์์๋ ์ด์์ ์ผ๋ก ์ฐฝ์ ํ์ด ์ด ์ญํ ์ ํด์ผ ํ๋ฉฐ, ํฐ ํ์ฌ์์๋ ์ ํ ๊ด๋ฆฌ์๊ฐ ์ด ์ญํ ์ ํ ์ ์์
์ญํ ์ ์งํ ๋ฐ ํ์ด๋ฐ์ ์ธ์ํ๋ ๊ฒ์ด ์ค์ํจ
- ์๋ชป๋ ์๊ธฐ์ ์ฌ๋๋ค์ ๊ณ ์ฉํ๊ฑฐ๋(์: MLE๋ฅผ ๋๋ฌด ์ผ์ฐ ๊ณ ์ฉ) ์๋ชป๋ ์์๋ก ๊ตฌ์ถํ๋ ๊ฒ์ ์๊ฐ๊ณผ ๋น์ฉ ๋ญ๋น์ด๋ฉฐ ์ด์ง์ ์ผ๊ธฐํจ
๋ํ 1-2๋จ๊ณ์์ MLE์ ์ ๊ธฐ์ ์ผ๋ก ์ฒดํฌ์ธ(๊ทธ๋ฌ๋ ์ ๊ท์ง์ผ๋ก ๊ณ ์ฉํ์ง๋ ์์)ํ๋ฉด ํ์ฌ๊ฐ ์ฌ๋ฐ๋ฅธ ๊ธฐ๋ฐ์ ๊ตฌ์ถํ๋ ๋ฐ ๋์์ด ๋จ
[์ ๋ต: LLM์ ํ์ฉํ ๊ตฌ์ถ์์ ๋ค์ฒ์ง์ง ์๋ ๋ฐฉ๋ฒ]
- ์ฑ๊ณต์ ์ธ ์ ํ ๊ฐ๋ฐ์ ์ํด์๋ ๋ฌด์์ ํ๋กํ ํ์ ์ ๋ง๋ค๊ฑฐ๋ ์ต์ ๋ชจ๋ธ์ด๋ ํธ๋ ๋๋ฅผ ๋ฐ๋ผ๊ฐ๊ธฐ๋ณด๋ค๋ ์ ์คํ ๊ธฐํ๊ณผ ์ฐ์ ์์ ์ค์ ์ด ํ์ํจ
- AI ์ ํ ๊ฐ๋ฐ ์ ์ง์ ๊ฐ๋ฐํ ๊ฒ์ธ์ง ๊ตฌ๋งคํ ๊ฒ์ธ์ง ๋ฑ์ ์ฃผ์ ํธ๋ ์ด๋์คํ๋ฅผ ๊ฒํ ํด์ผ ํจ
- ์ด๊ธฐ LLM ์ ํ๋ฆฌ์ผ์ด์ ๊ฐ๋ฐ์ ์ํ "ํ๋ ์ด๋ถ"์ ์ ์ํจ
์ ๋ต 1: PMF ์ ์๋ GPU ์์
- ํ๋ฅญํ ์ ํ์ด ๋๋ ค๋ฉด ๋จ์ํ ๋ค๋ฅธ ์ฌ๋์ API๋ฅผ ์๊ฒ ํฌ์ฅํ๋ ๊ฒ ์ด์์ด ๋์ด์ผ ํจ
- ํ์ง๋ง ๋ฐ๋ ๋ฐฉํฅ์ ์ค์๋ ๋ ํฐ ๋น์ฉ์ ์ด๋ํ ์ ์์
- ์ง๋ ํด์๋ ๋ช ํํ ์ ํ ๋น์ ์ด๋ ๋ชฉํ ์์ฅ ์์ด ๋ชจ๋ธ ํ์ต๊ณผ ์ปค์คํฐ๋ง์ด์ง์ ๋ง๋ํ ๋ฒค์ฒ ์๋ณธ์ด ์ฐ์ฌ์ก์
- ํ ํ์ฌ๋ ๋ฌด๋ ค 60์ต ๋ฌ๋ฌ์ ์๋ฆฌ์ฆ A ํฌ์๋ฅผ ๋ฐ๊ธฐ๋ ํจ
- ์ด ์น์ ์์๋ ์ฆ์ ์์ฒด ๋ชจ๋ธ ํ์ต์ ์์ํ๋ ๊ฒ์ด ์ ์ค์์ธ์ง ์ค๋ช ํ๊ณ , ์์ฒด ํธ์คํ ์ ์ญํ ์ ๊ณ ๋ คํด ๋ณผ ๊ฒ์
์ฒ์๋ถํฐ (๊ฑฐ์) ๋ค์ ํธ๋ ์ด๋ ํ๋ ๊ฒ์ ์๋ฏธ ์์
- ๋๋ถ๋ถ์ ์กฐ์ง์๊ฒ ์ฒ์๋ถํฐ LLM์ ํ๋ฆฌํธ๋ ์ด๋ํ๋ ๊ฒ์ ์ ํ ๊ฐ๋ฐ์์ ๋ฒ์ด๋ ๋นํ์ค์ ์ธ ์ผ์
- ๋จธ์ ๋ฌ๋ ์ธํ๋ผ์ ๊ฐ๋ฐ๊ณผ ์ ์ง์๋ ๋ง์ ์์์ด ์์๋จ
- ๋ฐ์ดํฐ ์์ง, ๋ชจ๋ธ ํ์ต๊ณผ ํ๊ฐ, ๋ฐฐํฌ ๋ฑ์ด ํฌํจ๋จ
- ์ ํ-์์ฅ ์ ํฉ์ฑ์ ๊ฒ์ฆํ๋ ๋จ๊ณ๋ผ๋ฉด ์ด๋ฌํ ๋ ธ๋ ฅ์ ํต์ฌ ์ ํ ๊ฐ๋ฐ์์ ์์์ ๋ถ์ฐ์ํด
- ์ปดํจํ ์์, ๋ฐ์ดํฐ, ๊ธฐ์ ์ ์ญ๋์ด ์๋ค ํด๋ ํ๋ฆฌํธ๋ ์ธ๋ LLM์ ๋ช ๋ฌ ์์ ๊ตฌ์์ด ๋ ์ ์์
- ๋จธ์ ๋ฌ๋ ์ธํ๋ผ์ ๊ฐ๋ฐ๊ณผ ์ ์ง์๋ ๋ง์ ์์์ด ์์๋จ
- BloombergGPT์ ์ฌ๋ก
- ๊ธ์ต ์ ๋ฌด์ ํนํ๋ LLM์ธ BloombergGPT๋ 363B ํ ํฐ์ผ๋ก ํ๋ฆฌํธ๋ ์ด๋๋์์
- AI ์์ง๋์ด๋ง 4๋ช , ML ์ ํ ๋ฐ ์ฐ๊ตฌ 5๋ช ๋ฑ 9๋ช ์ ์ ์ ์ง์๋ค์ ์์ฒญ๋ ๋ ธ๋ ฅ์ด ํฌ์ ๋จ
- ๊ทธ๋ผ์๋ 1๋ ๋ด์ ํด๋น ์ ๋ฌด์์ gpt-3.5-turbo์ gpt-4์ ๋ค์ณ์ก์
- ์ด๋ฐ ์ฌ๋ก๋ค์ ๋๋ถ๋ถ์ ์ค์ ์ ํ๋ฆฌ์ผ์ด์
์์ LLM์ ์ฒ์๋ถํฐ ํ๋ฆฌํธ๋ ์ด๋ํ๋ ๊ฒ์ด ์์์ ์ต์ ์ ํ์ฉ๋ฒ์ด ์๋์ ์์ฌํจ
- ๋์ ํ์ ํน์ ์๊ตฌ์ฌํญ์ ๋ง์ถฐ ์ฌ์ฉ ๊ฐ๋ฅํ ๊ฐ์ฅ ๊ฐ๋ ฅํ ์คํ์์ค ๋ชจ๋ธ์ ํ์ธํ๋ํ๋ ๊ฒ์ด ๋ ๋์
- ๋ฌผ๋ก ์์ธ๋ ์์
- Replit์ ์ฝ๋ ๋ชจ๋ธ์ ์ฝ๋ ์์ฑ๊ณผ ์ดํด์ ํนํ๋์ด ํ๋ฆฌํธ๋ ์ด๋๋ ํ๋ฅญํ ์ฌ๋ก์
- ํ๋ฆฌํธ๋ ์ด๋์ผ๋ก CodeLlama7b ๋ฑ ๋ ํฐ ๋ชจ๋ธ๋ณด๋ค ์ฐ์ํ ์ฑ๋ฅ์ ๋ณด์์
- ๊ทธ๋ฌ๋ ๋ ๊ฐ๋ ฅํ ๋ชจ๋ธ๋ค์ด ์ถ์๋จ์ ๋ฐ๋ผ ํจ์ฉ์ฑ ์ ์ง๋ฅผ ์ํด์๋ ์ง์์ ์ธ ํฌ์๊ฐ ํ์ํ์
ํ์ํ๋ค๊ณ ํ์ธ๋๊ธฐ ์ ๊น์ง๋ ํ์ธํ๋ ๊ธ์ง
- ๋๋ถ๋ถ์ ์กฐ์ง์์ ํ์ธํ๋์ ์ ๋ต์ ์ฌ๊ณ ๋ณด๋ค๋ FOMO(Fear Of Missing Out, ๋์น ๊ฒ์ ๋ํ ๋๋ ค์)์ ์ํด ์ฃผ๋๋จ
- ์กฐ์ง์ "๋จ์ํ ๋ํผ"๋ผ๋ ๋น๋์ ํผํ๊ธฐ ์ํด ๋๋ฌด ์ผ์ฐ ํ์ธํ๋์ ํฌ์ํจ
- ์ค์ ๋ก ํ์ธํ๋์ ๋ค๋ฅธ ์ ๊ทผ ๋ฐฉ์์ผ๋ก๋ ์ถฉ๋ถํ์ง ์๋ค๋ ๊ฒ์ ํ์ ์์ผ์ฃผ๋ ๋ง์ ์ฌ๋ก๋ฅผ ์์งํ ํ์์ผ ๋ฐฐํฌํด์ผ ํ ์ค์ฅ๋น์ ๊ฐ์
- 1๋
์ ๋ง์ ํ์ด ํ์ธํ๋์ ๋ํด ๊ธฐ๋๊ฐ์ ํํ์ง๋ง, ๋ช ์ ๋๋ ํ๋ง์ด ์ ํ-์์ฅ ์ ํฉ์ฑ์ ๋ฐ๊ฒฌํ๊ณ ๋๋ถ๋ถ์ ๊ฒฐ์ ์ ํํํจ
- ํ์ธํ๋์ ํ ๊ฑฐ๋ผ๋ฉด ๊ธฐ๋ณธ ๋ชจ๋ธ์ด ๊ฐ์ ๋จ์ ๋ฐ๋ผ ๋ฐ๋ณตํด์ ์ํํ ์ค๋น๊ฐ ๋์ด ์์ด์ผ ํจ
- ์๋์ "๋ชจ๋ธ์ ์ ํ์ด ์๋"๊ณผ "LLMOps ๊ตฌ์ถ"์ ์ฐธ์กฐ
- ํ์ธํ๋์ ํ ๊ฑฐ๋ผ๋ฉด ๊ธฐ๋ณธ ๋ชจ๋ธ์ด ๊ฐ์ ๋จ์ ๋ฐ๋ผ ๋ฐ๋ณตํด์ ์ํํ ์ค๋น๊ฐ ๋์ด ์์ด์ผ ํจ
- ํ์ธํ๋์ด ์ค์ ๋ก ์ฌ๋ฐ๋ฅธ ์ ํ์ผ ์ ์๋ ๊ฒฝ์ฐ
- ๊ธฐ์กด ๋ชจ๋ธ ํ์ต์ ์ฌ์ฉ๋ ๋๋ถ๋ถ์ ๊ฐ๋ฐฉํ ์น ๊ท๋ชจ ๋ฐ์ดํฐ์ ์์ ์ฌ์ฉํ ์ ์๋ ๋ฐ์ดํฐ๊ฐ ํ์ํ ๊ฒฝ์ฐ
- ๊ธฐ์กด ๋ชจ๋ธ๋ก๋ ์ถฉ๋ถํ์ง ์๋ค๋ ๊ฒ์ ๋ณด์ฌ์ฃผ๋ MVP๋ฅผ ์ด๋ฏธ ๊ตฌ์ถํ ๊ฒฝ์ฐ
- ๊ทธ๋ฌ๋ ์ฃผ์ํด์ผ ํจ: ํ๋ฅญํ ํ์ต ๋ฐ์ดํฐ๋ฅผ ๋ชจ๋ธ ๊ตฌ์ถ์๊ฐ ์ฝ๊ฒ ์ป์ ์ ์๋ค๋ฉด ๋น์ ์ ์ด๋์ ์ป์ ๊ฒ์ธ๊ฐ?
- LLM ๊ธฐ๋ฐ ์ ํ๋ฆฌ์ผ์ด์
์ ๊ณผํ ๋ฐ๋ํ ํ๋ก์ ํธ๊ฐ ์๋
- ์ ๋ต์ ๋ชฉํ์ ๊ฒฝ์ ์ฐจ๋ณํ์ ๋ํ ๊ธฐ์ฌ๋์ ์์ํ๋ ํฌ์๊ฐ ์ด๋ฃจ์ด์ ธ์ผ ํจ
์ถ๋ก API๋ก ์์ํ๋, ์ ํํธ์คํ ์ ๋๋ ค์ํ์ง ๋ง ๊ฒ
- LLM API๋ฅผ ์ฌ์ฉํ๋ฉด ์คํํธ์
์ด ์ฒ์๋ถํฐ ์์ฒด ๋ชจ๋ธ์ ํ์ต์ํค์ง ์๊ณ ๋ ์ธ์ด ๋ชจ๋ธ๋ง ๊ธฐ๋ฅ์ ์ฝ๊ฒ ์ฑํํ๊ณ ํตํฉํ ์ ์์
- Anthropic, OpenAI ๋ฑ์ ์ ๊ณต์ ์ฒด๋ ๋ช ์ค์ ์ฝ๋๋ง์ผ๋ก ์ ํ์ ์ธํ ๋ฆฌ์ ์ค๋ฅผ ๋ถ์ฌํ ์ ์๋ ์ผ๋ฐ API๋ฅผ ์ ๊ณตํจ
- ์ด๋ฌํ ์๋น์ค๋ฅผ ์ฌ์ฉํ๋ฉด ๋ ธ๋ ฅ์ ์ค์ด๊ณ ๊ณ ๊ฐ์ ์ํ ๊ฐ์น ์ฐฝ์ถ์ ์ง์คํ ์ ์์ด ์์ด๋์ด๋ฅผ ๊ฒ์ฆํ๊ณ ์ ํ-์์ฅ ์ ํฉ์ฑ์ ๋ ๋นจ๋ฆฌ ๋ฐ๋ณตํ ์ ์์
- ๊ทธ๋ฌ๋ ๋ฐ์ดํฐ๋ฒ ์ด์ค์ ๋ง์ฐฌ๊ฐ์ง๋ก ๊ด๋ฆฌํ ์๋น์ค๋ ๊ท๋ชจ์ ์๊ตฌ์ฌํญ์ด ์ฆ๊ฐํจ์ ๋ฐ๋ผ ๋ชจ๋ ์ฌ์ฉ ์ฌ๋ก์ ์ ํฉํ์ง ์์
- ์ค์ ๋ก ์์ฒด ํธ์คํ ์ ์๋ฃ ๋ฐ ๊ธ์ต๊ณผ ๊ฐ์ ๊ท์ ์ฐ์ ๋๋ ๊ณ์ฝ์ ์๋ฌด๋ ๊ธฐ๋ฐ ์ ์ง ์๊ฑด์ ์ํด ์๊ตฌ๋๋ ๋๋ก ๊ธฐ๋ฐ/๊ฐ์ธ ๋ฐ์ดํฐ๋ฅผ ๋คํธ์ํฌ ์ธ๋ถ๋ก ๋ณด๋ด์ง ์๊ณ ๋ชจ๋ธ์ ์ฌ์ฉํ๋ ์ ์ผํ ๋ฐฉ๋ฒ์ผ ์ ์์
- ๋ํ ์์ฒด ํธ์คํ
์ ์ถ๋ก ์ ๊ณต์
์ฒด๊ฐ ๋ถ๊ณผํ๋ ์๋ ์ ํ, ๋ชจ๋ธ ์ฌ์ฉ ์ค๋จ, ์ฌ์ฉ ์ ํ ๋ฑ์ ์ ์ฝ์ ์ฐํํจ
- ์์ฒด ํธ์คํ ์ ๋ชจ๋ธ์ ๋ํ ์์ ํ ์ ์ด ๊ถํ์ ์ ๊ณตํ์ฌ ์ฐจ๋ณํ๋๊ณ ๊ณ ํ์ง์ ์์คํ ์ ๋ ์ฝ๊ฒ ๊ตฌ์ถํ ์ ์๊ฒ ํจ
- ๋ง์ง๋ง์ผ๋ก ์์ฒด ํธ์คํ
, ํนํ ํ์ธํ๋์ ๋๊ท๋ชจ๋ก ๋น์ฉ์ ์ ๊ฐํ ์ ์์
- ์๋ฅผ ๋ค์ด Buzzfeed๋ ์คํ์์ค LLM์ ํ์ธํ๋ํ์ฌ ๋น์ฉ์ 80% ์ ๊ฐํ ์ฌ๋ก๋ฅผ ๊ณต์ ํ์
์ ๋ต 2: ๋ ๋์ ๊ฒ์ ํฅํด ๋ฐ๋ณตํ๊ธฐ
- ์ฅ๊ธฐ์ ์ผ๋ก ๊ฒฝ์ ์ฐ์๋ฅผ ์ ์งํ๋ ค๋ฉด ๋ชจ๋ธ์ ๋์ด์ ์ ํ์ ์ฐจ๋ณํํ ์ ์๋ ์์๋ฅผ ๊ณ ๋ คํด์ผ ํจ
- ์คํ ์๋๊ฐ ์ค์ํ์ง๋ง ๊ทธ๊ฒ์ด ์ ์ผํ ์ฅ์ ์ด ๋์ด์๋ ์ ๋จ
๋ชจ๋ธ์ ์ ํ์ด ์๋, ๊ทธ ๋ชจ๋ธ์ ๋๋ฌ์ผ ์์คํ ์ด ์ ํ์
- ๋ชจ๋ธ์ ๊ตฌ์ถํ์ง ์๋ ํ์๊ฒ ํ์ ์ ๋น ๋ฅธ ์๋๋ ์ถ๋ณต์
- ์ปจํ ์คํธ ํฌ๊ธฐ, ์ถ๋ก ๋ฅ๋ ฅ, ๊ฐ๊ฒฉ ๋๋น ๊ฐ์น ๋ฑ์ ํฅ์์ ์ถ๊ตฌํ๋ฉฐ ์ต์ ๋ชจ๋ธ๋ก ๋ง์ด๊ทธ๋ ์ด์ ํ์ฌ ๋ ๋์ ์ ํ์ ๋ง๋ค ์ ์๊ธฐ ๋๋ฌธ
- ์ด๋ฌํ ์ง๋ณด๋ ์์ธก ๊ฐ๋ฅํ ๋งํผ ํฅ๋ฏธ๋ก์
- ์ข ํฉํ๋ฉด ๋ชจ๋ธ์ ์์คํ ์์ ๊ฐ์ฅ ์ง์์ฑ์ด ๋ฎ์ ๊ตฌ์ฑ ์์์ผ ๊ฐ๋ฅ์ฑ์ด ๋์
- ๋์ ์ง์์ ์ธ ๊ฐ์น๋ฅผ ์ ๊ณตํ ์ ์๋ ๋ถ๋ถ์ ๋
ธ๋ ฅ์ ์ง์คํด์ผ ํจ
- Evals: ๋ชจ๋ธ ์ ๋ฐ์ ๊ฑธ์ณ ์์ ์ฑ๋ฅ์ ์์ ์ ์ผ๋ก ์ธก์ ํ๊ธฐ ์ํจ
- Guardrails: ๋ชจ๋ธ์ ์๊ด์์ด ์์น ์๋ ์ถ๋ ฅ์ ๋ฐฉ์งํ๊ธฐ ์ํจ
- Caching: ๋ชจ๋ธ์ ์์ ํ ํผํจ์ผ๋ก์จ ์ง์ฐ ์๊ฐ๊ณผ ๋น์ฉ์ ์ค์ด๊ธฐ ์ํจ
- Data flywheel: ์์ ๋ชจ๋ ๊ฒ์ ๋ฐ๋ณต์ ๊ฐ์ ์ ์ถ์งํ๊ธฐ ์ํจ
- ์ด๋ฌํ ๊ตฌ์ฑ ์์๋ ์์ ๋ชจ๋ธ ๊ธฐ๋ฅ๋ณด๋ค ๋ ๋๊บผ์ด ์ ํ ํ์ง์ ํด์๋ฅผ ๋ง๋ฆ
- ๊ทธ๋ฌ๋ ์ ํ๋ฆฌ์ผ์ด์
๊ณ์ธต์์ ๊ตฌ์ถํ๋ ๊ฒ์ด ์ํ์ด ์๋ค๋ ์๋ฏธ๋ ์๋
- OpenAI๋ ๋ค๋ฅธ ๋ชจ๋ธ ์ ๊ณต์ ์ฒด๊ฐ ์คํ ๊ฐ๋ฅํ ์ํฐํ๋ผ์ด์ฆ ์ํํธ์จ์ด๋ฅผ ์ ๊ณตํ๋ ค๋ฉด ๊ฐ์๋ก ์๋ผ๋ด์ผ ํ ๋ถ๋ถ์ ๊ฐ์์งํ์ง ๋ง ๊ฒ
- ์๋ฅผ ๋ค์ด ์ผ๋ถ ํ์ ๋
์ ๋ชจ๋ธ์์ ๊ตฌ์กฐํ๋ ์ถ๋ ฅ์ ๊ฒ์ฆํ๊ธฐ ์ํ ๋ง์ถคํ ๋๊ตฌ๋ฅผ ๊ตฌ์ถํ๋ ๋ฐ ํฌ์ํ์
- ์ฌ๊ธฐ์ ์ต์ํ์ ํฌ์๋ ์ค์ํ์ง๋ง ๊น์ด ํฌ์ํ๋ ๊ฒ์ ์๊ฐ์ ์ ํ์ฉํ๋ ๊ฒ์ด ์๋
- OpenAI๋ ํจ์ ํธ์ถ์ ์์ฒญํ ๋ ์ ํจํ ํจ์ ํธ์ถ์ ๋ฐ์ ์ ์๋๋ก ํด์ผ ํจ. ๋ชจ๋ ๊ณ ๊ฐ์ด ์ํ๊ธฐ ๋๋ฌธ
- ์ฌ๊ธฐ์ "์ ๋ต์ ๋ฏธ๋ฃจ๊ธฐ"๋ฅผ ์ ์ฉํ๊ณ , ์ ๋์ ์ผ๋ก ํ์ํ ๊ฒ์ ๊ตฌ์ถํ๊ณ , ์ ๊ณต์ ์ฒด์ ๊ธฐ๋ฅ ํ์ฅ์ ๊ธฐ๋ค๋ฆด ๊ฒ
์๊ฒ ์์ํด์ ์ ๋ขฐ๋ฅผ ์ป๊ธฐ
- ๋ชจ๋ ์ฌ๋์ ์ํ ๋ชจ๋ ๊ฒ์ด ๋๋ ค๊ณ ํ๋ ์ ํ์ ๋ง๋๋ ๊ฒ์ ํ๋ฒํจ์ ๋ ์ํผ์
- ์ค๋๋ ฅ ์๋ ์ ํ์ ๋ง๋ค๊ธฐ ์ํด ๊ธฐ์ ์ ์ฌ์ฉ์๊ฐ ๊ณ์ ๋์์ค๊ฒ ํ๋ ๋์ ๊ฑฐ๋ฆฌ๋ ๊ฒฝํ์ ๊ตฌ์ถํ๋ ๋ฐ ์ ๋ฌธํํด์ผ ํจ
- ์ฌ์ฉ์๊ฐ ๋ฌป๋ ๋ชจ๋ ์ง๋ฌธ์ ๋ตํ๋ ๊ฒ์ ๋ชฉํ๋ก ํ๋ ์ผ๋ฐ์ ์ธ RAG ์์คํ
์ ๊ณ ๋ คํด ๋ณด์
- ์ ๋ฌธํ๊ฐ ๋ถ์กฑํ๋ค๋ ๊ฒ์ ์์คํ ์ด ์ต์ ์ ๋ณด์ ์ฐ์ ์์๋ฅผ ๋๊ฑฐ๋, ๋๋ฉ์ธ ํนํ ํ์์ ๊ตฌ๋ฌธ ๋ถ์ํ๊ฑฐ๋, ํน์ ์์ ์ ๋์์ค๋ฅผ ์ดํดํ ์ ์๋ค๋ ๊ฒ์ ์๋ฏธํจ
- ๊ทธ ๊ฒฐ๊ณผ ์ฌ์ฉ์๋ ์๊ณ ์ ๋ขฐํ ์ ์๋ ๊ฒฝํ์ ํ๊ฒ ๋์ด ์๊ตฌ์ฌํญ์ ์ถฉ์กฑ์ํค์ง ๋ชปํ๊ณ ์ดํํ๊ฒ ๋จ
- ์ด๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ํน์ ๋๋ฉ์ธ๊ณผ ์ฌ์ฉ ์ฌ๋ก์ ์ง์คํด์ผ ํจ
- ๋์ด๋ณด๋ค๋ ๊น์ด๋ฅผ ๋ํด ๋ฒ์๋ฅผ ์ขํ์ผ ํจ
- ์ด๋ ๊ฒ ํ๋ฉด ์ฌ์ฉ์์๊ฒ ๊ณต๊ฐ์ ์ฃผ๋ ๋๋ฉ์ธ ํนํ ๋๊ตฌ๋ฅผ ๋ง๋ค ์ ์์
- ์ ๋ฌธํ๋ฅผ ํตํด ์์คํ
์ ๊ธฐ๋ฅ๊ณผ ํ๊ณ๋ฅผ ์์งํ๊ฒ ์๋ฆด ์ ์์
- ์์คํ ์ด ํ ์ ์๋ ๊ฒ๊ณผ ํ ์ ์๋ ๊ฒ์ ๋ํด ํฌ๋ช ํ๊ฒ ๊ณต๊ฐํ๋ ๊ฒ์ ์๊ธฐ ์ธ์์ ๋ณด์ฌ์ฃผ๊ณ , ์ฌ์ฉ์๊ฐ ์ด๋์ ๊ฐ์ฅ ๋ง์ ๊ฐ์น๋ฅผ ๋ํ ์ ์๋์ง ์ดํดํ๋ ๋ฐ ๋์์ด ๋๋ฉฐ, ๊ฒฐ๊ณผ์ ์ผ๋ก ์ถ๋ ฅ์ ๋ํ ์ ๋ขฐ์ ํ์ ์ ๊ตฌ์ถํจ
LLMOps๋ฅผ ๋ง๋ค๋, ์ ์ ํ ์ด์ ๋ฅผ ๊ฐ์ง ๊ฒ : ๋น ๋ฅธ ๋ฐ๋ณต
- DevOps๋ ๊ทผ๋ณธ์ ์ผ๋ก ์ฌํ ๊ฐ๋ฅํ ์ํฌํ๋ก์ฐ๋ ์ผ์ชฝ ์ด๋ ๋๋ ๋ ๊ฐ์ ํผ์ ํ์ ๊ถํ์ ๋ถ์ฌํ๋ ๊ฒ์ด ์๋. YAML ํ์ผ์ ์์ฑํ๋ ๊ฒ์ ๋๋์ฑ ์๋
- DevOps๋ ์์
๊ณผ ๊ทธ ๊ฒฐ๊ณผ ์ฌ์ด์ ํผ๋๋ฐฑ ์ฃผ๊ธฐ๋ฅผ ๋จ์ถํ์ฌ ์ค๋ฅ ๋์ ๊ฐ์ ์ฌํญ์ด ์ถ์ ๋๋๋ก ํ๋ ๊ฒ์
- ๊ทธ ๋ฟ๋ฆฌ๋ ๋ฆฐ ์คํํธ์ ์ด๋์ ํตํด ๋ฆฐ ์ ์กฐ์ ํ ์ํ ์์ฐ ์์คํ ์ผ๋ก ๊ฑฐ์ฌ๋ฌ ์ฌ๋ผ๊ฐ๋ฉฐ, ์ฑ๊ธ ๋ฏธ๋ ๋ค์ด ๊ตํ๊ณผ ์นด์ด์ ์ ๊ฐ์กฐํจ
- MLOps๋ DevOps์ ํํ๋ฅผ ML์ ์ ์ฉํ์
- ์ฌํ ๊ฐ๋ฅํ ์คํ๊ณผ ๋ชจ๋ธ ๊ตฌ์ถ์๊ฐ ๋ฐฐํฌํ ์ ์๋๋ก ๊ถํ์ ๋ถ์ฌํ๋ ์ฌ์ธ์ ๋๊ตฌ ์ ํ๊ตฐ์ด ์์. YAML ํ์ผ๋ ๋ง์
- ๊ทธ๋ฌ๋ ์ ๊ณ๋ก์ MLOps๋ DevOps์ ๊ธฐ๋ฅ์ ์ฑํํ์ง ์์์. ๋ชจ๋ธ๊ณผ ํ๋ก๋์ ์์์ ์ถ๋ก ๋ฐ ์ํธ ์์ฉ ์ฌ์ด์ ํผ๋๋ฐฑ ๊ฐญ์ ์ค์ด์ง ์์์
- ๋คํํ๋ LLMOps ๋ถ์ผ๋ ํ๋กฌํํธ ๊ด๋ฆฌ์ ๊ฐ์ ์ฌ์ํ ๋ฌธ์ ์์ ๋ฒ์ด๋ ๋ฐ๋ณต์ ๋ฐฉํดํ๋ ์ด๋ ค์ด ๋ฌธ์ ์ธ ํ๋ก๋์ ๋ชจ๋ํฐ๋ง๊ณผ ํ๊ฐ๋ก ์ฐ๊ฒฐ๋๋ ์ง์์ ์ธ ๊ฐ์ ์ผ๋ก ๋ฐฉํฅ์ ์ ํํ์
- ์ด๋ฏธ ์ฑํ
๋ฐ ์ฝ๋ฉ ๋ชจ๋ธ์ ๋ํ ์ค๋ฆฝ์ ์ด๊ณ ํฌ๋ผ์ฐ๋์์ฑ๋ ํ๊ฐ๋ฅผ ์ํ ๋ํํ ์๋ ๋๊ฐ ์์. ์ง๋จ์ ์ด๊ณ ๋ฐ๋ณต์ ์ธ ๊ฐ์ ์ ์ธ๋ถ ๋ฃจํ์
- LangSmith, Log10, LangFuse, W&B Weave, HoneyHive ๋ฑ์ ๋๊ตฌ๋ ํ๋ก๋์ ์์ ์์คํ ๊ฒฐ๊ณผ์ ๋ํ ๋ฐ์ดํฐ๋ฅผ ์์งํ๊ณ ์ ๋ฆฌํ ๋ฟ๋ง ์๋๋ผ ๊ฐ๋ฐ๊ณผ ๊น์ด ํตํฉํ์ฌ ํด๋น ์์คํ ์ ๊ฐ์ ํ๋ ๋ฐ ํ์ฉํ ๊ฒ์ ์ฝ์ํจ. ์ด๋ฌํ ๋๊ตฌ๋ฅผ ์์ฉํ๊ฑฐ๋ ์์ฒด์ ์ผ๋ก ๊ตฌ์ถํ๋ผ
๊ตฌ๋งคํ ์ ์๋ LLM ๊ธฐ๋ฅ์ ๋ง๋ค์ง ๋ง ๊ฒ
- ๋๋ถ๋ถ์ ์ฑ๊ณต์ ์ธ ๋น์ฆ๋์ค๋ LLM ๋น์ฆ๋์ค๊ฐ ์๋. ๋์์ ๋๋ถ๋ถ์ ๋น์ฆ๋์ค์๋ LLM์ผ๋ก ๊ฐ์ ํ ๊ธฐํ๊ฐ ์์
- ์ด ๋ ๊ฐ์ง ๊ด์ฐฐ์ ์ข ์ข ๋ฆฌ๋๋ฅผ ์ค๋ํ์ฌ ๋น์ฉ์ ๋๋ฆฌ๊ณ ํ์ง์ ๋จ์ด๋จ๋ฆฌ๋ฉด์ LLM์ผ๋ก ์์คํ ์ ์ฑ๊ธํ๊ฒ ๊ฐ์กฐํ๊ณ ์ธ์กฐ์ ํ์์ฌ ๊ฐํ "AI" ๊ธฐ๋ฅ์ผ๋ก ์ถ์ํ๊ฒ ๋ง๋ฆ. ์ง๊ธ์ ๋๋ ค์ํ๋ ๋ฐ์ง์ด ์์ด์ฝ์ด ์์ฑ๋จ
- ๋ ๋์ ๋ฐฉ๋ฒ์ด ์์: ์ ํ ๋ชฉํ์ ์ง์ ์ผ๋ก ๋ถํฉํ๊ณ ํต์ฌ ์ด์์ ๊ฐํํ๋ LLM ์ ํ๋ฆฌ์ผ์ด์ ์ ์ง์คํ ๊ฒ
- ํ์ ์๊ฐ์ ๋ญ๋นํ๋ ๋ช ๊ฐ์ง ์๋ชป๋ ์๋๋ฅผ ๊ณ ๋ คํด ๋ณด์
- ๋น์ฆ๋์ค๋ฅผ ์ํ ๋ง์ถคํ text-to-SQL ๊ธฐ๋ฅ ๊ตฌ์ถ
- ๋ฌธ์์ ๋ํํ ์ ์๋ ์ฑ๋ด ๊ตฌ์ถ
- ํ์ฌ ์ง์ ๋ฒ ์ด์ค๋ฅผ ๊ณ ๊ฐ ์ง์ ์ฑ๋ด๊ณผ ํตํฉ
- ์์ ์ฌํญ๋ค์ด LLM ์ ํ๋ฆฌ์ผ์ด์
์ ํฌ๋ก ์๋์ด์ง๋ง ์ ํ ํ์ฌ๊ฐ ์ง์ ๊ตฌ์ถํ๋ ๊ฒ์ ์ด์น์ ๋ง์ง ์์
- ์ด๋ ๋ง์ ๋น์ฆ๋์ค์ ๊ณตํต๋ ์ผ๋ฐ์ ์ธ ๋ฌธ์ ๋ก ์ ๋งํ ๋ฐ๋ชจ์ ์ ๋ขฐํ ์ ์๋ ๊ตฌ์ฑ ์์ ์ฌ์ด์ ๊ฒฉ์ฐจ๊ฐ ํฌ๋ฉฐ ์ํํธ์จ์ด ํ์ฌ์ ๊ด๋ก์ ์์ญ์
- ํ์ฌ Y Combinator ๋ฐฐ์น์์ ๋๊ท๋ชจ๋ก ํด๊ฒฐํ๊ณ ์๋ ์ผ๋ฐ์ ์ธ ๋ฌธ์ ์ ๊ท์คํ R&D ์์์ ํฌ์ํ๋ ๊ฒ์ ๋ญ๋น์
- ์ด๊ฒ์ด ์ง๋ถํ ๋น์ฆ๋์ค ์กฐ์ธ์ฒ๋ผ ๋ค๋ฆฐ๋ค๋ฉด ํ์ฌ ๊ณผ๋ ๊ด๊ณ ๋ฌผ๊ฒฐ์ ๋ค๋ฌ ํฅ๋ถ ์์์ "LLM"์ด๋ผ๋ ๊ฒ์ ์ต์ฒจ๋จ์ ์ฐจ๋ณํ๋ ๊ฒ์ผ๋ก ์คํดํ๊ธฐ ์ฝ๊ณ ์ด๋ฏธ ๋ก์๋น ์ง ์ ํ๋ฆฌ์ผ์ด์ ์ ๋์น๊ธฐ ์ฝ๊ธฐ ๋๋ฌธ์
AI๋ฅผ ๋ฃจํ์์ ๋ฃ๊ณ , ์ฌ๋์ ์ค์ฌ์ ๋ ๊ฒ
- ํ์ฌ LLM ๊ธฐ๋ฐ ์ ํ๋ฆฌ์ผ์ด์ ์ ์ทจ์ฝํจ. ์์ฒญ๋ ์์ ์์ ์กฐ์น์ ๋ฐฉ์ด์ ์์ง๋์ด๋ง์ด ํ์ํ์ง๋ง ์ฌ์ ํ ์์ธกํ๊ธฐ ์ด๋ ค์. ๊ฒ๋ค๊ฐ ์๊ฒฉํ๊ฒ ๋ฒ์๊ฐ ์ง์ ๋๋ฉด ์ด๋ฌํ ์ ํ๋ฆฌ์ผ์ด์ ์ ์์ฒญ๋๊ฒ ์ ์ฉํ ์ ์์. ์ด๋ LLM์ด ์ฌ์ฉ์ ์ํฌํ๋ก๋ฅผ ๊ฐ์ํํ๋ ํ๋ฅญํ ๋๊ตฌ๊ฐ ๋๋ค๋ ๊ฒ์ ์๋ฏธํจ
- LLM ๊ธฐ๋ฐ ์ ํ๋ฆฌ์ผ์ด์
์ด ์ํฌํ๋ก๋ฅผ ์์ ํ ๋์ฒดํ๊ฑฐ๋ ์ง๋ฌด ๊ธฐ๋ฅ์ ๋์ ํ๋ ๊ฒ์ ์์ํ๊ณ ์ถ์ ์ ์์ง๋ง, ์ค๋๋ ๊ฐ์ฅ ํจ๊ณผ์ ์ธ ํจ๋ฌ๋ค์์ ์ธ๊ฐ-์ปดํจํฐ ์ผํ์ฐ๋ก์ค(Centaur chess)์
- ์ ๋ฅํ ์ธ๊ฐ์ด ์์ ์ ๋น ๋ฅธ ํ์ฉ์ ์ํด ์กฐ์ ๋ LLM ๊ธฐ๋ฅ๊ณผ ๊ฒฐํฉํ๋ฉด ์์ ์ ์ํํ๋ ์์ฐ์ฑ๊ณผ ํ๋ณต๊ฐ์ด ํฌ๊ฒ ํฅ์๋ ์ ์์
- LLM์ ๋ํ์ ์ธ ์ ํ๋ฆฌ์ผ์ด์
์ค ํ๋์ธ GitHub CoPilot์ ์ด๋ฌํ ์ํฌํ๋ก์ ํ์ ์
์ฆํ์
- "์ ๋ฐ์ ์ผ๋ก ๊ฐ๋ฐ์๋ค์ GitHub Copilot๊ณผ GitHub Copilot Chat์ ์ฌ์ฉํ ๋ ์ฝ๋ฉ์ด ๋ ์ฝ๊ณ , ์ค๋ฅ๊ฐ ์ ์ผ๋ฉฐ, ๊ฐ๋ ์ฑ์ด ๋๊ณ , ์ฌ์ฌ์ฉ์ฑ์ด ๋์ผ๋ฉฐ, ๊ฐ๊ฒฐํ๊ณ , ์ ์ง ๊ด๋ฆฌ๊ฐ ์ฉ์ดํ๋ฉฐ, ํ๋ ฅ์ ์ด๋ผ๊ณ ๋๊ผ๋ค๊ณ ๋งํ์ต๋๋ค." - Mario Rodriguez, GitHub
- ์ค๋ซ๋์ ML ์์
์ ํด์จ ์ฌ๋๋ค์ "human-in-the-loop"๋ผ๋ ์์ด๋์ด์ ๋น ๋ฅด๊ฒ ๋๋ฌํ ์ ์์ง๋ง ๊ทธ๋ ๊ฒ ์๋๋ฅด์ง ๋ง ๊ฒ
- HITL ๋จธ์ ๋ฌ๋์ ML ๋ชจ๋ธ์ด ์์ธก๋๋ก ๋์ํ๋๋ก ๋ณด์ฅํ๋ ์ธ๊ฐ ์ ๋ฌธ๊ฐ์ ๊ธฐ๋ฐํ ํจ๋ฌ๋ค์์
- ์ฌ๊ธฐ์ ์ ์ํ๋ ๊ฒ์ ๊ด๋ จ๋๊ธฐ๋ ํ์ง๋ง ๋ ๋ฏธ๋ฌํ ๊ฒ์. LLM ๊ธฐ๋ฐ ์์คํ ์ ์ค๋๋ ๋๋ถ๋ถ์ ์ํฌํ๋ก์ ์ฃผ์ ๋๋ ฅ์ด ๋์ด์๋ ์ ๋๋ฉฐ, ๋จ์ํ ์์์ด ๋์ด์ผ ํจ
- ์ธ๊ฐ์ ์ค์ฌ์ ๋๊ณ LLM์ด ์ด๋ป๊ฒ ์ํฌํ๋ก๋ฅผ ์ง์ํ ์ ์๋์ง ๋ฌป๋ ๊ฒ์ ์ ํ ๋ฐ ์ค๊ณ ๊ฒฐ์ ์ ์๋นํ ๋ค๋ฅธ ์ํฅ์ ๋ฏธ์นจ
- ๊ถ๊ทน์ ์ผ๋ก LLM์ ๋ชจ๋ ์ฑ ์์ ์ ์ํ๊ฒ ์์์์ฑํ๋ ค๋ ๊ฒฝ์์ ์ฒด์๋ ๋ค๋ฅธ ์ ํ, ์ฆ ๋ ๋์ ์ ํ, ๋ ์ ์ฉํ๊ณ ๋ ์ํํ ์ ํ์ ๋ง๋ค๊ฒ ๋ ๊ฒ์
์ ๋ต 3. ํ๋กฌํํ , Eval, ๋ฐ์ดํฐ ์์ง์ผ๋ก ์์ํ๊ธฐ
- ์ด์ ์น์
์์๋ ๊ธฐ์ ๊ณผ ์กฐ์ธ์ ํ๋ ฅ์ ์์๋ถ์์. ๋ฐ์๋ค์ด๊ธฐ์ ๋ง์ ์์. ์ ์ฉํ ์กฐ์ธ์ ์ต์ ์งํฉ์ ๊ณ ๋ คํด ๋ณด์.
- ํ์ด LLM ์ ํ์ ๋ง๋ค๊ณ ์ถ๋ค๋ฉด ์ด๋์๋ถํฐ ์์ํด์ผ ํ ๊น?
- ์ง๋ 1๋ ๋์ ์ฑ๊ณต์ ์ธ LLM ์ ํ๋ฆฌ์ผ์ด์ ์ ์ผ๊ด๋ ๊ถค์ ์ ๋ฐ๋ฅธ๋ค๋ ๊ฒ์ ํ์ ํ ๋งํผ ์ถฉ๋ถํ ๋ด์์. ์ด ์น์ ์์๋ ์ด ๊ธฐ๋ณธ์ ์ธ "์์ํ๊ธฐ" ํ๋ ์ด๋ถ์ ์ดํด๋ณผ ๊ฒ์
- ํต์ฌ ์์ด๋์ด๋ ๊ฐ๋จํ๊ฒ ์์ํ๊ณ ํ์์ ๋ฐ๋ผ ๋ณต์ก์ฑ์ ์ถ๊ฐํ๋ ๊ฒ์
- Rule of Thumb : ๊ฐ ์์ค์ ์ ๊ตํจ์ ์ผ๋ฐ์ ์ผ๋ก ์ด์ ๋จ๊ณ๋ณด๋ค ์ต์ํ ํ ์๋ฆฟ์ ์ด์์ ๋ ธ๋ ฅ์ด ํ์ํ๋ค๋ ๊ฒ์. ์ด๋ฅผ ์ผ๋์ ๋๊ณ ...
ํ๋กฌํํธ ์์ง๋์ด๋ง์ด 1์์
- ํ๋กฌํํธ ์์ง๋์ด๋ง๋ถํฐ ์์ํ ๊ฒ
- ์ด์ ์ ์ ์ ์น์ ์์ ๋ ผ์ํ ๋ชจ๋ ๊ธฐ์ ์ ์ฌ์ฉํ ๊ฒ
- Chain-of-thought, n-shot ์์ , ๊ตฌ์กฐํ๋ ์ ์ถ๋ ฅ์ ๊ฑฐ์ ํญ์ ์ข์ ์์ด๋์ด์
- ์ฝํ ๋ชจ๋ธ์์ ์ฑ๋ฅ์ ์ง๋ด๊ธฐ ์ ์ ๊ฐ์ฅ ์ฑ๋ฅ์ด ๋์ ๋ชจ๋ธ๋ก ํ๋กํ ํ์ ์ ๋ง๋ค ๊ฒ
- ํ๋กฌํํธ ์์ง๋์ด๋ง์ผ๋ก ์ํ๋ ์ฑ๋ฅ ์์ค์ ๋ฌ์ฑํ ์ ์๋ ๊ฒฝ์ฐ์๋ง ํ์ธํ๋์ ๊ณ ๋ คํด์ผ ํจ
- ๋ ์ ๋ชจ๋ธ ์ฌ์ฉ์ ์ฐจ๋จํ๊ณ ์์ฒด ํธ์คํ ์ ์๊ตฌํ๋ ๋น๊ธฐ๋ฅ์ ์๊ตฌ์ฌํญ(์: ๋ฐ์ดํฐ ํ๋ผ์ด๋ฒ์, ์์ ํ ์ ์ด, ๋น์ฉ)์ด ์๋ ๊ฒฝ์ฐ ๋ ์์ฃผ ๋ฐ์ํ ๊ฒ์
- ๋์ผํ ํ๋ผ์ด๋ฒ์ ์๊ตฌ์ฌํญ์ด ํ์ธํ๋์ ์ํด ์ฌ์ฉ์ ๋ฐ์ดํฐ ์ฌ์ฉ์ ์ฐจ๋จํ์ง ์๋๋ก ์ฃผ์ํ ๊ฒ
ํ๊ฐ๋ฅผ ๋ง๋ค๊ณ ๋ฐ์ดํฐ ํ๋ผ์ดํ ์์ํ๊ธฐ
- ๋ง ์์ํ๋ ํ๋ ํ๊ฐ(evals)๊ฐ ํ์ํจ. ๊ทธ๋ ์ง ์์ผ๋ฉด ํ๋กฌํํธ ์์ง๋์ด๋ง์ด ์ถฉ๋ถํ์ง ๋๋ ํ์ธํ๋๋ ๋ชจ๋ธ์ด ๊ธฐ๋ณธ ๋ชจ๋ธ์ ๋์ฒดํ ์ค๋น๊ฐ ๋์๋์ง ์ ์ ์์
- ํจ๊ณผ์ ์ธ ํ๊ฐ๋ ์์
์ ํนํ๋์ด ์์ผ๋ฉฐ ์๋ํ ์ฌ์ฉ ์ฌ๋ก๋ฅผ ๋ฐ์ํจ
- ๊ถ์ฅํ๋ ์ฒซ ๋ฒ์งธ ์์ค์ ํ๊ฐ๋ ๋จ์ ํ ์คํธ์
- ์ด๋ฌํ ๊ฐ๋จํ ์ด์ค์ ์ ์๋ ค์ก๊ฑฐ๋ ๊ฐ์ค๋ก ์ค์ ๋ ์คํจ ๋ชจ๋๋ฅผ ๊ฐ์งํ๊ณ ์ด๊ธฐ ์ค๊ณ ๊ฒฐ์ ์ ๋ด๋ฆฌ๋ ๋ฐ ๋์์ด ๋จ
- ๋ถ๋ฅ, ์์ฝ ๋ฑ์ ์ํ ๋ค๋ฅธ ์์ ๋ณ ํ๊ฐ๋ ์ฐธ์กฐํ ๊ฒ
- ๋จ์ ํ
์คํธ์ ๋ชจ๋ธ ๊ธฐ๋ฐ ํ๊ฐ๋ ์ ์ฉํ์ง๋ง ์ธ๊ฐ ํ๊ฐ์ ํ์์ฑ์ ๋์ฒดํ์ง๋ ์์
- ์ฌ๋๋ค์ด ๋ชจ๋ธ/์ ํ์ ์ฌ์ฉํ๊ณ ํผ๋๋ฐฑ์ ์ ๊ณตํ๋๋ก ํ ๊ฒ
- ์ด๋ ์ค์ ์ฑ๋ฅ๊ณผ ๊ฒฐํจ๋ฅ ์ ์ธก์ ํ๋ ๋์์ ํฅํ ๋ชจ๋ธ์ ํ์ธํ๋ํ๋ ๋ฐ ์ฌ์ฉํ ์ ์๋ ๊ณ ํ์ง์ ์ฃผ์ ๋ฐ์ดํฐ๋ฅผ ์์งํ๋ค๋ ์ด์ค ๋ชฉ์ ์ ์ํํจ
- ์ด๋ ์๊ฐ์ด ์ง๋จ์ ๋ฐ๋ผ ๋ณต๋ฆฌ๋ก ์์ฉํ๋ ๊ธ์ ์ ์ธ ํผ๋๋ฐฑ ๋ฃจํ ๋๋ ๋ฐ์ดํฐ ํ๋ผ์ดํ ์ ๋ง๋ฆ
- ๋ชจ๋ธ ์ฑ๋ฅ์ ํ๊ฐํ๊ฑฐ๋ ๊ฒฐํจ์ ์ฐพ๊ธฐ ์ํ ์ธ๊ฐ ํ๊ฐ
- ์ฃผ์ ๋ฐ์ดํฐ๋ฅผ ์ฌ์ฉํ์ฌ ๋ชจ๋ธ์ ํ์ธํ๋ํ๊ฑฐ๋ ํ๋กฌํํธ๋ฅผ ์ ๋ฐ์ดํธ
- ๋ฐ๋ณต
- ์๋ฅผ ๋ค์ด LLM ์์ฑ ์์ฝ์ ๊ฒฐํจ์ ๊ฐ์ฌํ ๋ ๊ฐ ๋ฌธ์ฅ์ ์ฌ์ค์ ๋ถ์ผ์น, ๋ฌด๊ดํจ ๋๋ ์คํ์ผ ๋ถ๋์ ์๋ณํ๋ ์ธ๋ถํ๋ ํผ๋๋ฐฑ ๋ ์ด๋ธ์ ์ง์ ํ ์ ์์
- ๊ทธ๋ฐ ๋ค์ ์ด๋ฌํ ์ฌ์ค์ ๋ถ์ผ์น ์ฃผ์์ ์ฌ์ฉํ์ฌ ํ๊ฐ ๋ถ๋ฅ๊ธฐ๋ฅผ ํ์ต์ํค๊ฑฐ๋ ๊ด๋ จ์ฑ ์ฃผ์์ ์ฌ์ฉํ์ฌ ๊ด๋ จ์ฑ ๋ณด์ ๋ชจ๋ธ์ ํ์ต์ํฌ ์ ์์
- LinkedIn์ ํ๊ฐ, ์ฑ ์๊ฐ ์๋ AI ์๋ฐ, ์ผ๊ด์ฑ ๋ฑ์ ์ถ์ ํ๊ธฐ ์ํด ๋ชจ๋ธ ๊ธฐ๋ฐ ํ๊ฐ์๋ฅผ ์ฌ์ฉํ ์ฑ๊ณต ์ฌ๋ก๋ฅผ ๊ณต์ ํ์
- ์๊ฐ์ด ์ง๋จ์ ๋ฐ๋ผ ๊ฐ์น๊ฐ ์ฆ๋๋๋ ์์ฐ์ ์ฐฝ์ถํจ์ผ๋ก์จ, ํ๊ฐ(evals) ๊ตฌ์ถ์ ๋จ์ํ ์ด์ ๋น์ฉ์์ ์ ๋ต์ ํฌ์๋ก ์ ํํ๊ณ , ๊ทธ ๊ณผ์ ์์ ๋ฐ์ดํฐ ํ๋ผ์ดํ ์ ๊ตฌ์ถ
์ ๋ต 4. ์ ๋น์ฉ ์ธ์ง์ ๊ณ ์ฐจ์์ ์ถ์ธ (The high-level trend of low-cost cognition)
- 1971๋
Xerox PARC์ ์ฐ๊ตฌ์๋ค์ ์ฐ๋ฆฌ๊ฐ ํ์ฌ ์ด๊ณ ์๋ ๋คํธ์ํฌ๋ก ์ฐ๊ฒฐ๋ ๊ฐ์ธ์ฉ ์ปดํจํฐ์ ์ธ๊ณ๋ฅผ ์์ธกํ์
- ๊ทธ๋ค์ ์ด๋ฅผ ๊ฐ๋ฅํ๊ฒ ํ ๊ธฐ์ (์ด๋๋ท, ๊ทธ๋ํฝ ๋ ๋๋ง, ๋ง์ฐ์ค, ์๋์ฐ ๋ฑ)์ ๋ฐ๋ช ์ ์ค์ถ์ ์ธ ์ญํ ์ ํจ์ผ๋ก์จ ๊ทธ ๋ฏธ๋๋ฅผ ํ์์ํค๋ ๋ฐ ๊ธฐ์ฌํ์
- ๊ทธ๋ค์ ๋ํ ๊ฐ๋จํ ์ฐ์ต์ ํ์
- ๋งค์ฐ ์ ์ฉํ์ง๋ง(์: ๋น๋์ค ๋์คํ๋ ์ด) ์์ง ๊ฒฝ์ ์ ์ด์ง ์์(๋น๋์ค ๋์คํ๋ ์ด๋ฅผ ๊ตฌ๋ํ๊ธฐ์ ์ถฉ๋ถํ RAM์ด ์์ฒ ๋ฌ๋ฌ) ์ ํ๋ฆฌ์ผ์ด์ ์ ์ดํด๋ด
- ๊ทธ๋ฐ ๋ค์ ํด๋น ๊ธฐ์ ์ ์ญ์ฌ์ ๊ฐ๊ฒฉ ์ถ์ธ(๋ฌด์ด์ ๋ฒ์น๊ณผ ์ ์ฌ)๋ฅผ ์ดํด๋ณด๊ณ ๊ทธ ๊ธฐ์ ์ด ์ธ์ ๊ฒฝ์ ์ ์ด ๋ ์ง ์์ธกํจ
- LLM ๊ธฐ์ ์ ๋ํด์๋ ๊ฐ์ ์์
์ ํ ์ ์์. ๋น๋ก ๋ฌ๋ฌ๋น ํธ๋์ง์คํฐ ์๋งํผ ๊น๋ํ ๊ฒ์ ์๋์ง๋ง
- ์ค๋ซ๋์ ์ฌ์ฉ๋ ์ธ๊ธฐ ์๋ ๋ฒค์น๋งํฌ(์: Massively-Multitask Language Understanding ๋ฐ์ดํฐ์ )์ ์ผ๊ด๋ ์ ๋ ฅ ์ ๊ทผ ๋ฐฉ์(5-shot ํ๋กฌํํ )์ ์ ํ
- ๊ทธ๋ฐ ๋ค์ ์๊ฐ์ด ์ง๋จ์ ๋ฐ๋ผ ์ด ๋ฒค์น๋งํฌ์์ ๋ค์ํ ์ฑ๋ฅ ์์ค์ ๊ฐ์ง ์ธ์ด ๋ชจ๋ธ์ ์คํํ๋ ๋น์ฉ์ ๋น๊ต
- ๊ณ ์ ๋น์ฉ์ ๋ํด ๋ฅ๋ ฅ์ด ๋น ๋ฅด๊ฒ ์ฆ๊ฐํ๊ณ ์์. ๊ณ ์ ๋ ๋ฅ๋ ฅ ์์ค์ ๋ํด ๋น์ฉ์ด ๋น ๋ฅด๊ฒ ๊ฐ์ํ๊ณ ์์
- OpenAI์ davinci ๋ชจ๋ธ์ด API๋ก ์ถ์๋ ์ดํ 4๋ ๋์, 100๋ง ํ ํฐ(์ด ๋ฌธ์์ ์ฝ 100๊ฐ ์ฌ๋ณธ) ๊ท๋ชจ์์ ๊ทธ ์์ ์ ์์ํ๋ ์ฑ๋ฅ์ ๊ฐ์ง ๋ชจ๋ธ์ ์คํํ๋ ๋น์ฉ์ $20์์ 10์ผํธ ๋ฏธ๋ง์ผ๋ก ๋จ์ด์ก์. ๋ฐ๊ฐ๊ธฐ๋ ๋ถ๊ณผ 6๊ฐ์์
- ์ ์ฌํ๊ฒ 2024๋ 5์ ๊ธฐ์ค API ์ ๊ณต์ ์ฒด๋ฅผ ํตํ๊ฑฐ๋ ์์ฒด์ ์ผ๋ก Meta์ LLaMA 3 8B๋ฅผ ์คํํ๋ ๋น์ฉ์ ํ ํฐ 100๋ง ๊ฐ๋น 20์ผํธ์ ๋ถ๊ณผํ๋ฉฐ ChatGPT๋ฅผ ๊ฐ๋ฅํ๊ฒ ํ ๋ชจ๋ธ์ธ OpenAI์ text-davinci-003๊ณผ ์ ์ฌํ ์ฑ๋ฅ์ ๋ณด์
- ํด๋น ๋ชจ๋ธ์ 2023๋ 11์ ๋ง ์ถ์ ๋น์์๋ ํ ํฐ 100๋ง ๊ฐ๋น ์ฝ $20์ ๋น์ฉ์ด ๋ค์์. ๋ถ๊ณผ 18๊ฐ์ ๋ง์ ๋ ์๋ฆฟ์ ์ฐจ์ด๊ฐ ๋จ. ๋ฌด์ด์ ๋ฒ์น์ด ์์ธกํ๋ ๋จ์ํ ๋ ๋ฐฐ ์ฆ๊ฐ์ ๋์ผํ ๊ธฐ๊ฐ์
- ์ด์ ๋งค์ฐ ์ ์ฉํ์ง๋ง(Park et al๊ณผ ๊ฐ์ ์์ฑ์ ๋น๋์ค ๊ฒ์ ์บ๋ฆญํฐ ๊ตฌ๋) ์์ง ๊ฒฝ์ ์ ์ด์ง ์์(์๊ฐ๋น ๋น์ฉ์ด $625๋ก ์ถ์ ๋จ) LLM ์ ํ๋ฆฌ์ผ์ด์
์ ๊ณ ๋ คํด ๋ณด์
- ํด๋น ๋ ผ๋ฌธ์ด 2023๋ 8์์ ๋ฐํ๋ ์ดํ ๋น์ฉ์ ์๊ฐ๋น ์ฝ $62.50๋ก ํ ์๋ฆฟ์ ์ ๋ ๋จ์ด์ก์
- 9๊ฐ์ ํ์๋ ์๊ฐ๋น $6.25๋ก ๋จ์ด์ง ๊ฒ์ผ๋ก ์์ํ ์ ์์
- ํํธ ํฉ๋งจ์ด 1980๋
์ ์ถ์๋์์ ๋ ์ค๋๋ ์ $1๋ก ๋ช ๋ถ ๋๋ ๋ช ์ญ ๋ถ ๋์ ํ๋ ์ดํ ์ ์๋ ํฌ๋ ๋ง์ ์ด ์ ์์์. ์๊ฐ๋น 6๊ฒ์ ๋๋ ์๊ฐ๋น $6๋ผ๊ณ ๋ถ๋ฆ
- ์ด ๋ ํจ ๊ณ์ฐ์ ๋งค๋ ฅ์ ์ธ LLM ๊ฐํ ๊ฒ์ ๊ฒฝํ์ด 2025๋ ๊ฒฝ์๋ ๊ฒฝ์ ์ ์ด ๋ ๊ฒ์์ ์์ฌํจ
- ์ด๋ฌํ ์ถ์ธ๋ ์๋ก์ด ๊ฒ์ด๋ฉฐ ๋ถ๊ณผ ๋ช ๋
๋์ง ์์์. ๊ทธ๋ฌ๋ ์์ผ๋ก ๋ช ๋
๋์ ์ด ๊ณผ์ ์ด ๋๋ ค์ง ๊ฒ์ด๋ผ๊ณ ๊ธฐ๋ํ ๋งํ ์ด์ ๋ ๊ฑฐ์ ์์
- ๋งค๊ฐ๋ณ์๋น ~20 ํ ํฐ์ "Chinchilla ๋น์จ"์ ๋์ด ์ค์ผ์ผ๋งํ๋ ๊ฒ๊ณผ ๊ฐ์ ์๊ณ ๋ฆฌ์ฆ๊ณผ ๋ฐ์ดํฐ์ ์ ๋ฎ๊ฒ ๋งค๋ฌ๋ฆฐ ๊ณผ์ผ์ ์ฌ์ฉํ๋๋ผ๋, ๋ฐ์ดํฐ ์ผํฐ ๋ด๋ถ์ ์ค๋ฆฌ์ฝ ๊ณ์ธต์์์ ๋ ๊น์ ํ์ ๊ณผ ํฌ์๋ ๊ทธ ๊ฒฉ์ฐจ๋ฅผ ๋ฉ์ธ ๊ฒ์
- ๊ทธ๋ฆฌ๊ณ ์ด๊ฒ์ด ์๋ง๋ ๊ฐ์ฅ ์ค์ํ ์ ๋ต์ ์ฌ์ค์ผ ๊ฒ์
- ์ค๋๋ ์์ ํ ์คํ ๋ถ๊ฐ๋ฅํ ํ๋ก์ด ๋ฐ๋ชจ๋ ์ฐ๊ตฌ ๋ ผ๋ฌธ์ด ๋ช ๋ ํ์๋ ํ๋ฆฌ๋ฏธ์ ๊ธฐ๋ฅ์ด ๋๊ณ ๊ทธ ์งํ์๋ ์ํ์ด ๋ ๊ฒ์
- ์ด๋ฅผ ์ผ๋์ ๋๊ณ ์์คํ ๊ณผ ์กฐ์ง์ ๊ตฌ์ถํด์ผ ํจ
[0์์ 1๋ก ๊ฐ๋ ๋ฐ๋ชจ๋ ์ด์ ์ถฉ๋ถํจ. ์ด์ ๋ 1์์ N์ผ๋ก ๊ฐ๋ ์ ํ์ ๋ง๋ค ๋]
- LLM ๋ฐ๋ชจ๋ฅผ ๋ง๋๋ ๊ฒ์ ์ ๋ง ์ฌ๋ฏธ์์. ๋ช ์ค์ ์ฝ๋, ๋ฒกํฐ ๋ฐ์ดํฐ๋ฒ ์ด์ค, ์ ์คํ๊ฒ ์์ฑ๋ ํ๋กฌํํธ๋ก "๋ง๋ฒ" ์ ๋ง๋ค์ด๋
- ์ง๋ 1๋ ๋์ ์ด ๋ง๋ฒ์ ์ธํฐ๋ท, ์ค๋งํธํฐ, ์ฌ์ง์ด ์ธ์์ ๊ณผ ๋น๊ต๋์์
- ์ํ๊น๊ฒ๋ ์ค์ ์ํํธ์จ์ด ์ถ์ ์์ ์ ํด๋ณธ ์ฌ๋์ด๋ผ๋ฉด ๋๊ตฌ๋ ์๊ณ ์๋ฏ์ด, ํต์ ๋ ํ๊ฒฝ์์ ์๋ํ๋ ๋ฐ๋ชจ์ ๋๊ท๋ชจ๋ก ์์ ์ ์ผ๋ก ์๋ํ๋ ์ ํ ์ฌ์ด์๋ ์์ฒญ๋ ์ฐจ์ด๊ฐ ์์
- ์์ํ๊ณ ๋ฐ๋ชจ๋ฅผ ๋ง๋๋ ๊ฒ์ ์ฝ์ง๋ง ์ ํ์ผ๋ก ๋ง๋๋ ๊ฒ์ ๋งค์ฐ ์ด๋ ค์ด ๋ฌธ์ ๋ค์ด ๋ง์
- ์๋ฅผ ๋ค์ด ์์จ ์ฃผํ: ์๋์ฐจ๊ฐ ํ ๋ธ๋ก์ ์์จ ์ฃผํํ๋ ๊ฒ์ ์ฝ๊ฒ ์์ฐํ ์ ์์ง๋ง, ์ด๋ฅผ ์ ํ์ผ๋ก ๋ง๋๋ ๋ฐ๋ 10๋ ์ด ๊ฑธ๋ฆผ - Andrej Karpathy
- ์์จ ์ฃผํ์ฐจ๋ฅผ ์๋ก ๋ค์ด๋ณด์
- 1988๋ ์ ๊ฒฝ๋ง์ผ๋ก ์ด์ ๋๋ ์ฒซ ๋ฒ์งธ ์๋์ฐจ๊ฐ ๋ฑ์ฅํ์
- 25๋ ํ Andrej Karpathy๋ Waymo์์ ์ฒซ ๋ฒ์งธ ๋ฐ๋ชจ ๋ผ์ด๋๋ฅผ ํ์
- ๊ทธ๋ก๋ถํฐ 10๋ ํ ํ์ฌ๋ ๋ฌด์ธ ์ด์ ํ๊ฐ๋ฅผ ๋ฐ์์
- ํ๋กํ ํ์ ์์ ์์ฉ ์ ํ์ผ๋ก ๊ฐ๊ธฐ๊น์ง 35๋ ๋์ ์๊ฒฉํ ์์ง๋์ด๋ง, ํ ์คํธ, ๊ฐ์ , ๊ท์ ํ์์ด ์ด๋ฃจ์ด์ก์
- ์ฐ์
๊ณ์ ํ๊ณ ์ ๋ฐ์ ๊ฑธ์ณ ์ง๋ 1๋
๋์์ ๊ธฐ๋ณต์ ๊ด์ฐฐํ์ : LLM ์ ํ๋ฆฌ์ผ์ด์
์ 1๋
์ฐจ (Year 1 of N for LLM applications)
- ํ๊ฐ, ํ๋กฌํํธ ์์ง๋์ด๋ง, ๊ฐ๋๋ ์ผ๊ณผ ๊ฐ์ ์ ์ ๋ถํฐ ์ด์ ๊ธฐ์ , ํ ๊ตฌ์ถ, ๋ด๋ถ์ ์ผ๋ก ๊ตฌ์ถํ ๊ธฐ๋ฅ ์ ํ๊ณผ ๊ฐ์ ์ ๋ต์ ๊ด์ ์ ์ด๋ฅด๊ธฐ๊น์ง ์ฐ๋ฆฌ๊ฐ ๋ฐฐ์ด ๊ตํ์ด 2๋ ์ฐจ ์ดํ์ ๋์์ด ๋๊ธฐ๋ฅผ ๋ฐ๋
- ์ด ํฅ๋ฏธ๋ก์ด ์๋ก์ด ๊ธฐ์ ์ ํจ๊ป ๋ฐ์ ์์ผ ๋๊ฐ๊ธธ ๊ธฐ๋ํจ
์ธ์ฆ ์ด๋ฉ์ผ ํด๋ฆญํ ๋ค์ ์ฒดํฌ๋ฐ์ค๋ฅผ ๋๋ฌ์ฃผ์ธ์