BAAR2-150M
๐ Official Website: https://baar.uk/model/
๐ License: Non-Commercial Only (Contact for Commercial Use)
๐ Model Overview
BAAR2-150M is a lightweight multilingual language model designed for fast, resource-efficient inference across 11 languages. Optimized for low latency and minimal compute environments, it enables responsive real-time generation on edge devices, mobile platforms, and resource-constrained servers.
BAAR2-150M ์ ์ ์ฌ์ ํ๋์จ์ด ๋ฐ ๋ฆฌ์์ค ์ ์ฝ ํ๊ฒฝ์์๋ ๋น ๋ฅด๊ณ ์์ ์ ์ธ ๋์์ด ๊ฐ๋ฅํ๋๋ก ์ค๊ณ๋ 1.5์ต(150M) ํ๋ผ๋ฏธํฐ ๊ท๋ชจ์ ์ด๊ฒฝ๋ ๋ค๊ตญ์ด ์ธ์ด ๋ชจ๋ธ์ ๋๋ค. ์ง์ฐ ์๊ฐ(Latency)์ ์ต์ํํ์ฌ ์จ๋๋ฐ์ด์ค(Edge), ์ค์๊ฐ ๋ํ, ๊ฒฝ๋ RAG(๊ฒ์ ์ฆ๊ฐ ์์ฑ) ์์คํ ๋ฑ์ ์ต์ ํ๋์ด ์์ต๋๋ค.
๐ Live Sample Inference
Hardware: Single NVIDIA Tesla T4 | FP16 Inference
| Task / Category | Prompt | Generated Output | Latency |
|---|---|---|---|
| Korean General QA | ๋ํ๋ฏผ๊ตญ์ ์๋๋ ์ด๋์ธ๊ฐ์? | ๋ํ๋ฏผ๊ตญ์ ์๋๋ ์์ธ์
๋๋ค. ๊ฐ์ธ์ ์ผ๋ก, ์ด ์ง์ญ์ ์๋๊ฐ ๋ |
~1451.0ms |
| English General QA | What is artificial intelligence? | A comprehensive machine that is designed to perform tasks that normally require |
~671.2ms |
| KO-to-EN Translation (1) | ์๋ ์ด ์์ด๋ก ๋ญ์ผ? | ์๋
์ ์์ด๋ก Hello ์
๋๋ค. |
~390.0ms |
| KO-to-EN Translation (2) | ์ฌ๊ณผ๊ฐ ์์ด๋ก ๋ญ์ผ? | ์ฌ๊ณผ๋ ์์ด๋ก apple ์
๋๋ค. |
~359.4ms |
| EN-to-KO Translation | What is 'Seoul' in Korean? | A company that is a company that operates in the United |
~571.1ms |
| Japanese General QA | ๆฅๆฌใฎ้ฆ้ฝใฏใฉใใงใใ๏ผ | ๆฅๆฌใฎ้ฆ้ฝใฏใ ๆฑไบฌ้ฝๅๆนใซใใ |
~661.0ms |
๐ Retrieval-Augmented Generation (RAG) Benchmark
This benchmark demonstrates the end-to-end performance of coupling a real-time vector retrieval pipeline with BAAR2-150M generation. It highlights the ultra-low latency response times and context-utilization capabilities achievable within an ultra-lightweight 150M-parameter footprint.
์ค์๊ฐ ๋ฒกํฐ ๊ฒ์(Retrieval)๊ณผ BAAR2-150M ์์ฑ์ ๊ฒฐํฉํ RAG ํ์ดํ๋ผ์ธ ํ ์คํธ ๊ฒฐ๊ณผ์ ๋๋ค. 150M ํ๋ผ๋ฏธํฐ ๊ฒฝ๋ ๋ชจ๋ธ์ ๊ทน๋ํ๋ ์ถ๋ก ์๋์ ์ธ๋ถ ๋ฌธ๋งฅ(Context) ํ์ฉ ๋ฅ๋ ฅ์ ๋ณด์ฌ์ค๋๋ค.
===========================================================================
๐ [Starting Real-Time RAG Q&A]
===========================================================================
[1/4] ๐ค ์ง๋ฌธ: ์์ดํฐ 16 ํ๋ก ๊ฐ์ฅ ์ผ ๋ชจ๋ธ ์ผ๋ง๋ถํฐ ์์ํด?
๐ ๊ฒ์๋ ๋ฌธ์ (์ ์ฌ๋ 0.67 | โฑ๏ธ 231.1ms):
"์์ดํฐ 16 ํ๋ก๋ ํญ๊ณต์ฐ์ฃผ ๋ฑ๊ธ ํฐํ๋ ๋์์ธ์ผ๋ก ์ ์๋์์ผ๋ฉฐ ์ถ๊ณ ๊ฐ๋ 128GB ๋ชจ๋ธ ๊ธฐ์ค 155๋ง ์๋ถํฐ ์์ํฉ..."
๐ค AI ๋ต๋ณ: ์ ๊ฐ์ธ์ ์ธ ๊ฒฌํด๋ก๋, ์์ดํฐ 16์ ๊ฐ๊ฒฉ์ด ๋๊ณ ๊ฐ๋ณ์ง (โฑ๏ธ 928.1ms)
---------------------------------------------------------------------------
[2/4] ๐ค ์ง๋ฌธ: ์ ์
์ฌ์์ด ์ฐ์ฐจ ์ฐ๋ ค๋ฉด ๋ฉฐ์น ์ ์ ์น์ธ๋ฐ์์ผ ํด?
๐ ๊ฒ์๋ ๋ฌธ์ (์ ์ฌ๋ 0.79 | โฑ๏ธ 52.5ms):
"์ฌ๋ด ์ทจ์
๊ท์น ์ 18์กฐ์ ๋ฐ๋ผ ๊ทผ์ 1๋
๋ฏธ๋ง ์ ๊ท ์
์ฌ์๋ ๋งค์ ๊ฐ๊ทผ ์ 1์ผ์ฉ ์ด 11์ผ์ ์ฐ์ฐจ๊ฐ ๋ถ์ฌ๋ฉ๋๋ค. ์ฐ..."
๐ค AI ๋ต๋ณ: 1. ์ฐ์ฐจ ์ฐ๋ ค๋ฉด 2. ์ธํธ๋ผ๋ท์ ์ฌ์ฉํ๋ ๊ฒ์ด ์ข (โฑ๏ธ 530.3ms)
---------------------------------------------------------------------------
[3/4] ๐ค ์ง๋ฌธ: ์ง๊ตฌ๊ฐ ์์ ํ๋ ๊ณผํ์ ์ด์ ๊ฐ ๋ญ์ผ?
๐ ๊ฒ์๋ ๋ฌธ์ (์ ์ฌ๋ 0.65 | โฑ๏ธ 16.0ms):
"ํ์๊ณ ํ์ฑ ์๊ธฐ์ธ ์ฝ 45์ต ๋
์ ๊ฑฐ๋ํ ๊ฐ์ค์ ๋จผ์ง๋ก ์ด๋ฃจ์ด์ง ์์ ์ฑ์ด์ด ์ค๋ ฅ์ผ๋ก ์์ถํ๋ฉด์ ๊ฐ์ด๋๋ ๋ณด์กด ๋ฒ..."
๐ค AI ๋ต๋ณ: ์ฐ์ฃผ ๊ณต๊ฐ์๋ ์ฝ 450,000๋
์ด ์์ต๋๋ค. (โฑ๏ธ 421.5ms)
---------------------------------------------------------------------------
[4/4] ๐ค ์ง๋ฌธ: ์คํ์ธ์ ์๋๋ ์ด๋์ธ๊ฐ์?
๐ ๊ฒ์๋ ๋ฌธ์ (์ ์ฌ๋ 0.81 | โฑ๏ธ 11.3ms):
"์คํ์ธ์ ๋จ์ ๋ฝ ์ด๋ฒ ๋ฆฌ์๋ฐ๋์ ์์นํ ์
ํ๊ตฐ์ฃผ์ ๊ตญ๊ฐ์
๋๋ค. ๊ตญํ ๋ฉด์ ์ ์ฝ 50๋ง ์ ๊ณฑํฌ๋ก๋ฏธํฐ์ ๋ฌํ๋ฉฐ, ๊ตญ๊ฐ์ ํ..."
๐ค AI ๋ต๋ณ: ์คํ์ธ์ ์๋๋ ๋ง๋๋ฆฌ๋์
๋๋ค. (โฑ๏ธ 271.8ms)
---------------------------------------------------------------------------
๐ License & Commercial Terms (๋ผ์ด์ ์ค ๋ฐ ์์ ์ ์ด์ฉ ์๋ด)
Non-Commercial Use Only (๋น์์ ์ ์ฐ๊ตฌยท๊ฐ์ธ ์ด์ฉ ํ์ ):
This model is strictly available for non-commercial, educational, and research purposes only. Any form of monetization (direct or indirect) without an explicit commercial license is strictly prohibited.
๋ณธ ๋ชจ๋ธ์ ์์ ์ฐ๊ตฌ, ๊ต์ก ๋ฐ ๊ฐ์ธ ๋น์๋ฆฌ ๋ชฉ์ ์ ํํด ๋ฌด๋ฃ๋ก ์ฌ์ฉํ ์ ์์ต๋๋ค. ์ฌ์ ํ๊ฐ ์๋ ์ผ์ฒด์ ์์ต ์ฐฝ์ถ ํ์(์งยท๊ฐ์ ์ ์์ ์ ์ด์ฉ)๋ ์๊ฒฉํ ๊ธ์ง๋ฉ๋๋ค.Monetization & Commercial Licensing Inquiries (์์ต ์ฐฝ์ถ ๋ฐ ์์ฉ ๋ผ์ด์ ์ค ๋ฌธ์):
If you wish to monetize, integrate this model into commercial products, provide paid services/APIs, or require enterprise-level support, you must obtain a separate commercial license. Please reach out via email for licensing terms and enterprise adoption.
๋ณธ ๋ชจ๋ธ์ ํ์ฉํ์ฌ ์์ต์ ์ฐฝ์ถํ๊ณ ์ ํ๊ฑฐ๋, ์์ฉ ์๋น์ค/์ ๋ฃ ์ ํ์ ํ์ฌ, ๋๋ ๊ธฐ์ ์ฉ ๋ง์ถค ์ ์ฉ ๋ฐ ๊ธฐ์ ์ง์์ด ํ์ํ ๊ฒฝ์ฐ ๋ฐ๋์ ๋ณ๋์ ์์ฉ ๋ผ์ด์ ์ค๋ฅผ ์ทจ๋ํ์ ์ผ ํฉ๋๋ค. ๋์ ๋ฐ ๋ผ์ด์ ์ค ๋ฐ๊ธ์ ์๋ ์ด๋ฉ์ผ๋ก ๋ฌธ์ํด ์ฃผ์๊ธฐ ๋ฐ๋๋๋ค.- Commercial Inquiries (์์ฉ ๋ผ์ด์ ์ค ๋ฌธ์): admin@099.kr
- Official Website (๊ณต์ ์น์ฌ์ดํธ): https://baar.uk/model/
โ ๏ธ Notes (์๋ด ์ฌํญ)
- Pre-trained Model: This model is a base pre-trained checkpoint. For specific tasks, factual alignment, or structured dialogue, task-specific fine-tuning (SFT) or Retrieval-Augmented Generation (RAG) is recommended.
- ๊ธฐ์ด ์ฌ์ ํ์ต ๋ชจ๋ธ: ๋ณธ ๊ฐ์ค์น๋ ์ฌ์ ํ์ต ๋จ๊ณ์ ๋ฒ ์ด์ค ๋ชจ๋ธ์ ๋๋ค. ํน์ ๋๋ฉ์ธ ์์ , ์ฌ์ค ๊ด๊ณ ๊ฒ์ฆ ๋ฐ ์ ๊ตํ ๋ํ ์์ฑ์ด ํ์ํ ๊ฒฝ์ฐ ํ์ธํ๋(SFT) ๋๋ ๊ฒ์ ์ฆ๊ฐ ์์ฑ(RAG) ํ์ดํ๋ผ์ธ๊ณผ์ ์ฐ๊ณ๋ฅผ ๊ถ์ฅํฉ๋๋ค.
๐ผ Opportunities & Contact (์ฑ์ฉ ์ ์ ๋ฐ ํฌ์ ๋ฌธ์)
This project demonstrates practical competency in custom model architecture design, end-to-end distributed training optimization, and efficient multi-language serving under compute constraints.
I am actively seeking AI Engineering / Research opportunities, team recruitment offers, and project investment/partnerships.
- Official Model Site (๋ชจ๋ธ ๊ณต์ ์น์ฌ์ดํธ): https://baar.uk/model/
- Model Adoption & Licensing (๋์ ๋ฐ ๋ผ์ด์ ์ค ๋ฌธ์): admin@099.kr
- Recruitment & Hiring Inquiries (์ฑ์ฉ ๋ฐ ํฌ์ง์ ์ ์): admin@099.kr
- Investment & Technical Collaboration (ํฌ์, ํํธ๋์ญ ๋ฐ ๊ธฐ์ ํ์ ): admin@099.kr
์ ํ๋ ํ๋์จ์ด ๋ฆฌ์์ค ํ๊ฒฝ์์ ๊ณ ํจ์จ ๋ค๊ตญ์ด ๋ชจ๋ธ ์ํคํ ์ฒ๋ฅผ ์ง์ ์ค๊ณํ๊ณ ํ๋ จ ํ์ดํ๋ผ์ธ์ ์๋ํฌ์๋๋ก ๊ตฌ์ถํ ์ ์๋ AI ์์ง๋์ด์ ๋๋ค. ์ ์ ๊ธฐ์ ์ ์ญ๋ ์์ (์ฑ์ฉ)์ด๋ ํ๋ก์ ํธ ํ์ /ํฌ์์ ๊ด์ฌ์ด ์์ผ์ ๊ธฐ์ ๋ฐ ํ์ ์ฐ๋ฝ์ ๊ธฐ๋ค๋ฆฝ๋๋ค.
- Downloads last month
- 470