Instructions to use aungzaythant/Kadoe-4B with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use aungzaythant/Kadoe-4B with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("image-text-to-text", model="aungzaythant/Kadoe-4B") messages = [ { "role": "user", "content": [ {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG"}, {"type": "text", "text": "What animal is on the candy?"} ] }, ] pipe(text=messages)# pip install -U transformers accelerate # Load model directly from transformers import AutoProcessor, AutoModelForMultimodalLM processor = AutoProcessor.from_pretrained("aungzaythant/Kadoe-4B") model = AutoModelForMultimodalLM.from_pretrained("aungzaythant/Kadoe-4B", device_map="auto") messages = [ { "role": "user", "content": [ {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG"}, {"type": "text", "text": "What animal is on the candy?"} ] }, ] inputs = processor.apply_chat_template( messages, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors="pt", ).to(model.device) outputs = model.generate(**inputs, max_new_tokens=256) print(processor.decode(outputs[0][inputs["input_ids"].shape[-1]:])) - MLX
How to use aungzaythant/Kadoe-4B with MLX:
# Make sure mlx-vlm is installed # pip install --upgrade mlx-vlm from mlx_vlm import load, generate from mlx_vlm.prompt_utils import apply_chat_template from mlx_vlm.utils import load_config # Load the model model, processor = load("aungzaythant/Kadoe-4B") config = load_config("aungzaythant/Kadoe-4B") # Prepare input image = ["http://images.cocodataset.org/val2017/000000039769.jpg"] prompt = "Describe this image." # Apply chat template formatted_prompt = apply_chat_template( processor, config, prompt, num_images=1 ) # Generate output output = generate(model, processor, formatted_prompt, image) print(output) - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use aungzaythant/Kadoe-4B with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf aungzaythant/Kadoe-4B:Q8_0 # Run inference directly in the terminal: llama cli -hf aungzaythant/Kadoe-4B:Q8_0
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf aungzaythant/Kadoe-4B:Q8_0 # Run inference directly in the terminal: llama cli -hf aungzaythant/Kadoe-4B:Q8_0
Build from source code
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf aungzaythant/Kadoe-4B:Q8_0 # Run inference directly in the terminal: ./build/bin/llama cli -hf aungzaythant/Kadoe-4B:Q8_0
Use Docker
docker model run hf.co/aungzaythant/Kadoe-4B:Q8_0
- Llama new
- LM Studio
- Jan
- vLLM
How to use aungzaythant/Kadoe-4B with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "aungzaythant/Kadoe-4B" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "aungzaythant/Kadoe-4B", "messages": [ { "role": "user", "content": [ { "type": "text", "text": "Describe this image in one sentence." }, { "type": "image_url", "image_url": { "url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg" } } ] } ] }'Use Docker
docker model run hf.co/aungzaythant/Kadoe-4B:Q8_0
- SGLang
How to use aungzaythant/Kadoe-4B with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "aungzaythant/Kadoe-4B" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "aungzaythant/Kadoe-4B", "messages": [ { "role": "user", "content": [ { "type": "text", "text": "Describe this image in one sentence." }, { "type": "image_url", "image_url": { "url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg" } } ] } ] }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "aungzaythant/Kadoe-4B" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "aungzaythant/Kadoe-4B", "messages": [ { "role": "user", "content": [ { "type": "text", "text": "Describe this image in one sentence." }, { "type": "image_url", "image_url": { "url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg" } } ] } ] }' - Ollama
How to use aungzaythant/Kadoe-4B with Ollama:
ollama run hf.co/aungzaythant/Kadoe-4B:Q8_0
- Unsloth Desktop
- Pi
How to use aungzaythant/Kadoe-4B with Pi:
Start the MLX server
# Install MLX LM: uv tool install mlx-lm # Start a local OpenAI-compatible server: mlx_lm.server --model "aungzaythant/Kadoe-4B"
Configure the model in Pi
# Install Pi: npm install -g @earendil-works/pi-coding-agent # Add to ~/.pi/agent/models.json: { "providers": { "mlx-lm": { "baseUrl": "http://localhost:8080/v1", "api": "openai-completions", "apiKey": "none", "models": [ { "id": "aungzaythant/Kadoe-4B" } ] } } }Run Pi
# Start Pi in your project directory: pi
- Docker Model Runner
How to use aungzaythant/Kadoe-4B with Docker Model Runner:
docker model run hf.co/aungzaythant/Kadoe-4B:Q8_0
- Lemonade
How to use aungzaythant/Kadoe-4B with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull aungzaythant/Kadoe-4B:Q8_0
Run and chat with the model
lemonade run user.Kadoe-4B-Q8_0
List all available models
lemonade list
- Hermes Agent
How to use aungzaythant/Kadoe-4B with Hermes Agent:
Start the MLX server
# Install MLX LM: uv tool install mlx-lm # Start a local OpenAI-compatible server: mlx_lm.server --model "aungzaythant/Kadoe-4B"
Configure Hermes
# Install Hermes: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash hermes setup # Point Hermes at the local server: hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:8080/v1 hermes config set model.default aungzaythant/Kadoe-4B
Run Hermes
hermes
- Atomic Chat
- OpenClaw
How to use aungzaythant/Kadoe-4B with OpenClaw:
Start the MLX server
# Install MLX LM: uv tool install mlx-lm # Start a local OpenAI-compatible server: mlx_lm.server --model "aungzaythant/Kadoe-4B"
Configure OpenClaw
# Install OpenClaw: npm install -g openclaw@latest # Register the local server and set it as the default model: openclaw onboard --non-interactive --mode local \ --auth-choice custom-api-key \ --custom-base-url http://127.0.0.1:8080/v1 \ --custom-model-id "aungzaythant/Kadoe-4B" \ --custom-provider-id mlx-lm \ --custom-compatibility openai \ --custom-text-input \ --accept-risk \ --skip-health
Run OpenClaw
openclaw agent --local --agent main --message "Hello from Hugging Face"
Introducing Kadoe 4B
Speaks Burmese. Now it reads Burmese, too.
I built Kadoe (ကတိုး) to learn how language models are made. It’s my learning project: I wanted to see what it takes to teach a model a language, so I picked the one I grew up with. Kadoe 4B is the result: a small Burmese chat model that also reads Burmese in photos. This is the first release, not the last. Much more is coming.
Ask it to explain something, give advice or help you write, in everyday Burmese. Show it a photo of a sign or a menu, and it reads the Burmese and answers your questions.
Fair warning: Kadoe talks like a native Burmese speaker. Casual and direct, not the stiff, formal Burmese other AI models use. My girlfriend, its very first tester, says that makes it sound a bit rude. I say it just sounds Burmese. We’re still discussing it.
Try Kadoe 4B in your browser — type a question or add a photo.
Reads closely. Still learning. So am I.
How Kadoe came together
Every model starts somewhere. Kadoe started as Alibaba’s open Qwen3.5-4B-Base, a capable model that wasn’t yet at home in Burmese. Then three steps, each one a lesson for me:
- Learning the language — continued pretraining (CPT) on Burmese. First, Burmese itself, until it stopped feeling foreign.
- Learning to chat — supervised fine-tuning (SFT). Next, to follow what you ask and hold a real conversation, instead of rambling on.
- Learning to see. Last, I gave it eyes: the vision encoder from Qwen3.5-4B, plus training to read Burmese text in images.
Chat, photos and reading. All in one model.
Compared with Qwen3.5-4B-Base, the model it started from, Kadoe 4B understands, reads and writes Burmese far better.
And it writes Burmese the way people actually speak it, not like a translation.
What it can do
- Chat in everyday Burmese — explanations, advice and help with writing.
- Read Burmese in photos — printed pages, signs, documents, receipts and menus. Handwriting is hit-and-miss.
- Answer questions about a photo’s text — the total, the date, the price of the tea leaf salad.
- Describe photos — in Burmese or English.
- Use tools — give it tools in your app (a calculator, a unit converter, the date and time, Burmese number words, web search) and Kadoe decides when to call them. It uses standard Qwen-style tool calls.
- Still speak English — but Burmese is its home ground.
Did I test it?
Yes, a lot: reading, photos and everyday chat. I chose not to post the numbers here. The test that matters is yours: snap a photo, ask something you really want to know, and see what Kadoe says.
Where it still trips up
Small model, big confidence. It makes mistakes. Watch for:
- It can be confidently wrong — facts, names and numbers, with a straight face. Check anything important.
- It has an imagination — now and then it describes things that aren’t in the photo.
- Handwriting and dense pages are harder.
More to come
Kadoe grows as I learn, so it doesn’t stop here. On the workbench now:
- Listening — Kadoe-Hear: Kadoe listening to spoken Burmese and answering, with an ear borrowed from Raj. In testing, not in this release.
- Better reading — fewer slips on handwriting and dense scanned pages.
- More faithful photos — describing only what’s really there.
- Rewriting and English — following the brief, and stronger English.
And more after that.
Downloads
All three formats are available in this repository for local inference.
| Format | Download |
|---|---|
| BF16 · full precision | Model files (Transformers) |
| MLX · 8-bit | MLX files |
| GGUF · 8-bit | GGUF files (with the vision file) |
Recommended settings: temperature 0.3, top-p 0.9, repetition penalty 1.05, thinking off. They’re already in generation_config.json, and the chat template answers without thinking by default.
Looking for speech to text? Kadoe’s older brothers, Raj 0.6B and Raj 1.7B, turn spoken Burmese into text.
License
Apache 2.0. Use it for personal projects, learning, research, and commercial use. See LICENSE and NOTICE. The original Qwen materials retain their upstream license.
Thanks for trying Kadoe. If it gets something wrong, or says it a little too directly, tell me. That’s how we both learn.
မြန်မာစာ
မြန်မာလို ပြောတတ်တယ်။ အခု မြန်မာစာ ဖတ်တတ်လာပြီ။
ကတိုးက ဘာသာစကား မော်ဒယ်တွေကို ဘယ်လိုလုပ်ရလဲ ကိုယ်တိုင် သိချင်လို့ လေ့လာရင်း လုပ်နေတဲ့ ပရောဂျက်လေးပါ။ မော်ဒယ်တစ်ခုကို ဘာသာစကားတစ်ခု သင်ပေးရတာ ဘယ်လောက်ခက်လဲ စမ်းကြည့်ချင်တော့ ငယ်ငယ်ကတည်းက ပြောလာတဲ့ မြန်မာစကားနဲ့ပဲ စလိုက်တယ်။ အဲဒီလို စမ်းရင်း ရလာတာက ကတိုး 4B (Kadoe 4B) ပါ — မြန်မာလို စကားပြောတတ်ပြီး ဓာတ်ပုံထဲက မြန်မာစာကိုပါ ဖတ်တတ်တဲ့ မော်ဒယ်လေး။ အခုက ပထမဆုံး ဗားရှင်းပဲ ရှိသေးတယ်၊ နောက်ထပ် အများကြီး လာဦးမယ်။
တစ်ခုခု ရှင်းပြခိုင်းချင်လား၊ အကြံလိုလား၊ စာရေးတာ ကူစေချင်လား — နေ့တိုင်းပြောနေကျ စကားနဲ့ပဲ မေးလိုက်ပါ။ ဆိုင်းဘုတ်ဖြစ်ဖြစ်၊ မီနူးဖြစ်ဖြစ် ဓာတ်ပုံရိုက်ပြပြီး "ဒီမှာ ဘာရေးထားလဲ" လို့ မေးကြည့်လိုက်ပါ — အထဲက မြန်မာစာကို ဖတ်ပြီး ပြန်ဖြေပေးတယ်။
ကြိုပြောထားမယ်နော် — ကတိုးက မြန်မာတစ်ယောက်လိုပဲ ပြောတယ်။ တခြား AI တွေလို ရုံးစာဖတ်နေသလို တောင့်တောင့်တင်းတင်း မဟုတ်ဘဲ ပေါ့ပေါ့ပါးပါး၊ ဒဲ့ဒိုးပဲ။ ပထမဆုံး စမ်းသုံးပေးတဲ့ ကိုယ့်ရည်းစားကတော့ ကတိုး နည်းနည်း ရိုင်းတယ်တဲ့။ ကိုယ့်ဘက်ကတော့ မြန်မာဆန်တာပါလို့ ထင်တယ်။ ဒီကိစ္စ နှစ်ယောက်သား အခုထိ ငြင်းနေတုန်းပဲ။
ကတိုး 4B ကို ဒီမှာ စမ်းသုံးကြည့်ပါ — စာရိုက်ပြီးဖြစ်ဖြစ်၊ ဓာတ်ပုံတင်ပြီးဖြစ်ဖြစ် မေးကြည့်ပါ။
ကတိုးရော ကိုယ်ရော ဆက်သင်နေတုန်းပဲ။
ကတိုး ဖြစ်လာပုံ
ကတိုးကို Alibaba ရဲ့ open မော်ဒယ် Qwen3.5-4B-Base ကနေ စလုပ်ထားတာပါ။ တော်တဲ့ မော်ဒယ် ဖြစ်ပေမဲ့ မြန်မာလိုတော့ သိပ်မကျွမ်းသေးဘူး။ အဲဒါကို အဆင့်သုံးဆင့် ခွဲပြီး သင်ပေးခဲ့တယ်၊ အဆင့်တိုင်းမှာ ကိုယ်လည်း တစ်ခုခု ပိုသိလာတယ်။
- မြန်မာစကား သင်ပေးတယ် — continued pretraining (CPT)။ ပထမဆုံး မြန်မာစကားနဲ့ ရင်းနှီးကျွမ်းဝင်လာအောင် သင်ပေးတယ်။
- စကားပြောတတ်အောင် သင်ပေးတယ် — supervised fine-tuning (SFT)။ ပြီးတော့ ခိုင်းတာကို လိုက်လုပ်တတ်အောင်၊ လျှောက်မပြောဘဲ စကားအပြန်အလှန် ပြောတတ်အောင် သင်ပေးတယ်။
- မြင်တတ်အောင် လုပ်ပေးတယ်။ နောက်ဆုံးမှာ Qwen3.5-4B ရဲ့ vision encoder ကို ယူပြီး မျက်လုံး တပ်ပေးလိုက်တယ်၊ ပြီးတော့ ပုံထဲက မြန်မာစာကို ဖတ်တတ်အောင် ထပ်သင်ပေးတယ်။
စကားပြောတာ၊ ပုံကြည့်တာ၊ စာဖတ်တာ အကုန်လုံး မော်ဒယ်တစ်ခုတည်းနဲ့ ရတယ်။
စခဲ့တဲ့ မော်ဒယ် Qwen3.5-4B-Base နဲ့ ယှဉ်ရင် ကတိုး 4B က မြန်မာလို နားလည်တာ၊ ဖတ်တာ၊ ရေးတာ အများကြီး ပိုကောင်းပါတယ်။
ပြီးတော့ ဘာသာပြန်ထားသလို မဟုတ်ဘဲ မြန်မာတွေ တကယ်ပြောနေကျအတိုင်း ရေးတယ်။
ဘာတွေ လုပ်ပေးနိုင်လဲ
- နေ့စဉ် မြန်မာလို စကားပြောဖော် — ရှင်းပြခိုင်းတာ၊ အကြံတောင်းတာ၊ စာရေးကူခိုင်းတာ အကုန်ရတယ်။
- ဓာတ်ပုံထဲက မြန်မာစာ ဖတ်ပေးတယ် — ပုံနှိပ်စာမျက်နှာ၊ ဆိုင်းဘုတ်၊ စာရွက်စာတမ်း၊ ဘောက်ချာ၊ မီနူး။ လက်ရေးကတော့ တစ်ခါမှန် တစ်ခါလွဲ။
- ပုံထဲက စာအကြောင်း မေးလို့ရတယ် — စုစုပေါင်း ဘယ်လောက်လဲ၊ ရက်စွဲက ဘယ်နေ့လဲ၊ လက်ဖက်သုပ်က ဘယ်လောက်လဲ။
- ဓာတ်ပုံထဲမှာ ဘာရှိလဲ ပြောပြတယ် — မြန်မာလိုရော၊ အင်္ဂလိပ်လိုရော။
- Tool တွေ သုံးတတ်တယ် — ဂဏန်းတွက်စက်၊ ယူနစ်ပြောင်းတာ၊ ရက်စွဲနဲ့ အချိန်၊ ဂဏန်းကို မြန်မာလို စာလုံးနဲ့ ရေးပေးတာ၊ web search စတဲ့ tool တွေကို app ထဲမှာ ထည့်ပေးထားရင် ဘယ်အချိန် ခေါ်သုံးရမလဲဆိုတာ ကတိုး သူ့ဘာသာ ဆုံးဖြတ်တယ်။ ပုံမှန် Qwen ပုံစံ tool call တွေပဲ။
- အင်္ဂလိပ်လည်း ပြောတတ်သေးတယ် — ဒါပေမဲ့ အတော်ဆုံးကတော့ မြန်မာလိုပဲ။
စမ်းသပ်ခဲ့လား
စမ်းတာပေါ့ — စာဖတ်တာ၊ ဓာတ်ပုံကြည့်တာ၊ နေ့စဉ် စကားပြောတာ အကုန် ကိုယ်တိုင် စမ်းခဲ့တယ်။ ဒါပေမဲ့ ရမှတ်တွေကိုတော့ ဒီမှာ မတင်တော့ဘူး။ ဖုန်းထဲက ဓာတ်ပုံတစ်ပုံယူ၊ တကယ်သိချင်တာ တစ်ခုမေးပြီး ကတိုး ဘာပြောလဲ ကြည့်လိုက်ပါ — အဲဒီလို စမ်းကြည့်တာ အကောင်းဆုံးပဲ။
သတိထားစရာလေးတွေ
ကတိုးက မော်ဒယ်အသေးလေး ဖြစ်တော့ မှားတာလည်း ရှိတတ်ပါတယ်။
- မသိတာကိုတောင် သိသလို ပြောတတ်တယ် — နာမည်၊ ဂဏန်း၊ အချက်အလက်တွေ မှားနိုင်လို့ အရေးကြီးတာဆို ပြန်စစ်ကြည့်ပါ။
- တစ်ခါတလေ ပုံထဲမှာ မရှိတာတွေကို ထည့်ပြောတတ်တယ်။
- လက်ရေးစာနဲ့ စာတွေ စိပ်စိပ်ရေးထားတဲ့ စာမျက်နှာတွေမှာ အမှားပိုများတယ်။
နောက်ထပ် လာဦးမယ်
ကိုယ် ပိုသိလာလေ ကတိုး ပိုတော်လာလေပဲ၊ ဒါကြောင့် ဒီမှာတင် မရပ်သေးဘူး။ အခု လုပ်နေတာတွေက —
- နားထောင်တတ်ဖို့ — မြန်မာလို ပြောတာကို နားထောင်ပြီး ပြန်ဖြေပေးမယ့် Kadoe-Hear။ နားကို Raj ဆီက ငှားထားတယ်။ စမ်းသပ်ဆဲမို့ ဒီတစ်ခါ မပါသေးဘူး။
- စာပိုကောင်းကောင်း ဖတ်ဖို့ — လက်ရေးစာနဲ့ စာစိပ်တဲ့ စာမျက်နှာတွေမှာ အမှားနည်းလာဖို့။
- ဓာတ်ပုံကို ရှိတဲ့အတိုင်း ပြောဖို့ — မရှိတာ ထည့်မပြောဖို့။
- စာပြင်ရေးတာနဲ့ အင်္ဂလိပ်လို ဖြေတာ — ခိုင်းတဲ့အတိုင်း ပြင်ရေးတတ်ဖို့နဲ့ အင်္ဂလိပ်လို ပိုကောင်းကောင်း ဖြေနိုင်ဖို့။
ဒါတွေပြီးရင်လည်း လုပ်ချင်တာတွေ ရှိသေးတယ်။
မော်ဒယ်ဖိုင်များ
ဖော်မတ် သုံးမျိုးလုံး ဒီ repository ထဲမှာ ရှိတယ်၊ ဒေါင်းပြီး ကိုယ်ပိုင်စက်ပေါ်မှာ သုံးလို့ရတယ်။
| ဖော်မတ် | မော်ဒယ်ဖိုင်များ |
|---|---|
| BF16 · full precision | မော်ဒယ်ဖိုင်များ (Transformers) |
| MLX · 8-bit | MLX ဖိုင်များ |
| GGUF · 8-bit | GGUF ဖိုင်များ (vision ဖိုင်လည်း ပါတယ်) |
သုံးစေချင်တဲ့ setting တွေက temperature 0.3၊ top-p 0.9၊ repetition penalty 1.05၊ thinking ပိတ်။ generation_config.json ထဲမှာ ပါပြီးသားပါ၊ chat template မှာလည်း thinking ကို ပိတ်ထားပြီးသား။
အသံကို စာသားပြောင်းချင်ရင်တော့ ကတိုးရဲ့ အစ်ကိုတွေ Raj 0.6B နဲ့ Raj 1.7B ကို ကြည့်ပါ။
အသုံးပြုခွင့်
Apache 2.0 လိုင်စင်ပါ။ ကိုယ်ပိုင်ပရောဂျက်၊ လေ့လာဖို့၊ သုတေသနအတွက် သုံးလို့ရသလို စီးပွားရေးအတွက်လည်း သုံးလို့ရတယ်။ အသေးစိတ်ကို LICENSE နဲ့ NOTICE မှာ ကြည့်ပါ။ မူရင်း Qwen ဖိုင်တွေကတော့ သူတို့ရဲ့ မူရင်းလိုင်စင် အတိုင်းပါ။
ကတိုးကို စမ်းသုံးပေးတဲ့အတွက် ကျေးဇူးပါ။ မှားတာ၊ ဒါမှမဟုတ် နည်းနည်း ဒဲ့လွန်းတာ တွေ့ရင် ပြောပြပေးပါ — ကတိုးရော ကိုယ်ရော အဲဒီကနေ ဆက်သင်သွားမှာပါ။
- Downloads last month
- 122
Quantized