Instructions to use minhlol/Bm-bohrium with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use minhlol/Bm-bohrium with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf minhlol/Bm-bohrium:Q4_K_M # Run inference directly in the terminal: llama cli -hf minhlol/Bm-bohrium:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf minhlol/Bm-bohrium:Q4_K_M # Run inference directly in the terminal: llama cli -hf minhlol/Bm-bohrium:Q4_K_M
Use pre-built binary
# Download pre-built binary from: # https://github.com/ggerganov/llama.cpp/releases # Start a local OpenAI-compatible server with a web UI: ./llama-server -hf minhlol/Bm-bohrium:Q4_K_M # Run inference directly in the terminal: ./llama-cli -hf minhlol/Bm-bohrium:Q4_K_M
Build from source code
git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-server llama-cli # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama-server -hf minhlol/Bm-bohrium:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama-cli -hf minhlol/Bm-bohrium:Q4_K_M
Use Docker
docker model run hf.co/minhlol/Bm-bohrium:Q4_K_M
- LM Studio
- Jan
- Ollama
How to use minhlol/Bm-bohrium with Ollama:
ollama run hf.co/minhlol/Bm-bohrium:Q4_K_M
- Unsloth Desktop
- Docker Model Runner
How to use minhlol/Bm-bohrium with Docker Model Runner:
docker model run hf.co/minhlol/Bm-bohrium:Q4_K_M
- Lemonade
How to use minhlol/Bm-bohrium with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull minhlol/Bm-bohrium:Q4_K_M
Run and chat with the model
lemonade run user.Bm-bohrium-Q4_K_M
List all available models
lemonade list
- Atomic Chat
7a6
Bm bohrium
Bm bohrium là mô hình AI thử nghiệm hỗ trợ tiếng Việt và tiếng Anh. Kho này cung cấp trọng số mô hình, bộ tách từ, mã nguồn và phiên bản GGUF dùng với Ollama.
Sử dụng với Ollama
ollama run hf.co/minhlol/Bm-bohrium:Q4_K_M
Phiên bản Ollama có khoảng 1,91 tỷ tham số, dung lượng 1,15 GB, lượng tử hóa Q4_K_M và chỉ hỗ trợ văn bản. Tệp latest.pt giữ nguyên mô hình thị giác–ngôn ngữ khoảng 2 tỷ tham số. Đây chưa phải phiên bản 3B.
Tên và câu trả lời nhận diện
Tên mô hình là Bm bohrium. Cấu hình hệ thống của Ollama yêu cầu mô hình trả lời:
I am bm bohrium.
khi được hỏi tên, danh tính hoặc câu tương tự “what model are you?”.
Do trọng số hiện tại mới qua 10 bước huấn luyện phục hồi, mô hình thô có thể chưa tuân thủ chỉ dẫn ổn định. Để nhận câu trả lời cố định cho các dạng câu hỏi nhận diện được hỗ trợ, dùng trình trò chuyện đi kèm:
python chat_bm_bohrium.py
python chat_bm_bohrium.py --ask "What model are you?"
Trình này nhận diện các cách hỏi tên phổ biến bằng tiếng Việt và tiếng Anh, trả lời chính xác I am bm bohrium. bằng quy tắc của ứng dụng, rồi chuyển những câu hỏi khác sang Ollama. Quy tắc này không thay đổi trọng số hay bảo đảm nhận diện mọi cách diễn đạt có thể có.
Trạng thái thử nghiệm
Checkpoint hiện tại có 10 bước cập nhật, tương đương 309 token được giám sát trong đợt phục hồi. Mô hình chưa được huấn luyện đầy đủ; câu trả lời thông thường có thể sai, lặp hoặc không mạch lạc. Việc chạy được trên Ollama không đồng nghĩa với chất lượng ngôn ngữ đã được kiểm chứng.
GGUF đã vượt qua 9 phép so sánh token với bộ tách từ gốc và kiểm tra sinh văn bản trên llama.cpp CPU. Chưa chạy kiểm tra bằng một tiến trình Ollama trong Colab. Chi tiết nằm trong ollama_validation.json.
Các tệp chính
Bm-bohrium-1.91B-Q4_K_M.gguf: mô hình văn bản dùng cho Ollama.Modelfile,template,system,params: cấu hình trò chuyện và nhận diện tên.chat_bm_bohrium.py: trình trò chuyện có quy tắc trả lời danh tính.latest.pt: checkpoint thị giác–ngôn ngữ gốc khoảng 2B, định dạng BM-2B-VI-v3.tokenizer/: bộ tách từ tương ứng; không thay bằng bộ khác khi nạp checkpoint.BM_Vision_2B_Vietnamese.ipynb: mã nguồn kiến trúc và huấn luyện.OLLAMA.md: hướng dẫn chi tiết bằng tiếng Việt.
Giấy phép và dữ liệu
Mã nguồn gốc của dự án sử dụng giấy phép MIT trong LICENSE. Thư viện và dữ liệu bên thứ ba giữ nguyên giấy phép, điều kiện sử dụng riêng. Kho này không phân phối lại các bộ dữ liệu huấn luyện.
- Downloads last month
- 52
4-bit