Instructions to use iFlytekOpenSource/Domux with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use iFlytekOpenSource/Domux with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="iFlytekOpenSource/Domux")
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG"},
            {"type": "text", "text": "What animal is on the candy?"}
        ]
    },
]
pipe(text=messages)

# Load model directly
from transformers import AutoProcessor, AutoModelForMultimodalLM

processor = AutoProcessor.from_pretrained("iFlytekOpenSource/Domux")
model = AutoModelForMultimodalLM.from_pretrained("iFlytekOpenSource/Domux", device_map="auto")
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG"},
            {"type": "text", "text": "What animal is on the candy?"}
        ]
    },
]
inputs = processor.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=40)
print(processor.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use iFlytekOpenSource/Domux with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "iFlytekOpenSource/Domux"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "iFlytekOpenSource/Domux",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/iFlytekOpenSource/Domux

SGLang

How to use iFlytekOpenSource/Domux with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "iFlytekOpenSource/Domux" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "iFlytekOpenSource/Domux",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "iFlytekOpenSource/Domux" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "iFlytekOpenSource/Domux",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use iFlytekOpenSource/Domux with Docker Model Runner:
```
docker model run hf.co/iFlytekOpenSource/Domux
```

[HER Hack-Astron #4] Domux MCP Server - 智能家居安全 MCP 案例

by emanhk - opened 4 days ago

Discussion

emanhk

4 days ago

案例简介

基于讯飞 Domux 模型构建的智能家居 MCP Server（domux-mcp-server），通过 MCP 协议将 Domux 的指令理解能力封装为 5 类智能家居控制工具，覆盖灯光、空调、窗帘、安防、场景联动等场景，并内置安全边界控制（危险指令拦截、模糊指令二次确认）。

评测结果（真实评测，非演示数据）

评测样本：50 条真实推理（5 条代表性指令 × 10 轮）
格式合规率：100%
平均延迟：32.6s（p95 34.4s，T4 + transformers 正常水平）
稳定性：10 轮输出无抖动，否定语义（如"不要开客厅的灯"→ turnOff）正确
本地验证：5 个模块 92 项断言全部通过；9 步全链路 demo 跑通

技术要点

5 个 MCP 工具模块，92 项自动化断言覆盖
安全边界：危险操作拦截、模糊指令二次确认、失败用例（如"打开炉子火"被安全拒绝）
testedRevision: 6c71a32f4d624cadfd9fce9d10240d8068e53456（Domux 主分支最新 commit）
模型加载：Hugging Face 官方下载 + transformers

复现

GitHub: https://github.com/Kencoze/domux (case 分支 case/domux-mcp-server)
案例文件: cases/domux-mcp-server/{README.md, preview.png, domux_eval_result.json}

emanhk

about 24 hours ago

Domux MCP Server — 从解析模型升级为智能家居标准能力层

把 Domux 从「一个 NL→结构化槽位的解析模型」封装为标准 MCP Server，
叠加 Agent 身份认证（四级权限 + 高危二次确认 + 审计日志）、
家居风险评分引擎、保险评核 API，打通「解析→权限→执行→风控→保险」全链路。
并在免费 Colab T4 上跑通 Domux 真实推理评测（transformers，50 条样例，格式合规 100%）。

任务

Domux 的核心能力是将自然语言指令解析为七字段结构化槽位。本案例解决的问题：

MCP 协议标准化
Agent 身份认证（四级角色 + 高危二次确认）
家居风险评分引擎
保险评核 API

一键复现

结果

指标	结果
组件自测	92/92 通过
高危拦截	100%
推理合规率	100% (50/50)
端到端链路	9 步全通

完整源码已在 GitHub 提交 PR。

emanhk

about 24 hours ago

Domux MCP Server — 从解析模型升级为智能家居标准能力层

把 Domux 从「一个 NL→结构化槽位的解析模型」封装为标准 MCP Server，
叠加 Agent 身份认证（四级权限 + 高危二次确认 + 审计日志）、
家居风险评分引擎、保险评核 API，打通「解析→权限→执行→风控→保险」全链路。
并在免费 Colab T4 上跑通 Domux 真实推理评测（transformers，50 条样例，格式合规 100%）。

任务

Domux 核心能力是将自然语言指令解析为七字段结构化槽位。本案例解决的问题：

MCP 协议标准化 — 封装为 parse_command / batch_parse / health_check 三个标准 MCP 工具
Agent 身份认证 — 四级角色（Owner/Family/Guest/Service-Agent），高危操作强制二次确认
家居风险评分 — 四维评分（火灾/水灾/入侵/设备故障）
保险评核 API — 标准化风险报告

一键复现

pip install -r requirements.txt
python test_server.py      # 92 断言全通过
python demo_2035_scenario.py  # 端到端演示

结果

指标	结果
组件自测	92/92 通过
高危操作拦截	100% (4/4)
越权/过期拒绝	100%
推理合规率	100% (50/50)
端到端链路	9 步全通

源码

完整 MCP Server 源码（3200+ 行，含 auth_middleware / home_risk_engine / insurance_api / ha_adapter / demo_2035_scenario）已提交至 GitHub PR。

Upload images, audio, and videos by dragging in the text input, pasting, or clicking here.

Tap or paste here to upload images

· Sign up or log in to comment