Tmp_Models

临时模型仓（量化产物中转）。

sensevoice_ax650_npu2

AX650N 的 SenseVoice NPU2（双核）量化部署包，含离线 + 流式两版模型、可执行文件、 示例音频与一键脚本，U16 激活 / S8 权重。

目录

sensevoice_ax650_npu2/
├── run.sh                      # 一键识别（默认 example/zh.mp3；-s 流式）
├── bin/
│   ├── test_sensevoice         # aarch64 命令行（离线 / -s 流式）
│   └── asr_server              # aarch64 HTTP ASR 服务（可选）
├── lib/                        # AX 运行时 .so（libax_engine/interpreter/sys）
├── example/                    # zh/en/ja/ko/yue 示例音频
├── am.mvn / tokens.txt / chn_jpn_yue_eng_ko_spectok.bpe.model
├── sensevoice.axmodel          # 非流式（offline，max_seq_len=256）
├── streaming_sensevoice.axmodel# 流式（26 帧滚动窗口，每 10 帧一推）
└── sensevoice/                 # 与官方 AXERA-TECH/SenseVoice 相同的加载布局
    ├── am.mvn / tokens.txt / chn_jpn_yue_eng_ko_spectok.bpe.model
    ├── sensevoice.axmodel
    └── streaming_sensevoice.axmodel

test_sensevoice / asr_server 已静态链接 AX 运行时（AX_ENGINE_* 为二进制内部 符号），实际只依赖板端标准系统库（glibc / libstdc++ / libgcc_s）。lib/ 中的 libax_*.so 为同版本 BSP 运行时，供自行编译的动态链接程序或调试使用。

快速开始（板端，aarch64 Linux + AX650N 驱动）

# 下载本目录后（含 model 文件）：
cd sensevoice_ax650_npu2
chmod +x run.sh bin/test_sensevoice
./run.sh                          # 离线识别 example/zh.mp3
./run.sh example/en.mp3 -l en     # 指定音频/语言
./run.sh example/zh.mp3 -s        # 流式识别（每 100ms 喂音频，打印增量结果）

直接调用二进制（等价）：

export LD_LIBRARY_PATH=$PWD/lib:/soc/lib:$LD_LIBRARY_PATH
./bin/test_sensevoice -a example/zh.mp3 -t sensevoice -p "$PWD"      # 离线
./bin/test_sensevoice -a example/zh.mp3 -t sensevoice -p "$PWD" -s   # 流式

Python 工程使用（sensevoice.axera）： 把本目录放到工程 models/sensevoice_ax650/ 下，python main.py -i xx.wav --streaming --chip ax650。

板端验证（AX650N，AISHELL-S0764 96 句）

模型	CER	zh 示例 RTF
NPU3 官方 streaming（参考）	15.58%	0.0267
NPU2 streaming（本包）	16.48%	0.0285

• 逐算子精度：streaming min cosine 0.890 / mean 0.9984；非流式 min 0.835 / mean 0.9974
• NPU2 与 NPU3 流式逐句字符一致率 97.12%（221 条有效样本）
• 编译配置与复现步骤见 sensevoice.axera 的 model_convert/README.md