环境安装

系统环境

  1. 安装portaudio, cmake 环境
   brew install portaudio cmake

Python 基本环境

  1. 创建一个新的 Python 虚拟环境:
conda create -n translator python=3.11.9
# 如果没有安装 conda,请先安装 conda 或 Miniconda。
# 参考 [Miniconda 安装指南](https://docs.conda.io/en/latest/miniconda.html)。
  1. 激活虚拟环境:
conda activate translator
  1. 克隆仓库:
# 如果没有安装git lfs,请先安装git lfs。
# macos系统可以使用brew安装git lfs。用git lfs version命令检查是否安装成功。
git lfs install
# repo中包含了模型文件,clone时间可能会比较长。
git clone https://huggingface.co/MoYoYoTech/Translator.git
# 进入项目目录
cd Translator
  1. 使用以下命令安装所需的 Python 库:
pip install -r requirements.txt

WhisperCPP 安装

  1. 克隆 WhisperCPP 仓库并初始化子模块:
git clone --recurse-submodules https://github.com/absadiki/pywhispercpp.git && cd pywhispercpp/whisper.cpp && git checkout 170b2faf75c2f6173ef947e6ef346961f3368e1b && cd ../..
  1. 切换到特定的提交版本:
cd pywhispercpp && git checkout d43237bd75076615349004270a721e3ebe1deabb
  1. 安装 WhisperCPP,确保启用 CoreML 支持:
WHISPER_COREML=1 python setup.py install && cd ..

Llama-cpp-python 安装

  1. 克隆 Llama-cpp-python 仓库并初始化子模块:
git clone --recurse-submodules https://github.com/abetlen/llama-cpp-python.git
  1. 切换到特定的提交版本:
cd llama-cpp-python && git checkout 99f2ebfde18912adeb7f714b49c1ddb624df3087 && cd vendor/llama.cpp && git checkout 80f19b41869728eeb6a26569957b92a773a2b2c6 &&   cd ../..
  1. 使用以下命令安装 Llama-cpp-python,确保启用 Metal 支持:
 CMAKE_ARGS="-DGGML_METAL=on" pip install .  && cd ..

运行

  1. 运行命令 python main.py 启动应用程序。
  2. 打开浏览器并访问 http://localhost:9191/ 以使用该应用。
Downloads last month
71
GGUF
Model size
1.78B params
Architecture
qwen2
Hardware compatibility
Log In to view the estimation

5-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support