Hugging Face's logo

Seikaijyu
/
RWKV-x060-World-3B-v2.1-zh-cn-abnormal-text-review-v0

Chinese
Model card Files Community
1
Seikaijyu commited on
Commit
bfc6b2d
•
1 Parent(s): 9aa875b

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +1 -1
README.md CHANGED
@@ -17,7 +17,7 @@ license: mit
17
  ![image/png](https://cdn-uploads.huggingface.co/production/uploads/6417b108b03817ada6444bb8/f2_3S9NNv07fc8VoPIaco.png)
18
 
19
  #### 可以看到，nf4精度的预测要不准确一些，所以我建议在有足够显存资源的情况下建议使用更高精度推理
20
- #### 因此模型参数量较少，非常适合进行本地文本审查，推荐使用[ai00](https://github.com/Ai00-X/ai00_server)对此模型进行转换后推理并使用Python调用此模型api进行内容审查（此项目的text_review.py文件提供了基于Ai00进行推理的Python代码例子，只需配置好模型即可立刻运行）
21
  #### 另外，如果嫌ai00部署麻烦，也可以使用[RWKV-Runner](https://github.com/josStorer/RWKV-Runner)，启动推理后直接关闭前端即可，RWKV-Runner也提供了openai api调用，并且支持各种后端
22
  #### 效果如下：
23
 
 
17
  ![image/png](https://cdn-uploads.huggingface.co/production/uploads/6417b108b03817ada6444bb8/f2_3S9NNv07fc8VoPIaco.png)
18
 
19
  #### 可以看到，nf4精度的预测要不准确一些，所以我建议在有足够显存资源的情况下建议使用更高精度推理
20
+ #### 因此模型参数量较少，非常适合进行本地文本审查，推荐使用[ai00](https://github.com/Ai00-X/ai00_server)对此模型进行转换后推理并使用Python调用此模型api进行内容审查（此项目的text_review.py文件提供了基于Ai00进行推理的Python代码例子，只需配置好模型即可立刻运行，Ai00版本<=v0.5.2即可）
21
  #### 另外，如果嫌ai00部署麻烦，也可以使用[RWKV-Runner](https://github.com/josStorer/RWKV-Runner)，启动推理后直接关闭前端即可，RWKV-Runner也提供了openai api调用，并且支持各种后端
22
  #### 效果如下：
23