Files changed (1) hide show
  1. README.md +9 -0
README.md CHANGED
@@ -1,3 +1,12 @@
1
  ---
2
  license: lgpl-3.0
3
  ---
 
 
 
 
 
 
 
 
 
 
1
  ---
2
  license: lgpl-3.0
3
  ---
4
+
5
+ 一种基于Clip改进的,通用HF格式的冻结LLM语言模型进行图文对齐训练的方案,以RWKV-4-World-0.4B为例,Cifar10为数据集
6
+
7
+ 共创合作:受到visualrwkv冻结LLM模型启发(https://github.com/howard-hou/VisualRWKV)
8
+
9
+ RWKV-4-World-0.4B模型及训练30个epoch后的checkpoint文件
10
+
11
+
12
+ GIT开源地址:https://github.com/StarRing2022/Dlip-RWKV/