不带query instruction的情况下,相比bge-m3出现明显下降?

#2
by juejuezi - opened

bge-m3在进行召回任务的时候,默认是不带query instruction的,发现在Chuxin-Embedding下,如果不使用query instruction,召回指标会发生大幅下降,比如DuRetrieval,ndcg@10大概下降10个点左右,请问这个是符合预期的吗?

juejuezi changed discussion title from 在私有搜索语料下,相比bge-m3出现明显下降? to 不带query instruction的情况下,相比bge-m3出现明显下降?
chuxin org

感谢您的宝贵意见。这个是符合预期的,由于目前训练阶段带着query instruction的, 如果想要带或者不带query instruction效果差不多的话,参考bge系列训练一份带query instruction的和一份不带query instruction再模型合并。目前建议带着query instruction使用,后续如果有相关改进我会及时通知您。

Sign up or log in to comment