入参之间会影响embedding的结果吗

#22
by biaodiluer - opened

两个入参.png
这是两个入参的结果

一个参数.png
当我把“hi jack去掉后”,结果却变了

不管后面跟了什么字符串,"hello word, bob"的embedding结果不应该是固定的吗(我试了openai是固定的) -。-

Beijing Academy of Artificial Intelligence org

推理多个文本时,由于padding,fp16等因素,结果可能与单个推理存在差异。从图中的结果来看,属于正常范围,这个差异很小,对排序结果没有影响。

Sign up or log in to comment