本地输出总是为全context,但是网页demo输出正确,是否缺少预测步骤?

#2
by yinghy18 - opened

您好,在本地测试的时候,我测试了当前的网页demo和上一个discussion的问题,结果分别输出了对应的全context:

image.png

image.png
但网页版输入后,输出分别为普希金和张三。

我觉得这可能是预测部分缺少某些步骤导致的,这样输入之后模型只会判断全context作为答案的得分。不知道是不是这样。

我重新安装了python3.8(原来是3.7)并重新安装了依赖,就对了
Package Version


certifi 2024.2.2
charset-normalizer 3.3.2
colorama 0.4.6
filelock 3.13.3
fsspec 2024.3.1
huggingface-hub 0.22.1
idna 3.6
numpy 1.24.4
packaging 24.0
pip 20.2.3
PyYAML 6.0.1
regex 2023.12.25
requests 2.31.0
safetensors 0.4.2
setuptools 49.2.1
tokenizers 0.15.2
torch 1.8.0
tqdm 4.66.2
transformers 4.39.1
typing-extensions 4.10.0
urllib3 2.2.1

Sign up or log in to comment