这款模型上下文长度是多少呢？

by jackies - opened May 22

May 22

这款模型上下文长度是多少呢？

OpenBMB org May 23

而对于图文理解任务，我们的高质量数据长度一般不超多2000，这是和一般多模态使用场景所相关的，
而该模型语言基座原生所支持的上下文最大长度为4096，为了保持语言模型能力，我们使用了部分纯文本高质量数据，故该模型拥有一定的在更长上下文上的泛化性～

Cuiunbo changed discussion status to closed May 23

Upload images, audio, and videos by dragging in the text input, pasting, or clicking here.

Tap or paste here to upload images

· Sign up or log in to comment