上下文窗口长度是多少?

#4
by linuxonly801 - opened

还是4096吗?

目前来看是4096,因为我超长度显示报错信息了,我想问下这个context的最长长度允许用户自定义吗?

目前来看是4096,因为我超长度显示报错信息了,我想问下这个context的最长长度允许用户自定义吗?

长度是预训练就决定的

GradientGuru changed discussion status to closed

Sign up or log in to comment