Datasets:

a686d380

/

h-eval

like 20

你好，我使用Yi-6b在你的数据集进行pretrain训练，1个epoch。
训练到1/3左右指标在55%+，有提升。但训练到50%左右指标掉到了40%。表现上看可能是过拟合了。
但我看你用rwkv训练指标有明显提升，百思不得其解。
想问一下你训练时是否掺了其他通用pretrain数据？另外请问你的learning rate是多少？