Ảo quá
đây là MLC Chat hả bạn ^^ =))
Không mlc không hỗ trợ👀😑, đây là "LLM Farm" , bản này lượng tử hoá xuống Q3 hoặc Q2 nhưng giữ được lại dữ liệu còn tầm 3.8Gb thì ngon, chứ nó xuống dưới 2 gb là thấy dữ liệu mất nhiều quá, trả lời cụt ngủn, lạc đề tùm lum😩,
Cái này có phải do bị overfit vào năm 2023 không tác giả :D
@LoneRanger44 model train dữ liệu 2023 khá nhiều với do trong prompt có 2024 á. bạn thêm <|im_end|> vào "stop" nhé
@qnguyen3 Em có thêm vào như gợi ý của anh rồi nhưng có vẻ nó không sinh ra được 2024. Ngoài ra em có sửa lại system prompt một xíu (thêm "và tự nhiên nhất có thể") thì có vẻ model sinh ra sai (tháng 1 đổi thành tháng 4).
@LoneRanger44
bạn thử thêm Today Date: 25 Dec 2023 vào trong phần system.
Với lại thay vì bạn chỉ paste context vào và bắt trả lời thì bạn có thể làm theo template dưới đây thay vì copy thẳng như trên nhé :P
Hãy trả lời câu hỏi của người dùng dựa trên thông tin dưới đây:
{content}
Câu hỏi: {question}
Trải nghiệm của mình với bản 2.7b không tốt, mình gặp vấn đề mô hình sinh ra vô tận. Tác giả có thể giải thích dùm mình không?