templates
학습하실 때, 사용하신 templates 알 수 있을까요 ??
prompt에 넣는 템플릿을 정확히 알지 못해서 인퍼런스 테스트에 어려움을 겪고 있습니다.
(ex) Below is an instruction that describes a task. Write a response that appropriately completes the request.\n\n### Instruction:\n{instruction}\n\n### Response:\n
안녕하세요! 내일 중으로 템플릿 format 보내드리도록 하겠습니다.
밑에는 단순한 궁금즘에서 드리는 질문입니다!
- inference test가 무엇을 의미하는지 알 수 있을까요?
- Prompt에 넣는 template이 정확하지 않으면 inference test가 힘든 이유가 무엇인지도 궁금합니다.
감사합니다.
- kyujinpy/KoT-platypus2-13B 모델을 불러와서 prompt에 질문(ex. 재미있는 영화 추천해줘)을 넣었을 때, 모델이 출력하는 답변을 확인하는 테스트를 하고자 합니다!
- 다른 template를 사용하여 모델의 답변을 생성하면, 학습되지 않은 질문-답변의 형식이기에 답변 품질이 다소 저하되기 때문입니다.
제가 말한 것 중에 틀린 부분이 있다면, 지적 부탁드립니다!
아 아닙니다! 단순히 궁금해서 물어봤습니다!
{
"description": "Template used by Alpaca-LoRA.",
"prompt_input": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.\n\n### Instruction:\n{instruction}\n\n### Input:\n{input}\n\n### Response:\n",
"prompt_no_input": "Below is an instruction that describes a task. Write a response that appropriately completes the request.\n\n### Instruction:\n{instruction}\n\n### Response:\n",
"response_split": "### Response:"
}
위와 같은 형식을 썼습니다!
감사합니다.
References: https://github.com/arielnlee/Platypus