안녕하세요, 대화형식 데이터학습여부 및 방법에 대해 여쭙고싶습니다.
#1
by
hyeongjun
- opened
해당 모델이 혹시 대화 형태의 데이터를 학습한적이 있는지 궁금하며,
그 때 당시 input (prompt) 형식이 어찌되었을지 궁금합니다.
또한, 만약 모델이 대화형 데이터에 학습하여 generation 시 system의 응답에서 끝내지 않고, 이어서 user의 응답을 이어서 생성해낼 때는 어떻게 해야하는지도 ... 궁금합니다
알려주시면 정말 큰 도움될 것 같습니다 ㅠㅠ 감사합니다.
안녕하세요,
이 모델은 기본적으로 Instruct/chat tune이 되지 않은 베이스 모델입니다.
필요한 경우 openorca와 같은 채팅형 데이터셋으로 추가 학습을 진행해 사용해주세요.
그리고 대화형으로 학습 뒤 user도 생성하려면, 단순히 그저 system에서 자르지 않고 연이어 생성하면 LM 특성상 자연스럽게 user도 생성하게 됩니다.
네 답변 정말 감사드립니다.
hyeongjun
changed discussion status to
closed