Evaluation prompt 관련 문의

#38
by JaeyeonKang - opened

안녕하세요. Evaluation prompt 관련 궁금한 것이 있어 문의 드립니다.
모델마다 사전에 정의한 prompt 가 다를텐데, 이런 것들이 leaderboard 제출 시 반영이 되는지 궁금합니다.

예를 들어, ||~ ||, ### User, [INST] ~[/INST] 등의 방식들이 있어, 이를 지키지 않을 시 성능 저하가 발생됩니다.

이런 것들을 반영할 수 있는 평가인지 궁금합니다.

upstage org

안녕하세요. 현재는 그런 Custom Prompt기능은 지원되지 않습니다. 다만, lm-eval-harness에서 그런 기능을 준비한다는 글은 본적이 있었습니다. Link. 만일, 해당 기능이 반영되는경우 저희도 적용여부 고려해서, 반영되는 경우 알려드리도록 하겠습니다.

감사합니다.

@choco9966
감사합니다!

JaeyeonKang changed discussion status to closed

Sign up or log in to comment