base_model: /content/chatntq-ja-7b-v1.0 | |
gate_mode: cheap_embed | |
dtype: bfloat16 | |
experts: | |
- source_model: /content/chatntq-ja-7b-v1.0 | |
positive_prompts: | |
- "高校数学の学力テストの問題を作成してください。" | |
- source_model: /content/shisa-gamma-7b-v1 | |
positive_prompts: | |
- "日本の歴代の総理大臣の名前を就任時期が最近の人から順に5人回答してください。" | |
tokenizer_source: union | |