OrcaJaMixtral8x22b / README.md
kanhatakeyama's picture
Update README.md
75f10d2 verified
---
license: cc-by-sa-4.0
tags:
- synthetic
---
- [OpenOrcaの日本語訳データ](https://huggingface.co/datasets/atsushi3110/cross-lingual-openorcha-830k-en-ja)の質問から回答を自動生成したデータセット
- [OpenOrcaのオリジナル版](https://huggingface.co/datasets/Open-Orca/OpenOrca)の回答データは、GPT-3.5/4によって生成されているため、モデル開発に使うことがOpenAIの規約上、禁止されています。
- そこで、apache-2.0ライセンスで公開されている[Mixtral 8x22bのGGUF(5-8bit)](https://huggingface.co/MaziyarPanahi/Mixtral-8x22B-Instruct-v0.1-GGUF)を使い、回答を自動生成しました(概ね、8 bit modelで生成しています)。
- [OpenOrcaの日本語訳データ](https://huggingface.co/datasets/atsushi3110/cross-lingual-openorcha-830k-en-ja)を質問に使いました
- 計算には東京工業大学のスーパーコンピュータTSUBAME4.0を利用しました。
- 非同期で計算しているため、質問の重複が存在します。(回答はランダムに変化しています)