OrcaJaMixtral8x22b / README.md
kanhatakeyama's picture
Update README.md
ebf491e verified
|
raw
history blame
No virus
979 Bytes
metadata
license: cc-by-sa-4.0
tags:
  - synthetic
  • OpenOrcaの日本語訳データの質問から回答を自動生成したデータセット
    • OpenOrcaのオリジナル版の回答データは、GPT-3.5/4によって生成されているため、モデル開発に使うことがOpenAIの規約上、禁止されています。
    • そこで、apache-2.0ライセンスで公開されているMixtral 8x22bのGGUF(5-8bit)を使い、回答を自動生成しました(概ね、8 bit modelで生成しています)。
    • OpenOrcaの日本語訳データを質問に使いました
    • 計算には東京工業大学のスーパーコンピュータTSUBAME4.0を利用しました。