Edit model card

karakuri-MS-02.gguf

karakuri-70B-MS-02の量子化バージョンです。 以下のモデルを使用させていただいてます。

前回作成したkarakuri-MS-01は推論能力を重視しましたが、今回はnsfw要素に注力しました。karakuriをベースにChatVectorにてnsfwモデルを作成し、karakuri-midrose-mgをベースにしてModel Stockにてマージしました。
不適切な発言をするモデルなので、使用には十分注意して下さい。

モデル概要

これは日本語の特定の能力がmergeにより、どのように向上するかをテストするための実験モデルです。
koboldで検証する際は、Max Ctx. Tokensは4096以下、Amount to Genは512以下で使用することを推奨します。

ライセンス

merge元の各モデルのライセンスに従います。

謝辞

Model Stockという新たな手法に感謝いたします。
マージに使用させていただいた、各モデルの作者様に感謝いたします。

Downloads last month
19
GGUF
Model size
69.2B params
Architecture
llama

4-bit

5-bit

Inference API
Unable to determine this model's library. Check the docs .