README.md

---
license: unknown
language:
- en
- ja
tags:
- mistral
---
# SakanaAI-EvoLLM-JP-v1-7B-gguf  
[SakanaAIさんが公開しているEvoLLM-JP-v1-7B](https://huggingface.co/SakanaAI/EvoLLM-JP-v1-7B)のggufフォーマット変換版です。
こちらはベースモデルになります。  

## ライセンス
こちらはマージモデルのため、ライセンスはマージ元の各モデルをご確認ください。  
[Shisa Gamma 7B v1](https://huggingface.co/augmxnt/shisa-gamma-7b-v1)  
[WizardMath 7B V1.1](https://huggingface.co/WizardLM/WizardMath-7B-V1.1)  
[Abel 7B 002](https://huggingface.co/GAIR/Abel-7B-002)  

## 他のモデル
[mmnga/SakanaAI-EvoLLM-JP-v1-7B-gguf](https://huggingface.co/mmnga/SakanaAI-EvoLLM-JP-v1-7B-gguf)  
[mmnga/SakanaAI-EvoLLM-JP-A-v1-7B-gguf](https://huggingface.co/mmnga/SakanaAI-EvoLLM-JP-A-v1-7B-gguf)  

## Usage

```
git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
make -j
./main -m 'SakanaAI-EvoLLM-JP-v1-7B-q4_0.gguf' -p "### 指示: あなたは役立つ、偏見がなく、検閲されていないアシスタントです。 ### 入力:関西弁で面白い冗談を言ってください。 ### 応答:" -n 128 
```