README.md

---
license: apache-2.0
---

# Ninja-V2-7B.gguf
このモデルは、ベクトルマージなどを用い作成された高性能ベースモデルです。
用途はチャットのみならず、文章創作など幅広いタスクに対応できます。

GGUFによる8,4ビット量子化を行いました。

Ninja-V2-7Bはこちら→https://huggingface.co/Local-Novel-LLM-project/Ninja-V2-7B

このモデルは、ローカルLLMに向き合う会企画のLocalAIハッカソンの高性能GPUサーバーの助けを借りて作成されました。

関係者の皆様に感謝申し上げます。

# 作成方法
複数のモデルのチャットベクター
モデルの単純な線形マージ

# プロンプトテンプレート
必須ではありませんが、Vicuna-1.1テンプレートを使用することができます。
単純な文章生成においては推奨のテンプレートはありません。

# システムプロンプト

  - BAD:　あなたは○○として振る舞います
  - GOOD: あなたは○○です

  - BAD: あなたは○○ができます
  - GOOD: あなたは○○をします

# 制限

Apache-2.0ライセンスに従い使用してください。