|
--- |
|
license: apache-2.0 |
|
language: |
|
- ja |
|
library_name: transformers |
|
pipeline_tag: text-generation |
|
--- |
|
<img src="./ocuteus.svg" /> |
|
|
|
OcuteusのGGUF版です。 |
|
|
|
Kobold cpp上で使用することを推奨します。 |
|
|
|
また、トークン数の関係から、高解像度の画像は解像度を落として入力することをおすすめします。 |
|
|
|
|
|
使用例: |
|
|
|
 |
|
|
|
簡単な使用方法: |
|
|
|
kobold.cpp 内の`ModelFiles` ページの |
|
`Model` に`Ocuteus-v1-q8_0.gguf` |
|
`LLaVA mmproj`に `Ocuteus-v1-mmproj-f16.gguf`をそれぞれ選択してください。 |
|
|
|
 |
|
|
|
推奨される`Context Size` は `16384` となっています。 |
|
 |
|
|
|
|
|
|
