GGUF
English
Japanese
gpt2
File size: 1,505 Bytes
796fd74
3559f0f
 
 
 
 
 
 
 
de03769
 
3559f0f
 
 
 
 
 
 
 
cbe9ab8
 
b525f73
cbe9ab8
d6af62f
796fd74
8bff462
 
 
796fd74
 
 
 
 
 
44f2b4b
73fadeb
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
---
license: other
license_name: fugaku-llm-tou
license_link: https://huggingface.co/Fugaku-LLM/Fugaku-LLM-13B-instruct/blob/main/LICENSE
language:
- en
- ja
datasets:
- TFMC/imatrix-dataset-for-japanese-llm
tags:
- gpt2
---

# Fugaku-LLM-13B-instruct-gguf
[Fugaku-LLMさんが公開しているFugaku-LLM-13B-instruct](https://huggingface.co/Fugaku-LLM/Fugaku-LLM-13B-instruct)のggufフォーマット変換版です。  

imatrixのデータは[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)を使用して作成しました。  

## License
ご使用の前に必ず利用規約をご確認ください。  
ご使用の際には[利用規約](https://huggingface.co/Fugaku-LLM/Fugaku-LLM-13B-instruct/blob/main/LICENSE)に同意したものとされます。

Please be sure to check the terms of use before use.
By using this service, you agree to the [Terms of Use](https://huggingface.co/Fugaku-LLM/Fugaku-LLM-13B-instruct/blob/main/LICENSE).

## convert
変換用スクリプトは[こちら](https://gist.github.com/mmnga/e70fbf78db8478e0215b733fe60685da)

## Usage

```
git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
make -j
./main -m 'Fugaku-LLM-13B-instruct-Q4_0.gguf' -n 128 -p '以下は、タスクを説明する指示です。要求を適切に満たす応答を書きなさい。\n\n### 指示:\nスーパーコンピュータ「富岳」の名前の由来を教えてください。\n\n### 応答:\n'
```