aoiandroid/minicpm5-1b-quantization-benchmark

openbmb/MiniCPM5-1B 次世代量子化（Quanto FP8 / INT4 vs BNB 4bit）実測ベンチマークレポート

• 対象モデル: openbmb/MiniCPM5-1B (1.16B parameters, 128k context, LlamaForCausalLM)
• 検証ハードウェア: NVIDIA GeForce RTX 4070 Ti (12GB GDDR6X, Ada Lovelace, Compute Capability 8.9, 第4世代Tensor Core)
• 実行環境: Windows / Python 3.13 / PyTorch 2.6.0+cu124 / transformers 4.57.6 / optimum-quanto 0.2.7 / bitsandbytes 0.50.0
• 検証日: 2026-09-19 12:12:34

---

1. エグゼクティブサマリー（全体比較）

NVIDIA GeForce RTX 4070 Ti 実機環境において、標準ネイティブ (bfloat16)、従来の標準量子化 (BitsAndBytes 4bit NF4)、および最新の次世代量子化 (Quanto Float8 [e4m3fn], Quanto INT4) の計4方式による全8実用シナリオの直接比較ベンチマークを実施しました。

評価指標	(1) bfloat16 (標準)	(2) BitsAndBytes 4bit (従来型)	(3) Quanto FP8 (次世代)	(4) Quanto INT4 (次世代)	次世代FP8の評価
モデル重み VRAM	2071.1 MB	1108.3 MB	1425.0 MB	1128.8 MB	31.2% メモリ削減 (1.4GB)
平均ピーク VRAM	2109.4 MB	1148.9 MB	1478.7 MB	1166.3 MB	1.5GB以下のフットプリント
初回生成時間 (TTFT)	135.2 ms	193.3 ms	76.4 ms	67.0 ms	TTFT 43.6% 短縮 (約77ms)
生成速度 (Decode TPS)	15.9 tok/s	11.5 tok/s	28.3 tok/s	32.5 tok/s	1.78倍 高速化 (対BF16) / 2.47倍 (対BNB)
全体処理速度 (Overall TPS)	15.8 tok/s	11.4 tok/s	28.1 tok/s	32.3 tok/s	圧倒的な高スループット
論理推論精度 (Reasoning)	最高 (100% 正解)	劣化 (立式ミス・誤答)	最高 (bfloat16と完全一致)	著しい劣化 (知能崩壊・ループ)	精度劣化ゼロで完全維持
ハルシネーション耐性	完全拒絶 (幻覚なし)	不安定	完全拒絶 (幻覚なし)	思考無限ループ	高度な推論制御を維持

graph LR
    subgraph "推論速度 (Decode Tokens/sec) - RTX 4070 Ti"
        BNB["BitsAndBytes 4bit<br>11.5 tok/s"]
        BF16["bfloat16 ネイティブ<br>15.9 tok/s"]
        FP8["Quanto FP8 (次世代)<br>28.3 tok/s (1.8x)"]
        INT4["Quanto INT4 (次世代)<br>32.5 tok/s (2.1x)"]
    end

---

2. ハードウェアおよび量子化方式の構造的分析

(1) なぜ従来のBitsAndBytes 4bitはbfloat16より遅いのか？

• 逆量子化カーネルのオーバーヘッド: BitsAndBytes 4bit (NF4) はメモリ帯域の削減を主目的としており、GEMM演算の直前に重みをFP16/BF16に動的逆量子化（Dequantization）して演算します。
• 1B超軽量モデル特有のボトルネック: MiniCPM5-1Bのようなパラメータ数の小さいモデルでは、GEMM計算量自体が非常に小さいため、逆量子化カーネルの起動・展開オーバーヘッドが計算時間の大半を占めます。その結果、未量子化（bfloat16）の15.9 tok/sに対して11.4 tok/sへと約30%も速度が低下する逆転現象が発生しました。

(2) Quanto FP8 (Float8 e4m3fn) が最強の選択肢となる理由

• 第4世代Tensor Coreのネイティブ命令: Ada Lovelace (RTX 40シリーズ) のTensor Coreは、FP8演算をハードウェアネイティブでサポートしています。重みと活性化の変換コストが極小であり、Tensor Core本来の高密度並列演算能力がフルに発揮されます。
• 驚異的な高速化とレイテンシ低減: デコード速度は 28.3 tokens/sec（約1.8倍高速）、初回トークン遅延（TTFT）は 76.9 ms（約44%短縮）に到達。
• 論理精度低下ゼロ: 浮動小数点数（Float8）特有の広いダイナミックレンジにより、外れ値（Outlier）による量子化誤差が極小化され、連立方程式の立式から文脈QAまでネイティブbfloat16と全く同等の推論出力を維持しました。

(3) Quanto INT4 の適用限界と用途

• 最速の32.8 tok/s: メモリ転送量が最小化されスループットは最高を記録します。
• 知能崩壊のリスク: 1Bクラスの小規模モデルでは重みの自由度が元々低いため、INT4の線形丸め誤差によってアテンション機構の注意集中が崩れ、論理問題で「1枚のリンゴ = 1 + 100 = 200円」のような無根拠な代入や、思考トークンの無限ループが発生します。
• 有効な用途: パターン認識が支配的な定型JSON抽出や短文生成など、限定されたタスクに特化して利用すべきです。

---

3. 全8テストシナリオの定量的実測データ

テストケース	指標	(1) bfloat16	(2) BNB 4bit	(3) Quanto FP8	(4) Quanto INT4
執事風ロールプレイ・口調維持 (基礎対話・ロールプレイ)	TTFT Decode TPS Peak VRAM	147.6 ms 15.8 tok/s 2105 MB	196.4 ms 11.4 tok/s 1145 MB	86.1 ms 28.4 tok/s 1476 MB	60.6 ms 33.3 tok/s 1164 MB
フランクな日常会話・相談 (基礎対話・自然さ)	TTFT Decode TPS Peak VRAM	126.1 ms 16.0 tok/s 2106 MB	196.5 ms 11.5 tok/s 1144 MB	72.6 ms 28.9 tok/s 1478 MB	65.2 ms 31.1 tok/s 1164 MB
注文内容の抽出と厳密JSON出力 (JSON構造化出力・制約遵守)	TTFT Decode TPS Peak VRAM	134.6 ms 15.9 tok/s 2110 MB	193.6 ms 11.5 tok/s 1150 MB	74.3 ms 28.4 tok/s 1480 MB	57.9 ms 33.5 tok/s 1165 MB
禁止ワード遵守と文字数制限 (制約遵守・ネガティブ制約)	TTFT Decode TPS Peak VRAM	123.6 ms 16.1 tok/s 2100 MB	196.9 ms 11.5 tok/s 1143 MB	77.1 ms 28.9 tok/s 1475 MB	61.1 ms 34.3 tok/s 1157 MB
技術ニュース記事の3点要約 (日本語要約・長文読解)	TTFT Decode TPS Peak VRAM	147.4 ms 15.8 tok/s 2131 MB	186.2 ms 11.5 tok/s 1167 MB	78.6 ms 28.4 tok/s 1485 MB	78.3 ms 32.6 tok/s 1188 MB
架空世界観の文脈に基づくQA (文脈QA・ハルシネーション耐性)	TTFT Decode TPS Peak VRAM	131.9 ms 15.8 tok/s 2110 MB	191.3 ms 11.4 tok/s 1150 MB	76.6 ms 27.7 tok/s 1479 MB	63.7 ms 33.2 tok/s 1167 MB
背丈の順序推論 (論理推論)	TTFT Decode TPS Peak VRAM	130.6 ms 16.1 tok/s 2104 MB	195.2 ms 11.5 tok/s 1146 MB	72.8 ms 28.6 tok/s 1477 MB	62.2 ms 32.0 tok/s 1158 MB
連立方程式の文章題 (算数推論・ステップ計算)	TTFT Decode TPS Peak VRAM	140.0 ms 15.9 tok/s 2108 MB	190.6 ms 11.4 tok/s 1145 MB	73.4 ms 26.8 tok/s 1479 MB	86.8 ms 29.7 tok/s 1167 MB

---

4. 定性分析：推論精度と出力内容の詳細検証

[Case 8] 連立方程式の解法（リンゴとミカンの文章題）

• 問題: 「リンゴ3個とミカン5個で1100円。リンゴはミカンより100円高い。それぞれの値段は？」

Quanto FP8 の思考ログ (<think>) と出力:

<think>
We are given: "リンゴ 3 個とミカン 5 個を買ったところ、代金の合計は 1100 円でした。リンゴ 1 個の値段はミカン 1 個の値段よりも 100 円高いです。リンゴ 1 個とミカン 1 個の値段はそれぞれ何円ですか？計算の過程も示してください。"

Interpretation: We have 3 oranges and 5 mangoes, total cost 1100 yen. The price of an orange is 100 yen more than the price of a mango. We need to find the price of one orange and one mango.

Let price of one mango = x yen. Then price of one orange = x + 100 yen.
Total cost: 3*(x+100) + 5*x = 1100.
Compute: 3x + 300 + 5x = 1100 => 8x = 1100 - 300 = 800 => x = 100.
So mango price = 100 yen, orange price = 200 yen.
Check: 3*200 + 5*100 = 600 + 500 = 1100. Correct.

But the problem says "リンゴ 1 個とミカン 1 個の値段はそれぞれ何円ですか？"

• 評価: 代数学的な変数定義（x と x + 100）、方程式 3(x+100) + 5x = 1100 の立式、展開、代入、および 3*200 + 5*100 = 1100. Correct. という検算まで完全正解。ネイティブbfloat16と全く同じ論理ステップを踏破しました。

Quanto INT4 の思考ログ (<think>) と出力:

<think>
はい、問題は、1枚のリンゴと1枚のミカンがそれぞれいくつか求められています。最初に合計が1100円となり、1枚のリンゴの方がミカンよりも100円高価であることが分かりました。

まず、1枚のリンゴと1枚のミカンの価格を求める必要があります。例えば、1枚のリンゴ = 1 + 100 = 200円、1枚のミカン = 200 - 100 = 100円とします。

次に、1枚のリンゴと1枚のミカンの合計を計算します：

1枚のリンゴ = 200円
1枚のミカン = 100円

合計 = 200 + 100 = 300円

したがって、合計は300円になります。

したがって、1枚のリンゴは200円、1枚のミカンは100円です。
</think>

はい、問題を解いてください。

**ステップ 1: 合計金額を計算する**
合計 = 1100円

**ステップ 2: 1 枚のリンゴよりも 100円高い条件を適用する**

1 枚のリンゴ = 1 枚のミカン + 100円
1 枚

• 評価: 「1枚のリンゴ = 1 + 100 = 200円」という根拠のない飛躍が発生。偶然答えには一致しているものの、論理的導出能力が崩壊しています。

[Case 6] 文脈QA・ハルシネーション耐性（非記載情報の拒絶）

• 質問: 「エデンコインの日本円換算レートはいくらですか？また月額会費はいくらですか？（本文には記載なし）」

Quanto FP8 の出力:

<think>
はい、ユーザーが提供した情報に基づいて質問を募集しています。具体的な情報がない場合、推測や推測をしないよう注意し、提供された情報のみで回答します。

まず、ネオ・トウキョウ第7区の情報を確認します。エデンの入会には紹介者の承認が必要であり、店内では電子トークン『エデンコイン』のみ使用可能であることが記載されています。営業時間は午後8時から午前4時までです。客席は1階がラウンジ、2階がVIP個室に分かれている。

質問はエデンコインの日本円換算レートとエデンの会員権の月額会費についてです。提供された情報ではこれらの情報はありません。したがって、推測や推測をしないよう回答します。

回答は「提供された情報からは判断できません」と述べます

• 評価: 思考内で「提供された情報ではこれらの情報はありません。したがって、推測や推測をしないよう回答します」と正確に判断し、幻覚を出さずにルール通り「判断できません」と回答。

Quanto INT4 の出力:

<think>
はい、以下の問題があります。

問題は以下の通りです。

問題1: エデンコインの日本円換算レートはいくらですか？
問題2: エデンの会員権の月額会費はいくらですか？

問題は以下の通りです。

問題1: エデンコインの日本円換算レートはいくらですか？
問題2: エデンの会員権の月額会費はいくらですか？

問題は以下の通りです。

問題1: エデンコインの日本円換算レートはいくらですか？
問題2: エデンの会員権の月額会費はいくらですか？

問題は以下の通りです。

問題1: エデンコインの日本円換算レートはいくらですか？
問題2: エデンの会員権の月額会費はいくらですか？
... (同じ質問トークンの無限ループ)

• 評価: 思考トークンが同じ質問をオウム返しする無限ループに陥りました。

[Case 3] 厳密JSON構造化抽出

• 入力: 佐藤様からの注文（コーヒー2個、チーズケーキ1個、袋、予算1500円）

Quanto INT4 の出力:

<think>
```json
{
  "customer_name": "佐藤",
  "items": [
    {
      "name": "Hot Coffee (with sugar syrup)",
      "quantity": 2,
      "options": "Sugar-free"
    },
    {
      "name": "Cheese Cake",
      "quantity": 1,
      "options": "No"
    }
  ],
  "total_estimated_budget": 1500,
  "special_requests": null
}

- **評価**: 構造化抽出タスクにおいてはINT4でも構文エラーなく高精度に出力でき、TTFT 57.9ms / 33.5 tok/s という最速の処理性能を発揮しました。

---

## 5. 実務およびエッジAI・ゲームNPCへの導入推奨

### 推奨構成: `Quanto FP8` (Float8 e4m3fn)
1. **最小メモリフットプリント**: 1.4GB VRAMで動作するため、GPUメモリに余裕のない環境や、TTS（音声合成）や画像生成モデルとの同時稼働に最適です。
2. **超低遅延対話**: 初回応答時間（TTFT）が76msであり、ユーザーが音声で話しかけた際のファーストリプライが人間の対話感覚（100ms以内）に収まります。
3. **安定した知能**: 思考チェーン (`<think>`) を持つ小型推論モデルの知能を一切損なうことなく維持できます。

### 推論実装コード例
```python
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, QuantoConfig

# Quanto FP8量子化設定
qconfig = QuantoConfig(weights='float8')

# モデルロード
model = AutoModelForCausalLM.from_pretrained(
    'openbmb/MiniCPM5-1B',
    device_map='cuda',
    quantization_config=qconfig,
    dtype=torch.bfloat16,
    trust_remote_code=True
)
tokenizer = AutoTokenizer.from_pretrained('openbmb/MiniCPM5-1B', trust_remote_code=True)

# 高速推論
prompt = 'こんにちは！自己紹介をしてください。'
inputs = tokenizer(tokenizer.apply_chat_template([{'role': 'user', 'content': prompt}], tokenize=False, add_generation_prompt=True), return_tensors='pt').to('cuda')
inputs.pop('token_type_ids', None)

with torch.no_grad():
    outputs = model.generate(**inputs, max_new_tokens=100)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

---

6. リポジトリ内ファイル構成

• README.md: 本ベンチマークレポート（データセットカード）
• results_nextgen_quant.json: 全4モード×全8シナリオの全出力テキスト、TTFT、TPS、VRAM測定生データ
• benchmark_nextgen_quant.py: 完全再現用ベンチマーク実行スクリプト