Hugging Face's logo

isichan-ai
/
Angio

windows
llama.cpp
monitoring
Model card Files
xet
 Community
1

Angio

ローカル LLM の「遅い場所」を、1枚の図で見せる Windows アプリ

v1.3.0 ・ 無料

血管造影（Angiography）のように、LLM を動かしている時の「流れ」と「詰まり」を見るアプリです。 GPU・VRAM・PCIe・メモリ・SSD・LAN を同時に測り、Prefill（質問を読む段階）と Decode（答えを書く段階）のそれぞれで、どの部品が一番詰まっているかを示します。

できること

① リアルタイムで観測

いま詰まっている部品が、赤い帯と図で一目で分かります。 LAN でつないだ2台目の PC も、1枚の図にまとめて見られます。

② 測定モード

3・5・10分を選ぶと、Angio が自分で質問を送り続けて、Prefill と Decode の速さを測ります。

③ 仮想モード（β）

「GPU を替えたら？」「もう1枚足したら？」を、今の実測から予想します。 まだ試験中です。皆さんの測定結果で、予想の誤差を縮めていきます。

④ 結果報告表

測った結果を1枚の画像にまとめます。 画像の保存・X に貼る文・HF に貼る用の表を、ボタン1つでコピーできます。

使い方

  1. 「Files and versions」から Angio_v1.3.0.zip をダウンロードします （直リンク：https://huggingface.co/isichan-ai/Angio/resolve/main/Angio_v1.3.0.zip ）
  2. 展開する前に、zip を右クリック →「プロパティ」→「許可する」にチェックを入れます
  3. 展開して angio.exe を起動します（インストール不要）
  4. 右上の「設定」で、LLM サーバーのアドレスを選びます

詳しい使い方は、zip の中の README.md にあります。

動く環境

項目 対応
OS Windows 10 / 11（64 ビット）
GPU NVIDIA（全部の項目）／AMD Radeon・Intel Arc（使用率と VRAM だけ）
測る相手 llama-server（--metrics を付けて起動）・Strata（v0.1.45 で確認）

測定結果を貼ってください

貼ってもらった結果は、仮想モードの予想を正確にするのに使います。

貼る場所：このページ上部の「Community」タブ →「測定結果はここに貼ってください」のスレッド 👉 https://huggingface.co/isichan-ai/Angio/discussions/1

貼り方

  1. Angio で LLM を動かして測ります（右上の「測定モード」）
  2. 右上の「結果報告表」を開きます
  3. 「HF に貼る用をコピー」を押します
  4. 上のスレッドの一番下のコメント欄に貼り付けて「Comment」を押します（Hugging Face へのログインが要ります）

中身は部品の名前と測った数字だけです（ファイルの場所・PC の名前・IP は入りません）。 GPU を足す前と後など、同じ PC で部品を替えた時の結果があると特に助かります。

変わったこと

v1.3.0（2026-10-19）
  • 結果報告表に「HF に貼る用をコピー」を付けました
  • AMD（Radeon）・Intel（Arc）の GPU の使用率と VRAM を読めるようにしました
  • Strata v0.1.45 で動くことを確かめました
  • 仮想モードを β（試験中）の扱いにしました
  • 図の画面の左上と、結果報告表の左下に、版の番号を出すようにしました
  • 設定の一番下に「このアプリについて」を付けました
  • 設定の「描き方」の欄をなくしました（描き方は今まで通り、起動の時に自動で決めます）
v1.2.0（2026-10-19）
  • 起動の時に、部品の一覧を確かめてから図が開く画面を付けました（初回だけ「初回セットアップ中」と出ます。設定で出さないようにもできます）
  • 右上の「最小化」で、Prefill と Decode の速さだけを出す横長の小さい窓にできるようにしました
  • 起動してしばらくすると、窓が一瞬開き直して見えることがあったのを直しました
  • 上の赤い帯の高さが状態によって変わり、図が上下に動いていたのを直しました
  • 一部を CPU で計算している時、Decode 中の PCIe の通り道にも流れを出すようにしました
  • 起動した直後の白い画面を、黒にしました
  • 上の赤い帯と SUMMARY の、段階を示す青い点をなくしました
v1.1.0（2026-10-18）
  • LAN でつないだもう1台の部品が詰まっている時も、詰まりとして表示するようにしました
  • 裏で動いている他のアプリの分を差し引いて測るようにしました
  • LAN の柱は、2台をつないだ時だけ出すようにしました
  • モデルが全部 VRAM に載っている時は、CPU・RAM・SSD/HDD を通り道から外して表示します
  • 詰まりの上位3つだけを表示する切り替えを付けました
  • 「最大の速さ」が今の速さより低く出ることがあったのを直しました
  • 待機中の案内の言葉と、設定の CPU の書き方を分かりやすくしました

お願い

人に紹介する時は、zip ではなく、このページのリンクを教えてください（いつも最新の版を取ってもらえます）。

作者

石ちゃん（X：@Isichan_Hitori）

スペシャルサンクス

Downloads last month

-

Downloads are not tracked for this model. How to track
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support