視覚と言語が融合するマルチモーダルAIの最前線！QVQが拓く脱OCRへの新時代！


![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/d20ce84a-61b9-d7da-1998-e38c7eee2b7c.png)

## QVQとは何か

https://qwenlm.github.io/blog/qvq-72b-preview/

QVQ（またはQvQ）は、Alibabaが開発した大規模言語モデル「Qwen2-VL-72B」に基づいて設計されたマルチモーダル推論モデルです。ここで「マルチモーダル」とは、テキストや音声、画像といった複数の情報形式（モダリティ）を同時に扱える技術のことを指します。QVQが特に注目を集めている理由は、従来の多くの大規模言語モデルがテキスト中心のやりとりに特化していたのに対して、「視覚的な情報を統合した推論を行う」という点にあります。たとえば、単なる文章を読むだけでなく、画像の内容を理解し、その内容を文章とあわせて解釈しつつ高度な推論を行うことが可能となるのです。

視覚的理解は、人間の思考プロセスにとって非常に重要な役割を果たしています。人は文字情報だけでなく、図表や写真、あるいは動画などから多くの洞察を得て、それをベースに考えを深めていきます。この点に着目した開発チームは、「QVQ: 知恵で世界を見つめる」というコンセプトを掲げ、人間のような視覚と言語を融合した推論モデルを構築しようと試みました。公式ブログでは、物理学の難問を専門家レベルで解決できるAI像を提示しながら、そのために視覚情報を扱う能力がいかに重要かを説いています。具体的には、物体の位置関係や図形的特徴、あるいは実験データなどを視覚的に取り込み、それを言語的推論と組み合わせることで、複雑な問題解決能力を向上させるというアプローチが取られているのです。

一方で、マルチモーダルモデルを実際に開発・運用するには多くのハードルがあります。たとえば、画像情報をどのようにエンコードし、言語モデルの内部表現と統合するのか、また段階的な推論プロセスをどのように可視化してユーザーに提示するのかなど、多角的な設計・実装上の課題があります。それにもかかわらずQVQは、数々のベンチマークテストで優れた結果を示しており、次世代の大規模モデルとして注目されているのです。

ところで、QVQの呼称は「QvQ」とも書かれることがあり、英語圏のブログなどではQvQと表記されるケースが多々あります。これは同じものを指しており、AlibabaのQwen2-VL-72Bベースという点は変わりません。モデルの中核には、言語的推論のための巨大なパラメータ群と、画像理解のためのモジュールが組み込まれており、それらを一体化した設計となっています。最新の研究成果として、QvQ(QVQ)-72B-Previewというバージョンもリリースされており、これは実験的モデルとしてさらなるパフォーマンス向上を目指しています。

────────────────────────────────────────

## 主要な成果と課題

### 高いベンチマークスコア

QVQ-72B-Previewは、複数のベンチマークテストで評価されています。具体的には「MMMU（Multiple Modality Multidisciplinary University）」「MathVista」「MathVision」「OlympiadBench」などが挙げられます。MMMUは大学レベルのマルチモーダル評価データセットであり、画像認識と論理推論を総合的に問う形式を取っています。QVQ-72B-Previewは、このMMMUにおいてスコア70.3という優秀な成績を収めたことで話題を呼びました。もともとベースモデルであるQwen2-VL-72B-Instructも優れた性能を持っていましたが、QVQ-72B-Previewでは視覚とテキストの融合がより強化され、数学や物理のような抽象度の高い領域でも成果を伸ばせたといいます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/e8bda54e-10ba-b853-deeb-96e46f3458f8.png)


具体的な例として、MathVistaはパズル形式の図形問題や代数的思考を要する関数グラフの読み取りなどが含まれたデータセットです。人間でも一瞬考え込むような図表問題をモデルが理解し、正答を導けるかを評価するテストとして知られています。さらに、MathVisionやOlympiadBenchでは、競技数学の問題や論文の図表解析、物理の実験データを読み解く力などが試されます。オリンピックレベルの数学・物理問題が含まれるOlympiadBenchは特に難易度が高いことで有名です。QVQ-72B-Previewはこれらの難関ベンチマークでも前身モデルを上回るパフォーマンスを示しており、視覚を伴ったマルチモーダル推論の有効性を証明する一助となっています。

### 視覚推論の限界と課題

当然ながら、QVQ-72B-Previewにも未解決の課題は存在します。開発元からは、今後の研究方向として以下のような懸念点が挙げられています。

1. **言語混在・コードスイッチング**  
   大規模な多言語環境下でモデルを動かす際、回答が複数言語にまたがる「コードスイッチング」が発生し、応答が理解しづらくなるケースがあるといいます。具体的には、日本語の質問をしているのに途中から英語のフレーズが混ざったり、逆に英語の文章に中国語の単語が紛れ込んだりするような問題が観察されています。こうした言語制御の管理は、マルチモーダル以前に大規模言語モデル一般に見られる課題でもあります。

2. **再帰的推論**  
   QVQはステップバイステップで考えるプロセスを重視するため、ときに循環的なループに陥りやすいという報告もあります。具体的には、モデルが「ある仮説」を立てた後、それを検証するために再度同じ推論プロセスを繰り返し、結局同じ地点に戻ってくるなど、無限ループ的な応答になってしまう可能性があるのです。これが「再帰的推論の落とし穴」として指摘されており、適切な脱出条件の設定や制御が必要とされています。

3. **安全性や倫理面**  
   大規模モデルを運用する際、誤った情報を提示したり、悪意ある利用者により不適切な使われ方をしたりするリスクがあります。QVQにおいても、視覚要素を伴うことで誤解が広がるケースや、個人情報にかかわる画像を不本意に解析してしまうケースが懸念されます。開発チームによれば、こうした不正利用を防ぐための安全策やフィルタリング技術は今後さらに強化される見込みです。

4. **多段階推論の集中力低下**  
   モデルが複雑な画像を何度も参照しながら数ステップにわたる推論を行うと、途中で画像情報への注目が薄れ、的外れな方向へ推論が逸脱するリスクがあるといわれます。人間も同じように、長時間にわたる集中作業で注意が散漫になる場合がありますが、AIにおいても似たような問題が起きるわけです。今後は、画像の要点を保持しながら論理的帰結へと誘導するメカニズムが検討されることになるでしょう。

こうした問題点を踏まえ、QVQは引き続き“Preview”版としての性質を保ちつつ改良が続けられています。開発者らは、より高度なマルチモーダル統合や安全策の実装、そしてAGI（汎用人工知能）につながる推論力の探求を目指しているとされます。

────────────────────────────────────────

## “Trying out QvQ”の事例

### ペリカンの数を数える
英語圏のブログ記事「Trying out QvQ—Qwen’s new visual reasoning model」では、Hugging Face Spaces上に公開されているQVQのデモを実際に試した例が紹介されています。注目度が高いのは、「ペリカンの写真を見せて、そこに何羽のペリカンが写っているかを当てさせる」という実験です。写真には4羽のカリフォルニアブラウンペリカンが桟橋に佇む姿が収められており、加えてもう1羽の後ろ姿が一部だけ写り込んでいます。

モデルはまず「ペリカンって大きなクチバシの鳥だよね？」という、まるで人間が呟くような入り方で思考を始め、左から順番に鳥をカウントしていきます。「4羽がしっかりとフレーム内に収まっているが、右端には後ろ姿だけだから、これを1羽とカウントするかどうか……」という具合に悩み、最終的には「はっきりと写っているのは4羽」として答えを出しました。  
この実験で興味深いのは、モデルの出力がただの「答え」ではなく、プロセスを含んでいることです。QVQは自分が何を見て、何を推論したのかをある程度説明しながら出力しており、その言葉遣いがフレンドリーなために人間っぽさが際立ちます。

### 難易度の高いパズルや多頭数のペリカン
さらに別のユーザーは、ペリカンが写っているより複雑な写真を与え、何羽いるのかどうかをチェックさせました。

>ペリカンの写真を何枚か持っているのですが、数えなければなりません。ちょっと考えてみましょう... まず、ペリカンは大きなくちばしを持つ大きな鳥だということは知っていますよね? [...]
>もう一度、今度はもっと注意深く数えてみましょう。左から始めます。
>最初のペリカンは正面に立っていて、完全に見えます。
>その後ろ、少し右に2羽目のペリカンがいます。
>そして、さらに後ろには3羽目のペリカンがいます。
>そしてその隣に4羽目のペリカンがいます。
>つまり、ペリカンは全部で 4 羽です。しかし、画像の右端に別の鳥の一部、おそらくペリカンの背中か尾羽が写っていますが、フレーム内に完全に収まっていないので、ペリカン全体として数えるべきではないと思います。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/2b40671b-2538-5d93-93e8-46e20f40a3b0.png)

また、ARC-AGIというパズルで、OpenAIのo3モデルが失敗した問題をQVQに与えた場合、膨大な推論の文章を出力してきたそうです。途中で「コンウェイのライフゲームみたいなセル・オートマトンのルールが働いているのかも？」と勝手に連想し始めるシーンもあり、これは結果的に正解ではないにせよ、「AIが自発的に別の領域を連想して議論する」という点が大変ユニークだと評されています。こうした大胆な連想は、時に正解から外れる原因になりますが、モデルの思考の柔軟性の一側面ともとらえられています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/606373f5-4609-918b-c646-ea97c206b22f.png)
>[...] コンウェイのライフゲームのようなセルオートマトンルールの観点から考えてみましょう。
>ライフゲームでは、各セルの次の世代の状態は、現在の状態と 8 つの隣接セルの状態によって決まります。
>おそらく、ここでも同様のルールが適用されるでしょう。

### 恐竜（実はドラゴン）の高さ推定
さらに興味深い例として、「恐竜の高さを推定してほしい」と指示された画像では、実際には恐竜ではなく空気で膨らませるドラゴンのクリスマス飾りが写っていました。背景にはほとんど比較対象がなく、厳密な数値推定は困難なはずです。ところがQVQは「自分が5フィート10インチだから……」と謎の仮定を持ち出し、「ドラゴンは8〜9フィートくらいかもしれないね」と話を続けました。この部分は明らかに根拠の薄い自己申告ではあるものの、あたかも人間が「自分より少し高いから、これくらいの身長かな」と考えるかのようなプロセスを自然に表現しており、大変ユーモラスだと評価されました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/ea2deabd-f79f-ceca-2964-0562c868bf49.png)

>膨らませて飾るクリスマスの飾り物、ドラゴンです！でも、ただのドラゴンではありません。サンタの帽子をかぶり、赤と白のスカーフを巻いた緑のドラゴンです。さらに、背中にはトナカイが乗っていて、トナカイもサンタの帽子をかぶってドラゴンの翼をつかんでいます。とても華やかで、鮮やかな緑、赤、黄色がいっぱいです。
>ドラゴンは大きな優しい目と笑顔をしており、とても陽気な印象を与えます。翼を広げ、足には白い爪があります。トナカイは茶色で角があり、ドラゴンの背中に乗って楽しんでいるようです。
>さて、問題は、このインフレータブルドラゴンの高さはどれくらいかということです。高さを推定する必要があります。ちょっと考えてみましょう。私はドラゴンの隣に立っていますが、身長は約 5 フィート 10 インチです。ドラゴンは間違いなく私よりも背が高いです。おそらく 8 フィートか 9 フィートくらいでしょうか。でも、もっと正確に測ってみるべきです。

## 個人検証

執筆者、個人的にQVQを実際に試してみました。具体的には、東京ガスと大東ガスの請求書を画像としてモデルに入力し、***「請求金額はいくらですか？」*** という問いを与えました。すると、QVQは再帰的に推論を進め、最終的な出力 ***「Final Answer」*** では、両方の請求書それぞれの ***正しい金額をしっかりと抽出してくれたのです！*** 
興味深いのは、同じタスクを他のViT（Vision Transformer）ベースのモデルなどで試した場合、複雑な請求書のレイアウトや数字を正確に認識できず、不正解が多かった点です。そこを踏まえると、QVQが視覚的な要素を扱う能力の高さを示せているように思えます。たとえば、文字や数字の配置を踏まえて金額のみを正しく拾い上げる力や、多段階の推論を行いつつ、最終的に誤りの少ない解答にたどり着く過程は非常に印象深いものでした。
これまでの記事でも紹介したように、QVQは視覚的情報と言語的推論を合わせて処理する点で他のモデルに大きく差別化要素があり、ペリカンを数えるといったデモンストレーションだけでなく、今回のように実社会で使われる書類を取り扱うシーンでも有用性が伺えます。日常的にやり取りされる請求書や契約書などの画像データをAIに正しく認識させることは意外にハードルが高いのですが、QVQの再帰的推論がうまくかみ合うことで、精度の高さが際立っていると思いました。こうした実験結果を見ると、今後も視覚推論の進化がさらに期待できるのではないでしょうか。


***実験①***
正解: 4697
![スクリーンショット 2025-01-16 17.42.37.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/b569da27-e9b6-5e21-08fd-ef1b0b6af6b2.png)


![スクリーンショット 2025-01-16 17.38.49.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/aae461eb-777d-bccb-5a8c-02a104cd0d82.png)
>単位表示はないものの数字は正解しています・・！

***実験②***
正解: 5627
![スクリーンショット 2025-01-16 17.40.31.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/710f2395-dc8d-3307-16a5-13e5bada17c2.png)

![スクリーンショット 2025-01-16 17.41.15.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/67128a4e-d314-aca2-fa8a-441ba90fe0ab.png)
>こちらも正解。6回ほど実験しましたが、正解率は約83.333333..%です。（1度再帰的な出力が止まらない事があり、そちらを不正解とみなしました。試行回数を増やせばもっと正解率は上がると思います。）


────────────────────────────────────────

## ローカル実行とライセンスの動向

### ローカル環境での実行
QVQはHugging Face Spacesの公開デモ以外にも、ローカル環境で動かすことが可能です。特にMacBook Pro（M2チップ搭載、メモリ64GB）などの比較的ハイスペックな環境であれば、モデルを量子化（4bitなど）することでギリギリ動かせる可能性があるという報告があります。英語圏の開発者コミュニティの中には、AppleのMLXフレームワークに対応するようモデルを変換し、「mlx-vlm」などのパッケージを組み合わせて、`uv run`コマンドで推論を実行する方法を紹介している人もいます。

```shell
uv run --with 'numpy<2.0' --with mlx-vlm python \
  -m mlx_vlm.generate \
    --model mlx-community/QVQ-72B-Preview-4bit \
    --max-tokens 10000 \
    --temp 0.0 \
    --prompt "describe this" \
    --image pelicans-on-bicycles-veo2.jpg

```

このようなローカル実行に成功した事例によると、モデルの重みをダウンロードする段階で数十GB単位の容量が必要であり、ストレージへの負荷や実行時間の長さが実用性の課題として挙げられています。一方で、ローカルで実行できるメリットは大きく、オフライン環境でのテストや独自データを用いた実験など、多様な場面で柔軟にモデルを使えるという利点があります。  
将来的にはさらに小型化・効率化が進み、より軽量な環境でもQVQのマルチモーダル推論を試せるようになる可能性があります。

────────────────────────────────────────

## まとめ

QVQは、従来のLLMが苦手としてきた「視覚情報の活用」を本格的に組み合わせることで、複雑な物理や数学の問題にも取り組める新しいモデルとして登場しました。段階的な推論プロセスを重視し、ユーザーに対しては答えだけでなく思考過程の一端をテキストで示す仕組みがあり、これが「まるで人間みたい」と言われる所以でもあります。

一方で、コードスイッチングや再帰的推論のループ、安全性の確保など、今後の改良が望まれる点も少なくありません。特に再帰的推論では、モデルが自分の推論の根拠を適切に評価する仕組みが不十分だと、堂々巡りに陥ってしまうリスクがあります。また、視覚情報への注意が長い推論過程で散漫にならないようにする工夫も必要でしょう。人間の脳が必要に応じて画像を再確認するように、AIモデルも都度画像を参照しながら論理をアップデートする仕掛けを強化していくことが課題となり得ます。

### 視覚と言語の融合意義
人間の脳は、テキスト情報だけでなく視覚情報を通じて多くのことを学習しています。たとえば物理現象を理解するときは、単なる数式ではなく、実験映像や観測画像から「こう動くのか」「こう反射するのか」といった直感を得ることが多いものです。QVQの開発チームは、この「視覚とテキストの二重構造」を大規模言語モデルに取り込むことで、既存のLLMにはない柔軟性や直感的推論力を実現できると考えています。

### QVQのビジョン詳細
公式ブログ「QVQ: 知恵で世界を見つめる」では、将来像として「物理学者と同等の洞察を持つAI」を提示しています。これは非常に野心的な目標であり、単にテキストを解析するだけでなく、論文の図や実験データを読み解き、さらにそのプロセスを言葉で説明できる能力が必要とされます。また、それだけでなく、未知の現象に対して自分で仮説を立て、画像やビジュアル情報を参照しながら結論を導くという一連のプロセスを自律的に行うことが期待されています。AGI（汎用人工知能）の到達点はまだ先ですが、QVQのようなマルチモーダル推論の試みによって、一歩ずつその実現に近づこうとしているのです。

### ベンチマークスコアの意義
ベンチマークテストで高スコアを出すこと自体は、あくまでモデルの“性能指標”の一つであり、必ずしも実用上のすべてを示すわけではありません。ただし、MMMUやOlympiadBenchのように高難度かつ多面的なデータセットで好成績を収めることは、モデルに潜在的な能力が備わっている証拠と言えます。特に競技数学や物理の問題は、単に暗記やパターンマッチングだけでは太刀打ちしにくいケースが多く、視覚解析と論理推論の両方を駆使する必要があります。QVQがこれらの分野で一定の成果を出したことは、マルチモーダルアプローチの有効性を裏付ける一端となっています。

### コードスイッチングの詳細
言語混在は、複数の言語を扱う大規模言語モデル全般で報告されている問題です。たとえば英語と中国語が混ざる環境で学習したモデルは、回答中に突然コードスイッチングが起こってしまうことがあります。QVQも例外ではなく、日本語、英語、中国語などのデータを扱う場合、一つの応答の中に複数言語が入り交じる場面があると報告されています。これは人間のバイリンガル話者が自然に行うコードスイッチングとは少し異なるものです。意図しない言語切り替えはユーザーの理解を妨げる可能性が高く、開発チームは制御方法を検討中とのことです。

### 冗長化と再帰的推論
QVQが「段階的推論」を大事にするがゆえに陥る罠として、同じ情報をぐるぐると繰り返す「再帰的推論の落とし穴」があります。これは、モデルが一度立てた仮説を検証するために同じ推論を再度呼び出すことで、無限ループ的な応答を生成することを指します。たとえば「Aである可能性とBである可能性を検討しよう」と始まり、Aを検討した結果「Bもありそうだ」となり、またBからAへ戻る……と繰り返す場合があります。こうした推論ループから適切に抜け出すためには、モデル内部で仮説の評価を確定させる仕組みや、ステップ数の制限が必要となります。

### 安全性と倫理上の配慮
視覚情報を含むマルチモーダルAIでは、従来以上にプライバシー保護や機密情報の扱いへの配慮が求められます。画像の解析により、個人が特定できる情報や、公開すべきでない施設内部の様子などが推論の材料に使われてしまう可能性もあるからです。QVQの公式ドキュメントでも、安全性や倫理指針の策定は大きなテーマとして取り上げられており、今後も改良版においてさらに厳格なフィルタリングやポリシー管理が導入される見込みです。

### ローカル実行の意義
ローカル環境で大規模モデルを実行するのは、ストレージ容量やGPUメモリといった面で高いハードルがありますが、その分メリットも大きいです。外部サーバーにデータをアップロードする必要がなくなるため、機密性の高い研究や企業向けのプロジェクトでも安心してモデルを試せます。さらに、実行プロセスを細かく制御できるので、カスタムのトークナイザーを使ったり、学習済みウェイトに追加学習を施したりする自由度が高まります。こうした利点から、多くのエンジニアや研究者がローカルでQVQを動かす方法を模索しているのです。

### ライセンス問題の再認識
Apache 2.0からQwenライセンスへの切り替えは、一見すると些細な誤記修正のように見えますが、実際にはモデルの利用許諾範囲や再配布条件などにかかわる重大な変更である可能性があります。オープンソースコミュニティでは、ライセンスの扱いをめぐって度々議論が起こります。特に企業利用を検討している場合、ライセンス条項を誤解しているとプロジェクトの公開や商用展開の際に問題となる場合があります。そのため、QVQを使う開発者はリポジトリの更新履歴やコミットメッセージに注意を払い、常に正確な情報を把握するべきでしょう。

### 今後の展望
大規模言語モデルと視覚推論の組み合わせは、今後さらに研究が盛んになると予想されます。MetaやGoogle、Microsoftなどの大手企業も、類似のマルチモーダルAI技術に注力しており、論文やデモが次々と発表されています。QVQはその中でも特に「オープンウェイトモデル」である点が注目されており、研究コミュニティや個人開発者が自由に実験を行いやすい環境を提供しています。モデルの性能自体も、今後の追加学習やファインチューニングによってさらに進化する可能性が高いでしょう。  
物理や数学の問題に強いAIは、教育業界や研究開発分野で大きく需要がある一方、クリエイティブな分野でも「視覚的なアイデアを言語化して提案する」などの新しい活用方法が見込まれています。AGIを目指すうえで欠かせない要素として、今後もQVQの歩みは続いていくはずです。

参照・引用元:
- https://qwenlm.github.io/blog/qvq-72b-preview/
- https://zenn.dev/fujiyuu75/articles/fc17fdda6fbd4d
- https://simonwillison.net/2024/Dec/24/qvq/

---

**もしこの記事が役に立ったと思ったら：**

- ぜひ「いいね！」をお願いします！
- 最新の投稿を見逃さないよう、Xのフォローもお願いします！
    - https://x.com/immeivise