COARSE CORRESPONDENCES：マルチモーダル言語モデルの3D空間理解を飛躍的に向上させる新手法

# COARSE CORRESPONDENCES Elicit 3D Spacetime Understanding in Multimodal Language Model

今回は、最新の研究成果である「COARSE CORRESPONDENCES Elicit 3D Spacetime Understanding in Multimodal Language Model」という論文をご紹介します。この研究は、マルチモーダル言語モデル（MLLM）が3D空間と時間的なダイナミクスを理解する能力を向上させるためのシンプルで効果的な視覚的プロンプト手法を提案しています。

### 論文情報
- **タイトル**: COARSE CORRESPONDENCES Elicit 3D Spacetime Understanding in Multimodal Language Model
- **リンク**: [coarse-correspondence.github.io](https://coarse-correspondence.github.io)
- **発表日**: 2024年8月1日
- **著者**: Benlin Liu, Yuhao Dong, Yiqin Wang, Yongming Rao, Yansong Tang, Wei-Chiu Ma, Ranjay Krishna
- **DOI**: arXiv:2408.00754v1

## 背景と目的
### マルチモーダル言語モデルの現状
マルチモーダル言語モデル（MLLMs）は、スマートフォン、スマートグラス、ロボットなどのデバイスを通じて、物理的な世界での応用が進んでいます。これらのモデルは、視覚エンコーダを組み込むことで、ユーザーの物理的な環境を理解し、時間経過に伴う行動を推論する能力を持っています。たとえば、OpenAIのGPT-4VやGoogleのGeminiは、現実世界の環境を視覚的に認識し、ユーザーの行動を理解するための高度な機能を備えています。

しかし、これらのモデルは依然としていくつかの限界を抱えています。特に、3D空間の理解や長時間にわたるビデオの時間的なダイナミクスの把握において、現在のトップモデルでも十分ではありません。これにより、物体間の空間的関係や時間的なイベントの理解が不完全であることが研究ベンチマークで明らかになっています。

### 研究の目的
本研究の目的は、既存のMLLMsが持つこれらの限界を克服し、3D空間と時間的なダイナミクスをより深く理解させるための新しい視覚的プロンプト手法「COARSE CORRESPONDENCES」を提案することです。具体的には、軽量なトラッキングモデルを使用して、ビデオのフレーム間や一連の画像ビュー間でオブジェクトの対応を見つけ出し、それを視覚化することで、MLLMsの3Dおよび時間的な推論能力を向上させることを目指します。

### 関連研究
MLLMsの発展に伴い、視覚的プロンプティングや3D空間理解に関する研究が数多く行われています。例えば、Chain-of-ThoughtプロンプティングやRed-circleプロンプティングなどが提案されており、これらの手法はLLMsの推論能力を向上させることが示されています。しかし、これらの手法は主に2D画像を対象としており、3D空間や時間的なダイナミクスの理解には限界があります。

## 研究の焦点
### 具体的な課題
現在のMLLMsは、以下のような具体的な課題を抱えています：
1. **3D空間理解の不足**: MLLMsは、物体間の空間的関係を正確に理解するのが難しい。例えば、家具の配置や物体間の距離を正確に認識することが困難です。
2. **時間的なダイナミクスの理解不足**: 長時間のビデオにおけるイベントの順序や因果関係を正確に把握するのが難しい。例えば、人物の行動やイベントの進行を追跡する能力が不足しています。
3. **視点の変換の困難**: MLLMsは、カメラ視点以外の視点から空間を推論する能力が不足している。例えば、他の視点から見た物体の位置や関係を正確に理解することが難しいです。

### 提案手法の詳細
COARSE CORRESPONDENCESは、次の4つのステップから構成されています：
1. **対応の追跡**: 高フレームレートのビデオからオブジェクトの対応を見つけ出すために、クラス非依存のインスタンスセグメンテーションマスクを使用します。この手法により、ビデオ内のオブジェクトの動きを正確に捉えることができます。
2. **フレームの間引き**: 計算コストを削減するために、ビデオフレームを間引き、代表的なフレームのみを使用します。これにより、必要な情報を保持しつつ、計算リソースを効率的に使用できます。
3. **粗い対応の選択**: 最も頻繁に出現するオブジェクトインスタンスを選択し、それを視覚化します。これにより、重要なオブジェクトの動きを強調し、MLLMsの注意を引きます。
4. **対応の視覚化**: 選択されたオブジェクトを画像上でマークし、MLLMsに提示します。これにより、MLLMsが視覚的に重要な情報をより簡単に理解できるようになります。

このアプローチにより、MLLMsが3Dおよび時間的な推論能力を向上させ、ScanQAやOpenEQAなどのベンチマークで最先端の結果を達成しました。

### 手法の詳細なプロセス
COARSE CORRESPONDENCESの具体的な手法について、さらに詳しく説明します。まず、ビデオや画像セットからオブジェクトの対応を抽出するために、Tracking Anythingなどの既存のトラッキングモデルを使用します。このモデルは、各フレームに対してインスタンスセグメンテーションマスクを生成し、同じオブジェクトインスタンスを識別します。

次に、ビデオフレームを間引き、計算コストを削減します。この際、意味のあるオブジェクトトラックを抽出し、少数のフレームに絞り込んで使用します。これにより、MLLMsが処理するフレーム数を削減しつつ、重要な情報を保持します。

その後、最も頻繁に出現するオブジェクトインスタンスを選択し、視覚的にマークを付けます。具体的には、各インスタンスIDの出現頻度と面積を計算し、上位のインスタンスを選び出します。これらのインスタンスに対して、マーカーやセグメンテーションアウトラインを付けて視覚化します。

最後に、マークされた画像をMLLMsに提示し、質問に答えさせます。この方法により、MLLMsが3D空間や時間的なダイナミクスをより深く理解することができます。

## 実験の概要と結果
### 実験設定
本研究では、以下のデータセットと評価指標を使用して実験を行いました：
1. **ScanQAデータセット**:
   - 800のシーンに対する32,337のユニークな質問を含むデータセットです。評価指標としてBLEUスコア、METEOR、ROUGE-L、CIDErを使用しました。

2. **OpenEQAデータセット**:
   - 空間的環境理解と具現化推論を評価するデータセットです。エピソディックメモリ（EM-EQA）データスプリットを使用し、評価指標として精度を使用しました。

3. **EgoSchemaデータセット**:
   - 長編ビデオ理解を評価するデータセットで、500の質問に対して評価を行いました。

4. **SOTベンチマーク**:
   - 空間的視点取得能力を評価するための新しいベンチマークです。10のシーンから50の質問を作成し、評価しました。

### 実験結果
#### ScanQAの結果
以下の表に示すように、COARSE CORRESPONDENCESを適用することで、GPT-4VとGPT-4Oが従来の手法を上回る性能を発揮しました。

| モデル | フレーム数 | BLEU-1 | BLEU-2 | METEOR | ROUGE-L | CIDEr |
|-------|-----------|--------|--------|--------|---------|-------|
| LLaVA | -         | 7.1    | 2.6    | 10.5   | 12.3    | 5.7   |
| Flamingo | -      | 25.6   | 15.2   | 11.3   | 31.1    | 55    |
| BLIP2 | -         | 29.7   | 16.2   | 11.3   | 26.6    | 45.7  |
| 3D-LLM | -        | 39.3   | 25.2   | 14.5   | 35.7    | 69.4  |
| Gemini | 8        | 24.1   | 13.5   | 11.3   | 35.4    | 68.3  |
| Gemini+CC | 8     | 25.4   | 15.7   | 12.0   | 37.1    | 75.5  |
| Claude | 8        | 19.8   | 11.1   | 10.0   | 29.3    | 57.7  |
| Claude+CC | 8     | 27.1   | 23.9   | 11.7   | 33.1    | 65.7  |
| GPT-4V | 8        | 28.6   | 13.4   | 13.5   | 33.4    | 59.6  |
| GPT-4V+CC | 8     | 39.7   | 25.5   | 17.4   | 40.8    | 79.2  |
| GPT-4O | 4        | 30.5   | 19.8   | 14.8   | 36.1    | 72.2  |
| GPT-4O+CC | 4     | 35.4   | 25.5   | 18.0   | 42.6    | 87.0  |

#### OpenEQAの結果
COARSE CORRESPONDENCESは、OpenEQAデータセットにおいても顕著な性能向上を示しました。特に、フレーム数を大幅に削減しつつ、従来の手法を上回る精度を達成しました。

| モデル | フレーム数 | 精度 |
|-------|-----------|--------|
| LLaMA2 | 0         | 28.3   |
| GPT-4  | 0         | 33.5   |
| Claude3 | 20       | 36.3   |
| Gemini-Pro | 15    | 44.9   |
| GPT-4V  | 15       | 54.6   |
| GPT-4V  | 50       | 55.3   |
| Human  | Full      | 86.8   |
| GPT-4V  | 8        | 44.8   |
| GPT-4V+CC | 8     | 58.5   |
| GPT-4O  | 4        | 49.4   |
| GPT-4O+CC | 4     | 59.1   |

#### EgoSchemaの結果
EgoSchemaデータセットでは、COARSE CORRESPONDENCESを適用することで、GPT-4VとGPT-4Oが従来のアプローチを大幅に上回る性能を示しました。

| モデル | フレーム数 | 精度 |
|-------|-----------|--------|
| LongViviT | 256    | 56.8   |
| MC-ViT-L | 128+    | 62.6   |
| LLoVi    | 180     | 58.3   |
| VideoAgent | 8.4   | 60.2   |
| MVU      | 16      | 60.3   |
| VideoAgent | -     | 62.8   |
| LangRepo | -       | 66.2   |
| GPT-4V  | 8        | 64.2   |
| GPT-4V+CC | 8     | 67.4   |
| GPT-4O  | 8        | 67.2   |
| GPT-4O+CC | 8     | 73.2   |

#### SOTベンチマークの結果
COARSE CORRESPONDENCESは、SOTベンチマークにおいてもGPT-4Oの視点取得能力を大幅に向上させました。

| モデル | フレーム数 | 元のカメラ視点 | 逆のカメラ視点 | 調和平均 |
|-------|-----------|--------------|--------------|--------|
| GPT-4O | 2         | 58.2         | 50.0         | 53.8   |
| GPT-4O+CC | 2     | 71.6         | 70.6         | 71.1   |
| GPT-4O | 4         | 58.0         | 50.4         | 53.9   |
| GPT-4O+CC | 4     | 71.2         | 71.2         | 71.2   |

## 賛否両論
### 賛成意見
**高精度な3D空間理解**
COARSE CORRESPONDENCESは、MLLMsが3D空間を正確に理解する能力を大幅に向上させました。これにより、物体間の空間的関係を正確に把握することが可能になりました。

**時間的推論能力の向上**
長時間のビデオにおけるイベントの順序や因果関係を正確に把握する能力が向上しました。これにより、複雑なシナリオにおいても正確な推論が可能になりました。

**視点の変換能力の改善**
MLLMsがカメラ視点以外の視点から空間を推論する能力が向上しました。これにより、より柔軟で人間らしい視点取得が可能になりました。

### 反対意見
**限界の存在**
COARSE CORRESPONDENCESは、特定の条件下では限界があり、全てのシナリオで完全な性能を発揮するわけではありません。特に、長編ビデオにおけるトラッキングモデルの精度に課題が残っています。

**計算コスト**
フレームの間引きや対応の視覚化には一定の計算コストがかかります。特に、大規模なデータセットや複雑なシナリオにおいては、計算リソースの効率的な使用が求められます。

## 結論
本研究では、COARSE CORRESPONDENCESという新しい視覚的プロンプト手法を提案し、MLLMsの3D空間および時間的なダイナミクスの理解を大幅に向上させました。この手法は、既存のトラッキングモデルを利用してオブジェクトの対応を抽出し、重要な情報を視覚的に強調することで、MLLMsがより正確な推論を行えるようにします。実験結果からも示されるように、COARSE CORRESPONDENCESは、従来の手法を大幅に上回る性能を発揮し、3Dおよび時間的な理解が求められる多くの応用において有効であることが示されました。

この記事が皆さんの研究や実務に役立つことを願っています。ご質問やフィードバックがありましたら、コメント欄にお寄せください。