情報処理学会論文誌

対戦アクションゲームにおけるプレイヤーの挙動観察のためのシーン検索
三ツ井 慧太郎 1

岡部 誠 1

受付日 2021 年 8 月 26 日，採録日 2021 年 8 月 26 日

概要：私たちは対戦アクションゲームにおけるプレイヤーの挙動観察のためのシーン検索技術を提案する。近年、eSports（競技性の高いビデオゲーム）が流行っており、多くのプレイヤーが各々のスキルを上げ、対戦相手に勝ちたいと考えている。スキルを上げるための１つの方法は、様々な別のプレイヤーの対戦動画を見て、その挙動を観察することで強い行動パターンを学んでいくことである。本提案は、対戦中のある瞬間の画像を入力すると、その画像と似通った状態のシーンを動画データベースから複数検索して提示する。ユーザは提示された動画を観察することで、その瞬間以降に対戦相手がどういった挙動を取りうるか、また、自分はどういった行動に移るべきかの作戦を練ることができる。しかし、既存の動画検索技術では対戦ステージの背景の変化に対応した検索ができず、我々の目的を達成することができなかった。そこで、対戦ステージの背景の変化を無視し、プレイヤーの位置関係のみを考慮した特徴ベクトルを生成できるディープニューラルネットワークを開発することによって、シーン検索のための新手法を提案する。
キーワード：eSports、深層学習、画像検索

1. はじめにな行動を仕掛けたりする駆け引きが面白さの理由である。
しかし、この対戦相手を意識した練習はプレイヤー単独で近年、競技性の高いビデオゲームをスポーツ競技としてやることが難しい。強い AI プレイヤーとの対戦[1]は 1 つの捉えて”eSports”という名称で呼ぶほど、ビデオゲームに注目アプローチかも知れないが、AI は人間離れした挙動をするが集まっている。eSports はファースト・パーソン・シューことがあるため実践的な練習にならない可能性がある。もティング(FPS)や、対戦型格闘ゲーム、サッカーやバスケッ

う 1 つのアプローチは、様々なプレイヤーの過去の対戦動トボールなどのスポーツゲーム、レーシングゲームなど、多画を見て、その挙動を観察することで強い行動パターンを種多様なジャンルがあり、それぞれのジャンルに複数のタ学んでいくことである。しかし、過去動画を見ての対戦相手イトルがある。eSports で活躍するためには、プレイヤーたの傾向の研究も、ある程度の経験がないと何を観察すべきちは各タイトルに特化してゲームを練習し強くなる必要がなのか、何が傾向なのかが分からない。

ある。我々は毎年世界大会が開かれているニンテンドー・ス

そこで我々は、対戦相手の挙動観察を支援する手法としイッチの「大乱闘スマッシュブラザーズ SP（2018 年発売、て、対戦中のある瞬間の画像を入力すると、その画像と似通以下スマブラ）」を題材にプレイヤーが効率よく強くなるたった状態のシーンを過去の対戦動画から複数検索して提示めの支援に取り組んでいる。

するようなシステムを開発している。ユーザは提示された

eSports において、強いプレイヤーになるためには重要な動画を観察することで、その瞬間以降に対戦相手がどういことが 2 つある。1 つはゲームの操作技術を磨くことであった挙動を取りうるか、また、自分はどういった行動に移るる。これは移動操作をミス無くこなしたり、技を出す際のコべきかの作戦を練ることができるのではないかと期待してマンドを正確に入力するための練習などであるが、これはいる。

プレイヤー単独でも時間さえかければ習得が可能である。

この目的を実現するため、既存の画像/動画検索手法につもう 1 つの重要なことは対戦相手を意識した練習をするこいて調査したが、我々の要求に対応するものは存在しなかとである。eSports はビデオゲームを媒体にしているが、要った。既存手法の大きな問題の 1 つは、我々はプレイヤー同は人と人の試合であり、そこに面白さがある。相手をだます

士の位置関係に興味があるが、プレイヤーが戦っているスようなフェイントを掛けたり、相手のミスを誘発するようテージや背景には興味が無い。しかし、既存の画像/動画検

1 静岡大学大学院総合科学技術研究科工学専攻
数理システム工学コースⓒ2021 Information Processing Society of Japan1

情報処理学会論文誌

索手法は画像全体の見た目が似たものを検索してしまう。

りも大きくなるように関数𝑓𝑓を学習することができる。

我々は、ステージや背景の状態を無視し、プレイヤー同士の3. 実験結果位置関係のみに着目できるような検索手法を提案する。具
体的には、入力画像をプレイヤー同士の位置関係のみの情データセットの作成にあたり、スマブラの対戦動画から報を持った特徴ベクトルに変換できるようなディープニュ2000 フレームを抽出した。この動画は"75m"というステージーラルネットワークを構築することで、新しい動画検索手で対戦されたものだが、このステージに関しては背景に現法を提案する。

れるピクセルの色数が少ない。そのために容易に背景部分のピクセルを特定することができ、背景を図１のように別2. 提案手法の画像に入れ替えることができる。そのようにして背景を関数𝑓𝑓は画像𝑥𝑥を入力すると特徴ベクトル𝑦𝑦 = 𝑓𝑓(𝑥𝑥)を出力入れ替えたバージョンを 20 種類作ったため、合計で 2000×するニューラルネットワークであるとする。入力画像𝑥𝑥𝑖𝑖 が図21＝42000 枚の画像からなるデータセットを作成した。

き、背景は異なるがプレイヤー同士の位置関係が図 1-a と同し、それらの背景を入れ替えたバージョン（合計で 5×21＝じような画像（図 1-b）を𝑥𝑥𝑝𝑝 とすれば、その特徴ベクトル𝑦𝑦𝑝𝑝 =105 枚）を 1 つのバッチとして学習を行う。即ち、このバッすれば、その特徴ベクトル𝑦𝑦𝑛𝑛 = 𝑓𝑓(𝑥𝑥𝑛𝑛 )は𝑦𝑦𝑖𝑖 と異なったものあ

チには 84 枚存在する。この 105 枚のバッチに対し学習を行1-a のような画像であって𝑦𝑦𝑖𝑖 = 𝑓𝑓(𝑥𝑥𝑖𝑖 )であるとする。このと学習は 2000 フレームから 5 フレームをランダムに抽出

𝑓𝑓(𝑥𝑥𝑝𝑝 )は𝑦𝑦𝑖𝑖 と似たものであってほしい。逆に、プレイヤー同チの中であるアンカー画像を 1 枚選んだ時、そのアンカー士の位置関係が図 1-a と異なるような画像（図 1-c）を𝑥𝑥𝑛𝑛 と画像に対する正例がこのバッチには 20 枚、負例がこのバッってほしい。このような関数𝑓𝑓を実現できれば、特徴ベクトう。ところが、ハードウェアの制約上、バッチサイズを 105

ル𝑦𝑦の類似度を使うことで、背景を無視しプレイヤー同士のとして学習することができなかったため、このバッチにお位置関係のみに着目したシーン検索が実現できる。

ける学習を、内部的なバッチサイズを 20、内部的なエポック数は 5 として実行した。このような学習を 400 回繰り返すことで 2000 フレーム全てに対する学習を行ったとし、これを 1 エポックとする。400 回の損失関数の値の平均の推移を図２にプロットした。
実際の検索結果の画像については研究会で紹介するが、背景が異なっていてもプレイヤーの位置関係が同様な画像であれば、我々の関数𝑓𝑓は類似する特徴ベクトルを出力できることが分かった。しかし、細かなプレイヤーの挙動によって検索に失敗することも多く、引き続き、学習に与えるべきデータセットについて見直していきたい。

図１：Supervised Contrastive Learning におけるアンカー画像(a)とそれに対する正例(b)と負例(c)。
関数𝑓𝑓に ResNet-50[2]を用いた。画像𝑥𝑥のサイズは 256×144
図２：損失関数の値の変化。

ピクセル×3 チャンネルであり、特徴ベクトル𝑦𝑦のサイズは2048 次元である。上記のような関数𝑓𝑓を実現するためにSupervised Contrastive Learning[3]を用いる。損失関数はexp(𝑦𝑦𝑖𝑖 ∙ 𝑦𝑦𝑝𝑝 /𝜏𝜏)−1� log�∑𝑎𝑎∈𝐴𝐴(𝑖𝑖) exp(𝑦𝑦𝑖𝑖 ∙ 𝑦𝑦𝑎𝑎 /𝜏𝜏)|𝑃𝑃(𝑖𝑖)|𝑖𝑖∈𝐼𝐼𝑝𝑝∈𝑃𝑃(𝑖𝑖)である。𝐼𝐼は全ての画像の添え字の集合、𝑃𝑃(𝑖𝑖)は正例の画像の添え字の集合、𝐴𝐴(𝑖𝑖)はアンカー画像以外の全ての画像の添え字の集合、𝜏𝜏は温度と呼ばれるハイパーパラメータである。
𝑎𝑎 ∙ 𝑏𝑏はベクトルaとベクトル𝑏𝑏の内積である。上記の損失関数を最小化することによって、𝑦𝑦𝑖𝑖 と𝑦𝑦𝑝𝑝 の内積が𝑦𝑦𝑖𝑖 と𝑦𝑦𝑛𝑛 の内積よ
ⓒ2021 Information Processing Society of Japan

参考文献[1] Vlad Firoiu, William F. Whitney, Joshua B. Tenenbaum, “Beating

the World's Best at Super Smash Bros. with Deep Reinforcement
Learning”, arXiv:1702.06230 [cs.LG].

[2] Kaiming He, Xiangyu Zhang, Shaoqing Ren, and Jian Sun. “Deepresidual learning for image recognition”, CVPR 2016.

[3] Prannay Khosla, Piotr Teterwak, Chen Wang, Aaron Sarna,

Yonglong Tian, Phillip Isola, Aaron Maschinot, Ce Liu, Dilip
Krishnan, “Supervised Contrastive Learning”,
arXiv:2004.11362 [cs.LG].

2