量子機械学習に基づく画像解析
理学専攻・情報科学コース

1

はじめにunconstrained binary optimization (QUBO) 模型を入力として受け付けるため、式 (4) を式 (5) の QUBO 表現に変換する。

画像解析を行うための機械学習の過程において、次世代計算機の一種であるイジングマシンを導入する。イジングマシンは、量子力学の理論に着想を得て開発された組合せ最適化問題を解くことに特化した計算機だが、機械学習問題に応用することも可能である [1, 2]。
本研究では、富士通デジタルアニーラというイジングマシンを利用する [3]。行列分解のアルゴリズムで辞書学習を行い、その過程の分解の計算を最適化問題として扱うことによって、マシンを利用する計算を可能とする。辞書学習で解析する対象は人間の顔画像である。行列分解で顔の特徴を抽出し、それらを用いて分解前の画像の再現や、人物ごとの分類を行った結果を示す。今回は 2 種類の辞書学習のアルゴリズムを導入し、それぞれの結果を比較する。

2モデル

2.1Nonnegative/Binary Matrix Factoriza-∑f (q) =ai =∑i

ai qi +∑bij qi qji<jWri (Wri − 2Vrl ), bij = 2∑r

Wri Wrj . (6)rktion2.2

Method of Optimal Directions

Method of Optimal Directions (MOD)[7] は、画像から作成した行列を、特徴のパッチから成る辞書行列と、どのパッチを用いて画像を再現するかをスパースに表す行列に分解する。はじめに、画像を複数枚のパッチに切り分け、それぞれのパッチを各列ベクトルとして行列 Y を構成する。この Y を、非負値の辞書行列D とバイナリ行列 X の 2 つに分解する。
Y ≈ DX(7)

式 (7) を満たすために、D, X を逐次更新することによって以下の式 (8) の最小化を行う。
2min{∥ Y − DX ∥2 }

(1)(8)

D,X

このとき、Wij ≥ 0, Hij ∈ {0, 1} が常に成り立つ。式(1) を満たすように、W と H に関して最小二乗法を交互に利用して逐次更新する。

はじめに初期化した D を用いて、以下の更新式で Xを列ごとに更新する。
2W := arg min ∥ V − XH ∥F +α ∥ X ∥F

xl = arg min{∥ yl − Dxl ∥2 }(2)

arg min∥ V − W X ∥F(9)xl

X∈R+n×k

H :=(5)すると、評価関数 (5) を最小にする q ∈ {0, 1} が、解として返ってくる。これが行列 H の各列にあたるた
め、式 (4) の計算を m 回行うことによって、H の全体を更新する。1 回の更新後と更新前の W 同士のフロベニウス距離が 10−4 以下になったら収束したと見なし、逐次更新を終了する。
また、NBMF の類似手法として、非負値行列分解（Nonnegative Matrix Factorization; NMF)[6] が知られている。同じく行列分解の手法であるが、行列 H が非負値の実数行列となり、Wij ≥ 0, Hij ≥ 0 が常に成り立つ。

二値制約非負値行列分解 (Nonnegative/Binary Matrix Factorization; NBMF)[4] は、行列を非負値行列とバイナリ行列に分解することによって、低次元化して表現する手法である。画像の画素値から作成した行列にこの手法を適用すると、解となる２つの行列は画像の特徴とその選び方の組合せを表すことになる。それらを利用して、元の画像よりも次元やデータ量が削減された解析が可能となる。
はじめに、画像 m 枚の画素値から、行列 V を作成する。V の列ベクトルがそれぞれの画像にあたり、画像 1 枚の画素数が n であるとすると、n × m の行列になる。この行列に NBMF を施すと、n × k の非負値行列 W と、k × m のバイナリ行列 H に分解される。

V ≈ WH

朝岡 日向子1940638

式 (9) は、NBMF においてアニーリングマシンを用いて解いていた更新式とほぼ同じ形である。従って、式(5) の QUBO に変換し、アニーリングマシンで解く。
X の各列について解いた後、更新した行列全体を用いて D を求める。

(3)

X∈{0,1}k×m

ここで、∥ · ∥F はフロベニウス距離を表す。行列 W は実数行列であるため、式 (2) は射影勾配法 [5] を用いて更新する。一方、行列 H は二値行列であるため、アニーリングマシンで更新式を解くことができる。H の更新は列ごとに行う。

D = arg min{∥ Y − DX ∥2 } = Y X T (XX T )−12D

Hl = arg min ∥ Vl − W q ∥2q∈{0,1}(10)
2∥ Y − DX ∥2 が十分に小さな値になるまで、D, X の逐次更新を繰り返す。

(4)k

ここで、Hl , Vl はそれぞれ行列 H, V の第 l 列である。本研究で利用するデジタルアニーラは、Quadratic1MOD を用いる画像分類

3

結果

3.3.2

3.1

使用する画像データについて

MOD では、Itest を構成する画像を 1 枚ずつ行列 Ytestに変換し、Ytest ≈ DXtest の近似を行う。Xtest は、辞書行列 D の中からどの特徴パッチを選んで Ytest の再現を試みたかをバイナリの値で表す行列になるため、X の中に構成が似ている画像がある場合は、同じ様な特徴を選んでいるため類似すると考えられる。この考え方に基づき k 近傍法で判定を行ったところ、平均正解率は 85%となった。

The Olivetti faces dataset (AT & T LaboratoriesCambridge) から、訓練画像 120 枚、テスト画像 20 枚の人間の顔画像のデータセットを取得する。訓練画像を Itrain 、テスト画像を Itest とする。今回の実験では20 人分のデータを利用する。それぞれの人物は番号付けされており、その番号を「ラベル」と呼ぶ。
3.2

画像再現

3.3.3

Itrain の訓練画像を画素値から成る行列 V に変換し、NBMF のアルゴリズムを用いて行列分解を行うことによって顔画像の特徴を抽出する。V を構成する元画像と、それを再現した画像にあたる W H の構成ベクトルとの間で、二乗平均平方根誤差 (Root Mean SquaredError; RMSE) を計算する。この誤差が小さければ、正確な行列分解ができたと考えられる。全ての画像で誤差の算出を行い、全体での平均を行列分解の結果とする。今回は、Itrain を同一条件で 5 回分解した。NMFのアルゴリズムでも同様の分解を行い、その結果を比較する。
NBMF における最終的な RMSE が最も低くなった結果をグラフに出力したものが、図 1 である。
0.12

各手法で行った分類の結果を、表 1 で比較する。
表 1: 分類結果の比較

正解率
マシンでの計算回数
次元削減率
スパース度

RMSE

0.08
0.06
0.04

40.020.00

100101

iteration

収束までの更新の平均回数は、NBMF の方が圧倒的に少ない。最終的な RMSE は NMF の方が小さいが、NBMF は 1 回目の更新から比較的小さい誤差になっており、即ち少ない更新回数で元画像に近いものを再現できる。これは、特徴を選択する際に最適化を行った利点であると考えられる。

3.3.1

6480 回
60倍
102441.7%

63.6%

H

NMF
89%

MOD85%

HH
320 回
H
H 256

39.9%

倍
25611.7%

まとめ画像行列を分解し、解として得られる再現画像との誤差を検証することによって、行列分解を最適化問題として解くことの有用性を確認できた。また、分解によって抽出した画像の特徴を用いて、数種類の手法で分類を行った。どの手法でも高い正解率で分解できたが、それぞれ利点が異なるため、目的によって使い分けることが可能である。

102

図 1: 各アルゴリズムが収束するまでの RMSE の推移

3.3

NBMF
k 近傍法
NN
93%
97%

NBMF の方が高精度な分類ができているが、MOD の方も十分に良い結果が出せている。計算回数やスパース度の面で考えると、MOD のアルゴリズムを選択するメリットもあると言える。ただし、次元を削減した行列表現を得たい場合は、NBMF を利用する必要がある。

NBMF
NMF

0.10

分類結果の比較参考文献[1] T. Kadowaki and H. Nishimori, Phys. Rev. E
58, 5355 (1998).

画像分類[2] M. Benedetti, J. Realpe-Gómez, R. Biswas, andA. Perdomo-Ortiz, Phys. Rev. X 7, 041052(2017).

NBMF を用いる画像分類

NBMF のアルゴリズムを用いて画像を分類する際に、2 種類の手法を用いる。
1 つ目は k 近傍法で、画像ベクトル間の距離を利用する手法である。この手法で、Itest を先ほど学習した
5 回の訓練データを用いて判定したところ、平均正解率は 93%となった。また、NMF による行列分解で得られた特徴行列でも k 近傍法で分類を行ったところ、平均正解率は 89%となった。
2 つ目の手法では、Neural Network の構造を導入する。行列 V の下に、出力層としてラベルを表す行列をつけて分解すると、結果として得られる行列 W のうち、画素値である n 行目までは画像の特徴を持ち、それ以降はラベルの特徴を表すと考えられる。これらの特徴行列を用いて判定を行ったところ、平均正解率は97%となった。

[3] S. Matsubara, and et al., in 25th Asia and South
Pacific Design Automation Conference, 2020.
[4] D. O’Malley, V. V. Vesselinov, B. S. Alexandrov,and L. B. Alexandrov, PLOS ONE 13, e0206653(2018).
[5] C. J. Lin, Neural Computation 19, 2756 (2007).
[6] D. D. Lee and H. S. Seung, Nature 401, 788(1999).
[7] K. Engan, S. O. Aase, and J. H. Husøy, Proc.
ICASSP 5, 2443 (1999).

2