別紙42 信果程博士(和文))2021年

情報・知能工学専攻

今立条誓番・号・第 143320 号

指導教員

1月

渡辺一帆

石田好輝

8日

小林真佐大

氏名

論文内容の要旨(博士)
博士学位論文名/分雜可能ブレグマン歪み尺度に基づく機械学習アルゴリズムの拡張と統引泊勺性質の解明(要旨 1,200字程度)
近年,コンピュータの発逹によるインターネットの普及やセンサの高集積化による 10T (もののインターネット)の普及により,収集されるデータが大規模化しており,そのデータを有捌Jに活用するための手法が求められている.その手法として、機械学習法が様々な応用で用いられている.収對戒学習は与えられたデータから,学習を行い未知データの予測や潜在構造の抽出を行う
しかしながら,実際のデータにはヒューマンエラーや機器の故1箪などの様々な原因により,外れ値と呼ばれる学習に悪影響を与えるデータが含まれる.外れ値の対処のためには,外れ値を除外して学習を行うことが昔えられるが,その場合には夕阿し値とは何かがわかっていなけれぱならない.データを突際に見て,外れ値を除外するのもーつの方法かもしれないが,データ数や次元が大きな場合にはそのようなことは困難である.タ材U直に対処するための方法は,古くからロバス
ト統計の分野で研究されてきた.特に,近年における主流は,外れ値に頑健なダイバージェンスと呼ばれる確率分布問の乘航度を測る指標を用意し,そこからアルゴリズムを構築するといった手1恒である.このダイバージェンスには,β,γダイバージェンスがよく使用されているが,推定量の一致陛のために角到折的計算が困難となるバイアス補正項を含む.本研究では,外れ値に頑健かつ計算コストが低く簡便な機械学習アルゴリズムの構築を目的とtる.具体的には,佶報理論の分野で提案されたj分航可能歪み尺度どブレグマンダイバージェンスを組み合わせたj分雜可
能ブレグマンダイバージェンス歪み尺度に基づく推定法を者案し,機械学習アルゴリズムへの適用とその統計的な性質を調査した,まず,3章でメ分肌可能ブレグマン歪み尺度に基づく推定法を構築した.1章では,外れ値に対tる頑健性の評価1劃票のーつである影粋関数を導出し,影響関数の有界陛が成り立っための関数jの条件にっいて議論Lた.5章では,バイアス補正項なしに推定最の一致性のし、要条件である推定方程式の不偏性が成り立つための条件について議論した.6章と7章にて,ディリクレ過程平均法と非負値行列分解をそれぞれメ分既可能ブレグマン
歪み尺度に基づくアルゴリズムに一般化し,数値実験によってその性能評価を行った.8章では本論文の総括を行った別紙4

1 (課程博士(英文))Dale ofsubmlsslon(nlon{h day, year)ν8/2021

Kazuho watanabe

Departn]ent ofComputer science andStudcn11D N山"berSupeτⅥSors

En即neering
へPP]icanl's nalne

Yosh北eru lshida

D143320へlasahh'O Kobayashi

Abst,act (Doctor)
入lachine Lean〕ingAlgorithms for.fseparable Breglnan Distortion 八leasures andTi11e ofThesls

Analysis of statistical properties

Approx.80o words
In recent years, W北h the spread ofthe lnternet by the development of computers

and the spread of the loT qnternet of Things) by the high integration of sensors,
the amount of data c011ected has become large, and methods for effectively uti11%】ng
the data are required. For such a purpose, machine learning methods are used ln
Various appHcations. Machine learning learns from 牙iven data, predicts unknown
data, and extracts latent structures. However, the actual data lncludes data ca11ed
Outliers, which adversely affectlearning due to various causes such as human error
and equipment fai]ure.1n order to dea1 訊7ith outliers, it is conceivable to exclude
Outliers for learnin今, but in that case, it is necessary to kn0訊7 What the outliers are
Itlnay be one way to actua11y look atthe data and exclude outHers, but 北 is difficult
to do so when the nulnber ofdata and the din〕ensions are large. Methodsfor dealing
With outliers have long been studied in the field of robust statistics.1n particular,
the mainstrean〕 in recent years is the procedure of preparing an index formeasuring the de即'ee of deviation between probability distributions ca11ed
divergence, which is robust against outliers, and constructing an algor北hm from北.β and y divergences are 0丘en used for this divergence, but they include a bias
Correction term that makes analytical calculations difficult foY the consistency ofthe estimators. The purpose ofthis study is to construct a sinlple n)achine learningalgorithm that is robust against outliers and has low con〕putational cost
Specifica11y, we devised an estimation n〕ethod based on the fseparable Bregman
divergence distortion measures, which is a combination of the fseparable
distortion measures and Bregman divergence proposed in the field of infotmation
theory, and il〕troduced it to machine learning algorithms.＼入1'e investigated theapplication and 北S statistical properties. First, in chapter 3, we construct anestimation method based on fseparable Bregman distortion measures. second, inChapterS 4 and 5,圦丁e discuss robustness against outliers and the cond北ion of
Unbiased estimation equation as a necessary condition for the consistency of theestimator, respectively. Third, in chapterS 6 and 7, for the Dirichlet process n〕eans
and non・negative matrix factorization are genetalized to algorithms based on f
Separable Bre牙n〕an distortion measures, respectlvely, and their perforn)ance isevaluated by numerical experiments. Fina11y, chapter 8 Summah2es this thesis