非自己回帰型の Mask Predict 画像キャプショニングプログラムにおいて、CTCLoss を導入して学習を行い、良い精度を得ました。

## 新しい仕組みを試してみた理由と工夫点。

画像キャプショニングに Mask Predict を導入して学習、推論を行って、一定の精度を得たことを、記事

https://qiita.com/toshiouchi/items/dbe7b923b11ad2e595e2

で報告しました。ここから、非自己回帰型で精度の改善ができないかということを模索していました。downsample による学習、推論

https://qiita.com/toshiouchi/items/b991d3ada79f0e1f6ce5

の改良を試みましたが、うまくいかなかったため、Mask Predict を基本に改善できないか考えました。Mask Predict ですが、損失の計算に CTCLoss を使う方法を考えました。二つの工夫が必要でした。一つ目は、デコーダーの q 入力（target 入力）である caption を、埋め込み（embedding)した後に、系列長方向（時間方向）に2倍程度の長さに upsample すること。二つ目は、推論時に &lt;mask&gt; の数を徐々に減らした q 入力を用いて、デコーダーを10回程度イタレーションしますが、l + 1 回目のデコーダーへの q 入力を作成するために、l 回目のイタレーションの出力をそのままでは使えません。なぜなら、q 入力はセンテンスを数値に置き換えた形式であり、この入力をデーコーダーの中で、CTC 用に uspample しているからです。ですから、l回目のイタレーションの出力をセンテンスを埋め込んだ数字列までデコードして、確率を考慮して &lt;mask&gt; をかけ、l + 1 回目のイタレーションの q 入力を作成する必要があります。このため、CTC_simple_inference という関数を新たに作りました。CTC_simple_inference 関数の入力は、デコーダーの出力であり、出力は、センテンス数字列とその確率です。

## 元のプログラムとのつながり

### 「Python で学ぶ画像認識」の画像キャプショニングのプログラムをもとに改修しました。

プログラムの土台は、「Ptyhon で学画像認識」の画像キャプショニングのプログラムです。このプログラムに2段階で改修をさせていただきました。1段目は、自己回帰型から Mask Predict の非自己回帰型への改修です。この改修については、この記事の一番上の URL で説明させていただきました。二段目が今回の改修で、Mask Predict でありながら、キャプションの損失を CTCLoss で計算するように改修しました。

一段目の改修で、推論するキャプションの長さを学習、推論するようにプログラムを改修しました。長さを推論するニューラルネットワークを length_predictor とします。

### データは、cocodataset の train2017 です。

データは、cocodataset の train2017 を、学習データ:90%、validation データ：10% としました。

### 辞書の修正

CTCLoss を扱うときは、通常、token_id の 0 を &lt;blank&gt; に割り当てます。また、Mask Predict の場合、token に &lt;mask&gt; を準備する必要があります。このため、本の 6_2_dataset.ipynb を改修しました。word_to_id と id_to_word の token_id = 0 を開けるために、同プログラムの id の採番を i から i + 1 に修正し、学習・推論プログラムで、word_to_id、id_to_word をファイルから読み込んだら、これらの辞書を使用する前に、word_to_id['&lt;blank&gt;'] = 0 と id_to_word[0] = '&lt;blank&gt;' を入れました。また、tokenに &lt;mask&gt; を入れるために、6_2_dataset.ipynb の vocab.append の最後にvocab.append( '&lt;mask&gt;' ) を入れました。

## 学習について

### 損失の定義と損失の推移

loss = loss0 + loss1 

としました。デコーダーの出力を outputs、その長さを output_lens、キャプションを captions、キャプションの長さを caption_lens とすると、

loss0 = nn.CTCLoss()( F.log_softmax( outputs ).transpose(0,1), captions, output_lens, caption_lens )

です。通常の Mask Predict のキャプション損失は、Mask をかけた時間的位置だけですが、CTCLoss では、outputs の時間的推移も大事なようなので、Mask を考慮せず、全部にしました。loss1 は、length_predictor の出力を lengths として

loss1 = nn.MSELoss()( lengths, caption_lens.to(torch.float32) )

です。loss0 が重要です。 loss1 と loss は補助的に見てください。

![fig1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/98bee2f4-8bf5-b7b1-0570-70b7498f310a.png)

![fig2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/5f28c0ae-6f9b-27e8-54cc-6e75831cc9b5.png)

![fig3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/f3386922-3d4f-1bb5-4a03-c23fa348bad6.png)

### WER の推移

Word Error Rate WER の推移を掲載させていただきます。

![fig4.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/e9b48a47-ee6d-133a-da54-1c304cf38e44.png)

### 推論結果

![adorable-1849992_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/dc88953e-b366-f2d0-d473-13f55f9f4375.jpeg)

&lt;start&gt; a dog holds a mouth up to catch a frisbee in mouth &lt;end&gt;

![africa-1170179_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/75dbd459-2c29-0309-1ad8-37a3db99c399.jpeg)

&lt;start&gt; a herd of giraffe standing in a field together in the background &lt;end&gt;

![airplane-3702676_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/7bb41916-3263-90b7-b136-b4f593f2fa87.jpeg)

&lt;start&gt; a large jetliner flying over the side of a lush green field &lt;end&gt;

![automotive-1846910_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/69c891b0-9613-2246-763d-79bc53ad4eaf.jpeg)

&lt;start&gt; a car driving down a street with a car on the it &lt;end&gt;

![beach-1837030_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/80abd0e3-f058-ff16-c336-447fe84d16aa.jpeg)

&lt;start&gt; a man riding a surfboard in the middle of a large wave &lt;end&gt;

![caravan-339564_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/6e59e737-a8de-65f1-80d0-73c700b80471.jpeg)

&lt;start&gt; a group of people riding on a horse next to a beach &lt;end&gt;

![cat-4467818_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/1206cad7-64a4-f93f-4219-91e733344c28.jpeg)

&lt;start&gt; a cat sitting on the side of a street near a building &lt;end&gt;

![cherry-1468933_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/2a20f036-7d8d-1241-7f55-6350cce8c9d3.jpeg)

&lt;start&gt; a bowl of fruit and a banana sitting on a table top &lt;end&gt;

![couple-955926_1280.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/71c03ecd-254d-732a-a2d1-ffd6158b0c60.jpeg)

&lt;start&gt; a woman in a bikini riding her bike on the beach shore &lt;end&gt;

![dog-7367949_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/5b04469f-c89a-5aff-a7cb-30cd87d68550.jpeg)

&lt;start&gt; a dog in the air with a frisbee in its mouth open &lt;end&gt;

![hit-1407826_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/7dc7d1fb-c6da-180d-1f82-4f5218f6563c.jpeg)

&lt;start&gt; a baseball player holding a bat while standing on the baseball field &lt;end&gt;

![man-498473_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/465a88aa-6f33-d33a-5713-a50eae9c3276.jpeg)

&lt;start&gt; a man in a suit on a snow board in the snow &lt;end&gt;

![musician-743973_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/49ee048b-dd19-1d42-b6fc-70a6614899f8.jpeg)

&lt;start&gt; a group of people and bathing suits standing on the beach with surfboards &lt;end&gt;

![port-5788261_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/5a0baa0a-dbe5-835f-a314-fc861637268e.jpeg)

&lt;start&gt; a large building with a clock and a clock on it tower &lt;end&gt;

![profile-7579739_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/f7c44764-0c02-061c-d3eb-f483de6c914f.jpeg)

&lt;start&gt; a man riding a skateboard on a ramp on a sunny day &lt;end&gt;

![ural-owl-4808774_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/f9c9c966-69a2-f1d0-be61-99b566e184a1.jpeg)

&lt;start&gt; a bird perched on a branch with a tree in the background &lt;end&gt;

![wine-bar-2139973_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/283efb62-8b6e-5e0e-9222-24f94b68a997.jpeg)

&lt;start&gt; a man in a suit holding a doughnut in a right hand &lt;end&gt;

![woman-3432069_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/7460a8c2-e354-8396-024d-f56f481f0e82.jpeg)

&lt;start&gt; a brown horse standing in a field next to a forest &lt;end&gt;

![zebras-1883654_1920.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958180/970e2bc4-b78e-b2ad-453c-c52f390fa3ee.jpeg)

&lt;start&gt; a zebra standing on top of a green field in a grass &lt;end&gt;

## 参考のため、学習・推論に使用したプログラムを github にアップしておきます。

https://github.com/toshiouchi/CTCMask!