Amazon Textractで色の実験をしてみた

## はじめに
pythonで画像から文字を抽出する処理をしていたのですが、色や複数の文字の大きさによって読み取れないものがありました。
そこで、Amazon Textractを使用して実験してみることにしました。

サンプル画像は楽天証券の登録銘柄です。
## Pythonでの結果
### サンプルコード
※画像ファイルはコードと同じディレクトリに置いています
```zsh:
brew install tesseract
```
```python:
pip install pillow pytesseract
```

```python:sample_code
from PIL import Image
import pytesseract

# 画像から文字を抽出
text = pytesseract.image_to_string(Image.open('YOUR_IMAGE.png'), lang='jpn')

# 抽出された文字列を表示
print(text)
```

### 実験結果
* 黒背景
    * 一応全文取得できる
    * 日本語は怪しい
    * 還記0のように数字が変換されている箇所もある
* 白背景
    * 数字が銘柄コードしか取れていない
    * 日本語は怪しい
* 白黒
    * 一応全文取得できている
    * 日本語は怪しい
    * - を = のように変換したり、%が漢字になってしまっている箇所もある

#### サンプル画像1（黒背景）
![stock_b_color.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/b73ff70a-67b9-f42d-1d4b-03982cda5616.png)
#### 出力結果
![output_b.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/7a996147-eb6b-a750-9c5b-1424c05ffd23.png)

#### サンプル画像2（白背景）
![stock_w_color.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/b54611f5-adf1-66ef-631c-85ec11dceb76.png)

#### 出力結果
![スクリーンショット 2023-11-24 1.18.21.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/198b8ab7-9e61-cdc2-cb73-4d7d3571b558.png)

#### サンプル画像3（白黒画像）
![stock_color_bw.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/c3f678f8-ad3b-5258-ba45-4580747c9d15.png)
#### 出力結果
![スクリーンショット 2023-11-24 1.20.00.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/8d84932a-1871-e6e6-6f7a-65508117cec2.png)
![スクリーンショット 2023-11-24 1.21.13.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/fd35ee7e-8cad-7cbf-7e15-b240cc998e3f.png)

## Textractでの結果
### 設定など
* Amazon Textractは日本リージョン非対応のようなので、us-east-1で実施
* サンプルドキュメントは「フォーム1005」を選択
* データ出力は「レイアウト」「フォーム」「テーブル」の3つを選択
### 実験結果
* 黒背景
    * 一応全文取得できる
    * 日本語非対応なので、日本語がTERYなどの英語になっている部分がある
    * フォームで読み込めていない部分がある
    * テーブルの分割も不自然
* 白背景
    * 一応全文取得できる
    * 日本語が英語になったりはしていない
    * 漢字の隣にあるPなどを読み取れていないものもある
    * フォームで読み込めていない部分が多々ある
    * テーブルは黒背景より規則正しいが、完璧ではない
* 白黒画像
    * 一応全文取得できる
    * 日本語が英語になったりはしていない
    * 漢字の隣にあるPなどを読み取れていないものもある
    * フォームとして取得できていない箇所が多い
    * テーブルは綺麗に抽出できている（文字の読み取りは完璧ではない）

#### サンプル画像1（黒背景）
![スクリーンショット 2023-11-24 1.47.51.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/c908fc0b-5653-d100-ec99-f06c7c1e92dd.png)
![スクリーンショット 2023-11-24 1.50.12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/6cd1836c-b78e-ea92-69bf-2a8c29b3fa39.png)
![スクリーンショット 2023-11-24 1.51.02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/89eb3cee-dd58-ee84-910d-6e965255aa45.png)

#### サンプル画像２（白背景）
![スクリーンショット 2023-11-24 23.24.22.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/1e97fed7-2ee4-6ceb-ab92-7f2a898acfd6.png)
![スクリーンショット 2023-11-24 23.26.21.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/d3c3324a-7712-0afd-35d8-8cd9cad35c70.png)
![スクリーンショット 2023-11-24 23.27.26.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/830390c6-3765-93a0-6ebc-385f4014e633.png)

#### サンプル画像3（白黒画像）
![スクリーンショット 2023-11-24 23.30.45.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/93585450-bf70-82c4-9216-04b5e3130575.png)
![スクリーンショット 2023-11-24 23.31.36.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/c60b9842-304f-9659-0ba6-45eb3bcebeac.png)
![スクリーンショット 2023-11-24 23.32.10.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3351273/74442fdf-7373-4d3d-4dbd-09dc277bd141.png)

## 結果
Python、Textractそれぞれに長所と短所がありました。
また、AIを使ったからといって完全に色や形が共存する画像から、テキストを完璧に抽出できるわけではないということがわかりました。。

今回の実験だと、白背景をpythonで取得するのが、文字列だけであれば1番精度が高そうです。

Pythonのライブラリをもっと駆使したり、Textractのドキュメントは種類が7つあったので、これらを横断的に実験してみたら、もう少し精度の高い抽出ができるかもしれません。