【Opencv入門】競馬新聞の読み方♬

競馬の予測は、いろいろやられていますが、今回は普通に競馬新聞の情報から予測するために、まず競馬新聞の読み方をやってみた。

やり方は簡単で、各馬のこれまでの成績を読込めばよい。
例えば、宝塚記念のキセキの成績が以下のように掲載される。
![kiseki.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/79b820a4-3fdd-b72a-0097-5e5dd3661c09.jpeg)
この競馬新聞の情報はかなり充実というか過密に段組みされており、見やすく整理されている。だから、**ほんとはその位置情報だけでかなり読める**のかもしれない。
しかし、ここではこれをOpencvの関数で読み込むことを考える。
ちょうど、参考にレシートの読み込みをPythonでやられているのでこれをまねることにする。
※参考①は参考②を綺麗にPythonに移植されています。そしてこのシーケンスを少し変更しようとしましたが、結果は悪くなったのでここでは全く同じコードで実施します。
【参考】
・①[OpenCVをPythonで文字の場所をレシートから取得する](https://qiita.com/ChibaDai/items/875d767d260151974c89)
・②[Receipt Scanner (Text Detection)](http://nikoyuwono.com/2015/10/05/receipt-scanner/)
###当初のコードは以下に置きました
・[read_keiba_paper/text_detection.py](https://github.com/MuAuan/read_keiba_paper/blob/master/text_detection.py)
###コード解説
前半は、参考①②のとおりです。
以下は参考②から引用しました。

```
My approaches to detect where the texts are:
① Change color space from BGR (or RGB) to Gray
② Apply Morphological Gradient
③ Apply threshold to convert to binary image
④ Apply Closing Morphological Transformation
⑤ Find contours and filter it
```
以下は参考①からの引用であり、コードはこちらのものを使わせていただきました。

```
⓪画像の読み取り
①ガウシアンフィルタで画像の平滑化
②Laplacianを使った画像の勾配検出
③大津の手法を使った画像の２値化
④モルフォロジー変換(クロージング)
⑤純粋なクロージング
⑥Laplacianを使った画像の勾配検出
⑦外接矩形
```
ただし、そのままやると当然抽出されるエリアが不適当になるので、競馬新聞の抽出に合うように以下を変更しました。
####１．以下のClosingエリアの大きさを小さくしました

```py
kernel = np.ones((3, 8), np.uint8)  #(3, 20)
closing = cv2.morphologyEx(th2, cv2.MORPH_CLOSE, kernel)
```
これを変更する前は、以下のように抽出します。
![8_1_findContours.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/7601dd56-a61e-94ef-ae88-f4e2d8b6a63c.jpeg)
すなわち、開催を超えて抽出されるので後でデータを読むことがちょっと難しくなります。上記のように変更すると、正しく分割して抽出してくれます。
####２．枠付け順序を左からやれるようにsorted関数を使いました

```py
rect=[]
for i, contour in enumerate(contours):
    re = cv2.boundingRect(contour)
    rect.append(re)
rect=sorted(rect, key=itemgetter(1))
rect=sorted(rect, key=itemgetter(0))
```
まず、`contours, hierarchy = cv2.findContours(lap2, cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)`で抽出されたcontoursに対して、上記のようにrectに格納し、それをsortedします。ここでは第二引数（ｙ軸の初期値；できるだけ上から抽出する）でソートしたあと、第一引数（x軸の初期値；左から抽出する）こととします。実際には、このy軸の並べ替えは縦に並んでいるように見えますがpixel単位で見ると少しずれていて、今のところきちんと整列して抽出できていません。
####３．位置情報をcsvファイルに格納する

```py
with open(output_root_path +'./rect.csv', 'w', newline='') as f:
    writer = csv.writer(f)
        writer.writerow(map(lambda x: x, rect[i]))
```
####４．１と同じような改善ですが、抽出するエリアの面積と大きさを制限しました
まず、面積は以下のようにしました。

```py
min_area = 30 #img.shape[0] * img.shape[1] * 1e-3  #-4
max_area = 2500
．．．
        area = (rect[i][3])*(rect[i][2])
        if area < min_area or area > max_area:
            continue
```
元々は全体の面積に対して$10^{-4}$となっていましたが、今回は上記のように最小と最大で制限を加えました。
また、大きさ（w、h）は以下のように制限しています。参考①②では（10，10）以下としていますが、ここでは（5，5）としました。
※このパラメータだと実は肝心のキセキが抽出されないので、さらに追及する必要があります

```py
        if rect[i][2] < 5 or rect[i][3] < 5:
            continue
```
上記の改善により以下のような図が得られます。
![8_1_findContours.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/cacb460f-6933-5e34-149e-139e5f0101d7.jpeg)
そして、以下のように順次抽出されます。
![8_1_findContours_s.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/362ae9b6-55cb-2115-e4d2-2855a2122c58.gif)
####５．以下がそれぞれの抽出された要素画像です

| 1 | 2 | 3 | 4 |
|:-:|:-:|:-:|:-:|
|![8_1_roi_1.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/bbcf3a22-1d0d-7ba3-bf6f-6d0f4da7e64c.jpeg)| ![8_1_roi_12.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/458159d6-e909-a96d-2ae5-c6f9bb1e022b.jpeg)|![8_1_roi_31.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/5ead8588-9e7a-92ab-f21b-70a945a907fa.jpeg)|![8_1_roi_51.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/cc07f866-115d-4358-a6b0-cfe2d022df7b.jpeg)|
|![8_1_roi_2.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/d2fd2b5c-87f8-cd54-4b77-0ae402c3feca.jpeg)|![8_1_roi_14.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/587e9997-2450-37d5-7229-171402af3cc0.jpeg)|![8_1_roi_33.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/a6aabf73-2d28-77b4-6a7d-77f41fa92757.jpeg)|![8_1_roi_52.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/8ab1cae3-fdfd-e895-8675-10b9ade62c5b.jpeg)|
|![8_1_roi_3.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/65c3e911-2f62-d1b6-349a-7d7815966156.jpeg)|![8_1_roi_15.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/ea768a16-3d36-4b9d-bb9e-7cd0f5535780.jpeg)|![8_1_roi_34.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/97d42810-f837-7079-4377-fe6ecca1a97c.jpeg)| ![8_1_roi_53.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/7e5aede7-7366-a256-bb9d-ceb35410ff45.jpeg)|
|![8_1_roi_4.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/69f1597e-3f39-0ec5-ec0d-46feeeec12d5.jpeg)|![8_1_roi_16.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/4b0b6a4b-cc16-9c85-7311-3041efb27b30.jpeg)|![8_1_roi_36.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/22eda2c3-4f4c-778a-c0b0-9baa73364db3.jpeg)|![8_1_roi_55.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/db15a422-a1b7-908f-59aa-480e3aa6d5b5.jpeg)|
|![8_1_roi_5.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/41c76324-35dc-4cfe-4c40-3268e89010ee.jpeg)|![8_1_roi_24.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/c810f6ae-268f-36b2-ccb1-8db589b0d89a.jpeg)|![8_1_roi_44.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/60aa45d0-61c4-0f2c-29a1-25b2462d166f.jpeg)|![8_1_roi_62.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/e88dba3a-ff20-bc84-0348-1c3ec28a66f0.jpeg)|
|![8_1_roi_6.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/2d875aaf-2d1f-baaa-afc4-696809e3a6e4.jpeg)|![8_1_roi_25.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/c3b709e7-6b74-c014-5cc0-cc8011fdac11.jpeg)|![8_1_roi_45.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/74bdf0a7-324f-1c80-4c33-345a1098f534.jpeg)|![8_1_roi_63.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/1d066131-a0ae-3fad-c843-de9e23b94612.jpeg)|
|![8_1_roi_7.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/60a1bac0-a34a-578b-123c-8d711c958487.jpeg)|![8_1_roi_27.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/9bcb1885-4fef-cf8c-2ef9-f479ddc83989.jpeg)|![8_1_roi_47.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/6a8b5c3a-5330-cec2-51df-36a176b232bf.jpeg)|![8_1_roi_65.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/be67bf96-39a2-3a73-c730-056e08dba6e5.jpeg)|
|   |![8_1_roi_28.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/6f642221-ac28-308e-2f05-a4f5d00a134e.jpeg)|![8_1_roi_48.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/cfbeb6de-2396-176c-2dd2-a175e59b0433.jpeg)|![8_1_roi_66.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/13ebeabe-5f1c-1497-5ba9-726a0aeaa4ae.jpeg)|
|   |![8_1_roi_23.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/f26331b4-a902-67c8-5429-fce16d15ad16.jpeg)|![8_1_roi_43.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/89861327-dae5-70ea-6d6e-284f43512cf3.jpeg)|![8_1_roi_61.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/4680e412-b553-da4b-39a9-6cb3ad81a6a9.jpeg)|
|   |![8_1_roi_26.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/292bc4a4-6591-f167-1472-986cca71fe97.jpeg)|![8_1_roi_46.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/b2cde456-6ba0-21f2-fc64-34ee426ff0e6.jpeg)|![8_1_roi_64.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/7abc8680-6243-b129-44b7-5e3ef3cc6900.jpeg)|
||![8_1_roi_11.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/a4b873fc-40be-7b9e-2c07-3baa3443742b.jpeg)|![8_1_roi_35.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/80b04ada-d51a-51ec-e593-b90f900a7027.jpeg)|![8_1_roi_56.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/ce640833-c277-f0a6-4455-9fda83c78882.jpeg)|
###６．テンプレート方式で順番をそろえる
上記の枠が描かれる順序を上から下にしたいということで、テンプレート方式にしてみました。すなわち、上記で得られたcsvファイルが以下のような並びになっているとします。
![data_original.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/b9ab28f8-434e-fce8-05d9-242c03e1a1e0.jpeg)
これを以下のように並べ替えてこれを読み込むようにしました。
![data_order.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/36b5d2fb-b633-e7a9-f580-d5acdcecf329.jpeg)
つまり、第一カラムの塊同士（小さな誤差は無視して）で第二カラムでソートすることにより、レース毎の情報を上から読み込むようにしました。
ここで、これを読み込むコードが少しはまりました。
すなわち以下のコードで読めることが分かります。
※因みに、この部分はググっても参考にできるものが無いので工夫しています
すなわち、最初のコードでrect2というstrとしてのlistを読込ます。

```py
rect2=[]
with open(output_root_path+'rect.csv', newline='') as f:
    rect1 = csv.reader(f, delimiter=' ', quotechar=' ')
    for r in rect1:
        r1=', '.join(r)
        print(r1)
        rect2.append(r1)
```
そしてこれをnumerateのlistに以下のコードで変換しています。

```py
rect=[]
for i in range(len(rect2)):
    str = rect2[i]
    a=str.split(",")
    rect3=[]
    for j in range(4):
        rect1=int(a[j])
        print(type(rect1),a[j]) 
        rect3.append(rect1)
    rect.append(rect3) 
```
こうして得られたcsvファイルを使うと以下のようにだいたい想定した通りの動きをしてくれました。これでデータを読み込んで実際の数字等に変換したときDBなどへの格納が楽になると思います。
※まだ若干並べ替えをさぼっていますが。。。
![8_1_findContours_s.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/d8c68043-a04c-9512-cfb2-6e7e888e07fa.gif)
###まとめ
・競馬新聞のデータを読めるようになった
・テンプレート方式を利用すると目的のデータを自在に読める

・実際に、数値化するアプリを作成したいと思う
・実際に、データを数値変換して競馬予測をやってみようと思う
###以下に最後のコードを掲載する
・[read_keiba_paper/contours.py](https://github.com/MuAuan/read_keiba_paper/blob/master/contours.py)
・[read_keiba_paper/contours_read.py](https://github.com/MuAuan/read_keiba_paper/blob/master/contours_read.py)