MacのショートカットメニューからOCRを使えるようにした話

## 概要

Macに標準インストールされているAutomatorとAzure Cognitive Services Computer Vision API Readを組み合わせてショートカットメニュー（コンテキストメニュー）にOCRアクションを作りました。私見ですがOCRを使いたい時ってそもそもめんどくさいからOCRをしたいわけで、別のアプリを立ち上げて読み込ませたり余分な手間を取りたくありません。なので常々、**選択したファイルを右クリックのメニューから手軽にOCR**できたらなぁと思っていました。最近、Macを使わせて頂く機会を得て、Automatorという自動化ツールがショートカットメニューにクイックアクションを作れることを知りました。読取精度が高いOCRサービスと組み合わせれば利便性の良い仕組みができるのではと考えたのがきっかけです。
![Converted02.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/680039/54e5603c-758f-d50b-0d43-b93acb91fe4a.gif)
画面録画では通知が録画されていませんが、実際の動作では処理終了時に通知されます。

## 検証環境

* macOs Montereyバージョン12.0.1
* MacBook Pro (13-inch, M1, 2020)
* PowerShell 7.2およびPython 3.8.9
* Azure Cognitive Services Computer Vision API (v3.2)Read
* Automator2.10

## 注意事項

* Microsoft Azureの試用および利用にはクレジットカード情報が必要です。
* 試用期間終了後もMicrosoft Azure Cognitive Services Computer Visionはfree tierとして30日間で5000Callが可能です。詳しくは[公式ページ](https://azure.microsoft.com/ja-jp/)を参照ください。
* ファイルサイズは50MBまで（free tierでは4MBまで）
* PowerShell用とPython用の2つスクリプトを用意しました。好みでお試しください。
* 2021年12月の情報です。
* 自己責任でお願いいたします。

## 公式サイト

https://support.apple.com/ja-jp/guide/automator/aut6e8156d85/mac

https://azure.microsoft.com/ja-jp/

https://docs.microsoft.com/ja-jp/azure/cognitive-services/computer-vision/overview

https://docs.microsoft.com/ja-jp/powershell/

## 準備

* PowerShellを使用される方はDocs[「macOS への PowerShell のインストール」](https://docs.microsoft.com/ja-jp/powershell/scripting/install/installing-powershell-on-macos?view=powershell-7.2)を参照ください。
* Pythonを使用される方は外部ライブラリ[pyperclip](https://pypi.org/project/pyperclip/)のインストールが必要です。
* Computer Visionのリソースを作成してキーとエンドポイントを取得しておきます。
  ![](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/680039/7e53ad06-a4fb-daac-12cb-7f3c26e8b6f5.png)

## ワークフローの解説

### 作成イメージ

OCRはスクリプトを実行して行い、その他の部分はAutomatorが担います。

![ScreenShot.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/680039/6c0d838c-31e3-88a4-f2ce-2faee4d5cca5.png)

### Automatorワークフローの作成

Automatorのワークフローは使いたいトリガーによって作成方法が選択できます。今回はショートカットメニューからトリガーしたいので「クイックアクション」で作成します。

![](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/680039/db631fbb-c5a7-6703-c054-99d1409a9122.png)

- ライブラリーからアクションを選択しドラッグドロップで配置します。![](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/680039/3ec3f5a0-1f85-3076-cc9e-de4927dc267b.png)
- ワークファイルを受け取る現在の項目はイメージファイル、検索対象をFinderとします。pdfも対象にしたいときはワークファイルを受け取る現在の項目を「ファイルまたはフォルダー」にします。ただし対象外のファイルを選択した時もクイックメニューに作成したワークフローが表示されます。
- 「シェルスクリプトの実行」アクションはzshでスクリプト欄は空にします。後で作成するスクリプトのパスを書き込みます。
![](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/680039/79b3c122-14e5-2461-46d8-b0a6d47ce1ae.png)
- 適宜名前を付けて保存しておきます。

### Azure Cognitive Services Computer Vision API Readを利用するためのスクリプト作成

ざっくりした流れです。Visual Studio Codeなどのエディターでスクリプトファイルを作成し、/Users/ユーザー名/Library/Services/に保存します。ここはハマったポイントです。任意のディレクトリに保存したスクリプトをAutomatorから呼び出すとエラーになって動きませんでした。

![](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/680039/fc304c35-c119-998f-996f-c4c2a4097cd6.png)

またAutomatorでファイルパスをクリップボードに取得するクイックアクションを作成しておくと、スクリプト作成時にテストしやすいです。
![](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/680039/39c2d870-33c8-29a6-cb80-799d15ac5ee0.png)


Computer Vision API(v3.2) Readの仕様については[リファレンスページ](https://westus.dev.cognitive.microsoft.com/docs/services/computer-vision-v3-2/operations/5d986960601faab4bf452005)を参考にしてください。

https://westus.dev.cognitive.microsoft.com/docs/services/computer-vision-v3-2/operations/5d986960601faab4bf452005

#### PowerShell

- endpointとkeyにAzureで準備した値を設定します。
- model versionは2021-09-30-previewを使用しています。
- サーバに負荷をかけないように2秒おきに10回までオペレーションロケーションにGETするように設定しています。
- イメージファイルの内容によりますが、読取が成功するまで2〜10秒程度かかリます。
- 作成したスクリプトファイルは```/Users/ユーザー名/Library/Services/```に保存します。
- Automatorの「シェルスクリプトの実行」アクションから起動できるようにスクリプト欄を設定します。

```
/usr/local/bin/pwsh /Users/ユーザー名/Library/Services/ファイル名.ps1
```

![](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/680039/3a42bf15-0a46-3417-7988-0329d2fa1a6e.png)
PowerShellのパスはターミナルから```which pwsh```を入力すると確認できます。

```ps1:PowerShell

#############################
#オペレーションロケーションの取得#
#############################

#変数の初期化
$endpoint = "https://********.cognitiveservices.azure.com" #********Your Endpoint
$key = "****************************"#*********Your Access Key
$language = "ja"
$readingOrder = "natural"
$modelVersion="2021-09-30-preview"
$uri = "$endpoint/vision/v3.2/read/analyze?language=$language&readingOrder=$readingOrder&model-version=$modelVersion"
$headers = @{
    "Accept"                    = "application/json"
    "Content-type"              = "application / octet-stream"
    "Ocp-Apim-Subscription-Key" = "$key"
}
$ocrUrl = ""
$readResponse = ""

#画像パスをクリップボードから取得して画像をバイナリデータ化

$filePathFromSystem = Get-Clipboard

try {
    
    $fileBytes = [System.IO.File]::ReadAllBytes("$filePathFromSystem")
}
catch {
    Write-Output ("画像のパスを取得できません。ファイルを選択しなおしてください。" + $Error[0].Exception.Message)
    exit
}

#画像データをエンドポイントにPOSTしヘッダーからオペレーションロケーションを取得

try {
    $response = Invoke-WebRequest -Uri $uri -Method "POST" -Headers $headers -Body $fileBytes
    $ocrUrl = $response.Headers.'Operation-Location'    
}
catch {
    Write-Output ("Error:" + $Error[0].Exception.Message)
    exit
}

#############################
#      読み取り結果の取得      #
#############################
#リトライ回数初期化
$count = 0
#リトライまでの時間（秒）
$retryWaitTime = 2
#リトライの上限回数
$retryLimit = 10
#ヘッダーにキーを設定
$headers = @{"Ocp-Apim-Subscription-Key" = "$key" }
    
while ($readResponse.status -ne "succeeded") {
        
    Start-Sleep -s $retryWaitTime
    $count++

    if ($count -gt $retryLimit) {
        Write-Output "応答が長すぎます。タイムアウトしました。"
        exit 
    }
    try {
        $readResponse = Invoke-RestMethod -Uri "$OcrUrl" -Method "GET" -Headers $headers
        Write-Output $readResponse.analyzeResult.readResults.lines.text
    }

    catch {
        Write-Output ("Error:" + $Error[0].Exception.Message)
        exit    
    }
}

```
PowerShellスクリプトをAutomatorの「シェルスクリプトの実行アクション」から呼び出すと、日本語のファイル名が文字化けしてエラーになるかもしれません。その場合```/Users/ユーザー名/.zshenv```を作成して```export LANG=ja_JP.UTF-8```を書き込むことで解決しました。次の記事が大変参考になりました感謝です！

https://qiita.com/Lancai/items/2171e49e3733aab9ece6


#### Python

- pyファイルを作成し、```/Users/ユーザー名/Library/Services```に保存します。
- Automatorの「シェルスクリプトの実行アクション」のスクリプト欄に設定します。
```python3 /Users/ユーザー名/Library/Services/ファイル名.py```
- この場合デフォルトインストールされている/usr/bin/python3が呼び出されます。
- pyperclipが必要です。

```py:Python3
import http.client
import time
import urllib.request
import urllib.parse
import urllib.error
import ast
import pyperclip

endpoint = '****************.cognitiveservices.azure.com'###your EndPoint
key = '***********************'### Your Key
language = 'ja'
readingOrder = 'natural'
modelVersion='2021-09-30-preview'


headers = {
    # Request headers
    'Content-Type': 'application/octet-stream',
    'Ocp-Apim-Subscription-Key': key,
}

filePath = pyperclip.paste()
body = open(filePath,'rb').read()

params = urllib.parse.urlencode({
    # Request parameters
    'language': language,
    'readingOrder': readingOrder,
    'modelVersion': modelVersion,
})

try:
    conn = http.client.HTTPSConnection(endpoint)
    conn.request("POST", "/vision/v3.2/read/analyze?%s" %
                 params, body, headers)
    response = conn.getresponse()
    process_location = response.headers['Operation-Location']
    conn.close()
except Exception as e:
    print("[Errno {0}] {1}".format(e.errno, e.strerror))
    exit()

status = ''
count = 0
limitcount = 10
header = {
    'Ocp-Apim-Subscription-Key': key,
}

while status != 'succeeded':

    time.sleep(2)
    count += 1
    if count >= limitcount:
        print("応答が長すぎます。タイムアウトしました。")
        exit()

    try:
        conn = http.client.HTTPSConnection(endpoint)
        conn.request("GET", url=process_location, headers=header)
        response = conn.getresponse()
        result = response.read().decode()
        result_dict = ast.literal_eval(result)
        conn.close()
        status = result_dict['status']
    except Exception as e:
        print("[Errno {0}] {1}".format(e.errno, e.strerror))
        exit()

for textline in result_dict['analyzeResult']['readResults'][0]['lines']:
    print(textline['text'])

```

![Converted01.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/680039/366e125a-e0d9-15f8-a8e9-b0fd804ce462.gif)

## まとめと雑感など

- ショートカットメニューからOCRを使えるのはとても便利です！
- MontereyはOS標準で画像OCRできますが残念ながら今のところ日本語は非対応です。（これはこれですごい）
- AutomatorとAzure Cognitive Services Computer Vision API Readと組み合わせることで日本語の読取精度と利便性の高い仕組みができました。
- 普段Windowsを利用していますがM1 MacでもPowerShellが使えるのはありがたいです。WindowsとMacを気軽に行き来できます。
- Automatorをはじめて知りましたが魅力的なツールでいろいろ利用できそうです。購入したアプリのアクションが追加されたりしておもしろいです。