【UiPath】Clipboard AI で遊んでみた。衝撃的に便利なので読んで損なし！！

# はじめに

- 本記事では、UiPath の Clipboard AI という製品（ツール）を紹介します。
- 記事の内容は、個人の見解または確認結果であり、UiPath の公式見解ではありません。
- 製品仕様や参考画像は 23.11 バージョン（β版）のもので構成しています。

# Clipboard AI とは

UiPath Clipboard AIは、請求書や発注書などに含まれる***テキストデータをアプリケーションに転記する作業などを省力化できます。*** メール画面や文書ファイルなどから請求書データなどをクリップボードにコピーし、データ入力画面へとワンクリックで転記することが可能です。

https://www.youtube.com/watch?v=fOBGc4jGCZc

# インストール

https://docs.uipath.com/ja/clipboard-ai/standalone/latest/user-guide/installation

Automation Cloud にアカウント登録してあれば
[***メールアドレスを入力して「Download」ボタンを押すだけ！***](https://www.uipath.com/product/clipboard-ai)

![ClipboardAI.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/4996b861-8397-fd90-768b-5a0654c7be01.jpeg)

「Download」ボタンを押した後にメール（以下、参考）が届きますが、ブラウザ上のボタンからインストーラーはダウンロードできるので特に確認不要です。

![ClipboardAI2.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/47130a6a-0444-bca2-2f95-f79ba05f540a.jpeg)

***「Download」ボタン↓↓***

![ClipboardAI3.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/cd80ab6b-3881-c2c3-3697-38714919c0a4.jpeg)

UiPathClipboardAI.msi をダブルクリックし、ウィザードに従ってインストールを進めます。

![ClipboardAI4.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/3c908d53-4868-46e1-0c6a-848e9e456987.jpeg)

インストールが完了すると、デスクトップ上に「UiPath Clipboard AI」のショートカットが作成されます。

![ClipboardAI7.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/5a7565bf-4e2c-649d-f1be-ba397e79dd0c.jpeg)

Clipboard AI を起動すると、モニターの上部に「Copy Window」と「Paste in form」の2ボタンが表示されます。

![ClipboardAI8.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/15d0c4e2-ee0f-6472-17a9-57ddfd3e2f4a.jpeg)

# 使い方

1）読み取りたい画面（ウィンドウ）または範囲を指定（クリックや範囲指定）

2）「Copy Window」ボタンをクリック

![ClipboardAI9.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/1c216186-4b81-2de2-2c04-51e89543d3d5.jpeg)
![ClipboardAI10.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/eea31d09-1b5f-cc2b-639d-8aeb7d7f0b5c.jpeg)

3）読み取りたいフィールドの名称を指定

（例）「全国の天気」と入力し、検索した結果（プレビュー）

![ClipboardAI13.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/e8ebf5da-6b85-be7d-2a6e-6b83d3404ffa.jpeg)

4）貼り付けたい画面（ウィンドウ）または範囲を指定（クリックや範囲指定）

5）「Paste in form」ボタンをクリック（以下はメモ帳の例）

![ClipboardAI14.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/b7f84b7b-84d9-ffd7-53fe-2730b8f219c2.jpeg)

## 株価情報をEXCELに出力してみる

Yahoo ファイナンスの株価情報のページを開き、「Copy Window」ボタンをクリックします。
ページの中から抽出したい項目を幾つか指定します。
例として、「安値」「高値」「社名」を入力

![ClipboardAI16.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/cde02d2c-7bcd-28b7-e408-bf77ac99e844.jpeg)

::: note
「安値」と「高値」はページ上に文言があるが、『ユーアイパス』には***適当なラベルが存在しない***ため、「社名」と入力したところ、***AIが自動で対象を認識してくれました！！***
:::

貼り付け先を指定し、「Paste in form」ボタンをクリックします。

![ClipboardAI15.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/6b4d6a82-2728-4bd4-5e96-0161b2fa7ff4.jpeg)
![ClipboardAI17.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/360ceb75-f079-0615-d458-a97c5100ff69.jpeg)

## EXCELの情報をWEBの履歴書に転記してみる

[Yagish さんのアルバイト履歴書のページ](https://rirekisho.yagish.jp/format/rerekisho_part_time/edit/profile)
で転記を試してみます。

![ClipboardAI19.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/385f45ec-3eef-9e63-a219-8ff62a0d75a8.jpeg)

読み取り結果から、EXCELの場合はセルが値の最小粒度と認識する様で
そのまま貼り付けるとこんな感じになります↓↓

![ClipboardAI20.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/4d7beccc-af8c-b1d4-c335-22d022b6d213.jpeg)
![ClipboardAI21.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/001c6fa7-2917-a86a-21f3-7d97c46694a8.jpeg)

***性別のチェックボックスにちゃんとチェックが入ったことが衝撃でした！！***

::: note
***入力先のフィールドの粒度でEXCEL側も値を用意する***ことで、意図したかたちで貼り付けることができます。

![ClipboardAI23.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/ff3d7860-d752-1a4f-dad5-7f9c46dd160d.jpeg)
![ClipboardAI22.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/f629737f-171b-654e-681d-95896eec6f03.jpeg)
:::

## 画像から文字列を抽出してみる

「hogehoge テスト」「読み取りテスト」という文言を含んだ画像（PNG）で試験してみます。

![ClipboardAI24.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/111ba24d-277d-320a-06d9-4b4f94cd3bea.jpeg)

***「hogehoge」だけ認識できるようで、他はどうPromptを指定してもEmptyで返ってくる
→　β版だから仕方なし！呼び出されているOCRが日本語に対応していないのでしょう***

![ClipboardAI25.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/e020fcd5-7dcd-6853-90ab-9948cdfc7814.jpeg)

英字のみとすればこの通り完璧です↓↓

![ClipboardAI26.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/52834c4b-02ae-41a9-45bd-9a2b9624b428.jpeg)

::: note
「Setting（設定画面）」には***抽出モデルを設定できる箇所もある***ので、一般公開される頃には画像読み取りにも使える？様になってるかもしれません。

![ClipboardAI27.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3301444/4f02dfd2-e69f-1dbc-f66c-301500ce5c5e.jpeg)
:::

# さいごに

いかがでしたでしょうか？まだ個人向けの学習機能などはついていない（貼り付け対象フィールドを都度指定が必要な）ので、利用イメージをつかむためのお試しまでとなりますが、夢膨らむ非常に便利なツールだなーという印象です。
まだ Automation Cloud にアカウントを持っていない方、無償版でも多くのオートメーションサービスを利用できるので、興味の沸かれた方は是非是非ご登録ください！
https://www.uipath.com/product/clipboard-ai