APIを使わずWinActorでAIを使ってみた話

このブログは「RPA（ロボティック・プロセス・オートメーション） Advent Calendar 2023」の**25日目** の記事です。
[≪ 前日の記事はこちら](https://note.com/ "RPA Advent Calendar 2023 24日目の記事")

https://qiita.com/advent-calendar/2023/robotic_process_automation

---
![スライド1.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/646663/9967f4e5-f74a-2ad2-f4f1-ec207da46330.jpeg)
<br>この記事の内容は、2023年12月19日に開催された RPACommunity ライトニングトークについてのレポートです。

▼ 動画でご覧になりたい方は、こちらからどうぞ！
<iframe width="560" height="450" src="https://www.youtube.com/embed/Z-TIc81ekII?si=XscRYpAKntfPsByt" title="YouTube video player" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" allowfullscreen></iframe>
<br><br>
以下は、動画で話しきれなかった内容も補足していきたいと思います。<br>
内容は以下の通りです。


# まずは手軽にWinActorで生成AIを操作したい！
WinActor Talk支部でWinActorとChatGTPを利用したイベントを企画したのですが、諸事情ありまして、かーでぃさんがメインの内容を考えることになりました。

WinActorをAPIで操作してChatGTPに調べ物をさせるという内容でしたが、かなりレベルが高く、もうちょっとお手軽感も欲しいと思っていました。

イベントまであと2日……というところで、WinActorの「<font color="Pink">**ユーザーフレンドリー**</font>」力を信じて、<font color="Red">**APIなしで操作するWinActorのシナリオ作成**</font>に何のあてもなく取り組んでみることにしました！<br>
そこから慌てて作った内容が以下の目次となります。<br>
![スライド2.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/646663/f60371bf-41dc-ef70-974c-a8858a5a2052.jpeg)


# １．本日の内容と作ろうと思ったきっかけ
まずはざっくりと登壇内容の説明です。
生成AIチャットサービスを利用するにあたり、利用が初めての方の心配ごとについて考えてみました。

* ChatGTPのAPI利用はお金がかかるんでしょ？
* クレジット情報を入力したくない
* 他の生成AIチャットサービスは利用制限がある

など色々考えられますが、今回はお金や利用制限を心配しなくていい方法を探っていくこととしました。<br><br>

![スライド4.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/646663/5f68e2ca-964c-23d7-a2ea-749957f26f0b.jpeg)
<br>で、該当するサービスがこんかいしようした「 [**リートン**](https://wrtn.jp/ "リートン") 」でした。<br>

https://wrtn.jp/

こちらのサービスをひととおり調査して、利用が初めての方にもピッタリな内容だと思いました。そしてちょうどAPIのサービスは提供されていない状態でしたので、WinActorで操作させていただくにはちょうどいいかもと思い、トライさせていただくことにしました。

念のためではありますが、<font color="Red">**利用規約を確認した上でルールを守って利用するようにしてください！**</font>

現状は無料で利用できますが、急に利用規約が変わって有料になることも想定されますので、その点も注意して利用いただければと思います。
最後に、WinActorでAPIなしで操作しますので、操作内容は外部から丸見えになりますし、履歴も残ります。API利用で得られるメリットとデメリットのバランスを考えて試していただければと思います。<br><br>

![スライド5.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/646663/c65845d9-4615-4220-e8c5-0b67b880b605.jpeg)

そして上記は建前の経緯になります。
とはいえ、本当に大変な作業なので、時間が出来たら自動化したいと考えてはいる作業内容です。

この場を借りて、本音を漏らしてみた次第です🤣

![スライド6.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/646663/0f40b117-0c39-b72c-89a8-c887c28f36ad.jpeg)

ある程度、手作業でも楽できるようにしてはみたものの、やはり単純なコピペ作業なのでぜひとも自動化しておきたい……！（年末年始あたりで自動化しておこうかな。）


# ２．無料の生成AIチャットサービスについて
詳細については以下の通りです。
無料で回数制限なしでいろんな質問を試せるので、プロンプトを勉強されたい方にはぴったりだと思います。<br>
![スライド8.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/646663/fca827b3-7a70-ca3d-0137-b2c0f7e3ee06.jpeg)

通常のチャットサービス以外にも、長文やSNS投稿用の文章生成のツールなども無料で試せるので、この年末年始で遊んでみるのもアリかもしれませんね！👍


# ３．どうやってUIを操作するか
実際の操作について考えてみた結果が下図の通りです。

1. ブログの内容に関連するキーワードを含んだプロンプトをコピー
1. 生成AIのチャット欄に入力
1. 送信ボタンを押下
1. 生成された文章をコピー
1. コピーした文章を調査結果の入力欄に転記

![スライド10.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/646663/9c74e370-bced-3cba-09dc-8008f41d6591.jpeg)

上記処理で一番苦慮したのが、4の「生成された文章のコピー」でした。
ブラウザ上で生成された文章の範囲選択の操作が、WinActorでは操作しづらく「どうすればいいのか……」と悩んでおりました。

何回かプロンプトを試していると、たまにコードブロックで生成される事象が起きました。コードブロックの右上のボタンが気になり押してみると、なんと文章（正確にはコード）がコピーできるじゃないですか！

で、プロンプトの書き方を調べてみると、必ずコードブロックで生成する書き方があることが分かったので、この点は何とか解決することができました！


# ４．実際にWinActorで自動化してみた
アイデアは固まったので、WinActorを駆使してブラウザ上のUIを自動化しまくります！
とはいえ、どこまでWinActorで操作できるのか……イベントまでに完成しないといけないので、いざとなったら画像マッチングで乗り切ろうと思いながら挑戦してみました。<br>
![スライド12.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/646663/8ffc126e-5728-2d67-106a-6fbd93e881dc.jpeg)

<dl>
  <dt>１．ブログの内容に関連するキーワードを含んだプロンプトをコピー</dt>
  <dd>こちらはExcelだと見えづらいかと思い、テキストファイルからコピーすることにしました。</dd>
  <dt>２．生成AIのチャット欄に入力</dt>
  <dd>こちらはブラウザ関連のライブラリで入力ができなかったのと、新ブラウザ拡張機能の制約上、エミュレーションでペーストして乗り切りました。</dd>
  <dt>３．送信ボタンを押下</dt>
  <dd>ブラウザ関連のライブラリでクリックできなかったので、画像マッチングで対応しました。</dd>
  <dt>４．生成された文章をコピー</dt>
  <dd>生成に時間がかかるのと処理の完了時間が不定なので、生成終了後に特定の画像が表示されたら次の処理を実行するよう、待機処理をいれました。<br>生成後のコードブロック右上のコピーボタンを押下するために、スクロールして画像マッチングでボタンを押す処理を作成しました。</dd>
  <dt>５．コピーした文章を調査結果の入力欄に転記</dt>
  <dd>こちらもExcelだと見えづらいかと思い、テキストファイルに転記することにしました。</dd>
</dl>

これらの処理を何とか作って、動画を撮影して何とか資料を作り終えることができました！
さすがWinActor……サクッと作れるこの「<font color="Pink">**ユーザーフレンドリー**</font>」力がたまりませんね！😁


# ５．まとめ
ということで、WinActorの力でなんとか仕上げることが叶いましたが、試される方はあくまで自己責任でお願いいたします。

![スライド14.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/646663/4b8893cd-f360-94c4-be5c-9e03540acedb.jpeg)

生成AIでブログ生成に挑戦したという点での感想ですが、なかなか想定通りの文章になることは少ないと思いますので、あくまで「たたき台」として使用されることをおススメいたします。
たたき台だけでも考える手間が省けますし、逆にアイデアが出てくることもありますので、今回「意外と試してよかった」と思いました。

それでは皆様、✨メリークリスマス🎄 ＆ ✨よいお年🎍 を！