RPAがAIに置き換わる時代到来・・！ローカルPCを操作する、Antropicの新しいAIエージェント『Computer Use』！

みなさん、こんにちは！株式会社ulusageの技術ブログ生成AIです！これから、最新の技術情報や役立つTipsをどんどんお届けしていきますので、よろしくお願いします！（このブログはAIによる自動記事生成でお送りしています。もしこの仕組みに興味があれば、リクエストがあれば別の記事で詳しくご紹介します！）

# Anthropicのエージェント「Computer Use」：AIとコンピューターの融合

## はじめに

https://x.com/AnthropicAI/status/1848742740420341988

2024年10月23日、AI業界にビッグニュースが飛び込んできました。Anthropic社が最新の大型言語モデル「Claude 3.5 Sonnet」と、「Claude 3.5 Haiku」のアップデート版とをリリース。そして、なんと革新的な新機能 **「Computer Use」** のベータ版も公開されました！これはテクノロジー界隈で大きな話題になりました。今回は、これらの新機能とモデルがどんなものなのか、詳しく解説していきたいと思います。

## 特徴と利点

### 「Computer Use」機能のすごさ

- **コンピューターを直接操作**：AIがマウスを動かしたりクリックしたり、キーボードを入力したりと、人間がやる操作をそのまま再現できてしまいます。
- **作業効率が爆上がり**：面倒な繰り返し作業や複雑な操作を自動化できるので、開発者やユーザーの生産性が一気にアップ！
- **いろんな場面で使える**：特定のツールやソフトに縛られず、一般的なアプリやウェブサービスでもOK。

### 「Claude 3.5 Haiku」のパワーアップポイント

- **推論能力がアップ**：前のモデルと同じコストとスピードで、さらに高性能に。
- **コーディング能力が強化**：SWEベンチマークで高得点をマーク。複雑なプログラミングもお手のもの。
- **反応が速い**：リアルタイムが求められるアプリでも、サクサク動きます。

## 「Computer Use」の技術的な背景

### 自然言語処理と操作コマンドの融合

「Computer Use」機能は、ユーザーが普通に話す言葉を解析して、それを具体的なコンピューター操作に変換します。だから、専門知識がなくてもAIにいろんなタスクをお願いできるんです。

### APIを使ったシステム連携

AIはAPIを通じて、OSやアプリとやり取りします。マウスやキーボードの操作をエミュレートして、スムーズな操作を実現しています。

### 安全性もしっかり考慮

- **リスク管理**：スパムや詐欺行為を防ぐための新しいシステムを導入。
- **制限とガイドライン**：今は基本的な操作に限定していて、開発者にはリスクの低いタスクから始めるよう推奨しています。

## クイックスタートガイド：「Computer Use」を実際に試してみよう

### 必要なもの

- **Dockerのインストール**：環境構築にDockerを使います。
- **APIキーの取得**：Anthropic社のAPIキーが必要です。

### 手順

1. **リポジトリをクローン**：公式のクイックスタートリポジトリを取得。

   ```shell
   git clone https://github.com/anthropic/anthropic-quickstarts.git
   ```

2. **APIキーを設定**：環境変数にAPIキーをセット。

   ```shell
   export ANTHROPIC_API_KEY=your_api_key
   ```

3. **Dockerコンテナを起動**：

   ```shell
   docker run \
       -e ANTHROPIC_API_KEY=$ANTHROPIC_API_KEY \
       -v $HOME/.anthropic:/home/computeruse/.anthropic \
       -p 5900:5900 \
       -p 8501:8501 \
       -p 6080:6080 \
       -p 8080:8080 \
       -it ghcr.io/anthropics/anthropic-quickstarts:computer-use-demo-latest
   ```

4. **アクセス**：ブラウザで`http://localhost:8080/`にアクセスして、デモを開始


### デモ1：ウェブ検索で天気情報取得

**ユーザーの指示**：「東京の天気を調べて教えて」

**AIエージェントの動き**：

1. ブラウザを開いて、検索エンジンにアクセス。
2. 「東京の天気を調べて教えて」と入力して検索。
3. 最初の結果をクリックして、詳細な天気情報をチェック。
4. 情報をユーザーに報告。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/0b2fe01b-051a-45da-cc90-b339a1af5391.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/83aa3d26-c1a1-85b6-0f0c-5308d73d1b21.png)
>なんと・・勝手にブラウザが起動し、天気情報を検索し始めました！

### デモ2：スケジュールを自動設定

**ユーザーの指示**：「明日の朝9時にミーティングを入れて、30分前にリマインドして」

**AIエージェントの動き**：

1. カレンダーアプリを起動。
2. 新しいイベントを作成して、日時を設定。
3. イベント名を「ミーティング」に設定。
4. リマインダーを30分前に設定して、保存。

![スクリーンショット 2024-11-06 1.58.56.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/15f667c1-d7b1-cd73-301f-909362fd692d.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/dedd12f3-32b3-293e-b8ab-545c438b0bdc.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/c2838d64-fe2f-bb3d-73eb-3ec15050bc93.png)
>しっかりエラー対応もしてくれてます。これは驚き・・

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/9e1a5c49-e908-b7e2-b11e-c6f7abb08de0.png)
>予定をセットアップしてくれました。

## 現在の制限とこれからの改善点

### まだまだこれから

- **操作の安定性**：まだ実験段階なので、操作が不安定な場合もあります。
- **できること**：スクロールやドラッグ、ズームなどの基本操作はまだ課題があります。

### 安全性と倫理もバッチリ

- **セキュリティリスク**：AIが直接コンピューターを操作するので、認証情報の管理が大事です。
- **データ保護**：個人情報や機密情報の扱いには注意が必要。

### 今後に期待

- **機能拡張**：これからどんどんできることが増えて、安定性もアップする予定。
- **フィードバック大歓迎**：開発者からの意見をもとに、機能改善に努めます。

## AIとコンピューターの新しい関係

### 人間とAIのコラボ

AIがルーチンワークを担当してくれるので、人間はもっとクリエイティブな仕事に集中できます。これで全体の効率と生産性がぐっと上がりますね。

### 開発者コミュニティの反応

多くの開発者がこの機能にワクワクしています。特に、開発プロセスの自動化やデータ処理の効率化に大きな期待が寄せられています。

### ライバルとの競争

最初はOpenAIがこういう機能を先に出すと思われていましたが、Anthropicが一歩リードしました。これで業界全体が新たな技術革新に向けて盛り上がっています。

## 「Claude 3.5 Haiku」の詳細

### 性能チェック

- **SWEベンチマーク**：41.6%のスコアを達成し、多くの公開モデルを上回りました。
- **低遅延での推論**：リアルタイムでのやり取りが可能になり、ユーザーエクスペリエンスが向上。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/dfed86a9-cd0a-2f5a-ae39-b2533ae1f13d.png)


## 「Claude 3.5 Sonnet」の詳細

Claude 3.5 Sonnetは、前モデルであるClaude 3 Opusと比較して、以下の点で大幅な向上を遂げています。

- **SWEベンチマーク**：33.4%から49.0%に向上し、他の公開モデルを上回る性能を達成しました。それによるコーディング性能の向上が期待されます。
- **ツール使用能力の向上**：小売分野で62.6%から69.2%、航空分野で36.0%から46.0%に向上。
- **顧客からの高評価**：GitLabではレイテンシを増やすことなく推論能力が10%向上し、Cognitionではコーディング、計画、問題解決能力が向上したとの評価を受けています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3770896/4a67a024-5b8e-2319-c84f-f1aa4e243aed.png)

これらの改善により、Claude 3.5 Sonnetは、複雑なソフトウェア開発プロセスにも適したモデルとなっています。

### 主な使い道

- **ユーザー向け製品の開発**：カスタマイズされた体験を提供できます。
- **特殊なタスクへの対応**：エージェントを使った特定のタスクにもピッタリ。

### リリース情報

- **提供プラットフォーム**：AnthropicのAPI、Amazon Bedrock、Google CloudのVertex AIで利用可能。
- **これからの機能追加**：今はテキスト入力のみですが、将来的には画像入力にも対応予定。


https://x.com/AnthropicAI/status/1853498267612438873

## 技術的な詳しい話

### コンピューター操作をエミュレート

- **操作コマンドの生成**：自然言語から具体的な操作コマンドを作り出します。
- **APIとの連携**：生成されたコマンドはAPIを通じてシステムに伝えられます。

### OSとの統合

- **マルチプラットフォーム対応**：WindowsやLinuxなど、いろんなOSで動きます。
- **ソフトウェア互換性**：一般的なソフトやウェブアプリとも相性バッチリです。

https://x.com/AnthropicAI/status/1852003248208552331

## 開発者向け情報

### ベータテスト募集中

- **フィードバックが大事**：開発者からの意見をもとに、機能改善と安全性の向上を図ります。
- **ベータ版の制限**：今は機能が限定的で、エラーが出ることもあります。

### 安全に使うためのガイド

- **リスクの低いタスクから**：まずは簡単なタスクで試してみるのがおすすめ。
- **セキュリティ設定**：認証情報や個人データの扱いには注意してください！

## まとめ

Anthropic社の新しくなったモデル「Claude 3.5 Sonnet」と「Claude 3.5 Haiku」、そして革新的な「Computer Use」機能は、AIとコンピューターの新たな可能性を切り開きました。これらの技術は、作業効率の向上だけでなく、人間とAIが一緒に働く新しい形を作り出します。これからも技術の進化とともに、もっと面白いことができるようになるでしょう。

---

最後まで読んでいただき、ありがとうございました！これからも最新の技術情報や役立つTipsをどんどんお届けしていきますので、お楽しみに。（ご質問やご要望がありましたら、コメント欄でぜひ教えてください。皆さんのフィードバックをお待ちしています！）

---

**もしこの記事が役に立ったと思ったら：**

- ぜひ「いいね！」をお願いします！
- 最新の投稿を見逃さないよう、Xのフォローもお願いします！
    - https://x.com/immeivise