Claude3は図をどこまで認識できるのか？

# 目次
[1.はじめに](#1-はじめに)
[2.住宅図面の認識](#2-住宅図面の認識)
[3.天気図の認識と天気予報](#3-天気図の認識と天気予報)
[4.まとめと考察](#4-まとめと考察)
[5.おわりに](#5-おわりに)

# 1. はじめに
前回の[Anthropic社のLLM Claude3を試してみた](https://qiita.com/mikepiko/items/c93968412d1669d66fcf)で、ビジネス用のパワーポイント資料や、請求書などをClaude3に読ませたところ、解像度が高ければそこそこ読めるのではないかということが見えてきました。そこで本記事ではより詳細にどこまで読めるかを探っていき今後のビジネスへの影響について考察します。

# 2. 住宅図面の認識
## 2.1 住宅の間取り図

よくある３階建ての戸建て住宅の図面を読ませることにしました。ちなみに１回のチャットで読み込むことができる図の上限は５個までのようです。(2024/3/9日現在）
マンションではなく戸建てを選んだ理由は、1フロアではなく、１階～３階に分離した間取りを正しく認識できるかを調べるためです。

![001e7b10c992a247c0892a07422f7f03.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3737026/20b91d20-1a75-a33c-46bb-eaabf16704c4.jpeg)
図面データ引用元　https://www.pinterest.jp/pin/849139704712984340/

プロンプト
>こちらの間取りの説明をお願いします。

Claude3の回答
>この3階建ての住宅の間取り図について、詳しく説明させていただきます。
1階の間取りをご説明します。玄関を入ると右手に4帖の納戸があり、そこから浴室とトイレ、洗面所へとアクセスできます。玄関を挟んで左手に車庫があり、1台駐車可能です。
>
>2階が家の中心となるLDKがあり、広さは約16帖となっています。LDKの奥には物入れスペースがあります。LDKから階段でそれぞれ3階と1階へと行き来できます。
>
>3階には同じ広さの約5帖の洋室が2部屋あり、それぞれクローゼットが備わっています。2部屋はつながっており、家族でも個室としても使える造りです。
>
>3階の中央には約6帖の洋室があり、これが主寝室となりそうです。
>
>1階と3階がそれぞれプライベート空間、2階がLDKを中心とした共有空間と、メリハリのある間取りが特徴的です。また2階のLDKからはバルコニーに出られ、開放的な空間が広がっています。
>
>このように1階から3階までを行き来しやすい動線が確保され、家族構成の変化にも柔軟に対応できる設計といえます。配置や広さのバランスも良く、機能的な住宅プランだと説明できます。

追加プロンプト
>先ほどの説明になかった部分の詳細を説明してください。たとえば、何処の階に何個トイレがあるとか。3階の部屋の広さとか、横長なのか細長いのか正方形の建物なのか。向きは書かれているのか？

Claude3の回答
>階段とか廊下とか部屋の関係。
>
>はい、分かりました。先ほどの説明で漏れていた部分について、追加で詳細を説明させていただきます。
>
>まず1階ですが、玄関を入ってすぐ左手にトイレが1つあります。浴室は奥まった場所にあり、換気のために外に面した窓が設けられています。
>
>2階のLDKは東西に長い横長の広い空間となっています。LDKの奥の物入れスペースは北側に面しています。
>
>3階は南北に長い間取りとなっており、洋室2部屋と主寝室が並んでいます。洋室2部屋はそれぞれ約5.3帖の広さで、主寝室は約6帖と少し広めの作りになっています。
>
>階段は各階の中央に位置し、1階から3階まで真っ直ぐ続いているタイプです。2階と3階の間には廊下がありません。
>
>建物の向きについては図面上で明記されていませんが、車庫が西側に面しているので、おそらく東向きの建物と推測されます。
>
>以上が、建物の細かい内容やレイアウトに関する追加の説明となります。お分かりいただけましたでしょうか?

考察
３階だてであることを認識できていおり、図面の右下に文字でかかれている数字を階と認識して、図面と結び付けて認識できていることがわかります。部屋の広さや位置関係もあっています。すごいです・・・。
不動産業界の営業、住宅検索、図面検討なども今後はAIで大きくかわりそうですね。


## 2.2 建築図面は読めるのか？

簡単な住宅図面は読めることが確認できたので、今度は建築図面で試してみました。
![sec13_img14.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3737026/39460964-0feb-6858-cd8d-0449257a48c4.jpeg)
図面データ引用元　https://www.o-uccino.jp/kenchikuka/special/guide/vol13_2.php

プロンプト
>お客様はこの図面を、直接みることができない状況です。この図面を口頭でできるだけ正確につたえてください。お客様が手書きでこの図面に近い絵を再現できるようにしてください。

Claude3の回答
>はい、わかりました。この住宅の図面について、できるだけ正確に説明させていただきます。お客様がその説明を元に、手書きで図面の概要を再現できるよう心がけます。
>
>全体のレイアウトですが、北側に玄関がありますので、図面の上側が北を向いています。敷地は東西に長い長方形の形をしています。
>
>まず玄関から入ると、左手にガレージがあります。ガレージの奥にトイレがあり、その隣にポーチがあります。
>
>玄関を入ると、右手に6畳の和室があります。その奥にリビングダイニングキッチン(LDK)という広い空間が中心にあり、全体で約25畳ほどの広さです。LDKの南側には和室から行ける納戸があります。
>
>LDKの左手、西側にリネン室や洗面室、そして浴室が並んでいます。東側には2つの洋室がありますが、うち一つは約8畳の子供室で、もう一つが約6畳の主寝室となっています。
>
>主寝室の隣にウォークインクロゼットが設けられています。
>
>このようなレイアウトで、玄関からLDK、水回りがコンパクトにまとまり、プライバシーも確保されたつくりになっています。駐車スペースも家の前面にあります。
>
>建物の大きさは、東西が約14mで、南北が約11mほどの長方形の間取りとなっております。ご説明した通り手書きでおおよその間取り図を書いていただければと思います。

考察
残念ながら全然読めてない結果となりました。
玄関の入り口は南向き。玄関の右側にガレージがあり、左側ではない。ガレージ奥にトイレはない。敷地は東西に長いが長方形ではない。和室はない。東側に洋室は2無いなど、誤りを上げたらきりがない感じです。
請求書の時もそうなのですが、解像度が低い場合や、細かい図面は読み込み精度が大幅に低下すると思われます。図面は文字が小さいので厳しいですね。読めなかったものは読めませんでしたと言ってくれるとありがたいのですが、現状は読めないものも無理に読んだ結果、嘘の回答をしてしまいます。なので、図が正確に読み込めているかを詳しく聞き出しチェックする必要がありそうです。

# 3. 天気図の認識と天気予報
ある日の天気図（以下）を入力しClaude3に解説を依頼することで、どこまで認識できているかを確認します。
ついでに次の天気予報もしてもらいます。
天気図を選んだ理由は、非常に難易度が高いと考えたためです。物体検知を使えば日本の地図であることと、高気圧、低気圧の位置くらいは認識できると思いますが、等高線の認識は難しいのではないかと思います。
![large.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3737026/72445d14-51f9-6a15-8da7-80be35dbe131.jpeg)
引用元　https://tenki.jp/

入力プロンプト
>「こちらは天気図です。天気図の解説をおねがいします。その後、明日の天気はどうなるか予想してください。」

Claude3の回答
>この天気図は、日本列島とその周辺の気圧配置と風系を示しています。青い"高"の記号は高気圧を、赤い"低"の記号は低気圧を表しています。等圧線は気圧の等しい線を結んだものです。
>
>この図から、日本の南東にある強い低気圧系と、その北側を通る寒気の流入が読み取れます。低気圧による強風や激しい雨が予想されます。
>
>明日の天気を予想すると、この低気圧系が東進し続けるため、東日本や東海地方では雨が続く可能性が高いです。一方、低気圧が通過した西日本では晴れ間が広がるでしょう。ただし、寒気の影響で気温が低く、所々で雪の可能性もあります。詳細な地域予報に留意する必要があります。全体的に荒れた天気が続きそうです。

考察
なかなかいい感じだと思います。日本全国の天気図であること、冬の天気図であることと低気圧、高気圧の位置を適切に理解しているようです。

## 次の日の天気図（正解）を入力し解説を依頼する
天気に関しては素人なので、予想があっているかはわからないので、次の日の天気図を入力し、当たっているところと外れているところを解説してもらいました。

![正解の天気.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3737026/f7a8352a-a388-3a64-a332-c0d6c26f66b6.jpeg)
引用元　https://tenki.jp/

入力
>「次の日はこちらの図のようにこうなりました。
　あなたの予想で当たっていたところと外れていたところをあげてください。またなぜそうなったのかの考察もお願いします。」

回答
>「私の前回の予想と比較すると、以下の点で当たっていた点と外れていた点がありました。
>
>当たっていた点:
>
>低気圧が東進し、東日本や東海地方で雨が続いている点
西日本では低気圧が通過し、概して天気が回復している点
外れていた点:
>
>低気圧の強さや進路がやや異なっている
低気圧の北側の寒気の流入範囲が予想よりも小さい
これらの違いが生じた要因として、以下のようなことが考えられます。
>
>低気圧の発達や移動経路の予測は難しく、実際とはある程度のずれが生じる
寒気や湿った空気の流入量、気温分布などの細かい変化を完全に読み取れなかった
24時間先の天気は複雑な大気現象に左右され、完全な予測は困難
天気予報では最新のデータを基に常に修正されますが、時間が経つにつれ予測の精度は下がります。今回は概ね低気圧の進路は読めていましたが、細部でずれが出たと考えられます。気象現象の複雑さと予測の限界を改めて実感する天気図でした。」



考察
低気圧は確かに日本を通過していますね。寒気については天気図の知識がなく当たっているのかわかりまません。素人的には日本列島が低気圧に挟まれているので、天気は悪いのでは？と思い、天気を調べてみると以下の通りでした。
![正解の天気２.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3737026/d51442d3-9bfd-0845-7bd9-fa145b390352.jpeg)
引用元　https://tenki.jp/

たしかに東日本は雪で、西日本は天気が回復しているのはあっています。
東海地方は雨が続いているという点は天気用法の結果からみると外れているのですが、天気図をみると低気圧の等高線の一番外側が東海地方にかかっているので、雨が続いていると認識されても仕方がないと思いました。
等高線の位置関係まで読めているということでしょうか？このあたりはもう少し検証したいところです。
天気図については素人なので間違えているかもですが、Claude3は天気図を結構読めている結果となっているのではないでしょうか？

# 4. まとめと考察
 解像度が高くい大きめの図であればかなりの精度で読めることがわかりました。天気図は読めないだろうと思っていたので驚きの結果となりました。
 天気図や住宅図面など小学生高学年から中学生くらいで習うの図面の読み取り能力があるのではないかと感じました。また読み取った図から、説明や予測なども行えることがわかりました。今後は気象予報士や、設計図を作成する仕事をしている人たちに影響がでてくると思われます。
 残念ながら、専門性が必要となる細かい図面などは正確に読み取ることが難しいようですが、これは解像度の問題のような気がしますので、いずれは解決されていくのではないかと思います。
 
# 5. おわりに
　ここ１～２年のAIの進化のスピードには驚かされます。現在のAIの進化の速さを考え控えめな提案しても、経営陣からはそんなのできるわけないと言われ聞く耳をもってもらえません。マルチモーダル化が進むとできることも大きく広がると思うのですが。本記事は同様の悩みをもつ方の参考になればと思います。