GPT-4o のマルチモーダル機能をさっそく試す

# 1. この記事の内容
* OpanAI から 2024.5.15 に新しい大規模言語モデル「GPT-4o」が出たので、以前書いた「[GPT-4V に入門してみる](https://qiita.com/smats-rd/items/1661f4e71caaa1e69633)」記事と同様の検証をもう一回 GPT-4o でやってみて比較する記事となります
* 結論から言うと「GPT-4oが圧倒的に強い」です。（わかり切った話ですみません）

# 2. GPT-4o とは？
　すでに大量のニュース記事が出ていますので細かく紹介しませんが、以下の公式サイトを貼っておきます。

 https://platform.openai.com/docs/models/gpt-4o

 ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/6be698d8-f79b-fc2f-4d74-308e49bf66e9.png)

https://cookbook.openai.com/examples/gpt4o/introduction_to_gpt4o

## 2-1. 料金
[こちらのページ](https://openai.com/api/pricing/)を参照されたし

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/74d91361-b8da-43ad-8375-1e4995d19843.png)


## 2-2. どのくらいの時点までの知識があるのか？
　勿論上にある通りオフィシャルには2023年10月までなのですが、実際どのくらい最近のことまで答えられるのか聞いてみました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/3c06fcc5-b936-5e6b-5085-6a7503a3664c.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/55df2909-37b3-0af4-611f-844f9e3e1333.png)

最近の情報まで含めてめちゃくちゃ正確な回答です。いつの間にかWeb検索した情報を踏まえて回答するようになっていました。ハルシオン防止のため言語モデルだけでなく検索情報も使って回答を補強しているようです。つまり内部的に検索結果をコンテキストに入れたRAGのようなことをしていそうですね。

# 3. 以前書いたGPT-4Vの記事との比較
では、マルチモーダルについても見てみたいと思います。
以前自分が書いた記事ですが、こちらになります。
 
https://qiita.com/smats-rd/items/1661f4e71caaa1e69633

このときに使った現場猫の画像を使って、もう一度聞いてみました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/6430d736-6b78-6f69-a131-4aeac30febe2.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/2b3cc448-ec0e-8dbb-b9bc-673147d8c5b9.png)

完璧な回答が返ってきました。前回この絵を使った理由は、この画像の主題が、「トリプルチェックをしてミスを無くそうとしているのに各担当者が他の担当者を当てにして無責任になり、逆にチェックの精度が下がってしまう」というシニカルな状態を表現したものだからです。皮肉を理解するというのはかなり高度な読解力が必要でAIにはなかなか難しいはずです（人間ですら皮肉を正しく理解できないことが時々あります）。
ここで[前回の記事](https://qiita.com/smats-rd/items/1661f4e71caaa1e69633)をみていただきたいのですが、GPT-4Vはこの絵を見て「ヘルメット」や「猫」や「笑顔」などのディティールは認識できるものの、全体としてこの絵が表している主題はまったく理解できませんでした（ヒントを与えたらやっと理解した）。またOCRとしての性能もダメダメで文字を読み間違えていました。今回は文字も完璧に認識した上に、絵全体としての主題も理解しているように見えます。

もう少し質問して確認してみましょう。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/6b7ab560-b5f3-160d-3cb3-341c3174db72.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/7bfec455-f00f-14ad-78b2-a9eef78a53cf.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/dd8a1679-5a79-42ec-e5b4-6b0a39a9864b.png)

どうやら完全に理解しているようです。

# 4. 絵画の認識
　次に、前回使った[フランク・ブラムリー](https://ja.wikipedia.org/wiki/%E3%83%95%E3%83%A9%E3%83%B3%E3%82%AF%E3%83%BB%E3%83%96%E3%83%A9%E3%83%A0%E3%83%AA%E3%83%BC) の絵を見せてみましょう。

 ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/822bb905-59ff-e848-c4ec-cf93ec84a014.png)
確認してみると、リチャード・エドワード・ミラーは19世紀のアメリカの印象派画家だそうです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/7cfcc781-a290-8f1d-b4e5-24d7f00ef5dc.png)
確かに時代も近いし、画風も似てなくもないですが残念ながらハズレです。ちなみに "The White Dress" という作品は見つけられませんでした（この絵はタイトル不明）。ちょっとヒントを出してみます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/d3ff2a57-77ef-7c88-13a3-8ed19781ea4b.png)
カタカナ名がスペルと違うのですが… Edward Dufner で探してみると"Woman Reading"という作品がありました。
![WomanReading.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/b3f8e643-344c-17e8-2b61-fd87ffab4cf0.png)

こちらも画風が似ているでしょうか？しかしイギリスの画家だと伝えたのにアメリカの画家を回答してきました。エドワード・デュガンという画家は見つけられませんでした。その後、何回か質問してみたのですが、残念ながらフランク・ブラムリーは出て来ませんでした。


# 5. ではもう少し有名な作品ならいけるのか？

　使った絵が少々マイナー過ぎたようなので、有名な作品だと答えられるのかやってみました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/564dfd5b-4617-feda-53a4-f33373d0c1fe.png)

やはり有名作品であればわかるようです（製作年も正しい）。まぁ人間だってそうですしね…マイナーな画家でも画風と年代が近い候補を挙げてくるのは大したものだとも言えます。

# 6. Image to Image に挑戦
　前回GPT-4Vを試した時点では Image to Image 機能は未サポートでしたが、今回は問題ないはずです。さっそくやってみましょう。知識の検索というのは生成AIにしてみれば余技みたいなものなので、むしろこちらの方が得意な分野であるはずです。

 ## まずはアニメ風
 ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/fc2900e4-181c-e713-d520-ed03b58c5a62.png)
ばっちりですね。

## 水彩風にしてもらう
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/2cf24bf6-74b0-31a1-89ea-b84efb72c11d.png)

この絵は縮小しているのでディティールが見づらいのですが、拡大すると水彩っぽさがにじみ出ています（水彩だけに）

 ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/1f30c1b1-636d-cfcc-e3f0-67dfadf339e3.png)

 ## 浮世絵風
 ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/5dc5cd37-9482-7632-5fee-5e5fabc69e9d.png)
 浮世絵にしては写実的な感じで、ペン画みたいですが、きちんと和装にするのが偉いと思います。本に書かれた文が横書きのようなので南蛮渡来の書物を読んでいるのか。

## 葛飾北斎風
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/df9e6747-e0e2-3331-7541-4c1c889947db.png)
とりあえず波がドーンと。水の呼吸

## 水墨画風
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/d209a226-c5ee-c831-9b62-ee9ecd56e69e.png)
無駄にうまい。背景のなんちゃって漢文が良い味わいを出しています。

## アメコミ風
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/97b46daf-0fbf-ef54-b6ab-ee3764ddea6a.png)
ほぼリキテンシュタイン。指がつらい。よく見ると左腕がどうなっているのかわからない。

## 銅版画
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/2dd496c7-8547-0804-ca0a-5a0c7837255b.png)
アール・ヌーボー味がある

## ミュシャ風
ならばミュシャもいけるかな、と思ったのですが…
 ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/aca9c326-9e9a-38a8-d24b-7b5703a73b58.png)
 大人の事情により断られました。無念…しかし「アール・ヌーボーで」とお願いしてみたらだいたいミュシャでした。
 ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/8ce2d24f-c95e-c587-23ca-19471a10761f.png)


 ## クリムト風
 ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/767badf9-c35a-609d-52cf-22054780bb01.png)
ミュシャはダメだけどクリムトはOKなんだ…基準がよくわからない。

## ウィリアム・モリス風
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/1cd7c33d-b0c0-23f7-fbb2-a7a0f21bbe83.png)
ダメもとでやってみたらいけた。

## 日本の漫画っぽく
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/df6c0ef8-f950-e34c-e66c-8b5530a6ebb9.png)
山岸涼子みたいなのがきた。頭の後ろの白い円形は帽子か、後光か

## もう少し少年漫画っぽくできない？
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/046b0f5f-5e75-5db8-74a1-04449cbe54ee.png)
毛髪を逆立てて集中線入れたら少年漫画なのか

## デ〇ズニー風
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2261111/8e4a404d-6fc4-6325-503c-78583ba54ffb.png)
きわきわでOKそうなところでしょうか。ご査収下さい

# 7. 音声処理は？
　ご存知のようにGPT-4o の一番のセールスポイントは音声認識などの音声処理にあるのですが、今回はGPT-4V 検証との比較に重点をおいたため、また別の機会とさせていただきます。

# 8. まとめ
　ということで所感ですが、なんかもう凄いというしかありません（語彙）。

前半の現場猫完全解釈もすごかったのですが、後半の画像変換はいくらでも遊べてしまって収拾がつかない。全体的にクオリティが予想よりはるかに高くてびっくりしました。漫画やイラストを手で描く時代はもうすぐ終わりそうですね…。

　それにしても、5/14（火）に発表されたモデルを試した記事を 5/16(木) に投稿した時点で、すでに遅きに失した感があるのはどうしたわけか…この分野のスピード感の恐ろしさを感じます。

今回は以上となります。
ここまでお読みいただきありがとうございました。