画像がAI生成か否かを判定するWebサービス「AI or Not」と「AI-GENERATED CONTENT DETECTION」にAI生成した画像群を読み込ませてみた

[Supership](https://supership.jp/)の名畑です。9月も残り1週間となり、好きなアニメが次々とクライマックスを迎えておりますが、そう、[2023秋アニメ](https://www.animatetimes.com/tag/details.php?id=5947)が始まる時期でもあるわけです。大物タイトルが多くて、続編も多くて、正直、追える気がしない。

## はじめに

:::note
2024年9月公開の記事「[AI生成かどうかを判定する「Hive Moderation AI-GENERATED CONTENT DETECTION」にDALL·E 3やFLUX.1、ImageFX等の生成画像を判定させてみた](https://qiita.com/nabata/items/ed3f7a6bd0e17677b000)」で新たな調査結果を掲載していますので、ぜひ合わせてご覧ください。
:::

これまで[Stable Diffusion](https://ja.stability.ai/stable-diffusion)等を用いて数多くのAI画像を生成してきましたが、そのあまりの出来の良さに「**鈍感な私がこの画像をなんの情報も無しに見せられても、AI生成だと気づかないだろうな**」と思ってきました。

それだけ技術が進化したという話でもあるのですが、普通に、恐いなとも思うわけです。別にこれまでだって、AIではないにせよ、人の手を介して加工された写真なんていくらでも世の中に出回っていたのでしょうが、それに気づかず生きてきたのでしょうが、「**加工**」と「**生成**」ではわけが違いますし、さらに、そのための手間が日々軽減されている。「**AI or Human**」で検索してみますと、それがAIによるものか人によるものかを答えさせるクイズコンテンツがいくつも見つかる、そんな世の中です。

「[AI or Not](https://www.aiornot.com/)」というサービスがあります。その名前の通り「**画像がAI生成かそうでないかを判別してくれるサービス**」のようです(余談ですが、BetaとしてAudio判定もリリースされています)。「[騙されないよ！ AI画像か否かを判断するWebサービス | ギズモード・ジャパン](https://www.gizmodo.jp/2023/06/ai-or-not.html)」という記事で取り上げられてもいました。95%の精度で見極めてくれるらしいです。
リリースされたての頃にイマイチだという噂を目にした気はしますが、実際に自分で試してみないとわかりませんし、時間も少し経っています。

また、文章と画像がAI生成物かのスコアを算出する「[AI-GENERATED CONTENT DETECTION](https://hivemoderation.com/ai-generated-content-detection)」というツールもあります。こちらは「[Hive Moderation](https://hivemoderation.com/)」が提供しており「[AIが生成したコンテンツを検出できるツールが有用と話題に。一方で予想外の使い方も？【やじうまWatch】 - INTERNET Watch](https://internet.watch.impress.co.jp/docs/yajiuma/1500457.html)」という記事で取り上げられていました。

ということで今回は、私がAI生成した画像がこの「**AI or Not**」と「**AI-GENERATED CONTENT DETECTION**」でどう判定されるかを試してみました。

## AI or Notの判定方法

![aiornot_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/bf703695-26cd-8fc0-f124-87cbe8e53287.png)

画像をアップロード、もしくは画像URLを指定すると、上記右上のように**AI**での生成か**Human**による生成かが判定されます。APIも用意されているらしいです。

今回は過去記事「[Stable Diffusionの最新モデル「SDXL 1.0」と過去モデルの生成画像をひたすら比較して進化を実感してみた](https://qiita.com/nabata/items/a9b3e759bc09c20581f6)」にて**SDXL 1.0**で生成した24枚の画像すべてについて判定してみました。写真風、イラスト風、女性に男性に妖精まで、そこそこバラエティに富んでいます。

つまりすべての画像が「**by AI**」になることが期待されます。

## AI or Notの結果

### by AIと判定された画像

![aiornot_16.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/e09067e7-916b-f8c1-de53-ada49e3ed2c9.png)
![aiornot_17.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/8705af01-a2ef-c48e-88c1-0c7eb0209775.png)
![aiornot_19.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/bb876580-b4e0-bbf4-54ef-234a01538e05.png)
![aiornot_20.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/490b6bb7-644e-80d7-a1d0-c61b4d5a5d49.png)
![aiornot_21.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/2e1cf64b-4ed8-f3fc-a037-3fffb19bcdb1.png)

### by Humanと判定された画像

![aiornot_1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/8cd8a444-c893-c3cc-2017-7c9c862da54f.png)
![aiornot_2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/c4a70210-69ab-b47a-d739-f9c2d0c7ab39.png)
![aiornot_3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/727c4191-bae4-2161-48aa-cc0830061451.png)
![aiornot_4.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/566afdc6-e748-5749-6ad6-325141d72cb0.png)
![aiornot_5.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/982fa17e-c3c4-0043-b125-449ac7658047.png)
![aiornot_6.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/226abb6b-d6f0-890f-f50d-0bf18993c52a.png)
![aiornot_7.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/a864a5ff-5fa3-5e3f-2202-bf9ad553f5a1.png)
![aiornot_8.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/e5f11988-e5bd-c1cf-75d1-8b74494ee8e5.png)
![aiornot_9.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/1e5b3ae4-5325-2779-cfba-ee36c9b794e1.png)
![aiornot_10.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/0983023d-9522-64fa-9517-985f264d5724.png)
![aiornot_11.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/ef57631d-0825-b33a-e9a9-74701fb77c6f.png)
![aiornot_12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/605e9b35-aa9e-597d-f69f-b9e9c72f8054.png)
![aiornot_13.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/5028b294-95fe-7b30-4e85-f70dde3d747a.png)
![aiornot_14.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/9dc250f9-6303-ab17-ad0e-27bb9b4c3924.png)
![aiornot_15.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/5dc996b9-1af7-0217-fc42-696a091d685e.png)
![aiornot_18.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/a1cdace5-3407-6617-90d5-1e35828d2720.png)
![aiornot_22.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/4058d6ab-1e14-9baa-46e1-2b1e93844682.png)
![aiornot_23.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/92b044bc-c704-4bf5-b043-249504515e1e.png)
![aiornot_24.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/0a51dc47-766c-e2c7-7c91-cc2646c7998b.png)

### まとめ

結果としては**AIが生成した**と判定されたのは **5/24** で **約20.83%** の正答率となりました。

私の使い方に間違いがあるのか。

それか、得意不得意によるものか。「**1980年代の香港の繁華街**（**Hong Kong downtown in the 1980s**）」で生成した画像では完答でした。

## AI-GENERATED CONTENT DETECTIONの判定方法

![detection_15.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/25ea8ebc-973a-99a9-5cef-8092a623af96.png)

続きまして**AI-GENERATED CONTENT DETECTION**での判定です。

画像をアップロードすると、上記右上のようにAI生成かどうかの確率を弾き出してくれます。

## AI-GENERATED CONTENT DETECTIONの結果

![detection_1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/8eeab0e8-537b-27eb-ab4c-11b5cb697468.png)
![detection_2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/8c58b435-11da-4aa7-a421-f07b2ccc64a1.png)
![detection_3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/b298b0cd-f8da-0cfd-74d1-66db90dbb06f.png)
![detection_4.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/9e548de3-7000-a3f0-aeb3-b37cc91ce7e6.png)
![detection_5.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/43839fc6-a173-5496-d084-9189b9b851cf.png)
![detection_6.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/4a40d43b-48f4-fd50-f257-b96957a3d52a.png)
![detection_7.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/6cafdde7-8409-d4d9-e58c-348814003388.png)
![detection_8.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/55c4ce02-ba52-3959-4a44-374666acf84c.png)
![detection_9.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/b84194a9-8543-ca94-236d-1c0871836ec8.png)
![detection_10.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/e5b48741-b9e2-108c-2474-4a1d571b7ac0.png)
![detection_11.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/16adcc36-50ab-baf2-20fb-f2e3031160d5.png)
![detection_12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/54f6b464-dfa7-f527-9cc9-7afd93a24d48.png)
![detection_13.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/062c6d06-4d97-56ca-fb08-8393cc6ebaca.png)
![detection_14.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/2295c3e9-e6e7-90e5-ddd4-60a6d93d17d7.png)
![detection_15.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/25ea8ebc-973a-99a9-5cef-8092a623af96.png)
![detection_16.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/4adc8454-402e-966f-cb6d-84ba622dabab.png)
![detection_17.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/4e37a9ae-c34f-6402-1279-0cbd766baf54.png)
![detection_18.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/6785fadd-d1a0-f460-f3bb-9c6d39130a63.png)
![detection_19.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/e0b69e5f-d759-de82-72ba-39c687d9b006.png)
![detection_20.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/199645f3-9519-94b9-93e2-ca0b7e7dd043.png)
![detection_21.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/635c4ec9-730e-58fe-fa72-04ad36ae249d.png)
![detection_22.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/a2c39ed1-a134-0c1f-b2ae-937b5f39b051.png)
![detection_23.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/4841d692-0c9c-4fa5-5b25-fba3e30a659a.png)
![detection_24.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/869934/4dcda859-9c18-a5d8-ae80-28c7f0e631a1.png)

24画像中の22画像が **99%以上** 、1画像が **93.2%** 、1画像が **69.8%** でした。**BY CLASSES**で**stablediffusion**よりも**midjourney**を高く出しているものが目立つのは気になります。

この結果だけ見るとかなり高精度にも思えますが、**Stable Diffusion**の公式APIを叩いて生成しただけの画像で **1/24** つまり **約4.17%** で低めの数値が出たという事実は、判断が難しいようにも思えます。まあ、低めではあっても **50%** を超えてはいるので、判定としては正しいと言えますが。

## 最後に

もはや「**AIか人間か**」という二軸で考えるものでもないのかなと思いながらも試してみました。

AI生成した画像にPhotoshop等で加工を加えたら判定がどうなるのだろうとは気になりました。加工したならそれは人の手によるものとすべきか、AIが生成したものとすべきかという本質的な意味で。度合いの問題ですかね。

## 宣伝

[SupershipのQiita Organization](https://qiita.com/organizations/supership-inc)を合わせてご覧いただけますと嬉しいです。他のメンバーの記事も多数あります。

Supershipではプロダクト開発やサービス開発に関わる方を絶賛募集しております。
興味がある方は[Supership株式会社 採用サイト](https://supership.jp/recruit/)よりご確認ください。