生成AIにコンセプトカフェの衣装をデザインさせる(ChatGPT 4V/Dall-E 3)


この記事は東京大学の応用物理学系(物理工学科と計数工学科)で行っている[物工/計数アドベントカレンダー2023](https://adventar.org/calendars/9604)の最終日(25日目)の記事になります～ 

# はじめに

どうも、[ぽゃん](https://twitter.com/lactoneinfo) です。学祭にてコンセプトカフェを出店するサークル『東京大学装い喫茶研究会』を設立して、代表をやっております。


**「天使界隈」** をご存知でしょうか？

かわいいファッションを愛好している界隈では、天使のような無垢さを強調した水色/ 白ベースの服装が流行しており、「天使界隈」と呼ばれています。弊サークルでは、次回(2024年)五月祭にて「天使界隈」をコンセプトにお店を出店することになりました。

<blockquote class="twitter-tweet"><p lang="ja" dir="ltr">【キャスト・スタッフ大募集】<br><br>東京大学装い喫茶研究会です！<br>駒場祭でのコンセプトは🪽†天使界隈†🪽<br>一緒にコンカフェしませんか？<br>容姿年齢ジェンダー大学不問！堕天使でも可！<br>気になった人はどしどしDMなどでご連絡ください！ <a href="https://t.co/Naqsxj4dq0">pic.twitter.com/Naqsxj4dq0</a></p>&mdash; 東京大学装い喫茶研究会@新規募集 (@ut_concafe) <a href="https://twitter.com/ut_concafe/status/1690311177287630848?ref_src=twsrc%5Etfw">August 12, 2023</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script>

<font color="gray">
2023/12/25現在キャストちゃん新規募集は停止しております！新1年生の方は春までお待ちください！</font>

前回(2023年五月祭,「地雷系」コンセプト)は市販のお洋服を各自購入しておりましたが、この度、サークルでオリジナル衣装を用意したいね、となりました！しかし、弊サークルには衣装デザインのノウハウは蓄積されておらず、独力での制作は困難を極めます。そこで

**AIちゃん(ChatGPT4,Dalle-3)にやらせよう!**

2023年、OpenAI社から「GPT-4V」,「DALL-E 3」がリリースされ、人々の注目を集めています。簡単に言うと、ChatGPTで画像を読み込んだり、書き出したりといったことが可能になったということです。これを使えばファッションデザインもできてしまうのでは？

今回、有識者の方々の協力を得ることで、実際に衣装デザインをAIに行わせることができました。以下は、備忘録を兼ねた紹介記事になります。

# 目的

今回、AI ちゃんにデザインしてもらうものは

・コンセプトカフェで用いる衣装のデザイン(衣装について説明する文章と、そのデザイン画)

ただし、衣装の条件として以下を要求します。

・「天使界隈」のコンセプトに沿っている
・学園祭で作れるほど、制作しやすい衣装である
・キャストちゃんが着たいと思うような魅力がある

# 作戦

目的に挙げたことを踏まえて、どのようにAIを活用するか考えます。

#### 「天使界隈」のコンセプトに沿っている
「天使界隈」のコンセプトについて明確に伝えてあげる必要があります。GPT4ちゃんは検索機能を持つので、自分で要約してもらうことで自動化できますね。

![無題20.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/039fa312-cb8a-9cd3-4538-ede722a9387b.png)

私ががんばって作文するよりもAIに伝わりそうです。

試しに生成させてみます。

![無題21.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/8149380f-4fc1-35ce-638a-6a1f0b4ee5a3.png)
![無題22.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/96fa5e6b-e180-122b-6527-9b5aa43b454d.png)

![無題23.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/2d9f9905-313c-f1f0-5a97-092214db555c.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/c565f99d-52fb-3786-d478-f1fbb0b20e23.png)

かわいい！！ブラウスを後ろ前に着ていたり、後ろと前のイラストがやや矛盾していますがいいデザインですね

#### 学園祭で作れるほど、制作しやすい衣装である
この手のタスクを精度よく行うには、『Chain of Thought Prompting(CoT, 思考の連鎖)』が有効であることが知られていて、例題とその解答例をたくさん用意してあげるといい感じになるのですが、GPT4ちゃんは優秀なので、特別なことをするまでもなく評価してくれました。

ここで添付した画像は先ほど生成したものです。
![無題24.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/6658489b-15f0-759a-cc4c-0bb7249402e2.png)

AI ちゃんは縫製まではやってくれないので、先が危ぶまれます。

非現実的なデザインばかり提案されることを想定していたのですが、そういったことが想定よりも少なく、結果的に今回はAI ちゃんによる製作難易度の評価を用いることはありませんでした。

#### キャストちゃんが着たいと思うような魅力がある

これだけは人間の感性に基づいているので、自動化できません。そこで、いくつか生成された衣装の候補をサークルdiscord で公開して投票を行い、その結果を学習に反映させることにします。さらに、投票の理由や改善案も書いてもらい、これをAIに読ませることで、よりニーズに合ったデザインを作ってもらいましょう。

基本的な流れとしては"ありそう"なデザインから初めて多数決で良いとされたものに近似していくので、本職のファッションデザイナーさんが考えるような誰も見たことのないようなデザインにたどり着くことは本質的に不可能そうですが、うまくいけばある程度の水準を超えてくれることが期待できます。

## 生成された衣装たち
### 第一世代

お試しで生成させた時と全く同じプロンプトで画像を生成します。

![1gen.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/8b6a7fe8-0b92-d50d-cecf-d65f7b1dda0f.jpeg)

いい感じです。DALL-E 3 ちゃんはこちらが指定した構図をおおよそ守ってくれたようです。
- A なぜかブラウスが後ろ前に生成されている。すこし矛盾している服だけどリボンいっぱいでかわいい。
- B 清楚そのものみたいな衣装。これ普段着にできたら生活が華やかそう。
- C へそ出しと天使の羽根が印象的な個性枠。
- D 配色が優れていて、一番人気そう。

サークルdiscord で投票を取り、意見を募ります。

![無題30.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/b77f1ed5-a065-a18e-e714-c2cbd1957dbb.png)

AとDが人気ですね。AやDに似せていきましょう。

### 第二世代

集まった意見をプロンプトに反映させます。ここで、投票で上位になっている画像を添付しておきます。

![無題31.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/2beb91d3-c8e7-3755-2783-0713e79aaecb.png)

前回の優勝デザインをAに引き継いで、Aに近いものを新たに3つ生成しました。

![2gen.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/df2c2c50-b336-dc5a-d6cc-9005e57a97da.jpeg)

- B フリル付きの丸襟ブラウスがジャージメイド感を出していますが、フリルの柄や絵のタッチの影響でとても上品な印象。
- C ジャージドレスと虹色の靴下が印象的。靴下だけで原宿感がある(?)
- D すごくよいけど、製作難易度もすごそう。

![無題50.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/4c173c48-4468-7f32-1ae4-d5a94e88cd5d.png)

投票の結果、Dが圧勝

どんどん次の世代に進みます。

### 第三世代

前回の優勝デザインをAに引き継いで、Aに近いものをさらに3つ生成します。

第二世代で優勝したデザインの画像に加え、このデザインの説明もプロンプトに含めます。

![無題60.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/9b83349e-362a-1ab2-6a1f-b96703820603.png)

AI ちゃんにどんどん生成してもらいます。

![neg3.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/1f2081f6-e9cc-7c48-adf4-943d9ae06f01.jpeg)

- B 襟が羽根になってて先進的、すごい。
- C シンプルジャージメイド！
- D 天使風のメイドさんという感じ。なぜか2つ描かれています

似通ったデザインが多くなってきました。どれも魅力的で迷いますね～！

投票結果も割れております

## 最終結果

### 優勝
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/86fad58a-10b2-724d-726b-ca470e89b395.png)

>新しい衣装は、スカイブルーのジャージ素材を基本としたワンピーススタイルで、体のラインを強調しすぎないゆったりとしたシルエットを持ちます。袖は肩からふんわりと広がるフレアデザインで、露出を控えめにしつつも遊び心を持たせます。裾にはスカラップレースをあしらい、ソフトでロマンティックな雰囲気を演出します。
エプロンは取り外し可能で、白いベースに水色のアクセントを加えたデザイン。前面には小さなポケットを設け、フリルとレースの装飾で純粋無垢な雰囲気をさらに高めます。ウエストは調整可能なリボンで飾り、さまざまな体型にフィットします。
足元は、厚底の白いスニーカーでカジュアルさをプラスしつつ、白いふわふわしたソックスで柔らかさをキープします。ソックスには、エプロンとマッチする水色のリボンやホログラムのドロップビーズをアクセントにします。
アクセサリーとしては、天使界隈で人気のホログラムジュエルを織り交ぜた白いレースのカチューシャを用意します。ヘアスタイルに合わせて位置を変えることができるよう、バンド部分は調整可能です。
この衣装のデザインは、製作がしやすいように、日本で入手しやすい生地と材料を使用しています。また、複雑な縫製技術を避け、シンプルながらも印象的な外観を目指しています。

1位: B 6票
2位: A,C 5票

でした。

今回、投票結果が割れていることもあり、優勝デザインをそのまま採用するのではなく、人間の絵師さんに改めてイラストを描いてもらうことになりました。なのでこれがそのまま最終的なデザインになることはありませんが、おおよそこういう感じにしよう、というところまでAI ちゃんが決めてくれました。やったね。

## わかったこと

1. 特定のスキルを持った人員が不足している場合、**物質に直接干渉する必要のないクリエイティブなタスク(ただし、多数決の繰り返しで求められる水準のもの)だと、ある程度はAI ちゃんで代用可能**。ただし、今回決定したのは衣装のイメージであって、その後人間の絵師さんに正式なファッションデザイン画を描いてもらう予定。2023年末現在の技術だといくつか矛盾が見受けられるので、**仕上げは人間がやる必要がある**。
1. 今回、「天使界隈」コンセプトの説明や、画像出力のプロンプトはAI ちゃんに書いてもらった。労力削減のためにも**プロンプトはできるだけAI に書かせるとよい**。
1. 人間の感性に基づいたチューニングは3世代ではあまりよく機能したといえず、うまく行うにはかなり多くの量が必要とされそう。**なんどか実験してプロンプトを決めたらそこからは質より量** で、本格的に行うならAPI を使ってチューニング等の人間からのフィードバックプロセスを自動化すべし。
1. 懸念点として、**DALL-E 3 が画像の構図を守らないことがある**。「前から見た写真,後ろから見た写真」をお願いしているのに、前からみた写真のみだったり、アクセサリーやアイテムのイラストが一緒にたくさん出力されたりする。それでも、今回の実験で生成した限り(50回程度)では、「モデルに服装を着せた場合のイメージ」を必ず出力してくれたので、DALL-E 3 ちゃんも優秀なのではないかと思います。もう少し進歩してくれたらこの懸念はなくなるかも?

## 気になった点

### 英語にすると出力の質が変わる？

生成AI に投げるプロンプトは基本的に英語である方が出力の質がよくなるとされています。試しに、英語でプロンプトを与えてみます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/cafb2631-76f1-b254-ac94-1da9b1d2e755.png)
天使界隈にしてはセクシーすぎる

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3121500/9eabe38c-019b-3ace-246d-998d1365cfbf.png)

このように(感性の問題にすぎないですが)、英語でプロンプトを投げると英語文化圏っぽいイメージを返されるので、今回はすべて日本語で実験しました。あくまで日本のお客さんにアピールするのだと念押ししたらまた変わってくるのかもしれません...

# おわりに

プロンプトを書いてしまえば、ファッションデザインはだいたいやってくれるようです！みなさんもAI ちゃんを活用してできることを増やしてみてはいかがでしょうか。

デザインがほぼ定まったので、2024五月祭に向けて衣装を製作していきます。本当に完成までいけるかわかりませんががんばっていこうとおもいます。東京大学五月祭にお越しの方は是非、コンセプトカフェ「終末天使ブミニエル」に立ち寄ってみてはいかがでしょうか？

今回、生成AI の活用に際して意見をくださったサークル内外問わず有識者の方々、ありがとうございました！