StableDiffusion3の画像生成例

SDXLとDALL-E3の結果は下記参照。

https://qiita.com/nishiha/items/891c05f7028976bfe257

https://qiita.com/nishiha/items/dfde9218894dd04b43e6

Comfy UIを使って作成した。
①Comfy UIを[github](https://github.com/comfyanonymous/ComfyUI)の「Direct link to download」からダウンロードして解凍する。
②StableDiffusion3の[huggingface](https://huggingface.co/stabilityai/stable-diffusion-3-medium)から``sd3_medium_incl_clips_t5xxlfp8.safetensors``をダウンロードしてきて上記の``ComfyUI_windows_portable\ComfyUI\models\checkpoint``におく。
③``ComfyUI_windows_portable\run_nvidia_gpu.bat``を実行する。初期起動にしばらくかかる。
④ComfyUI Managerを導入(あまり分かってない)
⑤sd3の``comfy_example_workflows_sd3_medium_example_workflow_basic.json``をComfyUIのloadから読み込む。
⑥TripleCLIPLoaderを削除して「Load CheckpointのCLIP」と「CLIP Text Encode」を繋げる。
また複数枚作成するには、add Node：latent：batch：repeat latent batchを追加してlatent Imageの間においてseedをrandomizeにする。 
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/1b1bfa47-5dc1-490c-a118-64748712c130.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/edfcb768-ca58-59ca-a048-edce640650d4.png)

生成時間は1070Ti(VRAM8GB)で8枚あたり25分くらい。

# 生成結果


## yellow book and a red vase.
SDXLだと赤い本や黄色い花瓶が現れていたが問題が解消している。
![ComfyUI_temp_cgnyr_00009_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/3e061933-3cda-c099-e534-9c52b7e73331.png)

## A photo of a dog wearing a blue shirt and a cat wearing a red shirt sitting in a park, photorealistic dslr.
SDXLだと犬が赤いシャツを着る事が半分あったが問題が解消している。
![ComfyUI_temp_cgnyr_00017_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/25c6c690-fad6-b152-9927-ab5e75d9ec10.png)

## There are two Chinese teapots on a table. One pot has a painting of a dragon, while the other pot has a painting of a panda.
SDXLだとパンダの急須は描かれなかった。
![ComfyUI_temp_cgnyr_00025_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/7a168d8b-c908-2f0b-6087-72631789198d.png)

## A stack of 3 books. A green book is on the top, sitting on a red book. The red book is in the middle sitting on a blue book. The blue book is on the bottom.
一部位置の把握は出来ている。一方で本の冊数は正しくない。DALL-E3の方が本の数は3～4で書けてはいた。
![ComfyUI_temp_cgnyr_00033_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/10c1cb29-4880-db84-ad52-a9a3d8c3da9e.png)

## A photo of two squirrel warriors dressed as knights fighting on a battlefield. The squirrel on the left holds a stick, while the squirrel on the right holds a long sword. Gray clouds.
左が棒で右が剣の指定は上手く行ってない

![ComfyUI_temp_cgnyr_00145_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/6841087e-e89a-6216-0640-6669fa347148.png)

## An illustration of avocado sitting in therapist's chair, saying 'I just feel so empty inside' with a pitsized hole in its center. The therapist, a spoon, scribbles notes.
DALL-E3にあるprompt。アボガドに穴が開いてない。
![ComfyUI_temp_cgnyr_00137_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/83b1ed81-5e24-2261-4a74-255a587d67b4.png)

## A photo of two monkeys sitting on a tree. They are holding a wooden board that says "Best friends", 4K dslr.
SDXLより看板を持っている確率が高い。
![ComfyUI_temp_cgnyr_00153_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/ade6b752-5563-7847-3812-753cd52f3dc7.png)


## A photo of a cute corgi wearing a beret holding a sign that says "Diffusion Models". There is Eiffel tower in the background.
SDXLだとベレー帽はあまり被ってなかった。主観だがコーギーが可愛くない。
![ComfyUI_temp_cgnyr_00073_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/6b3b86d0-4ab9-3d08-2af4-dd9d5eb89fba.png)



## A horse riding an astronaut.
「宇宙飛行士に乗った馬」は描けてない。
あと何か彩度が微妙。初期設定(dpm++2m、28step、cfg4.5)のままだが。
![ComfyUI_temp_cgnyr_00105_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/5b220069-44b0-6412-4b12-2dcf30857d80.png)

## An origami of a monkey dressed as a monk riding a bike on a mountain.
自転車に乗る姿は平面的である。SDXLの方が立体的に描かれていた。
![ComfyUI_temp_cgnyr_00161_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/ce87f024-2e20-8613-9e05-ea4bdf024567.png)


## A photo of a plate at a restaurant table with spaghetti and red sauce. There is sushi on top of the spaghetti. The dish is garnished with mint leaves. On the side, there is a glass with a purple drink, photorealistic, dslr.
寿司っぽいのが載ってるが微妙。DALL-E3の方が寿司っぽい。
![ComfyUI_temp_cgnyr_00129_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/f1822dc9-fa95-5761-4544-865a4d4a8b88.png)

## an illustration of a baby daikon radish in a tutu walking a dog
SDXLと比べ犬の散歩は描けている。一方でDALL-E3では描けてた「大根」は描けていない。
![ComfyUI_temp_cgnyr_00065_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/2df72cf8-d6d8-1a8e-7170-90b5ebac6a41.png)

## a close up of a handpalm with leaves growing from it
相変わらず手に違和感ある。
![ComfyUI_temp_cgnyr_00081_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/0144278e-5b35-85c8-5308-71acc9353700.png)

## Illustration of a doctor, whose lower body is a centaur, holding a pizza and a fire extinguisher. He has a Cerberus and a Harpy.
どこまで複雑な構図を書けるか試した。
![ComfyUI_temp_cgnyr_00113_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/ac670027-585f-f88d-0fdb-db65aec4b109.png)

## Apples, gorillas, trumpets, and pineapples holding hands with each other in a circle.
手を繋げていない。DALL-E3ではリンゴとゴリラとパイナップルが輪になって手を繋いでいた。
![ComfyUI_temp_cgnyr_00121_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/9185f36b-2a65-4a02-8a8c-763d5be6d609.png)

## Four-panel cartoon. In the first panel, Apple says "Hello world". In the second panel, a banana says, "You're welcome". In the third panel, a grape says, "Love and peace". In the fourth panel, a crow says, "Let's eat".
四コマ漫画を描こうとしているが微妙。DALL-E3に劣る。
![ComfyUI_temp_cgnyr_00089_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/7b061ba2-2613-9d32-b626-537abc28b616.png)

## Four-panel cartoon. In the first panel, A hungry fox walks through the woods. In the second panel, the fox found the grapes. In the third panel, the fox jumps up hard to eat the grapes, but he can't reach them. In the fourth panel, the fox says, "This grape must be sour".
四コマ漫画を描こうとしているが微妙。DALL-E3に劣る。
![ComfyUI_temp_cgnyr_00001_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/1e4d1e31-15e5-e082-5cb4-ce994e4f6aa0.png)

## Natural history-style illustration of a monster with a lion's head, goat's body, and snake tail.
博物誌風に描けてない。DALL-E3の方が博物誌風に描けた。
![ComfyUI_temp_cgnyr_00041_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/a0f6452c-eba3-6fd9-f4e2-98e5fe1bf81c.png)

## an illustration of skeletal specimen of a centaur.
ケンタウロスの骨格標本は描けない。
![ComfyUI_temp_cgnyr_00057_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/3fb9144b-c29b-467a-9b96-59f93da95333.png)

## The raccoon dog transforms into a Japanese tea kettle and performs a tightrope walking trick.
綱渡りしてるように見えない。DALL-E3は綱渡りしていた。
![ComfyUI_temp_cgnyr_00097_.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/7f64c441-22e1-c586-66d3-10b94071af29.png)

# まとめ：
T5-XXLを追加したおかげでSDXLでは上手く出来なかった**二個のオブジェクトの色指定**は上手くできている。これは同じくLLMのT5追加したImagenやeDiff-Iでもそうだったため、T5追加の効果だと思われる。
T5-XXLのパラメータは全体で11B(encoder分で5.5B)だが、Llama2は7B/13B/70B、ChatGPT3.5が175Bである。T5-XXL(Flanでない方)はLlama2と比べ性能差がある。(単に人間の回答の好みに寄せただけかもしれないが)。
いずれにせよ「頭が赤い魚を食べる猫」などの文脈を正しく理解するには大型言語モデルが必要であり、最近はオープンなLLM開発が活発でなのもあって、T5モデルも時代遅れ感がある。またCLIPの後継にSigLIPというのもある。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/eee0fb7e-1cc5-7951-b68f-20bf740b0601.png)

一方、いくつかDALL-E3の出力に劣る場合があり、SD3 mediumの性能はまだDALL-E3に及んでいない。