【GPTsでの注意喚起二点】と【ChatGPTとDALL-E3の関係（私感）】

  
　どうも、カーブミラーです。

　今回は、注意喚起二点とともにやります。本題は、私が使っていて、ChatGPTとDALL-E3の関係性が見えてきたので、とりあえず報告。間違っているかもしれませんよw

:::note info
本記事は、ChatGPT（無料版）は
使用しておりません。あしからず。
:::

　まずは、注意喚起を二点。

【注意喚起その一】
　X-Twitterを利用されて、
　　OpenAI関連の情報を
　　　得ている方は、ご注意を。

　OpenAIのトップ
　　サム・アルトマン
　　ミラ・ムラティ
　　グレッグ・ブロックマン
　　　がフォローしている
　　　　ジョシュア・アキーム氏が
　　　　　（Joshua Achiam）
　　　　　ポストしました。
[PSA: looks like there are some fake twitter accounts, of varying degrees of realism, purporting to be OpenAI senior staff. Have seen fakes for Lilian and Greg recently. Be very discerning about which accounts you follow, interact with, and trust!](https://x.com/jachiam0/status/1729234964032749747?t=Am6EgWGvxdXZhpSUI4jfVg&s=03)
DeepL翻訳
「追記：OpenAIの上級スタッフを装った、程度の差こそあれ偽のツイッターアカウントがあるようです。 最近、LilianとGregの偽物を見かけました。 どのアカウントをフォローし、交流し、信用するか、よく見極めてください！」

　こうやって、悪意ある故意を
　　引き起こす人は、
　　　どこにでも、
　　　　いるものですね。
　　

【注意喚起その二】
　My GPTsを作成している方は、
　　多いかと思われます。

　自分とか仲間のためのChatGPTが、
　　日本語で簡単に
　　　構築できるのですから、
　　　　当然ですね。

　しかし、
　　Prompt Injectionと
　　　呼ばれる手法で、
　　　　公表されたGPTsから
　　　　　内部情報を抜き出される
　　　　　　危険が発生しています。

　せっかく作成したのに、
　　パクられて、文句が言えない
　　　状態になるなんて、
　　　　イヤですよね。

　そうされないためには
　　対策が必要です。

　YouTuber KEITOさんが、
　　アップされたこちらの動画を
　　　参照して、対処してください。　
[【注意】GPTsのinstructions内のプロンプトはパクられる？【Prompt Injection対策2パターン】](https://youtu.be/wF_ap1Xtj3I?si=pQw_lqpahKE1Sq9K)
***

　さて、本題です。

　ChatGPTとDALL-E3の関係性を
　　私からの視点で
　　　報告したいと思います。
　　　　間違っている可能性は
　　　　　ありますよw

　まず、
　　ChatGPTとDALL-E3は、
　　　もともと連結しては
　　　　いませんでした。

　　別々のプロジェクトです。

　それが、
　　連結されたわけです。

　しかし、
　　完璧ではありません。

　あくまでも
　　ChatGPTは、
　　　人間とDALL-E3との仲介を
　　　　するだけで、DALL-E3への
　　　　　影響は、思ったほどの
　　　　　　融合はしていません。

　なぜ、そう言えるのか。
　　それは、ChatGPTに与える指示が
　　　DALL-E3に確実には、
　　　　伝わらないからです。

　よく言われるのは、
　　“日本語だから”とか
　　　“英語に直せ”とかですが、
　　　　それでもうまく伝わらず、
　　　　　DALL-E3は
　　　　　　描画してくれません。
***
　やり取りの繰り返しや、
　　あちこちからの情報から
　　　ChatGPTは
　　　　日本語プロンプトを
　　　　　おのれで解釈して、
　　　　　　英語に直して、
　　　　　　　DALL-E3に渡します。

　日本語から英語に変換する際に、
　　ChatGPTは、プロンプト内に、
　　　回避すべき文言がないかを
　　　　チェックします。

　そして、そうしたフィルターを
　　透過できなければ、
　　　その旨をユーザーに伝えます。

　透過できたから
　　意図した内容を
　　　描画できる、かといえば、No。

　DALL-E3内部でも
　　フィルターがあり、
　　　それに引っ掛かると
　　　　エラーとなります。

　すべてのエラーが
　　フィルターに
　　　引っ掛かったためのものでは
　　　　ありません。
　　　　　さまざまな要因で
　　　　　　発生します。
　　　　　　　再描画できれば
　　　　　　　　サーバー問題かと。

　エラーが起こったあと、
　　“再度、描画してください”と
　　　入れると、
　　　　“同じ画像は描画できません”
　　　　　と返ってきます。

　ChatGPTは、
　　DALL-E3の描画が
　　　正常に終了した、
　　　　と判断しているわけです。
***
　それから
　　ChatGPTとDALL-E3の
　　　特徴的なところに
　　　　チャットのやり取りで
　　　　　指示を与えられる点です。

　しかし、
　　ここでも注意が必要です。

　画像生成が終ったあとに
　　日本語プロンプトを
　　　要求すると、
　　　　直前に入力した内容が
　　　　　出力されます。

　同時に、英語プロンプトも
　　要求すると、こちらは
　　　しっかりとした
　　　　全体のプロンプトに
　　　　　なります。

　もちろん、
　　ChatGPTのフィルターで
　　　透過された内容になります。

　NewChatして、
　　この英語プロンプトを
　　　入力すると、
　　　　ほぼ同じ画像になります。

　“SEED値やged_idを使えば
　　同じセッションであれば”と
　　　言われていますが、
　　　　それも曖昧な結果が
　　　　　返される場合も
　　　　　　あります。

　セッションでのやり取りは、
　　ChatGPTが記憶している
　　　わけですが、
　　　　ポイントポイントが
　　　　　抜け落ちる場面が
　　　　　　あります。

　例えば、
　　“火星を走る宇宙服姿の男”を
　　　描画し、やり取りで
　　　　描き続けると、
　　　　　ヘルメットなしや
　　　　　　グローブなしの
　　　　　　　画像が生成。

　修正して再描画する必要が
　　出てきます。
***

　日本語プロンプト
　　↓（フィルター）
　英語プロンプト
　　↓
　DALL-E3（フィルター）
　画像生成
　　↓
　日本語で修正
　　↓（フィルター）
　英語プロンプトに組み込まれる
　　↓（不要文言が削除）
　DALL-E3（フィルター）
　画像生成

　という感じでしょうか。
***
　また、DALL-E3は、
　　内部的に、500文字しか
　　　処理しない、という話も
　　　　伝わってきます。
　　　　　これは未確認なので、
　　　　　　なんとも言えませんが。
***
　どうだったでしょうか？

　今回は、ここまで。