Text-to-Imageモデルにおける生物画像生成の地理的バイアス

Text-to-Image(T2I)モデルはテキストプロンプトから画像を生成するモデルであり、近年のモデルは高品質な画像を生成することができる。オープンウェイトモデルではStableDiﬀusion[1,2]、Qwen-Image[3]など、商用モデルではGemini2.5FlashImage(Nano-Banana)1）やChatGPT(DALL-E3)2）などがよく知られている。しかしながら、こうしたモデルによる生成画像が常にユーザが意図する文化的・地理的背景と一致するとは限らない。例えば、T2Iモデルを科学教育に利用することを考えよう。ラクダという生物を説明するため、T2Iモデルにその画像を生成させたところ、コブが1つのラクダ、ヒトコブラクダの画像を提示したとする。すると、人々はラクダという生き物はコブが1つであると思い込んでしまうのではないだろうか。しかし、フタコブラクダというコブが2つのラクダも実在するので、多様性1）https://aistudio.google.com/models/gemini-2-5-flash-image2）https://cdn.openai.com/papers/dall-e-3.pdfT2Iモデルにおける種の分布プロンプト種の同定GroundSquirrelT2IModel…種の分布JSD生成画像(=M枚)実世界における種の観測分布AsiaNorthAmericaEuropeAfricaSouthAmericaOceaniaを無視した画像生成は自然を正しく理解するという観点からは大きなリスクとなる。こうしたバイアスを是正するためには、まずそのバイアスを正確かつ客観的に把握する必要がある。そこで本稿では、客観性に優れる「生物(哺乳類)」を指標として、モデルのバイアスを定量化する。具体的には、哺乳類の一般名(CommonName)3）を入力した際に生成される画像が、分類学的にどの種に該当するかを同定する。そして、モデルによる種の生成頻度分布と、GlobalBiodiversityInformationFacility(GBIF)4）における現実世界における種の観測頻度分布を比較することで、T2Iモデルが内部に持つ一般名に対するデフォルト種と世界の各地域における一般名に対するデフォルト種の違いを定量的に評価する(図1)。実験では、生物の遺伝子配列に基づき作成した系統樹であるNCBITaxonomy[4]から哺乳類5,8533）本稿では複数の種を包括する、分類学上の「属」や「科」などに相当するグループに対する呼称とする。例えば、シカ、ネズミ、クマなどが一般名である。4）http://www.gbif.orgThisworkispublishedwithoutpeerreviewandislicensedbytheauthor(s)underCCBY4.0(https://creativecommons.org/licenses/by/4.0/).org/licenses/by/4.0/).ズミの種が生息しているが、多くの人はこれらを細かく区別することなくネズミと呼ぶだろう。こうした一般名は学術的に定義されたものでなく人々の間で歴史を経て定着した名称である。本稿では、学名をNCBITaxonomy[4]から得る。これは、NCBIが提供する、生物種とその系統分類を階層構造(ドメイン、界、門、綱、目、科、属、種)で表したデータベースであり、NCBIの塩基配列データベースに登録されている生物種が登録されている。綱がMammalia(哺乳類)となるすべての種を取得し、未同定種(sp.)、不確定な学名(cf.,aﬀ.)を除く。この結果、哺乳類に対し、5,853の学名が得られた。次に、得られた学名をLLMに入力し一般名を得る。この際、LLMには5-shotの例示を与える。なお、適当な一般名がない場合にはLLMが「無い」と答えることを許している。プロンプトを付録Aに示す。ある一般名に対して1つの種しか割り当てられていない事例、LLMが一般名がないと答えた種を除いた結果、5,159種に対して168の一般名を得た。一般名に割り当てられる種の数の最小、最大、平均、中央値はそれぞれ2、1,479、30.7、5であった。種が最も多い一般名はMouseであった。3.2T2Iモデルにおける種の分布T2Iモデルに前節で得た一般名を入力し、画像を生成する。これを𝑀回繰り返すことで1つの一般名に対して𝑀枚の画像を得る。そして、各画像に対してGPT-4oを用いてその学名を同定する。具体的には、GPT-4oに対して画像と共に生成に用いた一般名に対して割り当てられた学名を候補として与え、画像がどの学名に対応するかを選択させる7）。なお、該当する学名がない場合には該当なしを選択するように指示した。この処理により、種の頻度分布が得られるので、これをT2Iモデルが内部に持っている一般名に対する種の分布とみなす。3.3実世界における種の分布生物の分布は多岐にわたり、ある地域にしか生息しないものや世界各国に生息するものもある。GBIFのOccurrenceデータベースはある種がいつどこで観測されたかという情報を集めたデータベースである。なお、野生個体だけではなく博物館の標7）本来、このタスクに対してはBioCLIP[15]やBioCLIP2[16]を用いて学名を同定すべきであるが、いくつかの事例についてこれらで学名を決定したところ明らかな誤りが多数あったため使用を見合わせた。本や動物園で飼育されている個体の観測情報も含む。このデータベースから、北米(NA)、南米(SA)、ヨーロッパ(EU)、アジア(AS)、アフリカ(AF)、オセアニア(OC)の各地域において、ある種が何回観測されたかというデータが得られるので、任意の一般名に対して、地域ごとの種の観測頻度分布が得られる。本稿では、これを実世界における種の分布とみなす。3.4バイアスの定量化と分布間の距離3.2節の手法で得たT2Iモデルの種の生成頻度分布に対し、以下の式でバイアスを定量化する：𝑁𝐻(𝑐𝑘)=(log|𝑆(𝑐𝑘)|)−1|𝑆(𝑐𝑘)|∑𝑖=1−𝑝𝑖log𝑝𝑖.(1)𝑁𝐻(𝑐𝑘)は、𝑘番目の一般名𝑐𝑘に対するエントロピーを正規化したものであり、𝑆(𝑐𝑘)は𝑐𝑘に対応する種(=学名)の集合、𝑝𝑖は𝑖番目の種の生成確率である。𝑐𝑘に対してT2Iモデルに生成させた総画像数を𝑀、𝑖番目の種の画像数を𝑔𝑖としたとき、𝑝𝑖=𝑔𝑖/𝑀となる。𝑁𝐻(𝑐𝑘)が低いと特定の種に偏った生成、高いと多様な生成であることを意味する。3.3節の手法により、𝑐𝑘に対する実世界の各地域での𝑗番目の種の観測頻度𝑓𝑗が得られるので、その観測確率は、𝑞𝑗=𝑓𝑗/∑|𝑆(𝑐𝑘)|𝑗=1𝑓𝑗となる。よって、式(1)の𝑝𝑖を𝑞𝑗に置き換えることで同様にエントロピーを計算できる。T2Iモデルのエントロピーを𝐻G(𝑐𝑘)、GBIFから得たエントロピーを𝐻O(𝑐𝑘)として、2つの分布間の距離を以下のJSダイバージェンスで計算する：𝐷JS(𝑐𝑘)=𝐻M(𝑐𝑘)−(1/2)𝐻G(𝑐𝑘)−(1/2)𝐻O(𝑐𝑘).(2)なお、𝐻M(𝑐𝑘)はT2IモデルとGBIFによる観測分布の平均分布である。これにより、T2Iモデルが持つ種の生成頻度分布が実世界におけるどの地域における観測分布に近いかがわかる。4結果と議論4.1T2IモデルのバイアスT2IモデルとしてStableDiﬀusionv1(2022年)、XL(2023年)、Qwen-Image(2025年)、Nano-Banana(2025年)を用いて式(1)で𝑁𝐻(𝑐𝑘)を計算し、一般名全体で平均を取った結果を表1に示す。なお、1つの一般名に対する生成画像数(𝑀)は、StableDiﬀusionv1、StableDiﬀusionXL、およびQwen-Imageでは100枚、org/licenses/by/4.0/).ModelSDv1SDXLQwen-ImageNano-Banana𝑵𝑯.308.241.180.207#ofSp.567480369368NASAEUASAFOCSDv1.561.630.527.648.637.563SDXL.568.641.530.687.629.567Qwen-Image.553.652.494.683.620.547Nano-Banana.552.642.534.691.644.571Nano-Bananaでは50枚とした。表より、モデルの発表時期が古いほど生成する種の多様性に富み、新しくなればそれに乏しくなる。StableDiﬀusionv1とQwen-Image、Nano-Bananaでは生成される種の数が200も違う。𝑁𝐻が低い代表的な一般名はBear(クマ)、Camel(ラクダ)、Elephant(ゾウ)などであった。「Bear」については、ハイイログマ(Ursusarctoshorribilis)の画像しか生成されず、ツキノワグマやアメリカクロクマは生成されなかった。「Camel」はヒトコブラクダ(Camelusdromedarius)の画像しか生成されず、フタコブラクダの画像は生成されなかった。「Elephant」に関してもアフリカゾウ(Loxodontaafricana)の画像ばかりでアジアゾウは生成されなかった。一方、𝑁𝐻が高い一般名は、小型のサルであるTamarin(タマリン)や地上で生活するリスであるGroundSquirrel(ジリス)などであり、一般名配下の様々な種が生成された。4.2GBIFの分布との比較前節の結果の通り、T2Iモデルは一般名に対して、偏った種の画像を生成することが多い。この偏りが実世界のどの地域における種の分布に近いかを調べるため、T2Iモデルの種の生成頻度分布とGBIFによる観測頻度分布の距離を式(2)のJSダイバージェンスで計算した。その結果を表2に示す。表より、どのT2Iモデルもヨーロッパとの距離が近く、次いで北米、オセアニアが近いことがわかる。これらと比較すると、南米、アフリカ、アジアは距離が遠く、その中でもアジアは最も遠い。StableDiﬀusionはXLのほうがv1よりもその傾向が強く、全体ではQwen-Image、Nano-Bananaはそれがより顕著である。こうしたバイアスは学習データに起因していると考える。T2Iモデルの学習データの多くが一般名(Camel)学名(Camelusbactrianus)一般名(Camel)+形態情報画像はQwen-ImageにCamelを与えた結果、中央画像はフタコブラクダの学名Camelusbactrianusを与えた結果、右の画像はCamelとWikipediaから得たフタコブラクダの形態的特徴を与えた結果。Web上のデータであることを考えると、生成される哺乳類の画像がヨーロッパ、北米、オセアニアの分布に偏るのは自然だろう。一方、世界的にではなく地域に限定的に生息する種の一般名に関しては、その地域に対するJSダイバージェンスが低かった。SugarGlider(フクロモモンガ)はアジア、Groundhog(ウッドチャック)は北米、Degu(デグー)は南米、Hippopotamus(カバ)はアフリカ、Dunnart(ダンナート)はオセアニアの代表例である。るが、それらは、生成されることがなかった種について情報を持っていない、つまり、知らないのだろうか。これを検証するため、T2Iモデルに学名や種の形態的特徴を与えたところ、多くの種を生成することができた(図2はCamelの例)。つまり、T2Iモデルは様々な種に対して、テキストと視覚情報を結びつけることができているが、一般名という抽象度の高いプロンプトでは学習データのバイアスの影響を強く受けるのではないかと考える。5おわりに本稿では、T2Iモデルのバイアスを、哺乳類の一般名と対応する種がそれぞれ何回生成されるかという観点から定量化した。その結果、多くの場合、T2Iモデルは特定の種に偏った生成をすることが明らかとなった。次に、T2Iモデルの種の生成分布と世界の各地域における種の観測分布との距離をJSダイバージェンスで測った結果、ヨーロッパ、北米、オセアニアの観測分布に近いことが明らかとなった。また、プロンプトに学名や種の形態情報を与えることで一般名では生成されることがなかった種でも画像を生成できた。org/licenses/by/4.0/).