Midjourney
2023年3月にはMidjourneyで作成されたドナルド・トランプ元大統領のディープフェイク画像が問題となった。オープンソースの調査機関の創設者であるエリオット・ヒギンズは「逮捕されて倒れているドナルド・トランプ」といったプロンプトをMidjourneyに入力して、警察官に拘束されたトランプの画像を捏造し、Twitterに投稿した。この衝撃的な画像は、すぐに「ドナルド・トランプ元大統領が逮捕され、刑務所に護送された」といったメッセージとともに、Facebookなどのソーシャルメディアで拡散された。
この事件について、米上院情報委員会の委員長であるマーク・R・ワーナーは「立法者は、合成された画像が偽情報の拡散や、混乱や不和を起こすために悪用される可能性について何年も前から警告してきた」と述べた上で、「製品が合理的に予見できる被害を直接的に可能にするのであれば、潜在的な責任を問われる可能性がある」と人工知能の危険性に対する企業の義務に言及した。
Midjourney(ミッドジャーニー)は、テキストの説明文から画像を作成する独自の人工知能プログラムであり、また同プログラムを開発している独立した研究所の名称でもある。かつてはクローズドベータ版が運用され、2022年7月13日にオープンベータ版への移行が発表された。Midjourneyのチームは、Leap Motion社の共同設立者であるデビッド・ホルツが率いている。かつてはフリーミアムビジネスモデルを使用し制限付きの無料利用枠を提供していたが、現在は有料利用枠のみの提供となっている。2022年8月、ホルツはThe Registerの取材に対し、同社はすでに利益を上げていると語っている。利用者はDiscordのBotコマンドを使用して、Midjourneyでアートワークを作成する。同様のプログラムにはオープンソースのStable DiffusionやOpenAIのDALL-Eが存在する。
Midjourneyは、アーティストによってインターネット上に公開された画像を教師データとして利用しているが、その画像の大半は著作権で保護されており、同意も得ていないため倫理的・法的問題が生じており、集団訴訟が発生している。