Yosshi999/ai_public_comment_individual huggingface dataset:
勝手に AI によって自分の絵のタッチに似たイラストが生成され、それに苦情を言ったら嫌がらせにひどい内容(殺害の示唆等)のイラストを生成されたというイラストレーターの方の記事を見たことがあります。このような問題が起きているのを見ると、AI でのイラスト制作に関して疑問が湧いてきます。
このまま生成 AI イラストの規制が進まないと、私のような下請け企業のイラストレーターは仕事がなくなるのではないかと懸念しています。生成 AI は短時間でクオリティは高い絵が作れ、コストカットを重視する人にはもってこいの存在でしょう。ポーズの見本などで注文書に貼り付けるのはまだいいですが、どの業者もそのように良心的な運用をするとは限りません。安い料金で下書きだけ発注され、仕上がりは AI でという悪い予想が出ています。なんの規制も無しに生成 AI を運用するには、現状悪用する人のほうが多いと思います。
４．関係者からの様々な懸念の声について・好きなクリエイターが生成 AI に模倣され、筆を折られたら困ると考えた。・手描き絵と生成 AI 絵の判別が難しくなる可能性に懸念を覚えた。
創作物や二次元創作物において目まぐるしい発展をしているかつ売り物にもしている日本で創作物が守られないのは不安だ。それで仕事をしている人もいるのに、実質無制限で仕事を取られるということになる肖像権や声といった「個人情報に値する部分」が守られるのは当たり前ではあるが、創作物も同様に著作権が守られるべきはず。言うなれば無料で海賊品やコピーを量産でき、かつ得ることができてしまう絶対に許されるべきではないと思います使用するにしても使用者にモラルがあることが前提、悪用ができないようにする仕組みが欲しい例えば免許制または投稿に必ず規制を設け、オリジナルと AI 生成の棲み分けを行うなど。少なくとも今現時点で作家のオリジナリティ(思考、アイデア)と利益、更にその作家のイメージを著しく損なう悪意のある出力などがあります。0 から生み出したものと人々の知識から出力されたもので同じ価値を生み出すことは到底許せません仕事を奪わないでください。
（２）AI  と著作権の関係に関する従来の整理ア  「柔軟な権利制限規定」の制定に至る背景と経緯＞大量の情報を集積し、組み合わせ、解析することで付加価値を生み出す新しいイノベーションの創出が期待されている。基本的に情報収集は権利者の同意なく、勝手に収集、解析されて複製合成されています。画像生成 AI は海外の無断転載サイト、Instagram、ツイッター（X）などといった SNS をスクレイピングしています。また、生成 AI に知能はありませんし独自性もありません。無断で収集された画像の合成と複製をしているに過ぎません。そして、誰でも生成できる画像に付加価値を付ける人はいません。自分で生成できるのですから、誰かにお金を払って生成して貰う必要がありません。ですので、結果的に生成 AIを作った企業だけが儲かるだけです。学習に使われたクリエイターにも還元されることは絶対にないのです。また、学習の段階で問題も多く、無断転載や無断学習、児童ポルノや医療目的に撮影された病人、障害者、戦争で亡くなった兵士、一般人など残虐な画像、子供の虐待など多くの問題を抱えていることがわかっています。すでにこの問題は日本だけではなく世界でも知られています。問題を隠して推進しようとするのはいかがなものでしょうか。各論点(1)学習開発段階・すでに権利者の許諾がない無断学習データが含まれた生成 AI がサービスとしてあり、それをまず違法とするべきです。・権利者の許諾があるものだけを学習し、学習したデータをすべて公開できクリーンで有ることが証明できる AI のみ商用利用可とすることを義務付けてほしい。・学習データを収集、管理するのは国の許可が降りた企業または個人のみとし、もし学習データに許諾のないデータが含まれる場合は罰則をつけたり、許可を取り消すなど厳しい対応をとって欲しい。(2)生成利用段階・生成 AI で生成された画像には生成物であることが人目でわかるようにウォーターマークをつけることを義務付けてほしい。また、それに違反した人への罰則を義務付けてほしい。・無断学習データが含まれる生成 AI で生成された画像は商用利用不可とすることを義務付けてほしい。(3)生成物の著作物性について・プロンプトを入力し、試行回数を重ねることが創作的寄与なのでしょうか？プロンプトをコピー＆ペーストして 100 回生成すればオリジナルになるのでしょうか。またプロンプトに特定の作家の名前を入れるなどして、作家の画風に寄せたり、作家の作品の複製を作ることも可能なのに、それらに著作権を付与してしまったら、作家に大きな損害になるのではないかと思います。だれでも特定の作家の画風を複製すれば、作家に仕事が来なくなります。作家は作家として成り立たなくなるのは容易に想像ができます。また作家の画風でセンシティブな作品を作ってしまい、作家の作品の毀損も可能になっています。そのような生成物に著作権を付与してしまうのは危険性を伴うでしょう。(4)その他の論点について・すでに生成物を自分の作品として発表し問題になっている生成 AI 利用者が続出しています。生成物も人間の作家と変わらない画像や画風になってきており、SNS では収集がつかなくなってきている状況です。生成物を手描きした、自分の作品と主張し、商業活動をしているプロの作家までいる状況で、この流れを止めるには罰則規定する他無いと思われます。・生成 AI 利用者が作家に嫌がらせをすることがあります。嫌がらせをの内容は誹謗中傷、作家の作品を i2i し送りつけるなど、SNS を通してそのようなことが行われています。・自分もクリエイターなので、日々生成 AI によるトラブルを見て不安に思い、作品を作り発表することが怖くなっています。将来も不安です。国がこのような生成 AI を推進することに不安で、良い未来を想像することが出来ません。コンテンツを作る人が守られない国に、素晴らしいコンテンツは生まれません。なぜなら生成 AI にすぐ盗まれるからです。自分の人生をかけて制作した作品が一瞬で奪われて、複製されたらどう思いますか？無名のクリエイターほど、苦しんでいるのに苦しんでいる様も誰にも認知されないままこの世からいなくなるのです。無名のクリエイターが作ったものに価値はないのでしょうか？土や岩に埋もれた中にダイヤの原石があるのに、発見されることもなく、生成 AI に奪われる。そんな世の中になれば誰も作品を作ることをしないでしょう。
項目 4 に関する意見です。生成 AI は短時間で大量の生成を行うことができるものです。それら大量の生成物に著作物性を認めることは、イラストや漫画等の市場に悪影響を及ぼすものです。著作物に関わる経済活動を健全に保つためには、AI 生成物に著作権を認めることはできないと考えます。
なんでもいいから AI を止めてくれ、このままじゃ創作界隈がめちゃくちゃだ。児童ポルノも盗作も何もかも AI のせいだ
好きな作家さんが生成 AI に模倣されて筆を折られたらすごく悲しくなるから嫌力と実力のある作家が潰されるいわれはない。まず AI 絵は著作権を無視している画像を無断で勉強させている部分が規制されてないので納得できない
つい先日、いわゆる<censored>が極刑に処されました。犯行動機は「自作の案を盗用されたから」とのことでした。現状の AI 生成というものは、どうでしょうか。そのデータベースの多くは、他人が作った作品を［無断］で読み込ませて利用をしている、つまりは［盗用］により成り立っているようです。また、児童の［盗撮をした画像］や、児童の親族が SNS 上に投稿した［何の変哲もない写真］などから顔立ちのデータを読み込ませ、［一目で児童当人とわかるが当人には心当たりの無い猥褻な姿にさせられた画像］を作成し SNS 上に投稿しているという極めて悪どいケースが存在しているようです。以前にも、岸田首相が非常に卑猥な言葉を語り続けるというフェイクムービーが流出していました。当然、これらの「犯罪的行動」は、決して許されるものではありません。極刑となった<censored>は、思い込み、勘違いによって暴走をした人であったのかもしれません。ですが「自分が大切にしている技術、絆、尊厳」そういうものが傷つけられる時、人は手負の獣のように暴れ狂うものではないでしょうか。お金を得る権利を手にすることができる、あるいは手放すことを強制される、そういった時にも人は暴走をします。これは犯罪に当たるケースは星の数ほどあるでしょう。此度の AI と著作権、ひいては肖像権にも関わってくる問題は、まだ推進するべきタイミングではないと存じます。推進するためには、まだ善のケースと悪のケースが揃っていない。むしろ悪のケースの方が目につく現状だと思っています。AI はとても便利で、コスパも良い、国を発展させるために有用なツールではあると思います。しかしそれは［AI が］そうである、というだけで、それを操る人間側の整備がまだ整っていません。このまま無謀に進むことは、イタズラに［AI へのヘイト］ばかりを増幅させ、悪い方へ転がれば大きな犯罪が起こりかねない非常に危険な橋渡りではないでしょうか。「まだその時ではない」私はそう思います。
手描きのイラストと AI で描かれたイラストの判別がつかず、トラブルにならないか不安に感じる。時間をかけて描いた絵を AI だ！と言われてしまうのは非常に悲しい。あってはならない。生成 AI は規制してほしい。
5.各論点について(2)生成・利用段階生成 AI サービス利用者が、個人的にインターネット上の著作物を無断使用し、追加で学習させられる状態になっています。生成 AI サービス開発段階であれば、研究のための学習とも捉えられますが、現状は学習目的ではなく営利目的でインターネット上のデータが利用されている状況です。例として、サービス提供者に対し、利用者が追加学習できるような状態でサービスを公開しない、学習させたデータを追跡できるようにしておく(開示請求に応じる)等、利用者が悪用しないためのサービス提供時のルールを定めていただければ良いのかなと思います。
AI イラストを広告等で見る度に、「これは絵を全く描いたことがない人がお金を貰って作った」と思い嫌な気持ちになる料理を作るときは材料にお金を払っているのに、AI はそれをせずに作品を作れていることが問題
イラストレーターをやっている者です画像生成 AI の台頭と共に明らかに自分の作品を取り込み生成したと思われる AI 画像を我が物顔で自作発言して回っている輩が時折見られます誰もが著作物から無断で生成できそれを利用しお金を稼げてしまう現状は明らかに異常ですこれは AI の発展以前の問題だと思いますどうか生成 AI の規制を進め、我々の権利を守ってしてください
文化庁様私は、画像や音楽を生成する人工知能（AI）に対する過度な規制に反対する立場から、このパブリックコメントに参加させていただきます。技術革新は、文化の発展と表現の自由に不可欠な要素であり、AI 技術も例外ではありません。まず、AI 技術は新たな創造性を刺激します。例えば、AI が生成した画像や音楽は、従来の芸術表現にはない新しい視点や感覚を提供し、芸術家たちに新たなインスピレーションを与えます。このような技術の進歩は、文化の多様性を豊かにし、新しい芸術の流れを生み出す可能性を秘めています。次に、表現の自由の観点から、AI による生成物への過度な規制は慎重であるべきです。表現の自由は民主主義社会の根幹をなすものであり、創作活動における自由は極めて重要です。AI が生成した作品も、人間の創作物と同様に、表現の自由の範疇に含まれるべきです。過度な規制は、この基本的な権利を侵害する恐れがあります。さらに、AI 技術の規制は、技術革新の阻害につながる可能性があります。規制が厳しすぎると、研究開発の動機が減少し、国際競争力の低下を招く恐れがあります。日本が技術革新の最前線に立ち続けるためには、適切なバランスを見極め、創造性と革新性を妨げないような規制の枠組みが求められます。
私は絵画、イラストレーションの作品を制作している人間だが、自分の作品を AI 生成の材料にされ、あたかも自分の作品のように使われたら嫌だなと思う。また、私が制作した作品は、私に著作権があるのに、それを AI 生成に取り入れ、自分で作りましたと言われたらいい気がしないし著作権侵害だと思う。AI 生成は規制するか、AI を使える人間は免許制にして欲しい。
現行の著作権法下では営利目的の生成 AI を開発するための学習利用に対して権利者の意思を反映できないのでは？と思います。単純に自分の成果物を学習され、それっぽく模倣され、安価に売買等され私の価値を下げられ、仕事が無くなるのは面白くないし、気に食わない。機械学習されるのであれば、学習したい旨私への申告と報酬啓示、最低限美術品の市場価格程度の対価が必要ではありませんか？
AI の出力できる絵というものは、膨大な学習元から成立するものである。その為、その中のどれか 1 つでも許可が取れていないにも関わらず、どこかのインターネットの片隅かにあった絵を勝手に学習元にしている事案がほぼ確実に存在する。私は、勝手に学習に使われることで、その人個人がいくつもの歳月をかけ培った技術を盗んでいる行為、そして学習元に酷似した絵を生成出来ている現状に対して、法の穴を突いただけの実質的な盗作であり、学習元の絵師への冒涜なのではないかと考える。そしてこういった学習元に酷似した絵が生成できる以上、なりすまし等の悪事に使われるリスクも非常に大きい。その為、「AI の生成した絵に対し、著作権などのいかなる権利も持たない事」が最も良いと考える。こうすることにより、学習元や、個人で書いた絵と AI 生成絵に大きな差を出すことができ、労力に見合った社会的評価ともなりえるのに加え、実質的な盗作によって物議を醸す心配もなくなると考えられる。しかしながら、AI の加筆といったように中途半端に AI を使用している絵など、イレギュラーな場合も存在するため、「AI を絵のための練習ツールで使用する分には OK」、といったある程度の基準点も考える必要がある。
イラストレーターをしている者です。AI と著作権に関する考え方について私なりの意見をお送りさせていただきます。同業の方が AI 学習モデルによって業務被害にあっている状況を踏まえた上でAI に学習させるものに対してある程度の規制等の処置が必要ではと思っております。AI の学習モデルはイラストだけにとどまらず特定の人物の写真を過剰に学習させ、フェイク画像を生成したり芸能人、俳優、声優など声を学習させあたかもその人物が話しているかのようなフェイク音声が簡単に作成することが出来てしまいます。著作物を無断で学習可能な今の状況が続けば、業種の市場崩壊に繋がりかねません。AI が輩出した画像にウォーターマーク、AI 出力の明記を義務付けるなど明確に創作されたものとの区別をつけ、AI 生成されたものだと認識できるような処置が必要だと感じております。拙い文章で大変申し訳ございません。現状のクリエイターの声が少しでも文化庁の皆様に届くよう信じております。何卒よろしくお願い申し上げます。
まず、私は表現者ではなく、AI の利用はコーディングにおける問答であったり、考えのうち返し程度に利用しており、表示物をそのまま利用する、というこはしない、していないという立ち位置です。AI に関して、元のデータの保持者が許諾していないにも関わらず、作成者以外がデータを用いてデータを作成するのは、結果的には、作成物の無許可での改変・改ざんといえると考えます。また、ＡＩで絵を作成したいと思うのなら、学習データとして自身で描いたものを用いればよいだけのはずであるのに、ネットに上がっているからということで無許可で利用する時点で、著作権を守ることができていない、と考えます。似たような絵を描きたいというのであれば、まずは自身で模倣をすればよいですし、それであれば少なくとも自分で描いたといえる論拠があるので。また、著作権に直接は関わりませんが、昨今ＡＩ推進者が、ＡＩに否定的な人へ積極的な嫌がらせを展開しております。作者の絵を悪用したモデルで、自殺教唆を行う者もおります。<censored>国際的な競争力も必要かもしれませんが、モラルのない競争力など何の価値もないと考えます。AI を推進したいと考えるのであれば、背景に何があり、また利用にあたってのモラルを遵守し、自浄作用を持たせることができない限りは、一定の分野に限定したほうが良いと考えます。とりわけ、芸術などはテーマをもとに、自分の生きてきた経験見たもの印象、そういったものを表現として昇華させていくものと思います。1 つのデザインのモデルとして構図の参考にする、といった使い方ならわかりますが、誰かのふんどしで相撲を取って、威張るだけの方々に果たしてどれほどの価値があるのでしょうか？その表現物がすごいのはあくまで技術と PC のスペックだけだと考えます。果たしてそれは芸術でしょうか？表現でしょうか？あくまで AI での出力は「表現」ではなく「表示」だと思います。
実際に見た事がありますが、現在既存の写真画像からフェイクが好き放題製作されています。保護されるべきの実在の児童もです。著作権や肖像権を無視した状態では全く AI の利用に賛成できないばかりか、実害がこれ以上酷くなる前に規制するべきです。このままでは余計に日本の創作物の信用がなくなります。
・著作物に表現された思想又は感情の享受を目的としない行為の定義が非常に主観的であり、客観的な視点にかける点でまず問題だと感じます。・著作物と定義されている時点で作者がおり、思想、感情の享受を目的としない表現というものが存在しないと考えます。利用したいが故のこじつけに近い文言と捉えられても相違なく、私もそのように感じました。・まず生成 AI 利用には日本はそもそもの著作物、著作権を守る働きが脆弱であり、著作物の作者への意思確認、無断利用時の賠償などが軽視されている時点で今回の提言は AI を通して率直に言えば人の成果物を無断で搾取して金儲けがしたい、そのように考えざるをえません・現在使われている生成データ元の中に児童ポルノが素材として使用されている現状はどう捉えているのでしょうか？犯罪行為を認めて、被害にあった児童は思想又は感情の享受を目的としない行為をしているという認識なのでしょうか？正直このような杜撰で人権を無視した状態を黙認、放置しているのに利用方法についてだけ提言するのは先進国としてありえないと思います。・以上の現状もふまえ、AI クリエイターなどという存在はいないと考えています。標榜を創作活動と誤認しているだけであり、クリエイターを名乗るのは盗人猛々しいと感じています。感情も思想の享受を目的としていないものから創作物、著作物は生まれるのですか？貼り絵もどのような素材のものを使って、大きさ、色、手順の試行錯誤の末ようやく完成します。元の絵があるにせよ、作るまでの過程で創意工夫があり手作業が発生します。AIクリエイターを名乗るものは何をもってクリエイトしてるのですか？作業に創意工夫はありますか？ただ理想の状態になるまでクリックしたり絵や声、動画、写真を盗むことは創作活動では断じてありません。ただの標榜です。・今回の考え方からはいっさいクリエイターや著作物を守ろうという文言は無かったと認識しています。自称 AI クリエイターとやらに好きに使っていいよ、自称 AI クリエイターを応援していますという考えにしか感じませんでした。・クリエイターが AI を多用しているという誤認も甚だしいですし、ここでいう AI は素材元がしっかりした資料や 3D であることが多く AI とは真逆のコンテンツです。AI を利用している方が 0 とは言えませんが、世に出ている誰もが知っているクリエイターで AI を多用している人を見つけているのであれば確認の上意見交換や名前の公表を行ってはいかがでしょうか？現役で活動している方が良いと思います。・無断で利用するというのはどの分野、環境においても犯罪行為であることに間違いはないと思います。なぜ今回作者への許可ではなく、無断で利用するにはどうすればいいだろうが第一意見として上がったのでしょうか？そのことが生成 AI は搾取しないと役に立たないという証左ではないのでしょうか？・似たような絵柄、声、写真が生成されてしまい街中に流れるような状態になった場合の責任はどのように負うのですか？似た絵柄、声、写真の人間がバッシングされた時に生じた不名誉を挽回する手立てはあるのですか？そのような状態になった時点で、思想、感情の享受を目的としない行為の定義から大きく外れることは予測できているのですか？生成前に仮にそのような著作物が存在したとして、その後生成されたものが思想、感情の享受を目的とする行為のために利用され、著作物の作者に不利益が生じた場合の補償はどうするのですか？素人の私ですらいくらでも利用元の不利益を想像できます。仮にたいへんな利益をもたらしたとしても、元の著作物の作者に還元されないのはおかしな仕組みだと認識された方が良いと思います
こちらのように、自身の絵柄で自殺教唆のイラストを作成されて風評被害にあっている方がいるのは問題だと思う。<censored><censored>
無断で他者の学習させたイラストが TikTok や YouTube 等の広告に表示される。既存キャラクターに寄せている上に露出を多くしていたり、妊娠させたりしていて大変不愉快。創作者の意欲を削ぐだけでなく、キャラクターのイメージを損なうような AI の活用が多く見られる。また、法整備が追いついて居ないためにイラストレーターに対して図々しく、攻撃的な発言を繰り返す生成 AI の使用者が散見される。アニメ、キャラクター等の文化を守るためにもイラストに関する AI 学習の規制をして欲しい。
５．各論点について（１）学習・開発段階【  「非享受目的」に該当する場合について】イ  「情報解析の用に供する場合」と享受目的が併存する場合について・画像生成 AI は画像を学習元として画像を生成するという性質上、その他の AI 技術と異なり画像を享受することを目的としています。その点で、非享受目的には該当しないと考えます。・クリエイターの著作物が無断で学習され、そのクリエイターと同じ市場に成果物が流通する構造は手書きクリエイターの搾取に他なりません。・AI 生成物と手書きの創作物は同じ土俵で扱われるべきではないと思います。・そのためにも、AI 生成物は AI 生成物であることがわかるウォーターマークなどを義務付けるべきです。AI 生成物を手書きと偽り公表することには罰則を設けるべきです。エ  著作権者の利益を不当に害することとなる場合の具体例について・ビビッドアーミーというゲーム広告において、<censored>さんというクリエイターの絵に酷似した絵柄の生成 AI 画像が使用されており、 さんが画像を提供していると誤認させる例<censored>がありました。本来であれば<censored>さんに支払うべき広告制作料を払わず<censored>さんのブランドにただ乗りをしている状況です。・SNS 上で特定の絵師へ、その絵師の絵柄を使った生成 AI 画像を送りつけて誹謗中傷をする例が多々見られます。絵柄はその絵師が人生の中で培ってきた財産であり、表現の一部、人格の一部です。そのような行為は絵師の尊厳を著しく傷つけます。生成 AI による絵柄の模倣を厳格に規制しなければ、クリエイターの尊厳は傷つけられ続け、文化の衰退を招きます。・データセットの問題については無断学習が行われていること、海賊版のデータが含まれていることも問題ですが、一番の問題は児童ポルノが含まれいていることです。・過学習により学習元データと非常に類似したデータが出力されることがあるように、データセットに含まれた児童ポルノ・虐待画像がそのまま出力されてセカンドレイプが行われる可能性があります。・児童ポルノが含まれた現状のデータセット「LAION （ライオン）5B」は破棄されるべきです。新たに合意が取れた著作物のみで作成されたデータセットを用いるべきです。・クリエイターにとって競合することが分かっている生成 AI に対して無償で素材を提供することは自身の利益を害します。学習素材に使用されない権利を認めるべきです。
生成 AI の利用者であり、また同時にその未来に期待する私の立場としては、「AI と著作権に関する考え方について」の素案の趣旨に賛同する。ただし生成物の著作物性について、その認められる境界がかなり曖昧に定義されているような印象を受けた。生成 AI の利用にあたっては、生成物の著作物性について明確な定義がない状態は、イノベーション等を妨げる恐れがある。生成物の著作性についてより明確な定義が定められることを望む。
現状では趣味仕事を問わず、作成者がイラストをインターネットに投稿した場合、閲覧した者の誰もが容易にデータ化して手元に保存することが可能である。そしてそのデータはこれまた容易に生成 AI に学習させることができる。これを繰り返すことで、特定の絵柄のみを学習した AI を誕生させられる。つまり、ある作成者のイラストをそっくりそのまま、AI が出力することが可能である。これにより、倫理に反した過激な作品を生み出された例が、残念なことにいくつも存在してしまっている。生成 AI を全く規制しろとは言えないが、利用者に対してさまざまな制限を設けなければならないのは間違いないだろう。