Yosshi999/ai_public_comment_individual huggingface dataset:
・学習・開発段階著作権者の利益を不当に害することとなる場合においても権利者の利益を害する場合のただし書で考慮される範囲が狭すぎるため、実質権利者の権利が守られていないようなものである。SNS を利用して portfolio を公開、作品の展開を行うことがクリエイターにとって必須ともいえる時代、生成 AI 時代に適合した範囲を明確に設ける必要がある。学習の拒否を無断学習されたクリエイター側が利用規約として設定していたとしても確かに生成 AI 利用者には認知できない項目ではあるが、そういった著作物を学習している可能性のあるツールを利用しているのだからツールの規約に則った責任が生じるべきであり、利用者がその責任を全うできないのであれば、いくら利用規約で AI 開発者側が責任を負わないと記載してあったとしても学習された人間の利用規約を遵守していない以上開発者や国が責任を負う法律が必要である。極端な例ではあったがクリエイター側が求めているのはクリエイター自身の権利が正当に保護されることであり、そのことを念頭に置いた法改正が必要である。海賊版等の権利侵害複製物を AI 学習のために複製することが問題視されているが、そもそも権利者の著作物を無断で学習させる行為そのものが規制されるべきであり、AI 開発に原則無断で著作物を学習できる状況は生成 AI 時代に適合していないため法改正が必要である。前回のパブコメで削除されたと話題になった児童ポルノ問題も孕んでいる、既に海外ではデータセットに児童ポルノが含まれていることが確定したことも記憶に新しい。・生成・利用段階生成 AI 利用者が既存の著作物の存在を認知していない場合に類似作品、複製を行ってしまった場合であっても生成 AI 利用者は責任を負うべきだ。生成 AI 開発企業が生成物によって発生する諸問題の責任を取らないと規約に書いてある事例が多数存在することが現状であり、そういった危険性を孕んだツールを利用している以上利用者は責任を負わなければならない。そういった危険性を度外視してもなお日本という国が生成 AI を推進するのであれば、利用者が行った権利侵害に対する責任は国が責任を持って負うべきであり、我々クリエイターに対して被害に応じた金銭を支払う必要がある。当然その際に発生する精神的被害に対する医療費等も支払われるべきだ。完全な複製を行えない人間であっても罪に問われるのに生成 AI による類似データの作成が複製として扱われないのは理解できない。生成 AI の利用を促すために都合良く解釈しているとしか思えない。そういった生成 AI 利用者の特権ともとれる特例を設けることは日本における他者の権利侵害を助長するうえ、各種業界を支える人間のインセンティブを損なわせる。これはリスクがあるといった次元の話ではなく、既に発生している問題であり早急に対処しなければならない。生成 AI による児童ポルノが国内 SNS「pixiv」に投稿され続け、アングラなサイトへの誘導の場としても利用されるなど、日本の規制の緩さに付け込まれて日本のサイトを利用した犯罪行為が増える懸念がある。これについては既に pixiv や AI イラスト投稿サイトといった事例がある以上懸念では済まされない重大なリスクといえるだろう。既に BBC に名指しで取り上げられるような国と国内サイトになっている。生成 AI 利用者が悪意を持って他者の著作物、肖像権を侵害する生成物を公衆に掲載した場合、３０条の４を盾に AI の学習という名目で著作権等の責任を回避する所謂著作権ロンダリングの俗称で行われている問題行為が横行しているため、日本の著作権法が問題になっていることは明白である。過学習の問題においても言えるが、権利者を守るための法律ではなく悪意を持って生成物で他者を攻撃する生成 AI 利用者の言い逃れに使われる抜け道にしかなっていない。他人の人生を容易に壊せる道具としての側面がある以上、厳しい免許制が必要である。便利だからと推進だけに留まる時期は既に過ぎている。今は AI に対する悪印象を払拭し、開発段階におけるクリーンさと利用段階における諸問題に対処することを最優先に行うフェーズに入っている。
インターネット上には作者や出版社等の著作物を扱える立場の方々が投稿してる以外にも格言を見せたり反論する為に漫画の一部を投稿してる有象無象に人らがいるが前者は何かしらの設定を設ければ学習しないようにできると思うが後者は有象無象の人が投稿するので学習しないようにするのは難しいと思うがそのへんを踏まえて議論してほしい。
「4.関係者からの様々な懸念の声について」現在公にされている画像生成 AI は問題点が複数あり、一つ目は先述した学習元に無許可で学習させていること。二つ目は SNS に投稿されている実在児童の写真や、同じく SNSに投稿された性的虐待などで裸にさせられた実在児童の写真も学習させていること。つまり児童ポルノ問題。三つ目は学習元に無許可で画像生成 AI に学習させることは違法ではないため、自分のイラストを学習させないでほしいと言っているクリエイターのイラストを学習させても問題がない、つまり画像生成 AI を用いた嫌がらせ行為をされても大きな被害が出なければ対処できないということです。一つ目について。例えばイラストだと、学習元のイラストを描いたクリエイターに許可を取っていないため、その学習元と酷似したイラストが生成されたら著作権侵害にあたるのではないかと考えています。勝訴敗訴に拘らずクリエイターが裁判を起こすことは可能ですがお金も時間もかかるため、可能であればそもそもそのような出来事は起きないほうがいいと思われます。つまり学習元を生み出した人に許可を取ったイラストや写真などだけを学習させるということです。二つ目について。現在 SNS では実在児童の写真が大量に投稿されています。その写真の被写体の児童も大量にいます。そのため、画像生成 AI を使用した際に学習元の実在児童の一人に酷似したものが生成される可能性があります。その生成物を SNS に投稿されたら、内容によっては学習元の実在児童やその親などに被害が生まれる可能性があります。例えば投稿されたのが「実在している幼稚園児に酷似した人物が深い川に近付いている生成物」だったとして、学習元の児童の親が「小さい子供だから危険な目にあうかもしれないのに目を離すなんて。この親は虐待をしている」というような誤解をその生成物を見た周りの人から受け、批判をされるという事態が起きる可能性があります。画像生成 AI で生成した生成物を SNS に投稿する人の中には、画像生成 AI で生成したものと明記をしていない人も大量にいるからです。実際に起きている事例として、正月に発生した地震の際に、画像生成 AI で生成された地面がひび割れていたりしている悪質なフェイク画像を SNS に投稿した人がいて、その投稿を見た被災していない人が信じてしまい、「ここは危ない」という誤解をして広めてしまう人が多数現れました。被災した人を少しでも助けたいという善意を踏みにじる最低な投稿です。三つ目は、現在 SNS では自分のイラストを画像生成 AI に学習させないでほしいと明言しているクリエイターが、自分のイラストを AI に読み込まれ SNS に投稿されるという嫌がらせ行為をされています。また嫌がらせ行為をしている人と同一人物かは不明ですが殺害予告もされています。相手は過去にも同じクリエイターのイラストを画像生成 AI に読み込ませ、クリエイター本人にやめてほしいと言われていました。ですが相手は画像生成 AIを批判している人を嫌っているため、嫌がらせとしてその後もこのクリエイターのイラストを読み込ませて、クリエイターに誹謗中傷・人格否定・差別発言をしていました。またこのクリエイター以外にも、自分のイラストを画像生成 AI に学習させないでと言っているクリエイターが、嫌がらせとして画像生成 AI 利用者に自分のイラストを読み込まれるという事案が複数発生しています。画像生成 AI を用いた嫌がらせ行為をされたクリエイターは複数います。その他にも、特定のクリエイターの絵柄にとても酷似した絵柄の下品なイラストを生成し、画像生成 AI の生成物と明記せず SNS に投稿してそのクリエイターに悪いイメージを植え付けたり、「あのクリエイターはこんな下品なイラストを描く人だったのか」という誤解をされファンや仕事が減ったりして金銭的な被害を受ける可能性もあります。幼児向けの本に携わっているクリエイターであればイメージは大切なためより問題です。クリエイターやモデルや実在児童などを守るために・イラストや漫画などを描いた人、写真を撮影した人と被写体両方に許可を取れたものだけを学習させる・先述した人に「これは学習させたくなくなったからデータセットから取り消してほしい」などを言われたら、その画像生成 AI をリリースする前でもリリースした後でも従い取り消す（その度にどのイラストなどを取り消したかというのを公式 SNS や公式サイトで発表する）・学習に使用されているもの（データセットの中身）を常に誰でも見られるようにする・生成物のどこかにマークが入る仕様にして、そのマークを消して SNS に投稿したら規約違反でアカウント BAN や裁判などの対処をする画像生成 AI にはこの 4 つを求めます。不可能なら出来るように法改正を。
まず、３．（３）の技術的な措置について  、「生成物が著作権侵害になる場合があるというリスクについて懸念の声があり、（中略）著作権侵害の防止に資する技術的な措置を導入している事業者もいる。」とあるが、一方で５．（４）にて「学習済みモデルから、学習に用いられたデータを取り除くように、（中略）現状ではその実現可能性に課題があることから、将来的な技術の動向も踏まえて見極める必要がある」としている。これは技術的な措置の導入が実質無意味と認めていることに他ならない。つまり、５．（１）エ（エ）にて「当該データベースの販売市場との競合を生じさせないために講じられていると評価し得る例がある」とあるが、そもそも完全な措置を講ることができない以上、あらゆるデータについて著作物を含む可能性があると判断すべきであり、潜在的販路を阻害する行為に当たると解するべきではないか。また、５．（１）エ（イ）の「作風や画風といったアイデア等が類似するにとどまり、（中略）既存の著作物との関係で著作権侵害とはならない。」とあるが、現時点で発生している問題として、特定のクリエイターの作風を真似て性的なイラストを作成し有料頒布されている事が挙げられる。これは元の著作権者が性的なイラストを描かない場合であって、生成物が性的であることにより学習元著作物の創作的表現と共通しない場合、作風を学習されたことにより本来クリエイターが受注して得られるべき報酬を得られなかったことで損害が発生し得るため、著作権法上の「著作権者の利益を不当に害することとなる場合」に該当すると解するべきではないか。３．（３）において「現存するアーティストの氏名等を指定したプロンプト等による生成指示を拒否する技術。」について、現状、特定の氏名等を入力せず細かく指定したプロンプトにて作風を学習させ、生成したイラストを有償頒布することも可能である。そのため、５．（２）イ（イ）にて「AI  利用者が既存の著作物（その表現内容）を認識していなかったが、（中略）客観的に当該著作物へのアクセスがあったと認められ」とあるが、そもそも当該著作物へのアクセスがなくとも類似する作品の生成が可能であることは留意する必要がある。よって、その後に続く「このような技術的な措置が講じられていること等の事情から、（中略）生成・利用段階において利用されていないと法的に評価できる場合には、AI  利用者において当該評価を基礎づける事情を主張・立証することにより、（中略）依拠性がないと判断される場合はあり得ると考えられる。」については、繰り返しになるが(１)「技術的な措置」は無意味であること(２)当該著作物へのアクセスがなくとも類似する作品の生成が可能の 2 点によって、依拠性がないと判断されるべきではないのではないか。上記に基づくと、５．（２）イ（カ）の「当該データセットから、当該侵害の行為に係る著作物等の廃棄を請求することは可能と考えられる。」について、廃棄を請求しても５．（４）にあるように「現状ではその実現可能性に課題がある」と認めている。また、侵害の予防に必要な措置として挙げられている 2 点についても、そもそも特定のプロンプトがなくとも作品の模倣は可能であり、性善説に立った結果現状の著作権の侵害を許している以上 AI  利用者の善性に期待すべきではないと考えられる。よって予防の措置は個人の努力ではなく、あくまでも法的に強制力のある制限をかけるべきではないか。またここには記載されていなかった問題を挙げたい。（１）AI  利用者がクリエイターを訴える可能性についてこれは、短時間で多くのデータを作成する AI 利用者が AI に特定の作風を複数模倣させ、いずれクリエイターが制作するであろう作品を予め作成しておくことで、実際にクリエイターが作品を発表した段階で AI  利用者が著作権の侵害を受けたとして、クリエイターを訴えることが可能になるというものである。先に述べたように、特定のプロンプトがなくとも特定の作風を真似た類似作品を大量に作成できるため、実際には AI が模倣しているにも関わらず依拠性がないと判断されると、クリエイターが一方的に不利になることが考えられるが、これに対する措置はあるか。
「AI 事業者ガイドライン案」別添 1  第 1 部関連/P13/20 行目「AI によるリスク」について、5  海賊版等、違法にアップロードされているものも学習されてしまうこと海賊版サイト上の違法にアップロードされている著作物を学習することは、当該著作物に係る著作権侵害を助長する状況を生じさせるものといえるか。（⇒（１）エ）違法にアップロードされている著作物の学習を回避することは、技術的に可能か。また、これを踏まえて、海賊版等、違法にアップロードされている著作物を学習することは著作権者の利益を不当に害するといえるのか。（⇒（１）エ）について、AI を使用したリスクについて、現状おこっている問題について十分に把握されていないように感じる。インターネット上での著作物のアップロード先として、Pixiv が有名だが、アップロードされた画像をもとに、イラストレーターの A さん風といったAI 出力が行われるようになっている。これによりオリジナリティを失ったイラストレーターが断筆したり、精神的にも金銭面的にもダメージを受け、これまで継続的に作っていたコンテンツがストップしたり、これからも今までのペースで描き続けていたら得られたであろう利益をふくめ損害を被った事例がある。A さん風と言うものを人間が学習するには、手癖もあり、必ずしも同じ作風にはなりにくい。しかし、AI を使ってしまうと、そっくりな乱発粗造が可能になり、アイデンティティを奪われたと感じる作家が多い。さらに言えば、そういった AI に模倣をさせた画像を作者本人に見せつけ、精神的ダメージを負わせるような嫌がらせが頻発している。日本で勢いのある分野の一つとしてサブカルチャーがあげられるが、AI 利用者のモラルのなさは悪化の一途をたどっており、法で規制しなければ、歯止めが効かず、衰退が免れ得ないだろう。さらにいえば、AI 自体が学習もとが非許可の画像をネットから拾ったものだということも明らかになりつつある。生成された画像だけでなく、とりこまれて AI 出力の元となっているデータ自体が、違法ではないかと海外では問題になっている。また、業界でクリーンなものを作りたくても、各種アセット（ゲームや漫画等の背景や小道具のパーツとなるものや、一部の装飾などに使って良い、販売用として作られている品）の AI 生成での模倣や盗作が話題になっている。クリーンなアセットだと思って購入したら、実は AI による模造品だったと後に判明することが問題になっている。これは一種の詐欺であるが、証明が難しく、そのようなものが紛れ込んだせいで、正式に販売できなくなり利益を得られないとなると、泣き寝入りとなりかねない。他人のイラストや３D 作品を学習した AI で汚染されてしまえば、全体の効率を押し下げるばかりでなく、違法に金銭を得ようとする団体の資金源となってしまうことも考えられる。海外では生成 AI で作ったものには著作権を認めないなど法制化が始まっている。参考・ロイター/ＡＩが生成した作品、著作権認められず  米裁判所が判断  との記事等事実、著作者が、不利益があるため、AI 学習はしないでくださいとはっきり拒否し明記していても、現段階の法では規制できないため、多数の人が泣き寝入りしてしまっている。参照元には個人の写真もあり、盗撮写真、児童ポルノやインスタグラムなどの個人写真を用いて、ポルノや顔をすげ替えた写真風のものなどが作られ、出まわっている。普段、自身のポートレート作品を作っている人が、AI 出力で自分の顔そっくり、かつ作風もそっくりのものが出回っていて困惑しているというケースもある。こうなると、パスポートや各種証明書の写真の偽造などにも使われるだろうことがは想像に難くなく、法が遅れを取っているのではないかと感じる。個人の尊厳や肖像権と言ったものを守る法が不備だと思う。これらをふまえて、1  作った作品や、写真などを、無断で学習に使わせないための法整備を希望する。2  無断で使われた場合に、速やかに生成画像が削除されるような法整備を希望する。3  コンテンツで稼いでいく人々の権利を守るために、アメリカのように AI で作ったものには著作権を認めないなどの人間の権利を優先的に守る法案を成立させてほしい。4  現行法で対応可能なものだけではないので、AI 利用に関して法を新設してほしい。新設の際には各種専門家だけでなく幅広い意見を募ってほしい。5  各事業者を始めとし、最終的には国民全体に分かりやすいように周知してほしい。6  証明書に使用したり、生成画像をもとに各種他人に成りすました場合（私が作者ですといったような）は厳罰が必要。と考える。
<クリエイターや実演家等の権利者の懸念>について画像系のクリエイターに相当する仕事をしている者です。ここではクリエイターや実演家からの生成 AI の引き起こす可能性のある諸問題に対する懸念点がいくつも書かれています。ですが逆に過度の AI 規制が進んだ場合の懸念も書かせてください。過度に感情的な生成 AI の排斥が進むと、本来近い将来クリエイターが甘受できるはずのAI 技術のもたらすメリットを大きく損なう危険性があります。昨今、物価高・少子化に伴い、クリエイター周辺での人的リソースの不足は深刻なものがあります。おなじ報酬額でも物価に対し相対的に低くなっていく中では、スタッフ数を減らし工数を減らしながら成果物の品質を維持しなくてはなりません。（補足）業界で多少の報酬アップ事例は散見されるようになりましたが、依然多くは変わらずといった状況です。他業種と同様、おそらく今後もこの価格の問題、人材不足のは継続・悪化すると思われます。その中で、たとえば画像であれば作画補助といった使い方に AI は大きく貢献します。クリエイター本人の作風を学習させるのであれば、現在の中途半端なデジタルツールでのデータ素材の流用よりも、より効果的にクリエイターをサポートすることができます。大幅な生産力の向上にもつながると思います。しかし生成 AI の技術そのものを禁忌のように扱ってしまっては、その機会をすべて失います。知的創作分野でのオートメーション化に近いものと考えます。当然デメリットもあるとは思います。それでも物価高・少子化に直面する中で、この可能性を閉じてしまうことはあまりに危険です。起きる可能性のある諸問題に対処しつつ、生成 AI を含む AI 技術全体は前に進めておかないと、本国の文化活動に大きく後退させることになると思います。クリエイターは過敏な方も多いと思いますので大変かとは思いますが、将来の発展のために、個々人の権利保護に手を施しつつ、よきバランスで AI 技術の発展を推進していだければと思います。
韓国が ai を使用する際のガイドラインを作っていたり今後そのガイドラインをもとにして法律を作ると約束していたり EU が ai 規制を行うようだと報道されているのにも関わらずわざわざ著作権で保護する範囲を少なくし ai の利用を推進する理由がわかりません。日本1 国だけで世界の意向を変えられるわけでもないと思いますし
Web 上から集められた研究用の大元の何十億枚の中の学習データは、クリエイターが機関に申し出すれば簡単に削除ができるような仕組みが欲しい。LoRA など学習を引き出すデータセットについて、音楽業界の JASRAC のような権利を守るための団体がクリエイターサイドにも必要。音楽の JASRAC の仕組みは音楽をリリースして作品としての形を固定した時から著作権が発生するが、AI の登場に伴い、意匠性を担保する新しい概念でのクリエイターの保護や恩恵の循環の仕組みが必須。
現在の画像生成 AI のあり方において、私は反対していますが、存在については全く否定的ではありません。昨今の生成 AI におけるトラブルは、クオリティの高い AI があまりに早く一般化されてしまった為に起こってしまったと考えており、特定の作家を学習したなりすまし行為、加えて嫌がらせ行為によって活動を停止、筆を折ってしまう作家が居る事を大変嘆かわしく思っています。しかし、生成 AI はこれからの技術発展には必要であるとも考えており、極端な規制や全ての生成 AI の使用を違反とするのは安直で新技術の未来を閉ざしてしまうのではないかとも考えています。よって、今後 AI によって生成された作品、又それらを使用したものに関しては特定のマークを表示義務とし、非表示や、加工またはトリミング等切り取りによってマークを排除した物を使用する行為を違反とする等、消費者が一目で AI を使用したものか判断できるような配慮が必要ではないかと思います。又、AI に学習された画像は AI ソフトのホームページなどから誰でもアクセスし確認することができるよう義務付けたりと、クリエイターも消費者も安心して使用できるようにする工夫も必要であると考えています。クリエイター、消費者、そして AI を使用する全ての人が安心できるような世になればと思います。
専門家ではないので法的な視点での意見は出せませんが、イラストレーターとしての肌感覚で記載いたします。AI 生成イラストについては、例え既存イラストレーターに作風が似ていても、具体的な表現までが似ているとは限らないので、現在の著作権法では侵害とできないケースが多いと思われます。そこにそもそも問題があると思います。著作権法が「作風」「画風」を保護しないのは文化の発展のためと思いますが、それはあくまで「人間が人間に対し学習」する場合と思われます。人間も既存の作風から学習しますが、人間による学習は素質が必要なうえ労力や時間が大量にかかるため、学習元のイラストレーター達とは直接的に競合する可能性が低いです。また人間ならばどこかでその人の独創性が加わり、学習元とは別方向へ新たなオリジナルとして枝分かれしていき、それが発展につながります。しかし、これが AI になると、一瞬で過去のイラストレーター達の努力の結果を奪い取り、大量に出力することが可能になります。これは当然学習元イラストレーター達と競合し、人間のイラストレーターを淘汰してしまう可能性があります。実際、人気のイラストレーター達の作風・画風をミックスしたようなイラストが、AI 出現後に大量にネット上にばらまかれ、結果的に学習元になったイラストレーターたちの作風・画風が、一年ほどで陳腐化されてしまい、「大量の AI 達による作風の使い古し・陳腐化」という現象が起きています。これは人間による学習では滅多に起こらないか、起きるとしても何年もの時間をかけじわじわと起きるものです。それが半年や一年で一気に起きました。「人間による学習」と「AI による学習」は同様に考えてはいけないものです。こんなことが続いては、AI が人間のイラストレーターを淘汰してしまいます。これは、イラストやデザインが、手作業から CG に変わったのとは全然別の変化です。その場合、PC はただの道具で主体はあくまで人間でしたが、AI 生成の主体は AI と「人間から無断で盗んだ過去の学習データ」です。人間のイラストレーターが淘汰され AI だけが残っても、もはやそれは人間の文化ではありません。これは著作権法の目的と相反していると思います。著作権法が守るべきは人間であり、人間が生み出す文化だと思います。これを防ぐには、まず「人間から盗んだもので、人間を淘汰できる」というシステムをなくすべきだと思います。そのため、AI 生成イラストについては、「学習段階」「生成物利用範囲」最低でもいずれかに厳しい制限が必要と思います。学習段階の場合は、許可なき著作物を勝手に学習データとしてスクレイピングするのを禁止すること。また過去に無断スクレイピングして作られた AI モデル使用の禁止。生成物の利用範囲については、著作権物の「私的利用」と同等範囲のみでの利用あるいは研究分析など、一般公開されない範囲での使用に留めるべきです。「非享受目的」というならば、それくらいに制限されるべきと思います。また、そうでないと、上述の「人間のイラストレーターを淘汰」につながります。著作権等については、生成者にいかなる権利をも認めないことが大切だと思います。生成物の著作権について、「単なる労力にとどまらず、創作的寄与となり得るものがある場合は、これがどの程度積み重なっているか等を総合的に考慮」→全て認めるべきではないです。どんなに指示内容に創作性があるにせよ、それはあくまで「指示内容（プロンプト）文章自体の著作権」であり、「生成物の著作権」にはなり得ないと思います。人間のイラストレーターもクライアントの細かな指示に従いイラストを制作しますが、どんなにクライアントの指示が細かくても創作性があっても、それに従って描かれたイラストの著作権は「制作したイラストレーター」に属します。クライアントには属しません。クライアントに属するとしたら「指示に使用するためにクライアントが制作した文章や図柄の著作権」です。AI もそれと同じと考えます。「指示をした人間に、指示を受けて制作されたイラストの著作権がある」という考え方は、イラストレーターの存在を非常に軽視した見解だと思います。人間がどんな指示を出そうとも、制作しているのが AI である以上、著作権はどこにも存在しないと考えるのが妥当だと思われます。>AI 生成物に、創作的表現といえる加筆・修正を加えた部分については、通常、著作物性が認められると考えられる。こちらについても、「加筆修正部」が全体の 7～8 割を超えるなど、明らかに加筆修正部の方が主とされるような場合には認められるべきだと思いますが、そうでないならば認めるべきではないと思います。
生成 AI を厳しく法律で取り締まって欲しいです。苦労して描いてきた絵を簡単に盗まれてボタンひとつで生成できる AI に利用されるなんて意味不明です。私は今美術系の大学に通っていますがなんのために技術を磨いているか分からなくなります。
日本でだけ規制しても他国に AI の開発がおいつかなくなるだけです。まだ流行し始めたばかりで不満の声が目立ちますが、au 等の大手企業も既に利用しているしすぐに当たり前になると思います。  車も便利だけど排気ガスを出すし事故を起こしますが今や誰もが当たり前に使っています。生成 AI も誰もが使うようになります。
自分では作り出せない人にとってはとても便利なものであると感じます。一方で生成 AIを使った著作権侵害や人のものを使ってお金儲けをする人が散見される現状だと思います。このままでは批判的な意見が多く生成 AI に対する偏見を持つ人が増えるのではと懸念しています。人のイラストを AI に読み込ませて作り出した絵を自身の作品と言い張る、売買するなど見られておりそれはどうかなと思うところです。著作物に対する権利は守られるべきものであって欲しいです。よろしくお願いします。
AI と著作権に関する考え方について（素案）に一通り目を通しました．現役の研究者が入っているのでしょうか，機械学習を研究で扱っている私から見ても違和感のない内容でした．少数データによるファインチューニングで特化したモデルを作ることに対しては，概ねこの内容で良いと思います．1 点だけ，私の理解不足で頓珍漢な疑問になっているかもしれませんが，28 ページにて「生成物の生成行為（著作権法における複製等）と、生成物  のインターネットを介した送信などの利用行為（著作権法における複製、公衆送  信等）について、既存の著作物の著作権侵害となる可能性があり」との記述がありますが，生成に使われるモデル・パラメータについてはどのように扱われるのかが気になりました．
（３）AI 開発事業者・AI サービス提供者による技術的な措置について２の内容ですが、創作者が拒否してアクセス拒否するサイトに画像を投稿したとしても無断転載サイトにイラストを転載され、それが学習された場合はどうするのでしょうか？実際に自身のイラストを https://danbooru.donmai.us/に勝手に転載されていることを確認しています。また、上記のサイトは生成 AI の学習元にされていると開発者が発言した記事も拝見しているので確実に素材として扱われています。また、仮にこちら側が学習を拒否するサイトにこれから作品を投稿したとしても 2023 年以前に投稿した画像は勝手に学習される事になりますがこちらはどうするのでしょうか？生成 AI に学習されたくないから創作者側が画像を削除しなければならないのですか？なぜ後出しの画像の権利も持っていない AI に配慮してそのような事をしなければならないのでしょうか？そもそも勝手に学習するほうがおかしいのになぜ前提が学習されるような話になっているのかがわかりません。世界各国で生成 AI と権利について訴訟や問題が起こっているのだから許可を得た画像だけ学習した AI を使えばよろしいのではないでしょうか。権利者に許可を得て使用するというのは至極当たり前の事なのになぜ AI だけが許されているのかが甚だ疑問です。人間が行えば訴訟問題になることが機械なら許されるのですか？素案以外について、イラストレーターとして活動していて感じた実際の被害についても記載します。1.商業活動している立場で感じた現状の生成 AI の問題について・生成 AI を使用し効率化、イノベーション等と素案や概要に記載されているが、そもそも著作権についてきちんと考慮している大半の企業の案件では生成 AI を使うなという制約があり（案出しも含めて）、そもそもどの工程でも生成 AI は使えないので何の役にも立たない。・実際にあった事だが、ラフを生成 AI で企業側で用意するので線画～完成までを制作してほしいという依頼があったが、生成 AI で出力されたものはあくまで参考程度にしかならずラフとして使えないのでこちらで 0 から書き直す必要がある。それでも企業側ではラフ工程の工数は発生しないという認識になり相場より安い金額で依頼がきた。AI の出現により理不尽な値切りが発生している。・生成 AI が登場する前は SNS で頻繁にイラストレーターの募集が行われていたが、現在では殆ど募集のポストを見なくなった。大多数の駆け出しのイラストレーターはまず最初に SNS での公募から少しずつ実績を増やしていくパターンになるが、現在だとその実績のチャンスが奪われている。2.趣味としての創作活動をしていて感じる問題点・一切 AI を使用していないのに、AI を使用しているという言いがかりをこれについては指摘をした人ではなくそもそも生成 AI だと一目みてわかるようなシステムがない事が問題であり、（例：絶対にトリミングや修正ができないウォーターマーク、生成 AI だという表記の義務化）生成 AI 画像だと分かる明確な線引きが必要。クリエイターにとって自分が人生をかけて勉強して表現した作品に対してクリック一つでなんの努力もしていない画像と同じだと言われる事がどれだけの侮辱か考えてほしい。・イラストレーターとしてトレンドを抑えるために日々様々な作品を見ているが、生成 AIが登場してから大量の AI 画像が表示されて、とてつもない検索のノイズになっている。・手書き、実物のものだと詐称している AI 画像ばかりでまず最初にこれが本当に手書きなのか、写真なのかをチェックしなければならないので非常に手間。生成 AI に求めるラインについて最低でも下記の条件を求めます。・ウォーターマーク、画像の内部情報などで生成 AI だと一目でわかるようにしてほしい。トリミングや画像修正をして詐称した場合はなんらかの罰則をしてほしい。・生成 AI を使うには実名、住所登録を必須にしてほしい。享受目的、誹謗中傷などに使用した場合は二度と使えなくなるようにしてほしい。・生成 AI を一部にでも使用した場合はかならず使用した事を明記しなければならないようにしてほしい。知識がなくても簡単に事実を捏造して人を追いつめることのできるツールが誰でも簡単に使えるこの現状がそもそもおかしい。使う人間にリスクを背負ってもらわないと話にならない。SNS を見ていて特に思うのは AI について推進しているのは大体クリエイティブな事にかかわっていない人間ばかりだなという事です。もっと被害者側である現場のクリエイター側の意見に耳を傾けてください。今のままだと目先の利益ばかり追う事により、もっと先の素晴らしい日本の文化が衰退します。
「非享受目的について」生成ＡＩの生成物が学習元の享受目的がないとするのならば、学習段階のタグにおいて『作品名』『キャラクター名』『作者名』『企業名』等は必要でないのだからこれらのタグが使用されているものプロンプトとして使用できるものについては享受目的であるとみてよいと思います。ようは、探偵の画像を出すために『探偵』や『鴨撃ち帽』は使っても、『アーサー・コナン・ドイル』や『シャーロック・ホームズ』は必要ないはずです。３．生成  AI  の技術的な背景について（１）生成 AI についてウ  生成  AI  が生成物を生成する機序の概略生成  AI  では、入力された指示を情報解析し得られた結果と、その生成  AI  が学習したパターンやルール、傾向等に基づき、生成物を生成することとなる。この際の生成については、通常、学習データの切り貼りではないとされる。上記において画像生成ＡＩにおいて『切り貼りではないとされる』という表現は正しくはありますが正確ではありません。まず前提として、学習データは元のデータから劣化や欠落があるものの凡その復元ができるノイズデータです。プロンプトによる指定に合わせて、指定した条件に合ういくつかのノイズデータを呼び出し、そこから部分的な要素（背景、物体、色、等）を抜き出して切り貼りします。切り貼りしたうえで、さらに部分的に類似するノイズデータを複数重ねて中央値を取ります。ここにさらにランダムなノイズデータを重ねることでブレを出すことで似ない様に処理をしている物もありますが、切り貼りと重ね合わせ（合成）であることに違いはありません。新規で生成しているわけではないです。過学習という言葉で学習元が再現される理由がこれで、抽選されたノイズデータの多数が元が同じの学習元の別ノイズデータとなったとき中央値が元データに寄ることで出力されます。Ａという学習元があり、これを学習するとＡ１というノイズデータができ、Ａを複数回学習（Ａの解像度違い、トリミング加工後等も含む）させるたびにＡ２、Ａ３とノイズデータが蓄積されます。ここで、Ａという学習元にフィットしたプロンプトを入力したとき、Ａ１の背景、Ａ２の物体、Ａ３の色…と抽選されてしまうわけです。完璧にフィットするプロンプトというのはまず存在せず、乱数で関係ないノイズデータを引っ張ってくることもあるので、確率の問題になりますが。５．各論点について（３）生成物の著作物性についてイ  生成  AI  に対する指示の具体性と  AI  生成物の著作物性との関係について指示・入力（プロンプト等）の分量・内容において創作的寄与があるとは到底思えません。文章はコピーペーストでいくらでも増やして使いまわすことができます。そもそも、生成ＡＩはツールであり、ランダムでふわっとしたイメージを出力するシステムです。具体的なイメージがあるなら無理をして使うツールではなく、料理をするのに包丁ではなく鋏を使ったからといって、鋏を巧みに使う技術自体は評価されるべきではりますが、完成品の料理そのものの評価は調理過程ではなく見た目と味です。それこそ、今は i2i という技術があるのですから、下手でも手書きをしてＡＩで変換するとか（この時もＡＩ任せの量が多いと問題ですが）手書きでなくても加工可の素材を切り貼りして形を作ればプロンプト任せのランダム生成でイメージ通りの者が出るまで待つより確実なはずです。それをしない、という事は具体的なイメージがなく、出てきたものに後付けでイメージ通りと言っているだけに思えます。
資料の全体に言えることだが非常に総花的になっており一般人相手のガイドラインとしては複雑すぎるように感じる例外規定についてはバッサリ切り捨てて単純化する若しくは単純な資料を別に作ったほうが良いのでは無いかと思う例えば、学習段階においては基本著作権が問われることは無いとか生成後の絵については手書きと同様に著作権が問われるとか（例外については書かない）これぐらいに単純に言い切るべきだと思う（１）学習・開発段階学習データに付いてどの元データーがどれだけ寄与しそれが独自の特徴部分を意味するかを把握することは不可能に近く元データの著作権違反を問うべきでは無いと考える実質、元データーを作るような物の場合についてもパブリシティ権や不正競争防止法で規制すきだと思う＞当該クリエイターの作風を共通して有している場合以下の記述は作風を有しているが個々の作品の特徴を有してない場合という話でそんなケースがあるのか？あるとしてそれはそれで独自のものを作ってるのでは無いかと思われるので少なくても記述するべきでは無いとと思う（レアケースが抜けてるのは当たり前の話）（オ）海賊版等の権利侵害複製物を  AI  学習のため複製することについてこれについても非常に記述が多く分かりにくい、基本違法ではないが今後回避努力は望んでいる程度の記述では駄目なのだろうか？（２）生成・利用段階2.AI  利用者が既存の著作物を認識していなかったが、AI  学習用データに当該著作物が含まれる場合当該著作物が該生成  AI  の開発・学習段階で当該著作物を学習していた場合に依存性が認められるというのは数億にも及ぶ学習数を考えるとまったく把握も意図もしてないのにそのような生成物が生まれるのはありえるので暴論であるキ  侵害行為の責任主体についてこれに関しては侵害行為の責任主体はあくまでツールを使ってるユーザーにすべきと考えるペイントソフト等の既存のツールにおいても著作権侵害は容易に可能であり又それに対して防止作を取るというのはナンセンスだからである同様にツール上で防止策を取るというのは使い勝手や自由度をそこねツールや文化の発展を阻害する要因なると考える（３）生成物の著作物性についてこれについては手描きと生成 AI で生成したもの区別はつかなくなると考えられそうした場合同等のものを手描きというか生成 AI で作ったいうかで著作権の有無が変わってくる考えられこれは非常に不合理と考えるので基本的にはあるものと扱うべきと考えているまた創作的表現といえる加筆・修正についても全面に渡って非常に簡単に行えはするので（例えば額縁的な表現を付けて絵画の絵とするとか、明暗を弄って昼夜の表現を付け加えるとか）あまりそこにこだわっても意味がなく混乱がおきるだけだと考える
現行の生成 AI は多くの著作物を無断で使用している点に問題点があります。無断で著作物を読み込ませることを規制し、許可されたものだけで構成された生成 AI を使用することで著作者、消費者共に安心して創作物に触れられる文化を形成していただきたいです。
現行の AI 技術は著作権を解体するものであり、包括的な知的財産権の価値を損ないかねず、技術や文化の向上・存続の妨げとなりかねません。しかし glaze や nightshade といった対学習技術も生み出されており、危険なものであると同時に知的財産の保護装置としての価値も見出だせるものと思われます。本来国として負担すべき部分を知的財産所有者という「個人」に負担させる現行法のあり方は夜警国家としての機能すら持たず、租税の論理が崩壊しかねないものです。現行の AI 技術に対し知的財産の所有者の保護を行いつつ、技術の発展を妨げない取り組みを目指していただきたいです。
３．生成  AI  の技術的な背景についてウ  生成  AI  が生成物を生成する機序の概略学習データの切り貼りではないとされるとあるが、映画の場面をほぼ正確に再現する事象は既に以下の記事内にたくさんの実例が存在する。『Midjourney』と『DALL-E  3』の実験が示す著作権の地雷原https://spectrum.ieee.org/midjourney-copyrighthttps://www.hollywoodreporter.com/business/business-news/studios-sue-ai-companies-or-ip-deal-1235785627/５．各論点について（１）学習・開発段階【「非享受目的」に該当する場合について】（イ）非享受目的と享受目的が併存する場合についてそもそも現状の生成 AI は追加的な学習に限らず、既存の文章やイラスト、音楽などを学習に利用しながら、絵画やイラストのような画像の生成や音楽の生成など享受目的で出力、生成されており、明らかに情報解析から外れ、「当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合」に該当しないのではないか【著作権者の利益を不当に害することとなる場合について】（イ）アイデア等が類似するにとどまるものが大量に生成されることについて既存の文章やイラスト、音楽などを学習データとして利用しながら、それぞれの市場に生成された類似品を大量に氾濫させる行為が「著作権者の利益を害する行為」でなければなんなのか、新しく作品を発表したところで対価もなく類似品を生成され、氾濫させられ、陳腐化される、その中で新しい物を作り続けろというのはクリエイターを奴隷か何かかと思っているのだろうか人が作った文章やイラスト、音楽などを許諾なく学習データとして利用しながら、生成物を同じ市場に出せる事が異常としか言いようがない。生真面目に成果物を制作する事が報われないそんな環境でクリエイターが育つわけもなく、制作技術の空洞化が目に見えている。【著作権侵害の有無の考え方について】（ア）類似性の考え方について既存の判例を例に出しているが、人の創作と現状の教師データありきの機械のアルゴリズムによる出力を同一視している点はおかしく感じる既存の類似性判断に変更が必要に感じる。どこの、何のデータを使ったのか記録やデータセットの開示も必要に感じる（３）生成物の著作物性についてイ  生成  AI  に対する指示の具体性と  AI  生成物の著作物性との関係について1  指示・入力（プロンプト等）の分量・内容・2  生成の試行回数具体的な、詳細な指示をした所でそれは発注でしかなく創作にあたるとは到底思えない。リテイク、いわゆる修正指示も同様に指示、発注でしかない。教師データありきのデータセットから当たりが出るまでクジを引く指示をするのが創作なのだろうか。明らかに情報解析から外れている、データセットに利用したデータの類似品を出力できる現状の生成 AI を無理やり使おうとしている印象がぬぐえない、海外の議論を見ていると、著作物を訓練データとして利用する場合、事前同意や対価を必要とする意見が見られる(1)がそれが当然であり、それを踏み倒し利用を促そうとする日本が異常に見える、こんな当たり前のことを書かなければならない事に虚しさと腹立たしさを感じる。(1)イギリス政府の諮問機関、文化・メディア・スポーツ委員会 AI による著作権で保護された作品の複製は、ライセンスまたは例外で許可されていない限り、著作権を侵害することになるとの報告書を政府に提出https://musically.com/2024/01/12/uk-government-rules-out-broad-copyright-exception-for-ai-training/米議会、テック企業に AI 訓練データへの支払いを求めるhttps://www.wired.com/story/congress-senate-tech-companies-pay-ai-training-data/他にもデータセットに利用したデータの類似品を出力できる故に、スクレイピングでデータを集めることの問題点もしっかりと認識してほしい。画像生成 AI の訓練に「児童ポルノ」が使用されていたことが発覚https://forbesjapan.com/articles/detail/68355
・特定のイラストレーターの画風やキャラクターの容姿を模倣する LoRA やプロンプト(タグ)の学習または利用について、それぞれどこからが違法になるのか、もっと具体的に例を出してほしいです。・他人が作った LoRA が違法な学習によって作られたものだった場合、それを知らずに利用したユーザーの法的責任がどうなるのか知りたいです。・既存の著作物と類似性のある AI 画像を生成・SNS 投稿してしまった場合に、どのような法的整理となるかを場合分けで示してほしいです。・ウェブ上では生成 AI を利用した創作であることを明記しない投稿者を攻撃したり、AIを使っていないのに使っていると言いがかりをつけて中傷したりする行為が散見されます。AI 利用を示すタグ付けをめぐり、国内法上義務があるかどうかや、こうした行為にどのようなリスクがあるかについても明記してほしいです。画像生成 AI の利用者や利用企業に対する悪質な嫌がらせや中傷を抑止する観点から、こうした行為にどのようなリスクがあるか等も盛り込んでほしいです。特に酷似しているイラストが存在しないのにも関わらず、抽象的な理由から犯罪者扱いされるケ  ースに対し、どのような対抗策があるか明確化してほしいです。(不十分な場合は、防止できるような法整備を希望します)
生成 AI による画像生成は大きな問題を抱えていると思います。ディープフェイク、偽画像による写真の情報ソースとしての価値が大きく損なわれている点がまず挙げられますが、イラスト方面においてもフリーライドと機械的な大量生産による価値の毀損、および絵を描く人への誹謗中傷が起こっています。生成 AI によるイラスト作成は人間がペイントソフトを用いた場合と比べて技術を伴わず極めて短時間で作成が可能であり、各創作コミュニティにおいて AI イラストの投稿で埋め尽くされるという事態になりました。さらに LoRA の使用や作家名をプロンプトに打ち込む事で特定の画風を再現する事も可能になり、画風に著作権は無いという著作権法 30 条の 4 を悪用する形でイラストの価値を毀損し続けています。絵描きにとって画風とは俳優で言う容姿や声と同じような個性であり、画風を変えようとするのはプロの絵描きですら簡単な事ではありません。ましてや人力での特定の画風のコピーは容易ではなく、真似たとしてもその人特有の作風に変化することが殆どであった為、画風に著作権は発生しないという点が今まで問題にはなりませんでした。しかし生成 AI の場合は誰でも素早く機械的にデータ処理して再現する事が可能であり、さらに生成 AI による人間を遥かに越えた高速生産によってオリジナルの価値が毀損される事態にまで至っています。特に AI によるイラストの生成は精度が高く、文章などと比べて完成品の状態で出力するため問題が起きやすくなっています。今後この流れは技術の進歩により音楽、漫画、アニメーションあらゆる創作物へと波及する事は確実であり、この状況を放置しておくとより深刻な知財の毀損とフリーライド問題に発展すると思われます。これらの問題の対策には生成 AI を用いた旨の表記義務付けとデータセットを許可を得たデータのみで構成する事を法で定めるべきです。また、上記のように技術がなくとも簡単にプロの作品に近いイラストを生成できるようになった事で、特定の絵描きへの誹謗中傷だけでなく、絵を描く人全体を対象にした嘲笑や誹謗中傷がインターネット上で広く見られるようになりました。フリーライド問題について言及するだけで AI アレルギー、ラッダイト運動などと揶揄する向きが SNS のインフルエンサーだけでなく新聞社の記事や企業経営のネットマガジンなどからも見受けられ、SNS では生成 AI に苦言する人をと同一視して嘲<censored>笑したり、特定個人に対して集団で誹謗中傷するだけでなく殺害予告にまで発展する例すらありました。フリーライド問題はこのように創作分野の従事者や趣味の延長で活動している人達への分断も生んでいます。また創作活動はメンタルヘルスにおいてハンデを抱えた人が比較的活躍しやすい分野でもあり、生成 AI の問題は人権侵害の側面すらあります。先程も申し上げた通り、この問題は今後技術の進歩によって他分野へも広がり、ますます深刻化すると考えられます。海外では生成 AI の規制を検討する向きもあり、遅れを取ってはならぬと日本だけ緩い状態を維持するのは返って諸外国から日本の信頼を失う場合も充分に考えられます。ラッダイト運動とは産業革命時代の機械打ち壊し運動ですが、産業革命当時は労働者の人権など皆無に等しく、ラッダイト運動は労働者達による搾取への反抗でもありました。2024 年の現代に産業革命時代の搾取を肯定するような過ちはしないようお願い申し上げます。
はじめに検討の前提として1「生成 AI によりクリエイターが不当に利益を害されているため、著作権 30 条の 4 の改定を求めます。著作権の本来の目的、著作権の不当なコピー、利用から守り、インセンティブを高めるためのものであることを考慮してください。」2「コンテンツの権利の範囲が一定ではないインターネットから無差別に収集、学習しているので、従来の著作権法を適用するのは間違いだ。」生成 AI の技術的な背景について1「生成 AI を推進したいのであれば、まず正しい規制、悪用などが出来ないよう機能制限を設けるべきだ。」2「既存のデータを焼き増ししているだけなので新たな技術発展はない。」3「AI で作られた物はそうだと分かるようにするべきだ。（ウォーターマークを強制的に付与など）」関係者からの様々な懸念の声について「関係者だけでなく一般の人も容易に利用できるため、デマ情報、詐欺行為、学習拒否を表明しているクリエイターへの意図的な嫌がらせが発生している。」各論点について1「著作権者から許可を得たもののみ学習対象とする。インターネットからの無断学習は論外。」2「AI 生成物には表記義務を設けるなど、それが明確に生成 AI によって作られたものだと分かるようにするべきだ。画像媒体や音楽が犯罪証拠として成立しずらくなっているのでこのままでは犯罪を助長する。」3「企業以外の一般利用の際には AI 利用免許、定期的な学習データ検閲の義務付け、違反者は罰則。」4「開発企業で保持している現状の学習済みデータは全て抹消するべきだ。」最後に「生成 AI でいたずらに電気と水を浪費するべきではない。可能なら生成 AI のサービスを凍結させて欲しい」
AI によって作成された画像のネット上への送信の制限と強制的な削除に関する項目がが必要だと感じます。理由の一つとして述べますと、既存の生物の画像が AI の流行後に検索結果汚染が行われ、その名前を割り振られていた元々の生物が一般的な検索エンジンでの検索結果上位から排除され、似た様な全く違う別の存在が結果として出力されました。これに近い検索汚染だけなら過去に fate シリーズの歴史上の人物や艦隊これくしょん等で既に行われています。異なる点は素人目では一目で分からないという事です。また、既存の作品を基に構図から衣装まで全体的に似せて AI で作られた物もオリジナルと一緒に並べないと、その作品に詳しい者でもない限り誤認させられる事を体験しました。この事から規制は必須です。実写や既存の作品に似せた AI 産の画像には必ず AI 産と分かる印を入れなければ公開してはならないという法整備が国内外問わず全体で必要だと感じました。同時に初見の相手を誤認させるレベルで作成結果を出力出来る以上、個人で一から素材を収集して学習データの作成、結果物を生成して外部に公開せず楽しむという個人使用限定の例外を除いて。学習元のデータの公開及び、素材にされるオリジナルの作品の学習への使用制限が必要です。
まず確認ですが、簡単にまとめると、・学習開発段階Midjourney 等のように、意図的に著作物に似せたものを出力するような仕組みがなければ問題なし。・生成利用段階人間が描いた物と同じで、著作権等に違反していなければ問題なし。・生成物の著作物性配信動画と似た感じで、創作的表現が加わっていれば生成者の著作物となる。という方向性で合っているでしょうか。その場合は、この案に賛成します。よろしくお願いいたします。