第1回 ＶＲ倫理委員会法務倫理研究会議事録
１．開催日時 2023年5月15日15時から16時
２．開催場所 Meta Horizon Workrooms
３．研究会委員 横松、瀬戸山、宮川、佐野、川勝（欠席）
事務局
袴着、荒川、高橋、中林（議事録）
４．議題（1）横松委員長からのメンバー紹介
瀬戸山委員（会長）
宮川委員（顧問弁護士）
佐野委員（理事）大阪工業大学 AI・VR・デジタルツインや、倫理教育などの分野を扱う
袴着委員（事務局長）
荒川委員（経営企画責任者）（2）ガイドラインの作成について
横松委員長から、1年前の前回委員会時の議題の振り返り（①ネット社会における倫理（法、規範など）の整備について②学会立ち上げに向けて）とともに、引き続き倫理や規範について議論をしていきたい旨の説明があった。
生成AIなどの現在のトレンドも含め、実態や権利のないものなどがサイバー上に出てくることが想定される。VRの研究・倫理に関する提言や議論を行っていきたい。
瀬戸山委員より、VRの「倫理」の観点からの意見。
何を倫理と思うかには個人によってかなり温度差がある。
（倫理には）個人個々の倫理と、社会としてどういうふうに対応していくかという倫理規範があり、医療の倫理であれば「善行」や「公正」という基本原則がある。そういった既存の基本原理を応用・修正する形で、何らかの基本原理を創るというのが重要と思う。
VRなど最新技術に関わる倫理的問題については、まず同定することが重要で、個人情報保護法や知的財産法といった既存の法律を適用・応用して一定の規制をかけて、暴走しないようにすることは考えられるけれども、基本的には法律は後追いになってしまい新しい問題に追いついていかないので、法律が整備されるまでのギャップを埋めていくのが倫理や、自治体や国がつくる倫理指針、業界団体が作るソフトローと呼ばれる自主規制である。問題が起きないように技術が発展して普及していくためのルール作りを考えていきましょうというのが、倫理の役割であると指摘。
宮川委員より、法律的観点からの意見。
既存の法律は最低限守るべきラインとして倫理を考える上で一定の機能はすると思うが、社会的動きとして事実確認がたまってきて漸く立法に至るという関係がある。
いま既存の法律を適用するとすれば著作権法や個人情報保護法になるが、そこをクリアしていればいいという問題ではないことが難しい点であると説明。
最低限のラインとして、法律は有効に機能すると思うと指摘。
佐野委員より、ご自身の専門分野であるAIの観点からの意見。

研究者・科学者・教育者の立場で言うと、便利なものは積極的に使いたいという意思はある。利用をサポートしてくれるルールであれば大歓迎であるという意見。
横松委員より議題提起。
ネット世界は何の決まりもなく、同じプロトコルで接続するところから始まった、誰も制御・監視ができない。あえていうと、米国がIPアドレスの管理を中心的にやっているところはあるが、現状は無法地帯（昔は国別ドメインもあったがいまは制御されていない）。
逆に、制御されていないことにより、これだけ広がったという経緯もある。
＜資料提示「AI開発、倫理面の規制を グローバル・ビジネス・コラムニスト ラナ・フォ
ルーハー」＞
倫理感を持つことの必要性。
「規範やルールを守る」ことについて、人が作ったものは定義できるが、相手が自動のAIでは「守りなさい」という次元ではなくなり、難しい話になってくる。どのように生成、形成されていくかについて制御ができにくい。
従来のAI活用方法として教えたことや予測・観測が多かったが、昨今のチャットGPTやGoogleのBardでは、人間による制御は効かないと考えている。
相手がAIなのであれば、「倫理」もAIで対抗するのはどうか。
「倫理AI」として、他のAIを参照するようなエンジンを作るという考えはどうか。
佐野委員より、
AIはビックデータを食べて成長する性質のものであり、ビックデータ内にはバグや主義主張・偏見なども含まれる。AIが提供してくるものに対する公平性を担保する必要があるという懸念が提示された。
AIとは、文脈の使用頻度などのデータにより、どのようにでも変化しうるものであり、危険な部分であるという意見。
瀬戸山委員より、チャットGPTも各大学が対応を検討中であるが、ガイドラインを作っても技術には勝てないため、大学側としてはチャットGPTに頼らずに、真の理解度を確かめる方法を模索する必要があるのではないかとの意見も出ていることについて情報共有がなされた。
本年4月に開催された日本医学会総会でも「AIと医療」はホットなテーマであるが、チャットGPTを使用した場合、根拠となる論文が架空のものであったり、古い情報を基にしたためタイムラグが発生するといった問題があるいう意見も出ている。
チャットGPTの不正使用を完全に規制することはできないので、どううまく付き合っていくかのガイドラインを作るべきである。
また、ガイドラインを作ったとしても、どうしてもアンダーグラウンドに潜るものが出てきたり規制の副作用もあるため、個人情報保護法のように、情報を利活用するための規制である必要がある。利活用をするために、最低限の保護の必要箇所を洗い出し、かつ、規制方法についても法律的な規制、あるいはソフトロー的なガイドライン、もしくはそれ以外が良いのかなど、方法論の検討が必要と思われる。

規制と活用は表裏の関係にあり、活用を促進していくために一定の倫理的な対応が必要。
無秩序に広がって問題が生じ、活用促進が止まってしまうことは避けたい。
過度な規制も良くないが、問題が広がる前に手を打ち、利活用を促進していくことが重要。どこが落としどころなのかを、このように色々な立場の人がいる場で、専門家や一般の人も交えて議論していくことが重要なのではないかという意見。
宮川委員より、そもそもとして、法律がこれから機能していくのかを危惧しているという意見。
著作権侵害や個人情報保護法などをなぜ人が守るかというと、行為者が特定でき、罰則、刑事罰などのペナルティがあるからという部分が大きい。
AIの場合、データ入力者、あるいは公表者、あるいは活用者、など、行為の主体（責任の主体）があいまいになる。そうすると、無秩序に使われていくのではないかという懸念がある。
横松委員長より、AIが法律や裁判で使われる文章にも活用されていくという話題もあると言及。
宮川委員より、
チャットGPTで準備書面を試しに作成してみると、エラーになり作れなかったとの意見。
判例は出回っているが、準備書面は世間に出回っていないことが理由だと考えられる。
契約書などはAIで作成しやすいのではないか。
荒川委員より、
SF作家アイザック・アシモフの小説にて、2058年の世界でロボット工学3原則（「人間への安全性、命令への服従、自己防衛」）を倫理適用させようとしたが、結局のところロボットがダブルマインドを持ち対応できなかったことについて説明。
「倫理AI」の作成について、話としては理想だが、人間の域を越えるため、新しい次元でのフレームワークなどを作らないと、今までの延長上では現実的には難しいのではないか。
一方で、今後あらゆる分野で「倫理」に変わる何かについての発想は必要になってくるのではないかとは思うという意見。
宮川委員より、AIやVRなどの分野に限らず、今までの規範が全世界的に揺らいでいる気がしている（例えば、LGBTQなどの性自認に関して）。個々の「権利」の主張により、規範の秩序が揺らいでいる印象。倫理的なルールはもちろん必要ではあるが、揺らぎの過渡期の難しさもあるのではないかという意見。
瀬戸山委員より、知的財産の規制がなぜ存在するかについて言及（例えば、製薬への投資リスクを防ぐための制度設計など）。チャットGPTの問題として、自分で調べて対応するという思考能力の退化がある（例えば、レントゲン画像のAI活用による医師の読影技術能力の退化の懸念など）。

「倫理」はこういった波及効果を問題とする。活用促進により生じる不都合の同定作業と、すぐに規制するのではなくどのような方向から規制するのか、最低限の規制（過度な規制にもしない）について議論する必要がある（入口規制か出口規制か、など）。
AIの問題には国境がないため、国により規制も異なるため規制の限界もある。技術の進歩が倫理的な問題を解消することもありうる。
袴着事務局長より、どういう形で実効性のあるルールを作っていくかが重要と感じた。
まずは我々の団体で一定のルール作りをした上で、社会の合意を形成しながら、国民のルールとしての法整備に高めるのが理想であると考える。
横松委員長より、「倫理」となるとビックデータの性質上、制限が難しい部分が多くあるが、瀬戸山委員も言及したように、色々な立場の方がいろいろな形で倫理について議論をしている。まだメタバースは表に出ていないが、将来性も見込み、この研究会の場で議論・提言を出していきた
いとの方針が示された。
瀬戸山委員より、ガイドラインの叩き台を作成し、実効性があるかどうかも含め、この分野に関わる専門家など外部からの意見も取り入れ、改訂・反映していくのが良いのではないかという意見。
特にこのような分野は仮にガイドラインを作成しても1年後には古くなる。
プレスリリースのような形で公表し、良し悪しをパブリックコメントから判断していく。
→横松委員より、上記方針に合意。
佐野委員より、VR倫理委員会はAIも含むのかと質問。
→横松委員長より、広い意味で「含まれる」と回答。バーチャルリアリティ（拡張現実）として、インターネットの世界を”サイバー”と呼ぶため、必然的にAIについても含まれる。
宮川委員より、
実運用として、VR開発にはAI開発もセットという実態があるということなのか、と質問。
→横松委員長より、下記の通り回答。
AIは一つのソフトウェアから始まり、学習により成長していくという基本原理がある。VR
はリアルではない仮想世界全体を指す（ゴーグルをつけている、つけていないに関わらず「VR」）。その仮想世界の中で、これからの主流がAIになってくると考えてほしい。
佐野委員より、人間に代替するようなものが便利なものであれば積極的な活用促進するが、倫理的問題があるのであればルールを作るべきであると意見。仮想世界はあくまで作られた世界であるという意味で言うと、「倫理AI」は合致すると思う。
横松委員長より、

昨今立ち上げた「自由研究」の中で、リアルとサイバーについての問題も含め、検討している、言及。また近いうちに、倫理委員会を開催したいと方針を示した。
瀬戸山委員より、学会会員で外部資金獲得の申請準備を進めている。この法務倫理研究会が協力機関として関与する旨を調書に記載することを了承されたい（異議なし）。氏名の公開が困難な方はいないことも確認した。
→宮川委員より、4/1より法律事務所名が変わったので、HP上でも変更をお願いしたい。

以上
議事録（中林彩花）