解説/Review

AI 活用に伴う “ELSI”と研究における AI 活用
樋笠 知恵∗“ELSI” in the Context of AI Applications
and the Use of AI in Research
Chie HIKASA∗
Abstract– With the third AI boom, AI can now replace many tasks involving “human” intellectual
activities. In recent years, when AI has been used in various ﬁelds, various ELSI concerns have beenrAIsed in connection with its application. On the other hand, with the development and provision ofvarious research-supportive tools, it is necessary to sort out what points should be kept in mind inorder to mAIntAIn the ideal form of “research”, while at the same time enjoying the beneﬁts of AI
and en-suring coexistence between humans and AI. Therefore, in this paper, after outlining the ELSI
caused by the characteristics of AI, I will present some points to be kept in mind when utilizing AI in
research.
Keywords– ELSI, AI, Research

1. はじめに

2. AI の活用に伴う “ELSI”と AI ガバナンス

2000 年代に始まった第 3 次 AI ブームにおける

2.1 AI の技術革新

AI 技術の目覚ましい革新により，AI は「人間」の“Artiﬁcial Intelligence”という言葉が初めて使用さ知的活動を含む作業の多くを代替できるようになっれたのは 1956 年に開催されたダートマス会議であた．様々な分野で AI が活用される中，それと関連るといわれているが，これをきっかけに AI というして様々な ELSI への懸念が指摘されている．他方，

新しい学問分野が立ち上がると，「第 1 次 AI ブー

研究の場面でも AI ツールが活用されるようになり，ム」と呼ばれる動きが生まれた．しかし，当時の「研究」の常識が様変わりするとともに, ここでもコンピュータは複雑な問題を扱うことができなかっ

ELSI への懸念が指摘されている．そこで，「研究」

たため，すぐに冬の時代を迎えることになった．

のあるべき姿を維持しつつ，AI の恩恵を享受して1980 年代には，音声認識や文字認識，辞書・ルー

いくためにどのような点に留意すべきかを整理する

ルベース自然言語処理（カナ漢字変換など）などの必要がある．本稿では，AI の特性に起因する ELSI技術が発展して実用化に結びつき，「第 2 次 AI ブーを概説した上で，AI を研究に活用する際の具体的ム」が起こった．しかしながら，人手によるルール

な留意点を指摘する．

記述の限界から多くの分野に応用できる汎用性を獲得できず，再び冬の時代を迎えた．
その後の 2000 年代から現在の「第 3 次 AI ブー∗ 信州大学医学部

ム」では，インターネットの普及により Web や SNS

長野県松本市旭 3-1-1∗ School of Medicine, Shinshu University, 3-1-1 Asahi, Matsumoto,に大量のデータ（ビッグデータ）が集まるようにな

Naganoり，膨大な一般的知識の機械学習が可能になった．

Received: 31 January 2024.

加えて，深層学習という技術が登場すると，画像18

横幹 第 18 巻 第 1 号

“ELSI” in the Context of AI Applications and the Use of AI in Research

認識や音声認識の技術が本格的に使用されるようになり，AI を応用した製品やサービスが日常生活

人データの国際流通についてのガイドライン」 [6]
1 収集制限の原則，⃝
2 デーが採択され，その中で⃝年には，大規模自然言語処理によって自然な文章

3 目的明確化の原則，⃝
4 利用制限タ内容の原則，⃝5 安全保護の原則，⃝
6 公開の原則，⃝7個の原則，⃝を生成する生成 AI が登場した．

8 責任の原則の 8 つの原則が示さ
人参加の原則，⃝の中でも利用できるようになった．そして，2022

現在，AI 技術は，文章作成，画像作成，自動翻訳，人物特定，医療における診断，人の行動分析，れ，この 8 原則は，各国の個人情報保護法制の基礎となった．

自動車・ドローンの自律運転，自律型ロボットなど

日本でも，1988 年に日本で最初の個人情報保護

様々な分野で活用されており，私たちの日常と切り法として行政機関個人情報保護法が制定された後，離せない存在となっている．

1998 年にプライバシーマーク制度が創設され民間部門での取組みが始まると，2003 年に現在の個人

2.2 AI の開発・学習と利用に伴って生じる “ELSI”
AI は，幅広い分野で教育・研究，ビジネスへ大きく貢献する可能性があることから，私たち「人」の AI に対する期待は非常に大きい．しかし，AIが社会に急速に広がっていっていることで，AI の恩恵を得る傍ら様々な “ELSI” [1, 2]．
（倫理的課題（Ethical Issues），法的課題（Legal Issues），社会的課題（Social Issues））が指摘されるようになった．
このような形で「AI と社会との関係」が問われるようになったことは，第 3 次 AI ブームの特徴の一つといえる [3]．現在指摘されている主な ELSI と
1 プライバシー権の侵害，⃝
2 差別・不平しては，⃝
3 著作権侵害のリスク，⃝4 誤りの混入リ等の問題，⃝
5 透明性や説明責任の問題がある [4]．
スク，⃝(1) プライバシー権の侵害
日本国憲法第 13 条は，「すべて国民は，個人として尊重される．生命，自由及び幸福追求に対する国民の権利については，公共の福祉に反しない限り，
立法その他の国政の上で，最大の尊重を必要とす
る．
」として，個人を尊重し（同条前段），幸福追求権を保障（同条後段）している．後段の幸福追求権の保障にはプライバシー権の保障も含まれると考えられている。
しかしながら，AI など一連の技術革新により個人のプライバシー権に対するリスクは間違いなく高まっている。このリスクを AI に関わる全ての人が軽視せずに，「憲法で保障される」プライバシー
権や個人の尊厳に関わる問題であることを強く意識しながら，議論をしていくことが必要である [5]．
プライバシーの保護に関するこれまでの議論としては，1980 年に OECD で「プライバシー保護と個

情報保護法が制定され，2005 年 4 月に同法が施行された．その後，情報通信技術の発展やパーソナ
ルデータの利活用によって国境を超えたデータ流通が活発化したことで同法は 2015 年に改正され，
個人情報の保護に関する国際的動向や情報通信技術の進展を踏まえた 3 年ごとの見直し規定が設けられた．この規定に基づき 2020 年には改正法が成立し，2022 年 4 月 1 日に施行された．一連の個人情報保護法の改正とその背景から明らかなように，情報の価値とその取扱いに慎重を要することは現
代社会における共通認識となっている．
個人情報保護法においては，同法の目的として「個人の権利利益を保護すること」が（同法第 1 条），
基本理念として「個人の人格尊重」が（同法第 3 条）
掲げられていることからすれば，同法は憲法第 13条の個人の尊重の保障と密接に関連しているということができる [7]．したがって，AI の活用に伴う情報利用によって生じる問題は，やはり，憲法第13 条と関連させて議論していくことが望ましい．
さて，具体的なリスクとしては，AI が個人情報あるいは特定の個人の識別に結びつくような情報を学習した場合にそれらをアウトプットすること
により，個人のプライバシー権が侵害されるリスクが挙げられる．個人には，自分の情報についてその情報を公開するかどうか，公開するとしていつどの範囲で公開するかなどについてコントロー
ルする権利（「自己情報コントロール権」）があると主張されることもあるが，個人の知らぬうちにAI を通じて情報が拡散していく可能性がある．し
たがって，AI に個人情報などの情報を学習させる
ことには可能な限り慎重になる必要がある．反対Oukan Vol.18, No.1

19

Hikasa, C.

に，AI から受け取る情報についても，そのようなうな要件で侵害の有無が判断されてきた．すなわ

情報が含まれないかどうかについて注意深く検証

ち，著作権者から許諾を得ておらず，権利制限規定する必要がある．

（家庭内複製や引用）にも該当しないにも関わらず，⃝
1 自分の著作物が他人の既存の著作物と同一，又(2) 差別・不平等の問題
日本国憲法第 14 条第 1 項は，「すべて国民は，法2 その自分の著作物をは類似しており（類似性），⃝の下に平等であって，人種，信条，性別，社会的身分又は門地により，政治的，経済的又は社会的関係

既存の著作物に依拠して複製等した（依拠性）かど
1⃝
2 の判断枠組みが生成うかを基準としてきた．⃝

において，差別されない．
」として「法の下の平等」

AI を利用した場合にも妥当するか否かついて，文を保障している．しかしながら，歴史上，同条同項

化庁は，「生成 AI による生成物についても，その生に列挙されている事由を理由とした差別が行われ成・利用段階において，既存の著作物との類似性及てきたことは事実である．そして，AI もこのようび依拠性が認められれば」著作権侵害となるとのな差別に関する問題とは無縁ではない．AI による
1 アルゴリズム設計の差別の主な原因としては，⃝

考え方を示している [10]．もっとも，生成 AI を用

2 データの代表性の欠如，⃝
3 データにバイアス，⃝

今後の動向を注視していく必要がある．

内在する既存の社会のバイアス，の 3 つが指摘さ
1 は，アルゴリズムの設計段階で開発れている．⃝(4) 誤りの混入リスク

者が差別的な意図をもってアルゴリズムを設計す

AI が人の能力を超える（あるいは，超えると思わることなどにより生じるとされている．これには，れる）パフォーマンスを発揮することも珍しくは意図せずに差別的なアルゴリズムが設計される場
2 は，AI の利用段階で代表性に欠合も含まれる．⃝なくなった．しかしながら，依然として AI は無意

ける偏ったデータを学習してしまうことによると
3 は，データの元となっている社会のされている．⃝

ように示すことがある．AI は常に信頼に値するわ

構造自体に不公平なバイアスがある場合に，デー

誤りが混入していないかどうかを十分に検証する

タに従来社会の差別的な構造が反映され，それをことが重要である [11]．

学習した AI が差別を再生産することによって生じ
1 〜⃝
3 に共通する大きな特徴は，「AI にる．これら⃝(5) 透明性や説明責任の問題

よる差別」の多くは AI 自体が生み出したものではて），AI が示した結果の根拠や根拠に至る過程をなく，人間が生み出した差別構造を AI が学習し再理解することは，多くの場合困難である．そのた生産していることである [8]．実際，既に，採用時

め，深層学習の結果はブラックボックスだといわれのフィルタリングにおいて女性が差別される事例

る．仮に，何らかの不具合や事故が発生したときでや，対話型 AI を利用した際に人種差別が起こる事

さえも AI の判断の根拠や過程が示されないのであ例が確認されている． そこで，公平性の確保に関れば，責任の所在が覆い隠されてしまう．そこで，する対策として，公平性配慮データマイニングとこのような透明性の問題に関して，機械学習のプ

いう研究トピックも立ち挙がっており，グループ公

ロセスやデータ作成方法などを透明化する必要性

平性・個人公平性などの公平性基準を定義し，それが指摘され，XAI（Explainable AI: 説明可能な AI）

を用いて不公平さを検出する手法が提案されていというトピックに力が注がれている [12, 13]．

いた場合の著作権の議論は始まったばかりであり，

近年，AI の能力は目覚ましいスピードで向上し，味な，または誤ったコンテンツを真実であるかのけではない．したがって，AI が導き出した結果に人にとって（少なくとも単なる AI の利用者にとっる [9]．

(3) 著作権侵害のリスク

2.3 AI を社会が受け入れるためのガバナンス構築

特に生成 AI を用いて生成した生成物の利用に関しては，当該生成物による著作権侵害のリスクが指摘されている．これまでの生成 AI を用いない著作物に関する著作権侵害事例においては，次のよ20

ここまで述べたように，AI の研究・開発，利用にあたっては，様々な ELSI が指摘されており，その中には個人の基本的人権と関連する重大な課題が含まれている．AI の有用性を否定し難い現状で AI

横幹 第 18 巻 第 1 号

“ELSI” in the Context of AI Applications and the Use of AI in Research

を最大限活用しつつも適切にリスクをコントロー

が適切に確保されると共に，技術に対する信頼性

ルしていくためには，ガバナンスが必要となる．日（Trust）が担保される必要がある．
」，「AI の設計思

本および諸外国は，既に，AI 対するガバナンスを想の下において，人々がその人種，性別，国籍，年構築しようという大きな流れの中にある．このガ

齢，政治的信念，宗教等の多様なバックグラウンド

バナンス構築は，社会が AI を受け入れるための一を理由に不当な差別をされることなく，全ての人々

つのアプローチだといえる．そこで，本項では，近が公平に扱われなければならない．
」，「AI を利用し年の急速な AI 技術の革新と関連して制定された法ているという事実，AI に利用されるデータの取得

やガイドライン等を紹介する．

方法や使用方法， AI の動作結果の適切性を担保す(1) 日本の動向る仕組みなど，用途や状況に応じた適切な説明が日本では，AI 技術一般に関するものとして，2019

得られなければならない．
」としている．

年に「人間中心の AI 社会原則」（平成 31 年 3 月

その後，生成 AI が登場すると，生成 AI によっ

29 日，内閣府統合イノベーション戦略推進会議決て自然な文章・画像・音声などの生成が著しく容定） [14] が発出された．この中では，基本理念と1 人間の尊厳が尊重される社会（Dignity），
して，⃝易になり，誰でも人間の認知を欺瞞する情報を作⃝
2 多様な背景を持つ人々が多様な幸せを追求できで爆発的に拡大したことから，2023 年に，「AI に関

3 持続性ある社る社会（Diversity ＆ Inclusion），⃝

する暫定的な論点整理」（2023 年 5 月 26 日，内閣会（Sustainability）の 3 つが提示されたことに加え，
1 人間中心の人間中心の「AI 社会原則」として，⃝

府 AI 戦略会議） [15] が示され，より詳細かつ具体成できるようになったことや，その利用が世界中的なリスクと対応の方向性が示された．ここでは，

2 教育・リテラシーの原則，⃝
3 プライバシー原則，⃝
4 セキュリティ確保の原則，⃝
5 公正確保の原則，⃝

まず，AI の透明性と信頼性を確保することが重要

6 公平性，説明責任及び透明性競争確保の原則，⃝
7 イノベーションの 7 原則が掲げられた．
の原則，⃝

密情報の漏洩のリスクや個人情報の不適正な利用，

1 人間中心の原則では，AI の利
7 原則のうちの⃝報・誤情報・偏向情報が社会を不安定化・混乱させ用は，憲法及び国際的な規範の保障する基本的人

るリスクなどが挙げられている．なお，AI サービ

権を侵すものであってはならないと述べられ，人
3 プライバ
権保障の点が強調されている．また，⃝

ス提供者の信頼性の確認は一義的には利用者が行シー確保の原則では，「AI を前提とした社会におい害に関しては，「生成 AI がオリジナルに類似した著ては，個人の行動などに関するデータから，政治

作物を生成するなどの懸念がある．生成 AI の普及的立場，経済状況，趣味・嗜好等が高精度で推定でによって個々の 権利者にとって著作権侵害事案がきることがある．これは，重要性・要配慮性に応じ大量に発生し，紛争解決対応も困難となるおそれて，単なる個人情報を扱う以上の慎重さが求めらもある．
」としている．

れる場合があることを意味する．パーソナルデー(2) 欧州の動向であるとした上で，AI との対話による利用者の機
プライバシーに関するリスク，AI が生成した偽情

うものであると述べられている．また，著作権侵タが本人の望まない形で流通したり，利用された

欧州では，AI のリスク対応と開発推進の両面でりすることによって，個人が不利益を受けること

世界的な主導権を握るべく，2021 年 4 月，欧州委のないよう，各ステークホルダーは，…パーソナ

員会が世界初の法案である AI 規則案（AI 法案）を

ルデータを扱わなければならない．
」とされている．
⃝
6
さらに， 公平性，説明責任及び透明性の原則に公表した．同法案はその後，2023 年 6 月の欧州議会での一部修正を経て，2023 年 12 月に生成 AI の関しては，
「AI の利用によって，人々が，その人の規制も含む内容で暫定的な政治合意に達し，2024

持つ背景によって不当な差別を受けたり，人間の年 3 月に欧州議会で可決された．同規則は域内で尊厳に照らして不当な扱いを受けたりすることがないように，公平性及び透明性のある意思決定と提供される AI の安全性や基本的人権を保障するこ
1 許容となどを目的としており，AI のリスクを，⃝その結果に対する説明責任（アカウンタビリティ）

2 ハイリスク AI，⃝
3 ローリスク AI，できない AI，⃝

Oukan Vol.18, No.1

21

Hikasa, C.

⃝
4 最小リスク AI の 4 つに分類した上で，リスクがとが可能になった．もっとも，科学者が AI ツール

高いほど厳しい規制を行う仕組みとなっている．よ1 許容できない AI（個人の行動操作，
り詳細には，⃝に依存するようになれば，人による十分な精査が年齢・障がい等に基づく個人の脆弱性の搾取）につ
2 ハイリスク AI についいては AI の利用を禁止し，⃝誤りやバイアスを見逃すなどすることで，研究のては，リスク軽減システム，データガバナンス，利まで人が行ってきた知的活動をどこまで AI が代替

用者への十分な情報提供，正確性などの義務を課す
3 ローリスク AI については透明性に関こととし，⃝

しうるか，換言すれば，どこまで AI が代替してよ

1 最小リスク AI についてする義務のみを課して，⃝ある．もっとも，紙幅の関係上この議論は別稿に譲は，新たな義務を課さないこととしている [16–18]．

ることとし，本項では，研究で AI を活用する際に同規則は今後必要な手続を経た後に施行される予留意しておかなければならない点を示す．

定となっており，EU 加盟国と EU でサービスを提(1) プライバシー権への配慮

供する提供者などに直接適用される．

行われなくなり [26]，AI が導いた結果に含まれる質の低下につながる可能性もある．この点，これいのか，という問題についても別途議論の必要が研究においては，おそらく，AI ツールに個人情(3) 国際協調報などを含む情報を入力することがあるだろう．し国際協調の動きとしては，2019 年に「人工知能かしながら，AI への情報の入力については，2．2に関する理事会勧告」（OECD） [19] と「G20AI 原（1）で述べた理由から慎重になるべきだと考える．

則」（G20） [20] が，2021 年に「人工知能の倫理に研究では，病歴や犯罪歴などの要配慮個人情報や，関する勧告」（ユネスコ） [21] が示された後，2023

個人行動の追跡につながる情報，個人の感情や心

年 10 月 30 日に先進 7 カ国 (G7）会合による「高度理などが読み取れるような情報を扱う場合もあり，な AI システムを開発する組織向けの広島プロセス

このような情報については格別にその取扱に慎重

国際指針」 [22] および「高度な AI システムを開発さが要求される．個人情報保護委員会は，「生成 AIする組織向けの広島プロセス国際行動規範」 [23]が提示された．さらに 2023 年 12 月 1 日には，上サービスの利用に関する注意喚起等」 [27] の中で，1入
次のような留意点を挙げている。すなわち，⃝

記 2 つを含み，高度な AI システムの設計，開発，力された個人情報が生成 AI の機械学習に利用され，導入，提供及び利用をカバーする「全ての AI 関係

他の情報と統計的に結びついた上で生成 AI サービ

者向けの広島プロセス国際指針」 [24] が誕生した．

スから出力されるリスクがあるため，生成 AI サー

同国際指針は，十分な透明性の確保，個人データの保護の必要性などに言及するとともに，すべてビスに個人情報を入力等する際には，リスクを踏
2 生成 AI が出力
まえた上で適切に判断すること，⃝の AI 関係者が，自分自身そして必要に応じて他者する自然な文章は，確率的な相関関係に基づいてのデジタル・リテラシーを向上させる機会を求め生成されたものであり，その応答結果には不正確なるべきだとしている．

内容の個人情報が含まれるリスクがあることから，も含めて 46 カ国が参加．日本も長年オブザーバ参

そのようなリスクを踏まえた上で適切に判断する
3 利用者は，生成 AI サービスを提供する事こと，⃝加）では，AI の開発・設計・運用に関する初の AI

業者の利用規約やプライバシーポリシー等を十分条約の制定を目指しており，条約が成立すれば，各に確認し，入力する情報の内容等を踏まえ，生成

国での法制化の動きにつながる可能性もある [25]．

AI サービスの利用について適切に判断することをさらに，欧州評議会（ヨーロッパの EU 非加盟国

推奨している．
上記の注意喚起に照らせば，生成 AI に情報を入

3. 研究で AI を活用する際の留意点

力する際には，目的を達成するために真に必要で近年，自動翻訳や他人の論文等の要約，研究のあるかの吟味が必要となろう．もっとも，生成 AI

計画の立案，論文執筆など，これまで人が行ってきに個人情報を含む情報を入力することが許される

た「研究」における知的作業の多くを AI が行うこか否かは，そのツール内で情報がどのように扱わ

22

横幹 第 18 巻 第 1 号

“ELSI” in the Context of AI Applications and the Use of AI in Research

れるか，ツールの提供者が日本国内にある事業者

たがって示せばよいが，AI が生成した文章やデー

かどうか等によって判断が分かれることがある．しタをそのままコピー＆ペーストした場合には，本たがって，学協会から出されている指針や所属の来あるべき引用符が欠けたり，引用部分の意図し教育機関等のガイドライン等を十分に確認したり，ない言い換えが含まれたり，出所の明示を欠いた専門家の判断を仰ぐなどするとよい．

りする可能性がある．生成物を利用する際は，生(2) 公平・非差別への配慮

成物をそのまま利用することは避け，十分な検証

1 アルゴリズ
2．2（2）で述べたように，AI は，⃝
2 データの代表性の欠如，⃝
3
ム設計のバイアス，⃝を行った上で大幅に手を加えるなどすることが必

データに内在する既存の社会のバイアスに起因しなお，AI の生成物が著作物にあたるか否かにつて，これまで人が行ってきた差別を再生産する可能いても議論も行われているが，この点に関して文性がある．したがって，個人の国籍や性別，人種，

化庁は，人が何ら指示を与えず（又は簡単な指示

社会的地位，思想などこれまで差別につながりやを与えるにとどまり） ，「生成」のボタンを押すだ

すかった情報が研究と関連する場合には特に AI とけで AI が生成したものなど AI が自律的に生成しのやりとりの過程に配慮し，AI がアウトプットしたものは著作物に該当しないと考えられるとしてた結果についても十分な検証を行うことが重要でいる [28]．

ある．

(4) 誤りの混入，透明性と説明可能性(3) 著作権侵害の防止

要になる．

AI は時に無意味な情報や誤った情報を示すこと

論文を執筆する際に，AI を用いて他人の論文をがあるが，誤りが含まれる AI の結果をそのまま研

要約・翻訳したり，文章や画像を作成する場面もあ究に利用すれば，研究の質の低下を招く可能性がるだろう．2．2（3）で既に述べたが，現段階では，ある．また，その場合，その研究に基づく研究を行

生成 AI を利用した場合の著作権侵害の有無は AI

う他の研究者の成果にも悪影響を与え得る．AI にを利用しなかった場合と同様に「類似性」と「依拠人の知的作業を代替させるとしても，AI はあくま性」の要件をみたすかどうかで判断をするとの考でも人の「道具」であることを忘れずに，結果につえ方が，文化庁から示されている．

いては十分に検証を行うことが重要である．また，他方，著作権者の許諾があるか権利制限規定のAI の動作の仕組みや処理結果は人の理解のレベル

適用があれば著作権侵害とはならない．論文執筆とを超える場合があるため，AI の透明性や説明可能

関連する規定としては「引用」の規定（著作権法第性は十分でないとの認識を持っておくことが必要

32 条第 1 項）があるが，著作権法上の適法な「引1 引用部分が公表され用」と認められるためには，⃝と考えられる．

2 引用部分と自己の著作物た著作物であること，⃝
3 自己の著作物が「主」の区分が明瞭であること，⃝(5) その他の重要事項
近年，簡単な質問にいくつか回答を行うなどすることで研究計画が完成する研究計画ツールなど，

4 「引用のであり，引用部分が「従」であること，⃝
5 出所を明示
目的上正当な範囲内」であること，⃝研究に特化したツールも登場し始めている．文部すること（著作権法第 48 条第 1 項第 1 号）が必要
2⃝
3⃝5がである．生成 AI の利用場面では，特に，⃝モデルの開発・共用を行い，研究開発力の強化な重要なポイントとなりうるだろう．生成 AI を利用

AI モデルは，まず，医学，材料研究向けの分野にした場合も，基本的に，生成 AI を利用しない場合
2 引用部分を明瞭に区別するために慣と同様に，⃝

ついて開発を行い，AI には実験画像や論文データを学習させて新発見につながる仮説の生成を行わ

3引
行に従って引用部分を括弧でくくるなどし，⃝せ，より効率的な研究モデルを作ることを目指す．

用の目的，両著作物の性質，分量等を総合考慮しもっとも，研究に特化したツールも AI の特性に起たときに自分の著作物が主であると認められるよ
5 著者名，著書名・論文名等を慣行にしう留意し，⃝

因する ELSI を完全に払拭できるわけではないこと

科学省も，2024 年度から，科学研究向けの生成 AI
どを行うことを明らかにしている [29]．当該生成に留意が必要である．

Oukan Vol.18, No.1

23

Hikasa, C.

その他，重要な事項として，研究情報のセキュリ
ティにも注意を要する．未公開の研究成果やデー
タを生成 AI に入力することには，情報漏洩のリスクが伴う．学術雑誌の中には，論文の内容が AI の学習機能に取り込まれてその情報が別の検索機会に活用されていくことを防止するために，出版前の論文を AI ツールに入力してはならないとする規定を設けているものもある．特に生成 AI の登場後
は，各大学や学術雑誌にも AI 活用に関するガイド

uploads/docs/190418a.pdf,
2019 年 4 月 18 日 (最終閲覧日 2024 年 1 月 30 日).
[6] 総務省「プライバシー保護と個人データの国際流通についてのガイドラインに関する OECD 理事会勧告 (1980 年
9 月) (仮訳)」，https://www.soumu.go.jp/mAIn_
content/000196320.pdf，(最終閲覧日 2024 年 1 月
30 日).
[7] 成原 慧「アルゴリズム・データによる差別とその法的
統 制 」, https://www.meti.go.jp/shingikAI/
mono_info_service/platform_economics/
pdf/2022_007_04_00.pdf，2022 年 12 月 14 日
(最終閲覧日 2024 年 1 月 30 日).

ような方法で何に利用したのかを明記するなど AI[8] 成原 慧「AI と人権 ―「AI による差別」と公平性」，ひろげよう人権，クローズアップ，
https://www.jinken-net.com/close-up/
20210802_2587.html,
2021 年 8 月 (最終閲覧日 2024 年 1 月 30 日).

を利用した場合に何らかの措置が必要かどうかに[9] 前掲参考文献 [3]ついて，所属機関，所属学会，学術雑誌等の規程を[10] 文化庁審議会著作権分科会法制度小委員会「AI と著作権に関する考え方について（素案）（令和 6 年 2 月 29 日時点版）」, https://www.bunka.go.jp/seisaku/
bunkashingikai/chosakuken/hoseido/r05_
07/pdf/94011401_02.pdf，2024 年 2 月 29 日 (最終閲覧日 2024 年 3 月 13 日).

ラインなどを策定する動きが見られる [30]．研究で AI を利用してよいか，また，例えば，AI をどの確認しておくことが必要である．

4. まとめ[11] 前掲参考文献 [3]近年，AI の技術革新が続き様々な “ELSI”が指摘される中，AI を社会に受け入れるためのガバナンス構築が進められている．他方，AI が人の知的活動の多くを代替できるようになったことにより「研究」の方法が変わりつつある今，AI の利用者は AIの特性に起因するリスクを十分に理解し，また，そこには重要なリスクが多く含まれていることを念頭におき，適切に AI を利用できるようにしておく必要がある．

参考文献[1] 大阪大学社会技術共創研究センター ELSI センター
「ELSI と は 」 ，https://ELSI.osaka-u.ac.jp/
what_ELSI, 2020 年 4 月 1 日 (最終閲覧日 2024 年 1
月 30 日).
[2] 樋笠知恵「医療における AI と法的問題」，千葉商大論叢
第 58 巻, 第 2 号, pp. 255-272 (2020 年 11 月).
[3] 国立研究開発法人科学技術振興機構 研究開発戦略センター「人工知能研究の新潮流 2〜基盤モデル・生成 AI のインパクト〜」，https://www.jst.go.jp/crds/
pdf/2023/RR/CRDS-FY2023-RR-02.pdf，2023 年
7 月 (最終閲覧日 2024 年 1 月 30 日).
[4] 中川裕志「AI 倫理指針の動向とパーソナル AI エージェント」，
『情報通信政策研究』，第 3 巻, 第 2 号, pp. 1-24
(2020).
[5] 公 益 社 団 法 人 経 済 同 友 会 憲 法 問 題 委 員 会「 憲法 問 題 委 員 会 2018 年 度 活 動 報 告 書 」, https://www.doyukAI.or.jp/policyproposals/

24[12] 前掲参考文献 [2][13] 前掲参考文献 [3][14] 内閣府統合イノベーション戦略推進会議決定「人間中心のAI 社会原則」, https://www8.cao.go.jp/cstp/
AIgensoku.pdf, 2019 年 3 月 29 日 (最終閲覧日 2024
年 1 月 30 日).
[15] 内閣府 AI 戦略会議「AI に関する暫定的な論点整理」,
https://www8.cao.go.jp/cstp/AI/ronten_
honbun.pdf, 2023 年 5 月 26 日 (最終閲覧日 2024 年 1
月 30 日).
[16] 欧州委員会「人工知能に関する調和の取れたルールを定める規則の提案（欧州委員会（2021 年 4 月 21 日））日
本文・付属書（仮訳）」 (最終閲覧日 2024 年 1 月 30 日).
[17] European Council, Council of the European Union, “Artiﬁcial intelligence act: Council and Parliament strike a deal
on the ﬁrst rules for AI in the world,”
https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/
artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-firstworldwide-rules-for-AI/，2023 年 12 月 9 日 (最終閲覧日 2024 年 1 月 30 日).
[18] JETRO 日本貿易振興機構（ジェトロ）「EU，AI を包括的に規制する法案で政治合意, 生成型 AI も規制対象に（EU)」 ，ビ ジ ネ ス 短 信, https://www.jetro.go.jp/
biznews/2023/12/8a6cd52f78d376b1.html，
2023 年 12 月 13 日 (最終閲覧日 2024 年 1 月 30 日).
[19] OECD, “Recommendation of the Council on Artiﬁcial
Intelligence,” https://legalinstruments.oecd.
org/en/instruments/OECD-LEGAL-0449，2019
年 5 月 22 日 (最終閲覧日 2024 年 1 月 30 日).
[20] G20「付 属 書 G20AI 原則 」, https://www.mofa.
go.jp/mofaj/gaiko/g20/osaka19/pdf/
documents/jp/annex_08.pdf,
2019 年 6 月 9 日 (最終閲覧日 2024 年 3 月 13 日).

横幹 第 18 巻 第 1 号

“ELSI” in the Context of AI Applications and the Use of AI in Research[21] UNESCO, “Keyfacts UNESCO’s Recommendation on the
Ethics of Artiﬁcial Intelligence,” https://unesdoc.
unesco.org/ark:/48223/pf0000385082,
2021 年 11 月 23 日 (最終閲覧日 2024 年 3 月 13 日).
[22] G7「高度な AI システムを開発する組織向けの広島プロセ
ス国際指針」, https://www.mofa.go.jp/files/
100573469.pdf，2023 年 10 月 30 日 (最終閲覧日 2024
年 3 月 13 日).
[23] G7「高度な AI システムを開発する組織向けの広島プ
ロセス国際行動規範」, https://www.mofa.go.jp/
files/100573472.pdf，2023 年 10 月 30 日 (最終閲覧日 2024 年 3 月 13 日).
[24] G7「 全 て の AI 関 係 者 向 け の 広 島 プ ロ セ ス
国 際 指 針 」,
https://www.soumu.go.jp/
hiroshimaaiprocess/pdf/document03.pdf,
2023 年 12 月 1 日 (最終閲覧日 2024 年 3 月 13 日).
[25] 東京 大 学 未 来 ビジョン 研 究 セ ンタ ー AI ガ バ ナ ン ス
プロジェクト「欧州評議会 AI に関する委員会 (CAI)AI 条約交渉の概要」, https://www.meti.go.jp/
shingikAI/mono_info_service/AI_shakAI_
jisso/pdf/2022_008_03_00.pdf,
2023 年 7 月 13 日 (最終閲覧日 2024 年 1 月 30 日).
[26] The Guardhian, “Science journals ban listing of ChatGPT as co-author on papers,” https://www.
theguardian.com/science/2023/jan/26/
science-journals-ban-listing-of-chatgptas-co-author-on-papers,
2023 年 (最終閲覧日 2024 年 1 月 30 日).

[27] 個人情報保護委員会「生成 AI サービスの利用に関する注意喚起等」, https://www.ppc.go.jp/files/
pdf/230602_alert_generative_AI_service.
pdf，2023 年 6 月 2 日 (最終閲覧日 2024 年 1 月 30 日).
[28] 文化庁著作権課「令和 5 年度著作権セミナー AI と著作権」, https://www.bunka.go.jp/seisaku/
chosakuken/pdf/93903601_01.pdf,
2023 年 5 月 (最終閲覧日 2024 年 1 月 30 日).
[29] 内閣府「令和 6 年度概算要求における AI 関連予算について」, https://www8.cao.go.jp/cstp/AI/AI_
senryaku/5kAI/shisaku.pdf,(最終閲覧日 2024 年 1 月 30 日).
[30] 文部科学省高等教育局専門教育課大学教育・入試課事務連
絡「大学・高専における生成 AI の教学面の取扱いについて（周知）」, https://www.mext.go.jp/content/
20230714-mxt_senmon01-000030762_1.pdf，
2023 年 7 月 13 日 (最終閲覧日 2024 年 1 月 30 日).

樋笠 知恵

Oukan Vol.18, No.1

専門は研究倫理・研究公正および生命倫理．上智大
学法科大学院修了．ヴュルツブルク大学法学部ロボッ
ト法研究所の外国研究員を務める傍ら，現在は，信州大学医学部公正研究推進講座助教（特定雇用）及び一般財団法人公正研究推進協会の客員研究員として，
研究倫理・研究公正に関する理解を周知する業務に従事．

25