シンポジウム「これからの大学の情報教育」
ワークショップ：「一般情報教育と AI・データ科学」「ＡＩと情報倫理」
京都女子大学 水野義之
mizuno@kyoto-wu.ac.jp

2019/12/14 AXIES 2019
（大学ICT推進協議会 2019年度年次大会@福岡）

公開論文：
１）水野義之「情報社会における「情報」の発展モデル」、日本社会情報学会 第24回全国大会 研究発表
論文集、pp.184-187、2009年.
２）水野義之「情報倫理と医療倫理の共通点に関する考察」、社会情報学会(SSI)研究発表論文集、
pp.313-316, 2012年.
３）水野義之「ＡＩ人材の情報倫理教育におけるインフォームド・コンセントを基盤とした能動的学修」、2019年度私情協 教育イノベーション大会（私立大学情報教育協会）、2019年09/06.
1

自己紹介

• 1977：京都大学 理学部物理学科卒業• 1982：東北大学大学院 理学研究科修了（核物理/実験データ解析）• 1982‒1990：海外ポスドク、Saclay、Heidelberg＋CERN→WWW(1989)• 1990：大阪大学 核物理研究センター（全国共同利用）ネット環境• 1999：京都女子大学＋2000年現代社会学部、情報教育、情報システム管理• 2001：医療の倫理の勉強会（星野ゼミ後継）• 2018：京都大学医学部付属病院「医の倫理委員会」委員• 2019：定年• 2019/12：IEEE- SSCI 2019 (Computer Intelligence, ML)• AIと科学知識に関するWEBマガジン（RAD-IT21：リニューアル中）目次•予備知識（１）：AI（人工知能）の時代•予備知識（２）：人工知能の第3期•予備知識（３）：ＡＩ倫理の今までの議論•このシンポジウムの社会的背景•「人間中心のAI社会原則」、OECDのAI原則•これらの議論で欠落していること（AI倫理の重層性）•「データ・情報・知識・知恵・芸術・科学」と「知性・理性・悟性・感性」の関係•「人間の幸せのための情報技術」と「AI倫理の重層性」•インフォームド・コンセントを基盤としたAI倫理教育•まとめ：AI倫理の能動的学習のために

予備知識（１）：AI（人工知能）の時代• 1955年：J.McCarthy、AIという言葉を作る• 第1期：1956年〜1980年:パーセプトロンとコネクショニズム（ニューラルネット）→冬の時代• 第2期：1980〜1990年代:エキスパートシステム(論理推論エンジン)→冬の時代（例：第５世代コンピュータ開発）、知識獲得のボトルネック• 第3期：2006年〜現在：機械学習(大量データの機械学習)と深層学習(多層ニューラルネットワーク)。特に2016年3月、囲碁AIのAlphaGo(vs人間プロ)で勝利

予備知識（２）：人工知能の第3期• 情報処理学会、創立50周年(2010年)、トッププロ棋士に勝つコンピュータ将棋プロジェクト• 将棋連盟の協力、2010年10月11日、清水市代女流王将(当時) にコンピュータ勝利• その後もコンピュータ将棋が互角以上の結果。すでにコンピュータ将棋は2015年、トッププロ棋士に追い付いたという分析• プロジェクトを終了を宣言（情報処理学会誌2015年11月号）• 2012年：AI技術の爆発的発展

画像認識コンテスト(ILSVRC)でトロント大学J.ヒントン教授(ディープラーニング)圧勝、Googleによる猫画像自動認識• 2016年：囲碁AI（AlphaGo）、2017 AlphaGo Zero、AlphaZero予備知識（３）：ＡＩ倫理の今までの議論• (2012：画像認識コンテスト(ILSVRC)ヒントン教授；Googleによる猫画像自動抽出)• 2014：Google、DeepMind買収、倫理委員会（2015 ATARI/DQN、2016 AlphaGo）• 2016/9：”Partnership on AI”DeepMind, Amazom, Facebook, IBM, Microsoft（オープン）「信条」宣言• 2016/10：オバマ「AIの未来に備える」、警戒：AI規制整備、兵器利用政策立案等• 2017/1：”Future of Life Institute”(イーロン・マスク、ニック・ボストロム)「アシロマAI宣言」• 2017/2：欧州議会「ロボティックスにかかる民法規制に関する欧州委員会への提言」• 2017/10：Google/DeepMind、「Ethics & Society」研究ユニット• 2017/11：IEEE「AI倫理に関する標準化」”Ethically Aligned Design” 、2019/3：EAD• 2019/5：OECD「AI原則」• 2015/5：日本「人工知能学会」倫理委員会（松尾）、2017/2：倫理指針• 2016/1：総務省「AIネットワーク推進会議」2017/7：報告書、OECDと共催国際会議• 2019/3：人間中心のAI社会原則

「このシンポジウム」の社会的背景
2019/4/18「総合科学技術・イノベーション会議」ＡＩ戦略。
安倍：◯第４次産業革命。未来を担う子供たちの誰もがデジタル時代の読
み・書き・そろばん：ＡＩリテラシーを身に付ける環境。
◯教える側もＡＩ専門知識。外部人材活用。2015年までに、小・中学校では4校に1人以上、高校では1校に1人以上のＩＣＴ人材。毎年100万人規模の子供たちが十分なＡＩ教育を受ける。
◯2022年の情報科目の高校での必修化。情報Ⅰを大学共通テスト。
1学年・50万人の全大学生がＡＩを学べる環境整備。ＡＩ科目を導入する大学を運営費交付金や私学助成金（インセンティブ措置）。
ＡＩと専門分野のダブルメジャー制度改革。
◯ワールドクラスのＡＩトップ人材から、基礎ＡＩリテラシー教育まで。数値目標、政策を総動員。ＡＩ戦略を早急に策定。

「人間中心のAI社会原則」とは？
• 2019/3/29「統合イノベーション戦略推進会議」決定：• 環境問題、格差、資源枯渇等、人類存続の問題に直面。
少子高齢化、人手不足、過疎化、財政等、成熟型社会の社会課題。AI は問題の解。SDGs目標達成。

• AI 活用：経済発展と社会課題を解決するSociety5.0実
現。国際的魅力ある社会。地球SDGs貢献。

• AI：便益・影響力大。開発と社会実装。ネガティブ面を回避・低減。技術研究開発。人、社会システム、産業構造、イノベーションシステム、ガバナンス等、社会をリデザイン。AI の有効・安全利用。「AI-Readyな社会」

歯が浮いたような官僚風文言が並ぶが、決して荒唐無稽でも（実は）ない。

ハサビス氏のAI開発の目的は？
https://www.youtube.com/watch?v=rbsqaJwpu6A&t=852s

Ref: Demis Hassabis “Human AI is Decades Away, But We Need to Start the Debate Now”

「Society5.0」の実現に必要な社会変革「AI-Readyな社会」とは？

• Society 5.0：IoT、ロボティックス、ネット、AI。
• 「何のためにAIを用いるのか」目的設定は、人間。
• AIは、社会を良くする使用可能。望ましくない目的達成、無自覚に不適切な使用もありうる。

• 「何のためにAI を用いるのか」に答えられる「人」,「社会システム」,「産業構造」,「イノベーションシステム」,「ガバナンス」。

• ５つの観点はSociety5.0を実現する上で重要。

「人間中心のAI社会原則」とは？

•社会（立法・行政）が留意すべき「AI社会原則」
1. 人間中心の原則
2. 教育・リテラシーの原則
3. プライバシー確保の原則
4. セキュリティ確保の原則
5. 公正競争確保の原則
6. 公平性、説明責任及び透明性の原則
7. イノベーションの原則•開発・事業者が留意すべき「AI開発利用原則」

「２．教育・リテラシーの原則」とは？

• AI 前提の社会：格差や分断、弱者は望まない。
• AI の政策決定者・経営者は、ＡI の複雑性、意図的な悪用を勘案。AI の理解と、社会的利用ができる知識と倫理。

• AI の利用者側は、AI が複雑な動きをする。概要
理解、正しく利用できる素養。

• AI の開発者側は（中略）社会で役立つAI 開発の観点。AI が社会でどう使われるか、ビジネスモデル、規範意識を含む。社会科学や倫理等、人文科学の素養習得。

•格差や弱者を出さない。幼児・初等中等教育でリテラシー教育。社会人や高齢者の学び直し。

•AI活用のリテラシー教育・スキル。AI、数理、データサイエンスの素養。文理の境界を超えて学ぶ。データバイアス。使い方でバイアス。
AI・データの特性。公平性・公正性。プライバ
シー保護。セキュリティ。AI 技術の限界。

•AI が浸透した社会：一方的・均一な教育から、個人の関心を活かす。柔軟に変化し続ける意識共有。インタラクティブな教育環境。学習者が連携できる環境構築。

•行政や学校（教員）に押し付けず、民間企業や市民も主体性をもって取り組む。

しかしこれらの議論で欠落していること•「AI倫理の重層性」（二重性）•今まで：環境⇄人間•これから：環境⇄AI⇄人間• なぜ、全ての議論で欠落するのか？
• どうしていいか「正解がない」から

従来のテクノロジー
信念

認知環
境

テクノロジー
行為

推論

欲求

自己意思決定参考：久木田水生「2018年社会情報学会公開講演会資料」を著者一部改変

今後のテクノロジー
認知データ

欲求

目標

環
境

AI・ロボット
推論

行為

自己意思決定参考：久木田水生「2018年社会情報学会公開講演会資料」を著者一部改変

OECDの「AI原則」（１）
信頼できるＡＩの責任あるスチュワードシップ（規範）のための原則

1. 包摂的な成長、持続可能な開発及び幸福2. 人間中心の価値観及び公平性
3. 透明性及び説明可能性
4. 頑健性、セキュリティ及び安全性
5. アカウンタビリティ

OECDの議論でも「AI倫理の重層性」(二重性)は欠落

OECDの「AI原則」（２）
信頼できるＡＩのための国内政策と国際協力

1）ＡＩの研究開発への投資

2）ＡＩのためのデジタル・エコシステムの整備
3）ＡＩを推進するための政策環境の形成
4）人材育成及び労働市場の変化への備え
5）信頼できるＡＩのための国際協力

OECDの議論でも「AI倫理の重層性」(二重性)は欠落

中間まとめ：AI時代の教育と倫理• AIの技術発展と社会認知、倫理の議論：日本は「AI人材」育成に遅れ• 2019年3-4月にAI教育構想：「年100万人の全ての高校生」、「文理を問わない全ての大学・高専生 年50万人」、「年100万人の社会人」、AIリテラシー教育、産業振興、技術習得•欠落しているもの：AIの本質（重層性）に関する議論• 一般社会：AIに職が奪われるという「勘違い」、不安を煽る報道。

例：NHKは「天使か悪魔か」という言い方を3年も繰り返す(2016,17,18)。

• 問題解決の提案：「医療倫理」の「インフォームド・コンセント」を参考にした「AI倫理の重層性」（二重性）• 「人間中心のAI」の倫理的素養：能動的な修得方法：臨床事例研究• 公開論文：水野義之「ＡＩ人材の情報倫理教育におけるインフォームド・コンセントを基盤とした能動的学修」、2019年度私情協 教育イノベーション大会（私立大学情報教育協会）、2019/09/06.

AI倫理の重層性とは何か？より妥当なAIの定義•AI（Artiﬁcial Intelligence）便利でキャッチー⇄多くの社会的混乱•ジェリー・カプラン：「自動化の絶え間ない進歩」(the continuing
advance of automation), J.Kaplan “Artiﬁcial Intelligence: What
Everyone Needs to Know”, p.17）•人間は「知能」が何であるかを説明できない•言葉で説明できないことをプログラミングできるはずがない。

（AIは「天使」でもなく「悪魔」でもない。単なるプログラミング。）•仮に「人工知能」があると「人工」の「知能」。「知能」とは何か。
知能とは「知的な能力」。「知的」とは何か「知る」こと。
「知る」とは（単なる）見聞（認知）だけではなく「認識」。
「認識」とはそこに「意味」を見出すこと。

•では「意味」とは何か。「意味」に『意味』があるのはなぜなのか。
•この問題に対するアプローチの一つが「情報の発展モデル」（水野）水野義之「情報社会における「情報」の発展モデル」、日本社会情報学会
第24回全国大会 研究発表論文集、pp.184-187、2009年.

「情報の発展モデル」とは？

水野義之「情報社会における「情報」の発展モデル」、日本社会情報学会
第24回全国大会 研究発表論文集、pp.184-187、2009年.

このモデルを基礎に、著者（水野）は「西垣流情報学」を批判した（2009年）
出典：水野義之「情報社会における「情報」の発展モデル」2009年（日本社会情報学会論文集、pp.184-187）

（中略）

（後略）

「データ・情報・知識・知恵・芸術・科学」と「知性・理性・悟性・感性」の関係は？

•「情報の発展モデル」•「情報の発展モデル」＋「知性・理性・悟性・感性」•（図を参照）•人間的能力の解明 ==> 「いまのAI」の知性とは、データを情報にする「意味付け」の模擬支援•今後の人間が出来ること＝理性（構造）、悟性（創発）、感性（総合）•AIリテラシー教育の基礎＝人間理解の深化（そうでないと道具に使われる）

情報の発展モデル＋「知性・理性・悟性・感性」
出典:1) 水野義之「情報社会における「情報」の発展モデル」2009年（日本社会情報学会論文集、pp.184-187）
2) 水野義之「ＡＩ人材の情報倫理教育におけるインフォームド・コンセントを基盤とした能動的学修」2019年（私情協 教育イノベーション大会、2019/09/06.）

人間の知能の成分分解
感性
悟性

科学の方法＝分析

理性

いまのAI

科学の内容＝知識知性（最終的には総合に戻りたい）

「幸せのための」情報技術とAI倫理•「科学」とは知識。「技術」とは知識を人間に適用したもの•例えば農学は科学、農業は技術。医学は科学、医療は技術。

•従って技術は、そもそも人間のため。人間の幸せのため。
情報技術やAIは、そうなっているだろうか。

•道徳（モラル）と倫理と法律：
道徳＝自己内部を律する道徳律、
倫理＝他者との関係で発生するジレンマ（二律）の解法、
法律＝社会の他者と折り合うための規則•技術（知識の他者への適用）での問題は倫理。
AIの場合は情報倫理•AI倫理には「二重の倫理」が必要つまり今までの議論で欠落していること•「AI倫理の重層性」（二重性）•今まで：環境⇄人間•これから：環境⇄AI⇄人間• なぜ、全ての議論で欠落するのか？
• どうしていいか「正解がない」から

では、どうしたらいいか？
医療のインフォームド・コンセントとAI倫理教育•AI倫理の教育はどうあるべきか。
•人類が最初に考察した倫理＝医療倫理＝範型（モデル）である•医療倫理は医者パターナリズムの対極。患者の自己決定権を尊重。
自己決定権の自覚があって初めてインフォームドコンセントが成立•例：医療診断に診断AIを使う場合•AI倫理の二重性（重層性）：最終的に診断される人間の、自己決定権を尊重できるように、人間（医者）が選択肢情報を提供する。

•選択肢の判断・診断にAIを使う：情報提供を受ける人間（医者）が自己決定権を発揮できるように、AIは情報の選択肢を提供すべき。

•AI倫理の本質は「二重の倫理」（重層的な倫理）という法理にある

医療の倫理の構造（身体への意図的侵襲を許すため）当事者（患者）

専門家（医者）
情報の問題を持つが表現できない

非対称性

患者は自己決定権を自覚する

知識と方法を持つが、問題を理解できない

医者は選択肢を提示する（IC）

水野義之「情報倫理と医療倫理の共通点に関する考察」, 社会情報学会(SSI)研究発表論文集、pp.313-316, 2012.
水野義之「ＡＩ人材の情報倫理教育におけるインフォームド・コンセントを基盤とした能動的学修」、私情協 教育イノベーション大会（私立大学情報教育協会）、2019年09/06.

情報の倫理の構造（脳への意図的侵襲を許すため）情報の発信者

情報の受信者
情報の問題を持つが表現できない

非対称性

受信者は自己決定権を自覚する

知識と方法を持つが、問題を理解できない発信者は選択肢を提示する（情報におけるIC）

水野義之「情報倫理と医療倫理の共通点に関する考察」, 社会情報学会(SSI)研究発表論文集、pp.313-316, 2012.
水野義之「ＡＩ人材の情報倫理教育におけるインフォームド・コンセントを基盤とした能動的学修」、私情協 教育イノベーショ
ン大会（私立大学情報教育協会）、2019年09/06.

AIの医療倫理（身体と脳[判断]への侵襲を許すために）

当事者
（患者）
問題を持つが表現できない専門家
情報の非対称性診断AI（医者）
知識と方法を持つが問題を理解できない

AIは医者に選択肢を提示（AIにおけるIC）
患者は自己決定権を自覚する

医者は選択肢を提示する（IC）

水野義之「ＡＩ人材の情報倫理教育におけるインフォームド・コンセントを基盤とした能動的学修」、
2019年度私情協 教育イノベーション大会（私立大学情報教育協会）、2019年09/06.

まとめ• AI（人工知能）時代の背景＝開発と議論の長い歴史の後：必然性がある• 日本「AI人材」育成に遅れ。2019年3-4月にAI教育構想。しかし議論不足。

• 「AIは知能ではない」。「自動化の 絶え間ない進歩」（ジェリー・カプラン）• 知能とは何か？提案：「データ・情報・知識・知恵・芸術・科学」と「知性・理性・悟性・感性」の関係を示した。

• AIリテラシー教育の本質：人間の知性と、理性・悟性・感性の区別。

• 技術は人間の幸せのため→倫理のジレンマ→AI倫理の重層性（作る/使う）• 医療インフォームドコンセント＝自己決定権の保証＝AI倫理教育に共通• AIを作る倫理、AIを使う倫理。それぞれ相手の自己決定権の保証が重要• AI倫理の学習〜医療倫理教育＝臨床的(経験的・体験的) ジレンマの討議

AI倫理の能動的学習のために• 倫理＝ジレンマ、複数の人間が関与、解決策の模索の過程（倫理＝プロセス）• 倫理には正解がない。妥協。最適化。実践的・経験的。これを教育できるか？

• 医療倫理の教育方法：臨床的な事例研究、複数の立場の矛盾、問題に遭遇、具体的経験を積む＝教育。しかし、AI倫理では問題が二重に発生する。そこで：• AI倫理（１）：AIシステム利用者が選ぶ段階（医者が診断AIの情報を選ぶ）。
AI倫理（２）：選んだ情報（他者伝達）をサービスに適用する段階。

• AI開発は、これを実現できるように、開発しなければならない。
AI利用は、この問題があることを、自覚しなければならない。
（自己決定権の自覚が、二重に発生する、という社会的な理解が必要）• AI倫理には重層性が内在。現存の全てのAI倫理の議論に欠落（してないか？）•今後のAI倫理の教育の議論に有用