Designシンポジウム2021 講演論文集

倫理的設計の支援は草の根 AI ネットワーク化するとどう変わるか？
What will change if a grassroots AI network for ethical design is realized?

○関口海良 *1

堀浩一（東京大学大学院） *2*1*2

Kaira Sekiguchi, kaira [at] dfrome.com
Koichi Hori, University of Tokyo, 7-3-1 Hongo, Bunkyo-ku, Tokyo 113-8656, hori [at] computer.org
キーワード:倫理的設計,設計理論,創造活動支援,草の根 AI ネットワーク

1. 緒言

近年，人工物が社会全体に与える影響まで考慮した設計がますます重要と認識されている．代表的な例は持続可能な社会や，人間中心の社会の実現に関するものである．以
下，人工物に関するこれら社会的な価値や，設計者やステークホルダの在り方まで含めて扱う設計のことを「倫理的設計」と呼ぶことにする．
また，倫理的設計を支援するための設計支援ツールや創造活動支援ツールといったツールの開発も進められている．
筆者らも主に倫理的設計における概念設計を対象とした支援ツールを提供し (1)～ (2)，さらに，倫理を考慮することでより創造的な設計につながる事を示した (3)．
しかし，ひとつのツールによる支援では網羅性や中立性に限界がある．一般に，関連データを網羅する知識ベースを作成することは困難である．他にも，計算ロジック内で用いられる定数の設定に設計者の立場の偏りが入る可能性がある．さらに，どのデータを収集するかの判断も偏る可能性がある．
そして，これらの論点は倫理的設計を扱う際に特に問題となる．倫理的設計では扱う影響の範囲が社会全体までと広く，関連する価値に関しても多様な立場があり得るからである．
そこで，本研究では倫理的設計の支援に際して独立して提供されている支援ツールをネットワーク化することを提案する．このネットワーク（以下，「草の根 AI ネットワー
ク (4)」）において網羅性と中立性を相互に補完させることで，倫理的設計に関するより質の高い支援の実現を目指す．
この目的のため，本論文では倫理的設計を支援するための草の根 AI ネットワークを対象としたフィージビリティスタディを扱う．このスタディにより，草の根 AI ネットワーク化することで倫理的設計に関するどのような支援が可能になるかや，どこに課題が生じるかを具体例に基づき議論することが可能となる．
以下，まずは筆者らが提案する倫理的設計理論の概要を振り返る．そして，倫理的設計理論を用いて，倫理的設計を支援するパターンを整理する．その後，草の根 AI ネットワーク化に関して本論文で扱う範囲を設定した上で，フィージビリティスタディの設定について記載する．その後，フィージビリティスタディの結果について報告し，議論を行い，結論と今後の課題を導く．

2. 倫理的設計理論の定義
まず倫理的設計理論 (1, 3)の概要を示す．倫理的設計理論は倫理まで含んだ設計における視点と，この中で設計アイデアを記述するための方法からなる．本研究では前者を「倫理レベルからの設計」と呼び，後者を「言説による設計」と呼ぶ．倫理的設計理論は本研究において整理のための枠組みとしての役割を担う．また，支援ツールに対しては表現空間の仕様や，データのフォーマットを提供する．
2.1. 倫理レベルからの設計
まず，倫理レベルを人工物の階層表現の最上位に位置付ける（図 1 の中央上部）．ここで「倫理レベル」とは，人工物が社会全体に与える影響を扱うレベルとする．例えば，持続可能性や社会における自由や平等に関する議論をここで扱う．
人工物の階層表現においては，人工物と人とのインタラクション (5) に対応するレベルまで既に扱われてきたと整理することができる．本研究ではこのインタラクションを扱うレベルの上に倫理レベルを位置付けている．
Dimension 1: hierarchy of levels

Personal
reasons

Ethics level
Interaction (Field) level
System (User interface) level
Subsystem levelSub-subsystem level
Parts level
Material level

Effects
on meDimension 2: comprehensiveness of ideas
Dimension 3: personal concerns

Fig.1

Extended Version of the Hierarchical Representationof artifacts (See also works(1, 3))次に，設計者やその他ステークホルダの個人的な表現を扱う表現空間をさらに二つ位置付ける．ひとつは設計における個人的理由を扱うものである（図 1 の左側の面）．例えば，設計者が有する課題意識や欲求をここで表現する．
もうひとつは個人としての影響を表現するものである（図 1 の右側の面）．例えば，自身のキャリア形成にどうつ41

Designシンポジウム2021 講演論文集2.

3.

Since A is a personal reason, I/we generate a design thatwill change B to C in the hierarchical representation ofartifacts;
If B is changed to C at the parameter level, then D willchange to E at the target level in the hierarchicalrepresentation of artifacts;
If D is changed to E in the hierarchical representation ofartifacts, then F will change to G as effects on me/us.

(15)

(14)
(1, 2)
(9)
(10)

(3)

(2)

A

(1)

PersonalreasonsParameter level

F=> GB=> C

Hierarchical representationof artifacts

Effects on me

Transitions of personal concerns

Fig.2

Description Method of the Ethical Design Theory(See also works(1, 3))

図 2 において，個々の設計アイデアを示すボックスのことを「アイテム」と呼ぶこととにする．また，ひと連なりのアイテムからなるパスが示す内容を「シナリオ」と呼ぶことにする．設計アイデアの全体としては，これら複数のアイテムが数珠つなぎの形で繋がったツリーのような形（以下，「ツリー」）を形成することになる．
重要な点は，これら視点や方法を用いることで工学的なアイデアから倫理的なアイデアまでを連続的に扱えるようになることである．例えば，現場の工学者が自身の活動の延長上にシームレスに倫理的論点を扱えるようになる．

3. 倫理的設計の支援のパターンの整理
倫理的設計理論を用いることで倫理的設計を支援するアプローチをパターン分けして整理することができる．
3.1. 本論文で扱う範囲の設定
倫理的設計の支援のアプローチは図 3 の 15 個のパターンに整理できる．図 3 では「a を b に変える」という設計アイデアに注目した状況を示している．そして，このアイデアの上下左右に設計アイデアを展開することを考える．

42(12)(5, 6)Fig.3

D=> E(13) a=> b(11)

本研究では，これらひとつひとつの記述がひとつの設計アイデアに対応するものとして扱う．
図 2 はこれら三つの文法を可視化したものである．
Target levelt(7, 8)

1.

図中の黒矢印は設計アイデアの網羅性に関する支援があり得ることを示している．各黒矢印にはふたつの数字を対応させている．奇数は網羅性の向上の支援，偶数は選択の支援を示すものとする．これら二つの操作を描き分けることは，図が煩雑になる事を避けるため割愛した．
繰り返しになるが，まずはより網羅的な考慮を促す支援が考えられる（=1,3,5,7）．例えば，多様なシナリオの推薦を行うことができる．このことはまた，蓄積するデータの選択の判断に起因する偏りを軽減する効果もあるものと考えられる．

(3, 4)

ながるかや，自身のビジネスにどのようなインパクトがあるかなどを表現することができる．
他にも例えば，研究テーマを扱う際には個人的理由として背景を，人工物の階層表現では取り組む中身を，個人としての影響では今後の課題を表現することができる．
2.2. 言説による設計
次に，言説による設計を定義する．これは設計アイデアを記述するための方法である．ここでは設計アイデアを下記の三つの文法に従って記述するものとする．

Patterns to Support Ethical Design

次に，複数ある設計アイデアの中からの選択に関する支援も考えられる（=2,4,6,8）．例えば，多くの社会で禁忌とされていることに関してはアラートを出すことなどが考えられる．この支援を多角的に行うことができれば，設計アイデアの選択に関する偏りを軽減する効果が期待できる．
さらに，白矢印は論理的整合性の確認の支援があり得ることを示している（=9〜12）．例えば，シナリオのパスの中に論理的飛躍があれば設計アイデアの内挿を促す支援などが考えられる．
加えて，「a を b に変える」というアイデアそのものに関する理解を深める支援も可能である（=13）．例えば，辞書の提供がこれに当たる．他にも，設計アイデアの時間変化を扱う支援も可能である（=14）．例えば，バージョン管理がこれに該当する．また，倫理的設計理論自体の見直しをメタな視点から行う支援も可能である（=15）．

4. フィージビリティスタディの設定
倫理的設計の支援を草の根 AI ネットワーク化する際も，期待される効果は上述の 15 個のパターンに整理できると考えられる．
4.1. 本論文で扱う範囲の設定
上述の 15 個の支援の内，本論文ではふたつのパターンを扱うことにする．そして，それぞれに対応したフィージビリティスタディのケースを下記のように設定する．
l
図 3 の 1：注目する設計アイデアが外部環境に与える影響をより網羅的に考えるための支援．以下，対応するフィージビリティスタディのケースを「影響調査ケース」と呼ぶことにする．
l
図 3 の 5：倫理的設計を実現する手段についてより網羅的に考えるための支援．以下，対応するフィージビリティスタディのケースを「手段調査ケース」とDesignシンポジウム2021 講演論文集呼ぶことにする．
その他の支援のパターンを扱うことは今後の課題とする．
4.2. 二つの支援ツールの利用
今回のフィージビリティスタディでは二つの支援ツールを利用する．これらを用いてに草の根 AI ネットワークを模擬する．ひとつは Dfrome（Website for design from theethics level）(2)である．もうひとつは KNC（Knowledge NebulaCrystallizer） (6)である．以下，各ツールの概要である．
4.2.1. Dfrome
Dfrome は倫理的設計理論に基づき倫理的設計を支援する有機的で動的なツールである．ここで有機的とはアイデア間の相互関係を考慮することを意味する．
動的とはユーザが有する文脈を考慮することを意味する．
Dfrome の構成要素は主に四つである．すなわち，（a）倫理的設計理論が定めるツリーの形式に基づいて設計アイデ
アを編集するためのエディタ，（b）編集した設計アイデアを保存するクラウド環境（知識ベース），（c）知識ベースに対して自然言語処理等を用いて計算を行う探求用エンジンと，（d）知識ベースに保存されたデータを簡易的な操作で閲覧可能とするブラウザである．知識ベースには倫理に関するものから機械学習など具体的な技術に関するものまで蓄積されている．フィージビリティスタディで用いる時点の知識ベースには 133 個のツリーが閲覧可能な状態で蓄積されている．
Dfrome はさらに発展的な二つの機能を備えている．ひとつは半自動生成である．これはユーザが入力したテキストを倫理的設計理論で定めるツリーの形式に変換するものである．変換されたツリーはユーザに更なる編集や考察を促すたたき台となる．この際，アイテム内の一部の記述が空白であるなどした場合でもなるべく結果のツリーを返すような計算処理としている．
もうひとつはシナリオパスの推薦である．シナリオパスの推薦はエディタとブラウザによって提供されている．今回のフィージビリティスタディではエディタ版を利用する．
支援の内容としては，ユーザが人工物の階層表現内のひとつのアイテムを入力として与えるといくつかのシナリオを提示するというものである．その際，ユーザは二つのオプションを選択することになっている．ひとつは階層内の上方向に向かうシナリオを得るか，下側に連なるシナリオを見るかである．もうひとつは，入力のアイテムに連なる他のシナリオと類似のものの推薦を受けるか，「 考えていそうで考えていなかった」シナリオの推薦を受けるかである．
4.2.2. KNC
KNC は知識ベースに筆者内の一人（=堀）が研究メモを約 15 年に渡り蓄積している．そして，文脈に応じてストーリーを動的に構成する．提供するサービスの例としては，（A）自己紹介の概念空間の提示（マニュアルで作成），（B）起承転結のストーリーの提示（自動生成）と，（C）ユーザの行動履歴に基づいた現在の興味の推定位置と興味の移動予測の提示がある．KNC には複数のバージョンが存在しているが，フィージビリティスタディの実施時点で利用可能なバージョンを利用することにする．
4.3. ネットワーク化を模擬した処理
今回のフィージビリティスタディでは主として Dfromeのシナリオパスの推薦（エディタ版）を用いる．ネットワーク化の処理の概要を示したのが図 4 である．
まず，入力に用いるアイテムのテキストを Dfrome の操作者（=関口）から KNC の操作者（=堀）へ送る．KNC 側ではこれを入力として KNC の知識ベース内で距離が近いテキストを計算する．そして，上位のテキストを Dfromeの操作者へ返す．
Dfrome 側では，取得したテキストが日本語の場合には英訳したり，タイトルや日時情報を除くなどの前処理を行う．
その後，Dfrome の半自動生成を用いてツリーへと変換し保存する．
次に，このツリーをパス単位に「ばらばら」に分解して保存する．これらパスがシナリオパスの推薦の候補となる．
これら処理もシナリオパスの推薦機能の関数を利用する．
最後に，シナリオパスの推薦を実施する．
評価に際しては，フォルトの状態よりも，KNC と連携した方がより幅広いシナリオの推薦が可能となるかを確認することとする．
上述のように，今回はネットワーク化の処理の内，一部をマニュアルで行なうこととする．全てを実装して提供することは今後の課題である．
DfromeKNC(1) Scenario path (2) Semi-automatic
recommendation
generation(3) Story
generation
Calculatedistancesamong texts

Extract the
input text
Choosean itemandoptions

Parse the tree
into scenario
paths

Make a tree
from a text

Order thetexts

A*Getresults

Calculate which
scenario
paths should
be presented

B** Dotted arrow show that the corresponding process is cyclic** Note that some parts of this networking process is manually operated atpresent

Fig.4

Overview of the Networking Process in theFeasibility Studies(See also works)
4.4. ケースの設定
本論文で扱う二つのケース（第 4.1 節参照）に共通する設定と，個別の設定について記載する．
4.4.1. 共通の設定
今回のフィージビリティスタディ
では先行研究 (3)において被験者 J が作成したツリーを入力として用いる．ツリーのテーマは被験者 J が務める企業のミッション (7)である．図 5 が被験者 J により編集された最終的なツリーである．この内，アイテム（a）から（e）へとつながるパスは，被検者 J がシナリオパスの推薦を用いて考察を行った箇所のひとつである．本スタディでは主にこの部分を扱う．
図 5 の内，被験者 J がシナリオパスの推薦に入力として用いたのは（a）である．アイテム（b）から（e）は被検者J によってマージされたパスである．それぞれの記述内容
は，（a）「farmer => Increase sales with sustainably-grown,value-added fish」，（b）「** People => have more freedom onprocurement of goods everywhere」，（c）「Society => hold more
freedom to choose and change his residence」，（d）「We =>43

Designシンポジウム2021 講演論文集

notice that there are reversal effects」，（e）「We => think about
designs that only cause good effects」である．
4.4.1. 影響調査ケースの設定
本ケースでは被験者 Jがシナリオパスの推薦を行なった状況を模擬する．具体的には，被験者 J がマージしたパスを切り離してシナリオパスの推薦の実施前の状態を再現する．次に，被検者 J が用いたのと同じ（a）のアイテムを入力として用いる．そして，階層の上方向へと向かうシナリオの推薦を受ける．ここで，入力として用いるテキスト中にある「=>」の記述ついてはDfrome 内の処理でも除外しているので，KNC での処理でも除外する（手段調査ケースでも同様）．
被験者 J はシナリオパスの推薦に関して，どのアイテムを入力に用いても「ドローン」に関する結果が出てくるという趣旨のコメントをしていた．そこで，網羅性の向上の確認のために，ドローン以外に関するシナリオがどれだけ幅広く出てくるかを確認する．
4.4.1. 手段調査ケースの設定
次に，被検者 J がマージした倫理的なアイデアに関するアイテム（c）を入力として，下方向に連なるシナリオの推薦を受ける． 本ケースでは，KNC から返されたテキストにて参考文献が紹介されている場合には，インターネットからアブストラクト（ないしサマリー）の情報を取得して文献名と置き換える処理をマニュアルで施す．これにより，より情報量の多いツリーの作成を目指す．
他にも，図 5 においてより技術的な設計アイデアである（f）から（l）の記述も KNC への入力候補とする．それぞれの記述内容は，（f）「Our products => be built as feeding
system made by integrating many technologies and data」，（g）「developing with IoT => allows it to remotely control many
devices at the same time」，（h）「developing with AI => detectfish size automatically and optimize feeding patterns」，（i）「 developing with cloud service like AWS => trace logs
feeding activities and user activities」，（ j）「 utilizing satellite data=> indicates environmental conditions」，（k）「AI system =>improve detection rate of defective products」，（l）「AI system=> detect defective products based on image data etc…」である．

5. フィージビリティスタディの結果
フィージビリティスタディで行なった二つのケースについて結果を記載する．
5.1. 影響調査ケースの結果 1
表 1 は，影響調査ケースにおいて KNC から Dfrome に返されたテキストである．ここでは上位 5 件を示している．
この内，二番目のテキストを続く処理に用いることとした．
テキストに相応の長さがあり，シナリオパスの推薦の元データを作成するのに適すると考えられるためであった．
図 6 が表 1 の二番目のテキストを元に Dfrome の半自動生成を用いて作成したツリーである．アイテム内の記載については空欄となっているものも多く存在するなど不十分な点もあるが，それでもツリーの形式での表現が得られていることが確認できる．記載内容の詳細についての説明は
1

本ケースは国際会議の口頭発表（PHTR2020）および人工知能学会全国大会（JSAI2021）で報告したものである．本
論文では改めて紹介した上で新たな考察を加える．

44

省略するが，PDF 形式で閲覧している場合は拡大して中身を参照可能としている．
Table.1

Return from KNC to Dfrome (Effect Study Case)No.

Summary1

Overall purpose is important. Does GAN deal withpurpose?

2

EU, ETHICS GUIDELINES FOR TRUSTWORTHY
AI

3

In your /etc/apache2/httpd.conf file you’ll need tochange: …

4

User-subjective approach

5

KNC18: Can I use the Embeddings of knowledge
graphs?

次に，表 2 が図 6 のツリーをシナリオパスの推薦の元データとした際に，得られたキーワードのまとめである．新
たな複数のキーワードが確認できることから，KNC との連携により，より幅広いシナリオの推薦を実現していることが確認できる．
Table.2

Overview of Keywords Recommended by Dfrome andKNC (Effect Study Case)

No.

Scenarios refer toDefault

Drone (relay communication, search and rescue,border surveillance, freedom, etc.), A/IS, privacy,etc.

2Training, education, trustworthy, transparency,assessment, etc.

図 7 は影響調査ケースにおけるシナリオパスの推薦の例である．ここでは，入力に用いた（a）のアイテムから「Allstakeholders => be aware of and trained in Trustworthy AI, sothat」へとつながるシナリオが得られている．これにより，「Trustworthy AI」という新たなアイデアを得られていることが確認できる．
5.1. 手段調査ケースの結果
表 3 は，手段調査ケースにおいて KNC から Dfrome に対して返されたテキストである．ここでも上位 5 件を示している．この内，一番目のものは筆者らの論文に関するものであったため不採用とした．一方，二番目のもので「面白い」結果が得られたためこれを採用することとした．
Table.3

Return from KNC to Dfrome (Means Study Case)No.

Summary1

AI support tool for Ethical AI Design by Sekiguchi andHori2

Locally noisy autonomous agents improve global
human coordination in network experiments, Nature545, 370-374, May 2017.

3

Knowledge management

4

Importance of purpose

5

User-subjective approachDesignシンポジウム2021 講演論文集

図 8 が表 3 の二番目のテキストを Dfrome がツリー化したものである．ツリーの形式での表現が得られていることが確認できる．
表 4 が図 8 のツリーを元データとしてシナリオパスの推薦を行った際に得られたキーワードのまとめである．本ケースではデフォルトの状態でも幅広いシナリオが推薦されていることが確認できる．そして，KNC との連携により新たなシナリオの推薦を実現できていることも確認できる．
Table.4

Overview of Keywords Recommended by Dfrome andKNC (Means Study Case)

No.

Scenarios refer toDefault

Translation, education, human value compatiblity,participation procedures, workshops, standards,algorithms, human judgment and control,
governance framework, citizens, risk, misuse, etc.

2

Subjects inrandomness

networks

withbots,behavioral

図 9 は手段調査ケースにおけるシナリオパスの具体的なイメージである．入力に用いた（c）のアイテムから「Behavioral randomness => work not only by making the taskof humans to whom the bots were connected easier, but also byaffecting the game play of the humans among themselves andhence creating further cascades of benefit in global coordinationin these heterogeneous systems」というアイテムにつながるシナリオが得られている．
一方， KNC への入力候補としてより技術的な記述についても図 5 の（f）から（l）として用意していたが，傾向としては「ひっかかるキーワードが少ないようで，あまり面白いのが出ない」という結果となった．

6. 議論

フィージビリティスタディの結果を受けて議論を行う．
まず期待通りの結果が得られた点について記載する．その後，期待通りの結果が得られなかった点について論じる．
6.1. 期待通りの結果が得られた点重要な点として，今回のフィージビリティスタディによって網羅性の向上を示す結果が得られたことを挙げることができる．このことは，Dfrome と KNC の連携により，Dfrome だけでは提示できないシナリオパスを推薦できたことで確認された．これは影響調査ケースと手段調査ケースのいずれにおいても確認された．
また，支援の 15 パターンへの整理は倫理的設計理論に基づくものであった．今回は 2 パターンのみを扱ったが，その他のパターンについても同様に扱えるものと考えられる．
これは倫理的設計理論の有用性を示すものである．
6.2. 期待通りの結果が得られなかった点
期待通りの結果が得られなかった点については大きく下記三点を挙げることができる．
(ア) 倫 理 レ ベ ル ま で 至 る シ ナ リ オ が 出 て こ な か っ た 点（影響調査ケースにて）(イ) レ ベ ル 間 に ギ ャ ッ プ の あ る シ ナ リ オ が 出 て き た 点（手段調査ケースにて）(ウ) 入力のテキストと KNC の知識ベースに共通するキーワードが見つからない際に，「面白い」結果が得られなかった点（手段調査ケースにて）ひとつ目に関しては，元データが「Trustworthy AI」という AI の性能に関するものだったことが影響している．たしかに，これは AI 倫理に関して重要な論点である．しかし，これは AI という個別の人工物に関するものであり，社会全体に対応する考察は別のレベルで行うものと考えることができる．AI に関する倫理を扱っていても倫理レベルを扱っているとは限らないことは気づきにつながる可能性がある．
しかし，倫理レベルまでつながるシナリオを期待している今回のような場合には不十分な結果であった．
この問題への対応として，倫理レベルまで至るデータの不足を補うことが考えられる．例えば，今回のようにテキストをひとつずつ処理するのではなく，複数のテキストをまとめて処理する．実現方法としては，テキスト毎に生成したツリーを複数作成してそれぞれからシナリオパスを作成し，シナリオパスの推薦に用いもの法が考えられる．あるいは，複数のテキストからひとつのツリーを作成して用いる方法も考えられる．
二つ目に関するしては，技術的アイデアから倫理的アイデアまでシームレスにつなぐ点が損なわれており問題である．これにより，技術者が自身の活動と倫理的なアイデアの関連を見出すことが困難となる可能性がある．
図 8 を見ると，生成されたアイテムは相応の数がある．
しかし，人工物の階層表現内での連関を示す実線の矢印が離れた箇所で二本しか引かれていない．したがって，候補となるシナリオパスも数もこの二つだけとなる．さらに，これらはそれぞれ二つのアイテムだけからなるパスであり，数珠つなぎの形で論理を展開する形にはなっていない．
このようなアイテム間の連関が弱いツリーが生成された要因としては，アイテムの生成がうまくいっていない可能性と，矢印の生成がうまくいっていない可能性の両方が考えられる．これに関しては，Dfrome の半自動生成を用いていることが影響していると考えられる．今回は Dfrome の知識ベースのみを参考にして半自動生成を行なっているため，結局は，Dfrome で繋がりを類推できるシナリオパスしか推薦できていなかったものと考えられる．
例えば，KNC はストーリーの生成機能も備えている．このような他のツールの機能を利用してシナリオパスの生成を行うことも有効であると考えられる．
加えて，この二つ目の問題に関しても上述の元データの不足の問題も影響していると考えられる． これにより，生成されたアイテムが不足していたものと考えられる．
三つ目に関しては，ユーザや知識ベース毎にキーワードが異なる問題への対応が必要である．例えば，今回のケースでは被験者 J が作成したツリーと，KNC の知識ベースの間に，Dfrome の知識ベースにあった設計アイデアを仲介させたことでキーワードのつながりが生まれた．そして，KNCにおいて関連するテキストを計算することができた．このように，知識ベース単位で複数つなぐことでキーワードのギャップの問題を解決することも可能であると考えられる．
他にも，キーワードを個別に扱うのではなく共起語などの周辺情報を付加するなどの技術的な対応を考えることもできる．

45

Designシンポジウム2021 講演論文集

7. 結論と今後の課題
本研究では，倫理的設計に向けたより質の高い支援を実現するために個別の支援ツールを提供するだけでなく，これらを草の根 AI ネットワーク化することを提案した．そして，フィージビリティスタディによりその実現可能性を具体例に基づき確認した．
今後の課題としては，草の根 AI ネットワークの残りの機能を実装し，サービスとして提供することを挙げることができる．この際，今回確認された「期待通りの結果が得られなかった点」に関する改善点を反映する必要がある．さ
らに，今回扱わなかった残りの 13 パターンについてもフィージビリティスタディをはじめとした検討を進める予定である．

文献(1) Sekiguchi, K. and Hori, K.: Organic and Dynamic Tool for
Use with Knowledge Base of AI Ethics for Promoting
Engineers’ Practice of Ethical AI Design, AI & SOCIETY,
Published online, 2018.; Vol. 35, No. 1, 51–71, 2020.
DOI：10.1007/s00146-018-0867-z(2) Dfrome：Website for Design From the Ethics Level：
www.dfrome.com(3) Sekiguchi, K. and Hori, K.: Designing Ethical Artifacts
Has Resulted in Creative Design: Empirical Studies on theEffect of an Ethical Design Sup- port Tool, AI &SOCIETY, Published online, 2020.; Vol.36, No.1, 101–148,2021. DOI：10.1007/s00146-020-01043-6(4) 堀浩一: 人工知能として認識されない人工知能の埋め込まれる社会に向けて, 情報通信政策研究, Vol.2, No.1,11–19, 2018. DOI：10.24798/jicp.2.1_11(5) 中小路久美代：研究会千夜一夜：インタフェースからインタラクションへ −ヒューマンインタフェース研究会—, 情報処理 Vol.48, No.2, 202–203, 2007.
(6) KNC：Knowledge Nebula Crystallizer：
http://www.ailab.t.u-tokyo.ac.jp/horiKNC/knc/indexjp(Willgradually
bemigratedto
https://www.koichihori.tech: Also there exists the latest
stand alone version.)(7) UMITRON K. K.：Mission：
https://umitron.com/en/mission.html. (参照日 2019 年 4 月
8 日〜12 日)

(b)

(c)

(d)

(a)

(f)
(g)
(l)

Fig.5

46(h)

(i)

(j)

(k)

Overview of Subject J's Tree (See also out Previous Work (3) and Original Input Material(7))(e)

Designシンポジウム2021 講演論文集

Fig.6

A Tree Generated by Dfrome (Effect Study Case)

(a)

Fig.7

(b)

An Image of Scenario Path Recommendation (Effect Study Case)47

Designシンポジウム2021 講演論文集

Fig.8

A Tree Generated by Dfrome (Means Study Case)

(b)

(a)

Fig.9

48

An Image of Scenario Path Recommendation (Means Study Case)