特 集

E L S I 研 究 の 現 在

ELSIの「E」の不安定さ，困難さ，重要さ―倫理学から再び「E」を問う―

大阪大学 社会技術共創研究センター 特任助教

「企業は自らの開発した技術や製品，サービスの倫なが と長門ゆうすけ裕介ということの指摘である．

理的・法的・社会的課題（ELSI）を考慮し，それについて責任を負うべきだ」という文言を見て，それにまったく反対である（つまり，「そのようなことを考慮する人々は倫理を求めている？

義理はないし，なにも責任を負う必要はない」）と考える

まず，2021 年に電通と大阪大学社会技術共創研究

人はごく少ないように思われる．少なくとも，私はセンターが共同で実施した「データビジネスにおける（一市民としても ELSI 研究者としても幸いなことに）そのELSI 意識調査」を参照しよう．

ように公言する人に出会ったことはない．しかし，そこの調査では，調査会社のパネルを用いて 18 歳かのような一般論から一歩踏み出して，「では，この技ら 69 歳の男女を対象とし，日本の人口構成比に基づ術（ないし製品）が法的・倫理的・社会的観点に照らく分布で抽出した「一般生活者」20,000 名にデータして非のうちどころのないものとなるためにどのようビジネス ELSI に関する基本的な認知や課題意識を調なアクションを取るべきか」と言われたら，多くの人べると同時に，そのなかに含まれている「企業データは多少なりとも考え込んでしまうのではないか．

ビジネス従事者」を設問回答から定義し，うち 1,000

もちろん，新規技術の研究開発にあたっては現在でも多くのセーフガードは用意されている．生物や環境名を抽出して実際にデータに携わるビジネスパーソンの課題意識を明らかにしたものである．

へのインパクト・アセスメント，種々の倫理審査，既最初に注目したいのは「ELSI」という語の認知度が存の法令に照らした適法性のチェック，知財関係の確20.4％ と，予 想 外 に 高 か っ た 点 で あ る【表 1】．

認，ハイプ（誇張）を防ぐためのプレスチェック，ユ2014 年にデルフィス社が日本で実施した「第四回エーザーテストに基づくフィードバックなど，当該技術シカル実態調査」では「エシカル」という言葉を知っの種類や開発段階によって程度の差こそあれ，さまざていると答えた人の割合が 12％ にとどまっていたこ

まなチェックをくぐり抜けて技術は私たちの社会にロとを考えれば，これはかなりの進歩であると言えるだ

ーンチされることになる．

ろう（ちなみに，本調査において「ESG 投資」の認知度はそれで十分ではないか，という声もあるだろう．不20％，「エシカル消費」は 24.1％ である）．

幸にも，そうしたセーフガードをすり抜けて，痛まし次に，ELSI とはなにかについて改めて提示したうい事故や看過できない社会問題が発生することはありえで，データビジネス従事者に自身の業務と結びつけうる．だが，そうした際に企業が実際にできることはてどのような課題を連想するかを問う設問の結果を見一定の説明責任を果たしたうえで必要な補償を行い，てみよう【表 2】．

前述のようなセーフガードをいっそう強化することに尽きているのではないか，というわけである．

ここでは「今後，どのような倫理観が必要か」および「倫理的な観点から，どのようなビジネスをすべき

本稿の目的は，企業のこのようなプラクティス（慣行あるいは実践）がけしからんものであるとか不十分ということにはない．私が些かなりとも論じておきたいのは，ELSI をめぐる議論のなかで「E」つまり「倫理」という観点がしばしば遊び駒になってしまうのではないか，ということであり，本気でそれに取り組むのであればそれはそう簡単なことではない，

16

特集

ELSI 研究の現在【表 1】設問「あなたは以下の用語についてどの程度理解していますか．該当するものを選んでください．「ELSI（倫理的・法的・社会的課題）」

【表 2】設問「ELSI」とは，倫理的・法的・社会的課題（Ethical, Legal and Social Issues）の頭文字をとったもので，エルシーと読まれています．
新しい科学技術を研究開発し，社会に実装する際に生じうる，技術的課題以外のあらゆる課題を含みます．あなたが関わるデータビジネスにおいて，この「技術的課題以外のあらゆる課題」として思い浮かぶことを以下からお選びください．（複数回答）

注）数値は回収数を 100 とした％．複数回答のため重複あり．

か」といった「E」課題がトップとなった．
最後に，そもそも「倫理」という用語をどのようなものとしてイメージしているか，つまり「できるだけ【表 3】設問「あなたは「倫理」というワードについて，次の A と B のどちらに近いと思われますか．A：「倫理」とは「できるだけめざすもの」だと思う／ B：「倫理」とは「絶対に守るべきもの」だと思う」めざすもの」か，それとも「絶対に守るべきもの」か，どちらにより近いと思うかを尋ねた設問の結果を見てみよう【表 3】．ここでは，「できるだけめざすもの」

55.2％，「絶対に守るべきもの」44.8％ と，「倫理」という言葉のイメージが人によって大きく割れていることが確認できる．

性能化し，社会に浸透すればするほど，安全・確実で，以上から，少なくない人が ELSI という言葉を多少信頼できるものになっていくはずである．そうでなけなりとも知っており，ビジネスパーソンのなかには自れば，危なっかしくて誰も使わず，淘汰されてしまう

身の業務の課題として「倫理」的なものを挙げる人のからだ」とする．この考え方を楽観論として一蹴する数も一定程度には存在するとまでは言えるだろう．しことはできない．人工知能に限らず，多くの技術やそかし，この結果をもって，私のような ELSI 研究者はれをもとにした製品・サービスは，社会の中で多くの自身の存在意義を安心して見出すことができるだろう

人がそれを使いたいと思えば定着・反映し，そうでなか．問題は，「倫理」なるものが，並列される「L」ければ姿を消してしまう．その盛衰を決めるものはユや「S」とどのような関係をもっているかにかかってーザーの選好や種々の利益といった「クールな」事情いる．

であり，企業はそれをもとにさらなる投資を行うか，「倫理」なんていらない？
「倫理とはなにか」という話はひとまず措いておき，撤退するかを判断する．そこには倫理という「ウェット」な動機づけは求められていない．
もちろん，あるサービスが極端に差別を助長するという理由からユーザーがそれを忌避したり，企業がそELSI をめぐる議論のなかで倫理という概念がどのよの社会実装を取りやめたりというケースもありうる

うにして不安定な位置に置かれるかを確認しておこう．

（悪意あるユーザーによって差別的な言葉を吐くようになっ（なお，筆者が専門とするのは情報科学技術の ELSI であるこたチャットボットがサービス停止になるような状況を考えてとから，以降の記述はそうした分野での研究を念頭に置いてみよう）．しかし，そこでは倫理は「レピュテーショいることはあらかじめ断っておく）．

ン（評判）リスク」という営業上のリスクに還元されELSI における議論において「E」の役割が不安定なてはいないだろうか．そしてまた「倫理的課題」も理由のひとつは，そのようなモチベーションをもたず「誰も使わない，を避ける」という「営業上の課題」とも，私たちの社会では悪質な技術・受容されない技に溶け込んでしまうように思われるのである．

術は淘汰されていくように思えるからである．AI・ビ

上述のような「淘汰」による理論とまた別の極としッグデータの研究者である中西崇文は「人工知能は高て，「倫理」なるものはおためごかしにすぎない，と理大

科学フォーラム

2024（2）17

いう，これまた「クール」な意見が存在する．この立コンという有名な人物が登場する．彼は「正義とは，場からすれば，企業にとって倫理的対応とは，いくら不正を働きながら罰を受けないという最善のことと，でも振り出せるが決して現金化されることのない空手

不正な仕打ちを受けながら仕返しをする能力がないと形にすぎない．法的な強制力をもつハードローの制定

い う 最 悪 の こ と と の，中 間 的 な 妥 協 に す ぎ な い」や強化を避け，自主規制といった申し合わせに基づく（359A-359B）とか「人々は，自分が不正を働くことがソフトローで済ませようして持ち出されるのが法ならできると思うときにはいつだって不正を働くものであざる規範としての倫理である，ということである．

り，強制されたときにしか正しく行為したりしない．

こうした批判は，いわば「身内」である情報法政策というのも，彼らは正義とは当人にとって個人的にはや応用倫理学の研究者からも為されている．EU の AI善くないものと見ているからだ」（360C）とうそぶく．

倫理のガイドラインの策定のための高度専門家グルー

グラウコンからすれば，正義とは「自己利益を追求しプ（High-Level Expert Group on Artificial Intelligence）にて好き勝手にやる」ことを犠牲にする代わりに，「相参加した哲学者のトマス・メッツィンガーは，倫理の手から害を受ける」や「（好き勝手にやったことの）仕名のもとに実質的な規制を骨抜きにしようとするテッ返しをされる」ことを防いでくれるものである．注意

ク企業の姿勢を「エシックス・ウォッシング（倫理洗しなければならないのは，グラウコンは「正義など存浄）」という言葉を用いて批判している．エコフレン

在しない」とか「正義など無意味だ」と言っているわ

ドリーであることを自ら謳う企業がことさらに自社製けではない，ということである．グラウコンのボキャ品のパッケージに緑色を用いたり，一般的に使われなブラリーのなかにも「正義」というものは存在していくなった化学物質の不使用をわざわざ喧伝するといっるが，それは利害調整のためしぶしぶ受け入れるものた仕方でうわべだけのアピールを繰り返すことを「グであり，その限りでしか力をもたない，というのがポリーン・ウォッシング」と言うが，これになぞらえてイントなのである．

「倫理」を盾にして取り組まなければならない具体的

それに対して，哲学者であるソクラテスは正義といな問題を曖昧にし，規制逃れを目指す姿勢が批判されうものがそのような情けないものであるはずがない，ているのである．という強い確信を抱いている．グラウコンの言い分にここまで見てきたように，現在の ELSI 対応の現場

従えば，正義に従うということは「自己利益の追求」において倫理的課題，「E」というものは，せいぜいという当人にとって最高の状態をあきらめているのだ

が（どちらも事業の継続性に関わるという意味で）社会受から，そのような人が全面的に（どこからどうみても）容性に対応する「S」課題や法的課題をクリアする幸福であるということはあり得ない．しかし，ソクラ「L」課題のどちらかに還元されるか，あるいは規制テスは正義とはそのようなしぶしぶ受け入れるもの

逃れの方便や厳しい社会的批判への目くらましに使わ（そしてその結果として最高の状態から遠ざかってしまうもれるか，といったなんとも情けないものでしかない，の）ではなく，正義はそれ自体目指されるものであり，少なくともそう思われても仕方ないものに留まるようまた正義に即した行為をしている人こそが本当の意味に見える．

で幸福であるということを証明しようとする．身体が健康であることはそれ自体望ましいことであり，また倫理と妥協

その身体の持ち主を幸福に導くのと類比的に，魂が健康であること，すなわち理性が欲望を制御しているこ倫理とはなにか，という大きな問いにここで答えることはできない．しかし，哲学の一部門として発展しとはそれ自体望ましく，また当人を幸せにする，というのがその証明の方針の概略である．てきた倫理学は，倫理を「現実的な妥協」と離れた一その証明の正否はここでは詳らかにしないが，プラ種の「理想」としてイメージすることにさほど躊躇しトンが『国家』のなかで，「本当に善いことはなにか」ない傾向があることは確認しておいてよいだろう．問や「本当に幸福であるとはなにか」という仕方で「理題となっているのは「なにが本当に善いことなのか」想」を語ったことは重要な意味がある．頭の中で思いであって，「どうしたら人から嫌われないか」といっ浮かべたことは単なる空想にすぎないが，理想は基準たものではない．

ないしモデルとして，現在の正と不正，幸福と不幸を444

簡単な例として古代ギリシャの哲学者であるプラトンの対話篇『国家』を見てみよう．この本にはグラウ

18

特集

ELSI 研究の現在444444

判定するのに役に立つ．
端的に言えば，倫理学とは「現実はこうだ（人間は，本音では自己利益を追求したいのだが諸所の事情で諦めてい利益のみを志向し，技術者は自分の技術が実装されるる．枷が無くなればいくらでも不正を犯す）」を直接否定ことのみをめざしているのであって，倫理的理想などするというよりも，「現実はそうかもしれないが，本考えていないのだ，ということである．しかし，企業当はそうあるべきではないかもしれない」というとこや技術者をそのようなものとして考えることこそ臆見

ろから出発する学問なのである．

（ドクサ）かもしれない．私自身が研究者としてある

444

そしてなにより意識されなければならないのは，現IT 企業の倫理原則策定の現場を参与観察した経験か実の場で不可避に生じる「妥協」というものも，このらすれば，技術者や管理職が利益（ないし技術）と倫「理想」との関係のなかで初めて意味を持つのであっ理のトレードオフを語るだけでなく，倫理と倫理のトて，理想抜きの妥協というものはありえないというこレードオフ（多くの人を幸せにする技術だが，少数者に疎とである．
「理想はそうかもしれないが現実には妥協外感を与える可能性がある，など）を意識していることせざるを得ない」という紋切り型の言葉が発せられるは少なくない．

とき，本当に人は「理想」の内実を吟味しているのだ

E 課題を真に倫理の問題として考えるにあたっては，ろうか．理念としての倫理はそうした妥協ありきの思

制度的な解決だけでは決して十分ではなく，倫理的理考を厳しく監視するために生じたそれ自体規範的な概想を自分で考えることが必ず含まれる．しかし，私た念なのである．

ちは多くの場合，その倫理的な葛藤から生じる思考の「倫理」の苛烈さを重要視する芽を，問題を L や S に還元することによって，じゅうぶんに開花する前に摘んでしまっているのかもしれない．倫理の問題はその解決にあたって自分で考えな先に確認したように，ビジネスパーソンを含む少なければならないという苛烈な要求を課すが，それは時くない人々が技術における E 課題に直面し，それに間がかかることであり，容易にできるものではない．

対応する必要があることを自覚している．しかし，倫しかし，そうであるからこそ，私たちは理想と妥協を理というものをひとたび理想と関連づけて捉えると，有意味に語ることができるのだし，結果的に自律したそれが決して容易ならざるものであることがわかる．

存在になることができるのである．

E 課題を倫理の問題として解決すること，つまり L課題や S 課題に還元しない形で E 課題に向き合うためには，まず自らの依って立つ倫理的理想を明らかにしなければならない．現在，多くの AI 倫理原則が策定され，ELSI 対応のフェイズも「原則から実践へ」，つまり尊重されるべき原則がどのような手続きによって担保されるかが問題になっている．それは歓迎すべきことであるが，倫理的理想の内実は個々のステークホルダーが自律的に決定しなければならない．「なになにの倫理原則ではこうなっているから仕方なくやる」という姿勢こそが E の領域を E の領域として見ることから遠ざかる第一歩なのである．
エシックス・ウォッシングも基本的にこれと同様の問題を抱えている．ハードローで対応すべきものと自［ 参考文献 ］

・ 岸本充生，長門裕介，朱 喜哲（2022）「生活者・データビジネス従事者の ELSI 課題意識を読み解く」，『電通報』2022/08/22（https://dentsu-ho.com/articles/8297）．
・ 中西崇文（2017）『シンギュラリティは怖くない

ちょっと落

ちついて人工知能について考えよう』草思社．
・ Bietti, E.（2020）. From Ethics Washing to Ethics Bashing: A View on
Tech Ethics from within Moral Philosophy. Proceedings of the 2020
Conference on Fairness, Accountability, and Transparency, FAT* ʼ20,
Association for Computing Machinery.
・ Metzinger, T.（2019, August 4）. Ethics Washing Made in Europe.
DerTagesspiegel.
（https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washingmade-in-europe/24195496.html）
・ プラトン（1979）『国家』藤沢令夫訳，岩波文庫．

主規制で対応するものがあらかじめ決まっているわけではないにもかかわらず，あたかもそのように振舞うことによって，目指すべき倫理的理想を構想するインセンティブを失わせてしまうことそのものが危険なのである．
ここで，企業人や技術者は倫理的理想を考えるためのインセンティブなどもとより持ち合わせていないのではないか，という反論があるかもしれない．企業は
理大

科学フォーラム

2024（2）19