第10回 成果発表会
個人の意思決定に有用な情報(内容)の信頼性に関する考察
2019年10月7日

先端IT活用推進コンソーシアム
コンテキスト･コンピューティング研究部会
Copyright © 2019 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

課題認識
情報爆発

重要な決定は社会的な知に頼る
社会的な知の構築、活用、更新
計算機が日常生活に近接

認知限界
認知バイアス
消極的自由の肥大

不確実性の高まり

気候変動
社会の複雑化
世界のフラット化

情報取得から情報活用へ

有用な情報をみきわめる• 個人の意思決定に有用な情報– 信頼できる情報• 石から玉を見つける(玉石混淆)• 定式化困難な課題に対する妥当解

Copyright © 2019 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

2

活動の背景と目的• 背景– 情報の入手は容易になってきた– 専門知だけを重視するのではなく、社会知能という考え方が提唱されている• どのような主観性が考慮されるか– 非構造の情報源を前提として、人と機械の適切な役割分担によって、大量の非構造化情報源に対する意味処理を可能とする• 未定式の課題を定式的な課題にリアルタイムに変換し、解決• 目的– 近未来の情報社会をビジョンとして描き、コンテキスト・コンピューティングにより個人と社会のインテリジェンス（Social Intelligence）が階層的に連動する情報基盤を提言する

Copyright © 2019 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

3近年の活動トピック• 第4期– Project LA & System LA 「Lead to Action」– 論文投稿「コンテキスト・コンピューティングの構想」など3件• 第5期– 「情報推薦システム入門: 理論と実践」– リアルタイムWebとリアクティブプログラミング• 第6期– 「集合知とは何か – ネット時代の「知」のゆくえ」– 「言語処理のための機械学習入門」
集合知の要件– 合意形成と情報の集約
多様性、独立性、• 第7期– 「議論のレッスン」、「議論の技法」– 合意形成を支援するためのシステム• 第8期

分散性、集約性、善意と信頼、大規模性– 論文投稿「コンテキスト・コンピューティングにおける投稿の信頼性評価」– 「ビッグデータと人工知能 – 可能性と罠を見極める」– 「信頼の構造 - こころと社会の進化ゲーム」• 第9期– 次ページ参照

Copyright © 2019 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

「集知約 」とのは技な法にか情社
報会の知信に頼お性ける

4

第9期の活動内容と成果• 活動内容– 思弁的実在論•「AI原論」を輪読し、思弁的実在論を通した汎用的人工知能の評価について議論– 「思弁的実在論は現代科学を支えるための哲学である」– 素朴実在論、主観主義的形而上学と充足理由律、神学論、潜勢力と潜在性(偶然性)– 個人の意思決定に有用な情報コンテンツの信頼に関する考察• 意思決定理論、ゲーム理論、社会科学、哲学、論理学、(社会)心理学– 情報の信憑性に関する研究動向••••

情報信憑性の構成要素とユーザ側の意識
情報信憑性の評価アルゴリズム
ウェブ情報の信憑性の判断支援システム
信憑性判断と認知バイアス– 意見集約システム「HAMAgree」• AIのファシリテータを交えて名古屋市次期総合計画について議論する社会実験– 「知/知識・信頼」に関する研究・技術動向共有– 協働プロジェクト「空気を読む家」• 信頼できるエージェント• 活動成果マルチモーダルな情報の抽象化と認識「コンテキスト・コンピューティングで紐解く『空気を読む家のキッチン』」
ソフトウェアジャパン2019 ITフォーラムセッション(2019年2月5日)「コンテンツの信頼性評価に関する考察」
第11回データ工学と情報マネジメントに関するフォーラム(2019年3月4日～6日)
Copyright © 2019 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

5信頼概念の整理• 情報の有効活用のためのアプローチ– 情報の信頼性を評価して、信頼性の低い情報をフィルタリングして、情報に評価結果を付与する⇒信頼性判断を支援– 流通する情報の質を高めるために、質の高い情報の発信を促すような情報発信プロセスを提案、構築する• Trustとしての信頼– 信頼とは社会の複雑性を縮減するためのメカニズム[Luhmann]– 信用する対象や文脈に応じてその範囲が限定される[Solomon, Flores]• 情報の信頼概念– Reliability• 計算機などが仕様通りに動作するか– Trustworthiness• ある主体を、ある事柄に関して信頼できる– Credibility• 情報の内容を信頼できる• 情報の内容が正しい– Dependability「情報コンテンツの信頼性とその評価技術」加藤ほか(2008)• 情報の内容に依存できる、頼れる⇒ Dependability (= Credibility + Trustworthiness + α - β)を扱う
Copyright © 2019 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

6信頼の構造発信元の能力に対する期待発信元に対する期待

道徳的秩序に対する期待

自然の秩序に対する期待情報の内容に対する期待

理解
共感・納得

人間性、相手の感情・態度、相手の誘因構造

安心
発信元の意図に対する期待

人間関係的信頼
狭義の信頼

功利的共感

人格的信頼

規範的共感

個別的信頼
情報依存的信頼カテゴリー的信頼

情緒的共感

構成

ステレオタイプに基づく信頼表現
見栄え・挙動

一般的信頼「信頼の構造」山岸俊男, 東京大学出版会より引用して改変

Copyright © 2019 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

7

情報(内容)の信頼性• 意思決定に有用な情報(内容)の信頼性– 合意された事実をもとに導かれた推定・予測に対する理解と共感• 信頼性の高い情報(内容)の構築– 多様な複数人での議論をふまえて、人間が評価(主観)する• 課題に対する分析とアイデアの洗練• 機械が多様な意見･見解を収集し集約⭐⭐機械による正確な評価は困難– 意味内容を理解すること– 選好における戦略を推測すること⭐⭐個人の選好戦略に依存し過ぎると、認知バイアスに陥る危険– 論理構成• 誘導を避ける形式化• トゥールミン・モデルへの適合性（議論の構造）– 生命体が生きるための実践活動と切り離せないものが「知」である (西垣)– 社会では、対話と観察を通じて社会としての「知」を構築する» 個人と社会の「知」が階層的に連動する» 社会集団のコミュニケーションを身体的、暗黙知的な部分から活性化し、集団的な「知」をまとめあげる– 見栄え・挙動• ユーザインタフェース、誤字・脱字の有無など⇒ 人と機械の協働によるルールの構築と活用
Copyright © 2019 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

8

トゥールミン･モデル• トゥールミンの議論モデル
確信度、確率合意された真実

限定語 (Qualifier)
根拠・論拠の確かさの程度を示す

根拠 (Data)

主張 (Claim)

主張と対になって示される理由
主張より相手に受け入れられやすい

常識、もしくは理由、仮説

言いたいこと議論の結論

論拠 (Warrant)

反証 (Rebuttal)

隠れた根拠、もしくは、暗黙の仮定

論拠の効力に関する保留条件

論拠の成立可能性

裏づけ (Backing)
論拠の信憑性を示す裏づけ

Copyright © 2019 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

例外、もしくは但し書き、保留条件

9「プリン」を食べる時期• トゥールミンの議論モデル
根拠 (Data)

限定語 (Qualifier)

主張 (Claim)

おそらく

2019年2月5～7日には食べる

2019年2月4日午後に購入したXX社のカスタードプリンが、冷蔵庫にある論拠 (Warrant)

例外 (Rebuttal)

生プリンは製造後1週間程度で風味が落ちる

例外
裏づけ (Backing)
極少量の微生物混入により、僅かに酸化がすすむ

腹具合が悪くなけ
ればアレルギーの子供がいなければ論拠Copyright © 2019 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

10信頼できる情報の構造(知識基盤)• トゥールミンモデルをもとにした重層的なグラフ構造
限定語

限定語

主張

根拠
主張

論拠

主張

根拠

論拠

反証

反証

限定語

反証
論拠

裏付け

裏付け

広裏付け

根拠

適用
範
囲
狭

ロジカル
シンキング トゥールミン
モデル
低数理論理

論理性

https://www.malt100.com/entry/2018/01/22/113622 を改変・引用

Copyright © 2019 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

高11

関連研究
•

信憑性 - 情報内容の正しさ、正確性– 標準的な指標•

正確さ（accuracy）、権威性（authority）、客観性（objectivity）、鮮度（currency）、網羅性（coverage）[Kapoun]– 研究分野••

情報信憑性の構成要素とユーザ側の意識
情報信憑性の評価アルゴリズム–

Truth discovery、編集履歴による評価、教師あり学習による分類器–

編集履歴の可視化、証拠となるセンテンスを可視化•

ウェブ情報の信憑性の判断支援システム•

信憑性判断と認知バイアス「Web検索と信憑性」山本(2019)– 「真実」はひとつではない••

事実はひとつだが、その解釈はまちまちになる可能性

意見集約・合意形成支援システム: HAMAgree(http://hamagree.com/)– 名古屋工業大学NITech AI研究センター– 人と機械の調和による合意形成を目指す•「人工知能がファシリテーション」–

議論の進行を助け、サイトが炎上したり、議論がそれるのを防ぐ– テーマは「名古屋市次期総合計画中間案」•••••

人権が尊重され、誰もがいきいきと暮らし、活躍できるまち
安心して子育てができ、子どもや若者が豊かに育つまち
人が支え合い、災害に強く安心・安全に暮らせるまち
快適な都市環境と自然が調和したまち
魅力と活力にあふれ、世界から人や企業をひきつける、開かれたまち– 参加者が意見を出し、その意見に「いいね!」を投票する– 意見は出たが、集約は多数決
Copyright © 2019 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

今後の活動• ビジョン– 「人と機械の協働による社会知形成」実現に向けた研究– 「近未来の情報社会における情報基盤としての社会知の活用」に関する研究• 活動内容– 「情報内容の信頼性」を活用した知識基盤について、その構築(知識獲得)と活用の調査・研究・検証• 議論を通じて構築– 人と機械の適切な役割分担とは• 判断と動作の連鎖• 構築した知識基盤の活用方法– リアルタイム性/主観性 (cf. Wikipedia)– 「空気を読む家」での活用

Copyright © 2019 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

13http://aitc.jp
https://www.facebook.com/aitc.jpハルミン
AITC非公式イメージキャラクター
Copyright © 2019 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.