人と計算機の協調のための可視化
高間 康史
首都大学東京ytakama@tmu.ac.jp

1

自己紹介
• 高間 康史（たかま やすふみ）• 首都大学東京システムデザイン学部• 学会活動教授• 人工知能学会（JSAI2017プログラム委員長など）• Webインテリジェンスとインタラクション研究会（委員長）• 電子情報通信学会（ED副編集長など）• 研究テーマ• Webインテリジェンス• 情報可視化• 情報推薦• 時系列データアクセス・分析2

研究室で開発した可視化システム

LOD Visualization
VisualAnalytics

Monitoring
SupportSocial Visualization3

AIのキーワード
Deep
Learning

1,000,000,000
GAN
100,000,000

自動運転
FinTech

機械学習

RPA

自動翻訳
AlphaGo10,000,000
シンギュラリティ

AI
スピーカー

チャット
ボット
AlphaZero

1,000,000[Hit by Google]

4AI=自動化？
• 自動運転：5段階
1.
2.
3.
4.
5.

ハンドル OR ブレーキ・アクセル操作のサポート
ハンドル AND ブレーキ・アクセル操作のサポート
特定の場所（高速道路）で自動運転＋緊急時はドライバ操作
特定の場所で自動運転（緊急時含む）
完全自動運転• 将棋・囲碁• 人間と対戦・勝利• HFT（High-Frequency Trading: 高速取引）• ミリ秒単位での売買5人と協調するAI• IA (Intelligence Amplifier)• 人間の知能を増幅・支援• 対話エージェント• ロボットによる観光案内，高齢者支援• チャットによる接客サービス• 情報推薦• オンラインショッピング
• 取捨選択（意思決定）は人間

Visual Analytics
Human-in-the-loop
Semantic interaction• 情報可視化• 人の優れた視覚の利用• 「見えにくいものをわかりやすく」

6

HITL: Human in the Loopとは• 人間参加型：人間が計算機プロセスの中に入る• 人間と計算機の相互作用• 応用• シミュレーション ／ データ分析 ／機械学習• 目的• 訓練（シミュレーション）• 人間の限界を克服（データ分析）• 作業記憶の限界，バイアス，疲労• 学習精度向上（機械学習）• 人間による判断・知識の導入• オーバフィッティングの軽減
7機械学習とは• 入力データをグループに分類：一般的な枠組み• 教師あり学習：訓練データから学習• グループ（クラス）の個数・意味が既知• 訓練データ（所属クラスが既知）から分類モデル構築• 教師なし学習：訓練データなし• グループ（クラスタ）の個数・意味が未知• 類似する集まりを見つける• クラスタリング• トピックモデル：LDA (Latent Dirichlet Allocation)など

8教師あり学習の例• パターン認識• 数字認識，文字認識• 指紋認証，顔認証：本人か否か• 顔認識（デジカメ）：顔か否か• フィルタリング• スパムメールフィルタ• マーケティング• 継続顧客／離反顧客の分類• 仕入れ予測：売上の良い日／悪い日の分類• 与信：返済の可能性を予測

未知データ

分類モデル

01
6

既知
クラス

99

教師あり学習のプロセス
アルゴリズム選択※前処理除く
訓練データ

学習・決定木・ニューラルネットワーク・サポートベクターマシン（SVM）
etc.

パラメータ設定

データ作成

・アルゴリズム依存

・ラベル付け（正解クラス）

テストデータ分類モデル

評価・ラベルの予測精度
・主観評価

10

ラベル付け• ImageNet*• 代表的画像認識用データセット• WordNetの階層と対応• 画像数：14,197,122• クラス（synset）数：21,841

上位階層例

animal, device, food, plant, person

下位階層例

firefly, logic gate, bagel, meteorologist• クラウドソーシングの利用

Yes/No猫？

• Mechanical Turk利用• ワーカ数：49,000• 複数ワーカが判断→一定以上の確信度で採用• 確信度：物体，Yesの人数で決定*http://www.image-net.org/index

11

Targeted Crowdsourcing• クラウドソーシングによるラベル付け• 匿名・多数のワーカ• 主観的，知識を要するタスクに不向き• Targeted crowdsourcing• 適切なワーカの選択：タスクに必要な知識を持っているか• 規模の問題 → 少数データからの学習• 対話エージェントに対するユーザからの質問の意図分析[Yang18]• 主観的・コンテクスト依存• アプローチ：機械学習とラベル付けの相互作用• ワーカの専門性を学習：トピック（潜在因子）に対する専門度• Active learning：学習に有効なデータの推定 → ワーカへ

12

トピックモデル• 文書集合に含まれるトピックの発見• 潜在的意味解析• 2つの『サイコロ』• サイコロ 𝜃 ：文書毎• サイコロの目（ 𝑧 ）：トピック• 文書―トピックの関係

文書集合

トピック集合• サイコロ 𝜙：トピック毎• 𝑧 に従い選択• サイコロの目（ 𝑤 ）：単語
• 単語―トピックの関係• 𝛼, 𝛽：ディリクレ分布のパラメータ𝛼𝜃𝑧
文書𝜙𝑤NM𝛽K

LDAのデータ生成過程
13

HITL Topic Modeling[Smith18]• トピックモデルのアルゴリズムに詳しくないユーザの支援• インタフェース設計の方針• 即時更新の提供• 予測可能性• ユーザによるコントロール感覚の確保• 作業記憶負荷軽減• トピック洗練に必要な操作：Wizard-of-Oz法により検討• 単語のトピックへの追加・削除• 単語順の変更：トピックとの関連の強さを入れ替え• 文書の削除：文書とトピックの関係を除去• トピックの分割・統合• ストップワードの追加• フィードバックの反映方法：パラメータの調整14

フィードバックの反映
𝜙• 単語WのトピックTへの追加• W→Tの事前確率を増加• 忘却：Wのトークンに対する他トピックの割り当て削除

𝑇𝑤• 単語WのトピックTからの削除• TからWを忘却• W→Tの事前確率をほぼ0に• 単語順の変更：W1 > W2 → W2 > W1
• W2→Tの事前確率を増加

トークン ・・・

文書• トピックTの分割• Tと単語{W}の関係を消去• トピック数を増加：{W}→新トピックの事前確率を増加• トピックT1, T2の統合• T2に割り当てられた全トークン →T1に変更
15

ユーザ実験の結果• ユーザは単純な変更操作を好む• 単語の削除・追加，単語順の変更，ストップワード追加• トピックの質が向上• 定量的：トピックの一貫性（トピックに対する単語が互いに類似しているか）• 定性的：ユーザの満足度（7段階評価）• 変更よりモデルがどのように変化したかを追跡する作業にストレス• 信頼度の低下はそれほど観測されず• トピックモデルの間違いは明確に認識しづらい• 自分の変更操作の方に自信が持てない

16

クラスタリング：Clustering• クラスタ：類似データのグループ• 顧客のタイプ分け（cf. セグメンテーション）• 故障原因・不具合の分類• 応用例• 探索的データ分析（Exploratory Data Analysis)• データの全体像（overview）を知る• データが「語る」グループの発見 ⇔ 先入観によるグループ（年代，地域，etc.）• 特徴（属性・素性）生成 → 機械学習での利用• 情報アクセス支援：検索結果の整理• Googleの猫（Deep Learning）(2016)17

制約付きクラスタリング• クラスタリング（教師なし学習）にユーザが与える制約を導入• 半教師あり学習• 対話的なデータ分析の手段• 制約の分類• パラメータ：クラスタ数 (K-means)，ε, minPTS (DBSCAN)，etc.
• オブジェクトに付与：ラベル• クラスタ：クラスタサイズ• オブジェクト対：対制約[Basu04]• COP-Kmeans [Wagstaff01]: K-meansに導入

18

Must-link, Cannot-link
クラスタリング結果

制約反映

Cannot-link

B

A

F
D

E

C

B

A
E

FC

D

Must-link19

制約付与における課題• ユーザ負荷の問題• 制約矛盾の可能性• 解決策：制約の一括付与• 1操作で複数の制約を生成

B

A

E

C

D20

制約の一括生成[三宅11, 北村16]• グルーピング操作を解釈• 同一グループ内オブジェクトにMust-link付与• 別グループになったオブジェクト間にCannot-link付与

AACMerge

C

B

B D
E

E
Break

DAC
B

DE
21

制約一括生成の課題• 同一グループ内の全オブジェクト対にMust-linkを付与• グループ内に制約を付与したくないオブジェクト対があると問題• Cannot-linkの難しさ：複数の解釈が存在→多いと逆効果• ユーザ負荷とのバランス• 細かい粒度でグルーピング• ○意図通りの制約付与• ×オブジェクト対の指定と大差なし？

• 2種類のアプローチ• グルーピング操作履歴に基づくアプローチ[三宅13]• 同一グループとなった頻度に基づき制約対を選択• 階層構造に基づくアプローチ[北村16]22

階層構造に着目した制約付与• 階層的クラスタ構造• 深い階層のノード内のデータ対ほど関係性は高い→ 優先的に制約付与

AA

BCD

Break

A

B

C D
CMergeB

D

23

評価実験結果• シミュレーション実験• 分析者行動のシミュレート• 階層の考慮による効果あり• Cannot-linkは悪影響の場合も• ユーザ実験• TETDM[砂山11]で実装• TreeMapとフラット型の比較• その他のUIは統一

分割• TreeMapの視認性◎

http://tetdm.jp/24

Human in the Loopの課題 (1)• オーバフィッティング• 訓練データへの過剰な適合 → 未知データへの性能低下• モデルの複雑さ（表現能力）と関係• 専門家の知識の導入によるデータの偏りの補正• インタラクティブ機械学習におけるオーバフィッティングの発生プロセス [Daee18]

1. 訓練データ・その統計量をユーザに提示
2. ユーザフィードバック
3. フィードバックを独立したデータとして利用←フィードバックはデータの影響を受ける

フィードバックから推測

モデル
パラメータ

訓練データ

𝑝 𝑓 𝜙 𝑝(𝜙|𝐷)𝑝(𝜙|𝐷, 𝑓) =𝑝(𝑓|𝐷)
ユーザの潜在知識

25

Human in the Loopの課題 (2)• ドメイン専門家≠ AIの専門家• 学習モデル・（可視化手法）に対する知識なし• 結果の解釈困難• パラメータ調整困難• 対策• 専門家が理解しやすいモデルの利用• Prophet :専門家が理解しやすい時系列データのモデル[Taylor17]• Semantic Interaction [Endert12]26

視覚的分析（Visual Analytics）におけるインタラクションの課題
洞察
分析者

生成
視覚的
メタファ

計算機

フィードバック

フィードバック

コントロールパネル• 分析者：可視化から洞察• 計算モデルに対する知識が必要• コントロールパネル：パラメータを直接調整
27

Semantic Interaction
洞察

視覚的メタファ分析者

フィードバック

生成
計算機

フィードバック• ドメインの専門家を支援するためのインタラクション• 操作の意味を解釈 → 計算モデルへのフィードバック• モデル更新結果は視覚的に逐次反映• モデル・パラメータの複雑さから分析者を保護• 視覚的メタファの活用• 近い＝類似，場所に意味• 直感的操作：移動，重ねる，etc.
28ForceSPIRE [Endert12]• テキストデータ分析• Spatial view: 位置が近いほど類似• 力学的モデルによる配置• ノード＝文書• パラメータ：質量，ばねの強さ，etc.

• インタラクションの例• 文書の位置固定：場所・配置に意味を付与→ レイアウトに影響• 重ねる：共有単語の重み↑ → 類似度に影響• 付箋の付与：単語・文書の関係更新→ 類似度に影響29

（関連話題）次元削減と可視化• 次元削減 (Dimensionality Reduction, DR)• 多次元データ → 低次元（1D, 2D, 3D）• アプローチ• 属性選択：描画に利用する属性の選択• 写像：主成分分析 (PCA)，多次元尺度構成法 (MDS), etc.
• グリッドベース：自己組織化マップ (SOM), etc.

• DRにおけるインタラクションの文献調査[Sacha17]• 2005-2015年のIEEE VIS/Euro VISの論文1850 → 58件を調査• 分析の視点：インタラクション導入を7パターンに分類

30

インタラクティブDRシステムのHITLプロセスモデル
1. データ選択・強調
2.注釈・ラベル付け
3.データ操作

4. 特徴選択・強調

5. パラメータ調整
6. 制約定義
7. DRタイプ選択

操作

UI
データ特徴空間DRアルゴ
リズム

分析者

検証

• 7シナリオの頻度：4 > 1 > 5 … > 3 > 7• 4: データ間距離の調整．各次元の重み調整• インタラクションパラダイム：直接操作，コントロール（スライドバーなど）が同数• 同じインタラクションが異なるバックエンドの計算にマッピングされる

31

指標形成
• 指標：評価の目安（ものさし）• データからの獲得：統計学的根拠• 例：セイバーメトリクス• 視覚的分析のアウトプット• 知見・知識の一形態• データ分析＋専門家の知識• 分類モデルとの関係• 共通点：未知データの評価，将来予測• 相違点：解釈可能性

32

開発中のシステム [高見19]• 多次元時系列データの分析• 軌跡表現：時間変化→空間的表現

散布図• 時間・空間軸衝突の回避 [Takami18]
詳細ビュー• 散布図のXY軸：属性の線形和• PCAで計算• ユーザフィードバックを反映

平行座標

▶
33

インタラクションの例• 軸へのドロップ• 全体配置にフィードバックx• データの位置変更▶

• 対象・近接データのみにフィードバック• データのグルーピング• 凸包の形成• データ変化の概要把握• ラベルの指定

▶

34

おわりに
• Human in the Loopの話• 教師あり学習：ラベル付け• 教師なし学習：トピックモデル（パラメータ調整），制約付きクラスタリング（対制約）• Semantic Interactionの話• 次元削減と可視化• 指標形成• 今後の課題• バイアスを考慮した可視化：フェアネス，フィルターバブルとも関連？
• モデル側に要求されること：解釈可能性• モデルと可視化の相性• Taxonomyの整備• ソーシャルなアプローチ
35