山本研究室(知能計算分野)
教授： 山本 章博

助教：明石 望洋

研究室 : 総合研究7号館 324(教授室), 323, 325, 327
Web :http://www.iip.ist.i.kyoto-u.ac.jp/
Email :
akihiro@i.kyoto-u.ac.jp
当研究室では，機械学習理論を中心にして人間の高次推論機構の性質を解明し，またそれらを用いて，与えられたデータから適切な情報を取出すための計算機構やソフトウェアを構築することを目標に研究を行っている．この研究はデータ集合からの知識発見などへの応用，数理論理学や計算数学との関係の解明へと展開している．

第２次AIブームの成果を第３次AIブームに生かす知－５とデー5

山本は令和８年３月で定年退職を迎えます
大学院情報学研究科
 知能情報学コース 知ー５ については募集要項をよく読んでください データ科学コース デー５ については，昨年度よりデータ科学イノベーション教育研究センターの瀧川特定教授，フラナガン特定准教授に指導していただくことを前提に募集しています．
実は，以前から4回生と修士両方が山本研であった学生は多くないです．

こだわり所
第２次AIブーム：数理論理学を基盤
知識表現と証明(説明)第３次AIブーム：ニューラルネットを基盤
大規模データからの機械学習 データ構造に着目した機械学習
木構造：ソースコードの構文解析木, HTMLのDOM-Tree
 ２部グラフ: トランザクション(商品と顧客)
 グラフ: 知識グラフ(Knowledge Graph)

説明可能な機械学習
数学・数理論理は「推論の表現と正しさ」を数学的に保証 機械学習でも「推論の表現と正しさ」を数学的に保証することが重要
機械学習アルゴリズムの正しさとは何か？
・深層学習が有効なのは，学習の結果に説明を求められない場合
構造データの出どころ
文
名詞句

動詞句

代名詞

動詞

名詞句
固有名詞

I

like

m1d1d2

Kyoto

m2

m3

m4

m5d3d4d5d6

Tree-LSTMを利用した情報統合[修士]自然言語データに対する深層学習モデルであるLSTMをベースに木構造向けモデルを設計
 同一目的だがサイトによって表現形式が異なる情報の統合に応用

大学のシラバスなど
京都大学のシラバスサイト

東京大学のシラバスサイト※24th International Conference on Discovery Science (2021)発表

DFAとSATを用いた強化学習[修士]報酬が決定性有限状態オートマトン（DFA）で表される強化学習 エージェントはDFAを学習することにより方策を学習する
 未知データに対してSATを用いて補完する形式概念解析における概念束の更新
目的

形式概念分析(FCA)において、オブジェクトgに関する新たな関係(g, m)が追加された時の概念束の更新手法の効率化・簡略化
下図の例：薬2が病bにも有効であると分かった時の概念束更新

結論 文脈の変化が一部の時、既存手法より高速なアルゴリズムを開発
文脈属性

薬1×

薬2××

関係追加×

薬3

概念外延内包

病a病b

薬1××

薬2××

構築
更新病c×

薬3

構築
概念束文脈オブジェク
トオブジェクト病a 病b 病c

属性

多肢選択問題での解答選択
多肢選択問題に対して、説明可能な過程で解答を行う。 MCQA（multiple choicequestion answering
1. 空欄に単語を当てはめ、4つの文を用意
2. 各文を命題と捉え、真らしさを指標化
3. 最も真らしい文を与える選択肢を正解として選択
知識グラフを用いる
機械学習(AI)から見た多肢選択問題
選択肢には説明可能性を持つ必要がある


説明可能AI(XAI) : AIが導き出した答えに対して, 人間が納得できる根拠・理解しやすい根拠を示す技術
反実仮想説明 :予測結果が覆る（反対になる）特徴量の摂動例を提示する説明反実仮想（Counterfactual) :事実と反対のことを想定すること

研究目標

正答⇒予測結果
誤答⇒反実仮想，敵対的摂動
理解しやすい根拠⇒言葉 or 視覚的表現
・当初はAIは用いない
単純な探索問題とする[金森氏(北大，現富士通)のスライドより]

9GNNに対する反実仮想説明[修士]グラフ・ニューラルネットワークに対する反実仮想説明を構成する
 入力の部分グラフだけでなく，非部分グラフも反実説明に用いることができる手法を考案


従来手法

数理最適化を用いた言語モデルの頑健性検証[修士]


最小単語置換の敵対的サンプルを求める問題を整数線形計画問
題として定式化

どの程度誤差を加えると間違えてしまうのかを評価
整数線形計画問題（提案法）の解は必ず最適解（最小の単語置換）※国際会議 AACL-IJCNLP 2022 で発表

LLMを用いたAPRの信頼性検証[修士]

大規模言語モデル（LLM）によるプログラム自動修正（APR)の信頼性を検証する方法を提案

プログラムに摂動を与える
記述の詳細さの影響を測る
変数名の可読性の影響を測る[Hanarvar+, 23]Transformerを用いたRNAの2次構造予測
A-U,C-G : 相補対

5’

CAGCAGCUAGUU

3’

RNA配列

ACGG C GC A U A U U5’3’

RNA配列の二次構造[Wikipedia]

Uszkoreit，J.: Transformer: A Novel Neural Network Architecture for Language Understanding
https://ai.googleblog.com/2017/08/transformer-novel-neural-network.html

本年度の研究に向けてTransformerの形式言語理論・数理論理学からの解析

先行研究例
Yao, S., Peng, B., Papadimitriou, C., and Narasimhan, K.: SelfAttention Networks Can Process Bounded Hierarchical Languages(2021)
定理 任意のk と D に対して, k種類の括弧と構文木の高さが高々Dであるような形式言語 Dyckk, D を受理するようなD+1レイヤのattentionネットワークを構築することができる．
J. Pérez, P. Barceló, and J. Marinkovic :Attention is Turing Complete(2021)
定理 任意のTuring機械Mに対して， MをシミュレートするようなTransformer T(M)を構成することができる．

機械学習とダイナミクスの横断研究

機械学習と動力学解析を組み合わせた知能計算の解明と開発

リザバー計算[1]: 再帰型ニューラルネットの学習手法
情報科学
機械学習

ニューラルネットを動力学的に解析

時系列解析

物理ダイナミクスを情報処理へ活用

カオス理論

非線形物理学

物理リザバー計算:
物理ダイナミクスをニューラルネットとして活用

脳型計算

制御理論
認知科学

ロボティクス
材料科学

機械学習とダイナミクスの横断研究
Extremely Active Research Topics!

次世代の光コンピュータの計算基盤
M. Nakajima, K. Inoue, K. Tanaka, Y. Kuniyoshi, T. Hashimoto, K. Nakajima, Physical deeplearning with biologically inspired training method: gradient-free approach for physicalhardware, Nature Communications 13: 7847, 2022.

ロボットの身体による計算

脳オルガノイドによる音声認識
H. Cai, Z. Ao, C. Tian, Z. Wu, H. Liu, J. Tchieu, M. Gu,
K. Mackie, and F. Guo, Brain Organoid Reservoir
Computing for Artificial Intelligence, Nat Electron 6:,1032 2023.

N. Akashi, Y. Kuniyoshi, T. Jo, M.
Nishida, R. Sakurai, Y. Wakao, K.
Nakajima, Embedding bifurcations
into pneumatic artificial
muscle, Advanced Science, (Accepted)(preparing press)

機械学習とダイナミクスの横断研究

機械学習と動力学解析を組み合わせた知能計算の解明と開発

これまで/現在の研究例


スピントロニクスによる脳型計算

ロボットの身体による物理リザバー計算


N. Akashi, Y. Kuniyoshi, T. Jo, M. Nishida, R. Sakurai, Y. Wakao, K. Nakajima,
Embedding bifurcations into pneumatic artificial muscle, Advanced Science,(Accepted)

物理知識に基づくニューラルネットワーク

N. Akashi, Y. Kuniyoshi, S. Tsunegi, T. Taniguchi, M. Nishida, R. Sakurai, Y.
Wakao, K. Kawashima, K. Nakajima, A Coupled Spintronics Neuromorphic
Approach for High-Performance Reservoir Computing, Advanced Intelligent
Systems 4: 2200123, 2022.
N. Akashi, T. Yamaguchi, S. Tsunegi, T. Taniguchi, M. Nishida, R. Sakurai, Y. Wakao,
K. Nakajima, Input-driven bifurcations and information processing capacity inspintronics reservoirs, Physical Review Research 2: 043303, 2020.

W. Sun, N. Akashi, Y. Kuniyoshi, K. Nakajima, Physics-informed recurrent
neural networks for soft pneumatic actuators, IEEE Robotics and Automation
Letters, 7 (3) pp. 6862-6869, 2022.

Transformerの記憶の解析.

R５年度卒論題目
形式概念分析におけるオブジェクトの修正に伴う概念束の更新手法
 大規模言語モデルを活用した推理小説読み解きのための知識獲得と含意論理式の生成
 知識グラフを利用した多肢選択問題での解答
選択手法
R4年度卒論題目
ディープラーニングと自由エネルギーを用いたシュードノットを含むRNAの二次構造予測
 埋め込み理論を用いた新型コロナウイルス
新規陽性者数のモデル化
R3年度卒論題目
モルフォロジー変換による前処理を用いた染めの型紙データへの自動タグ付け
 推理小説と辞書における共起を用いた含意論理式の生成手法
 最短非分離パス問題のパラメータ化計算複雑度に関する研究

R2年度卒論題目
WordNetを用いたデータ拡張による知識グラフに対する質問応答精度の向上
 データマイニングツール群を利用した相関規則
分析手法の評価
 多段階頂点被覆集合問題とその一般化に対する固定パラメータ容易性の研究
R1年度卒論題目
抽象構文木の関係に基づく条件付き確率場を用いた変数名予測 最大平衡連結部分グラフ問題に対するアルゴ
リズムと計算複雑性
 出現頻度に対する定義を緩和した飽和アイテ
ム集合とその列挙アルゴリズム歓迎

システム構築，基礎理論いずれに興味があっても歓迎 議論を通じて自ら追究する
 簡単な事柄でも，動的計画法などの数学的手法に抵抗がない
 理論だけでなく実装による成果の確認を行える 実装の数学的に意味を自分の言葉で説明する

研究室の環境

学生全員がMacbook/Mac Pro使用できます！
Windows/Linuxも使えます！
 欲しい本やデバイスなども！
(他の研究室と比べていませんが)机広いです！

質問や相談があればメールで
教授: 山本章博 akihiro@i.kyoto-u.ac.jp※ メールで質問の際は件名を「研究室配属2024」とし，氏名を忘れずに！