5

脳機能の理解と知見応用のための各種アプローチ

5

脳機能の理解と知見応用のための各種アプローチ

5-1

Brain and Cognitive Mechanisms of Human Multisensory Information Processing and their Applications

5 Understanding Brain Functions and Various Approaches to Applying
their Findings
5-1 多感覚情報処理の脳・認知メカニズムの解明とその応用

安藤広志

和田充史 坂野雄一 カラン明子 Parham Mokhtari Juan Liu 西野由利恵
對馬淑亮 Norberto E. Nawa Daniel Callan Michal Joachimczak

Hiroshi ANDO, Atsushi WADA, Yuichi SAKANO, Akiko CALLAN, Parham MOKHTARI, Juan LIU, Yurie NISHINO,
Yoshiaki TSUSHIMA, Norberto E. NAWA, Daniel CALLAN, and Michal JOACHIMCZAK

本稿では、CiNet（脳情報通信融合研究センター）の多感覚認知研究グループにおいて取り組ん

でいる視覚・聴覚・体性感覚・嗅覚等、ヒトの多感覚情報処理の脳・認知メカニズムに関する解
析技術と最新の知見及びこれらの解析技術の応用に向けた取組と将来展望について概説する。

The paper describes techniques that Multisensory Cognition and Computation Group of CiNet
has been developing for analyzing brain and cognitive mechanisms of human multisensory information processing, such as visual, auditory, somatosensory and olfactory processing, and our cutting-edge findings. It also discusses our approaches to applying the analysis techniques and their
future prospects.

1

まえがき

ヒトは、多様な感覚情報（視覚、聴覚、体性感覚、嗅覚、味覚等の情報）を検出・分析・統合して、刻々と変化する環境と自己の状態を適切かつ瞬時に把握している。ヒトはこのような極めて優れた知覚認知機能を有しているが、CiNet の多感覚認知研究グループでは、心理・行動・脳活動等に関する様々な解析技術を開発し、ヒトの高度な多感覚認知メカニズムとその基本原理を探ってきた。特に、心理物理学的手法や機能的磁気共鳴撮像法（fMRI）等に基づいて、中枢神経系
における多感覚認知メカニズムの定量的解析を進め、3 次元環境認知や物の質感知覚、感覚間の相互作用（クロスモダリティ）、さらには多感覚情報に基づく情動
表出・記憶想起・注意過程など、これまでその多くが未知であった多感覚認知の仕組みの解明に取り組んできた。
一方、情報通信の分野においては、近年、言語情報の理解・認識・伝達技術が進展し、その社会的活用・普及が急速に進んできている。しかしながら、言語・シンボルだけではとらえきれない「感覚・感性」の理解・認識・伝達技術に関しては、いまだ成熟の域に達していない。4 K/8 K 高解像映像、VR（仮想現実）映像、画像の認識技術等においては新たな展開が見られるものの、実世界のように、ユーザが多感覚の情報を用いて他の人や物と自由なインタラクションを体験できる
までには至っていない。また、ヒトの情動・感性を深く理解する AI・ロボットの実現も今後の課題である。
ヒトの多感覚認知メカニズムの本質を明らかにする取組は、今後、自然なインタフェースの実現に向けた設計指針を与えるとともに、日常の活動空間における新たな感覚拡張や高齢者・障害者に対する感覚機能の支援など、多くの領域でその社会的展開が期待される。
以下、2 では、当研究グループで開発してきた視覚、聴覚、体性感覚、嗅覚の多感覚認知メカニズムの解析技術とそれによって得られた最新の知見及び将来期待される活用領域について概説する。3 では、多感覚認
知・脳機能の解析技術の応用に向けた取組と将来展開について述べる。最後に、4 で本稿をまとめる。

39

5

脳機能の理解と知見応用のための各種アプローチ

図 1 ヒトの光沢知覚に関わる脳部位の解析
左：実験で用いた視覚刺激の例、右上：高い光沢に対して賦活する脳部位、右下：大脳皮質における視覚情報処理の経路

2

多感覚認知メカニズムの解明と解析技術の活用

2.1

視覚メカニズムの解明と解析技術の活用

私たちの周囲に存在する様々な物は、材質や表面特性の違いにより、独特の質感をもっている。ヒトは、このような物の質感を視覚情報から見分ける高度な能力を有している。当研究グループでは、質感の主要な要素の 1 つである光沢（物体表面のつや）に着目し、その知覚メカニズムを明らかにしてきた。特に、両眼や頭部運動によって得られる、異なる視点からの網膜情報が光沢の推定に寄与することを心理物理実験により実証した [1]。
また、fMRI 脳活動計測実験によって、光沢知覚の情報処理に関わるヒトの脳部位を世界で初めて特定した [2]。この実験では、「光沢感は照明の強さに大きな影響を受けない」というヒトの視覚特性（恒常性）を利用し、照明を変化させても、光沢が高いときに脳活動が高くなる部位を調べた（図 1 に視覚刺激の例を示す）。また、特定の視覚的特徴（光沢・形状・方向等）に注意を向けるとその処理が促進されるという脳の仕組みに基づいた注意課題の実験も行い、光沢に注意を向けた際に活動が高まる脳部位も調べた。両者の実験の 結 果、 大 脳 視 覚 野 の 腹 側 経 路 に 位 置 す る hV4、
VO-2 及び背側経路に位置する V3 A/B が光沢知覚に関与することが明らかになった（図 1）。これまで、腹側経路は物体認識を担い、背側経路は空間や行動に関わる処理を担うという、2 つの独立経路が想定されてきたが、今回の実験は、光沢知覚に対して両経路の関与を示しており、脳内の視覚情報処理の基本原理を明らかにする上で重要な知見を与えている。
質感は対象物の魅力や心地良さに影響するため、工40

情報通信研究機構研究報告 Vol. 64 No. 1（2018）

業デザイン等においては質感が極めて重要な要素とされている。しかし、個人が感じる質感を言葉で表現するのは難しく、異なる人が感じる質感を比較するのも容易ではない。よって、本研究を更に発展させて、主観的な印象報告に頼らずに、質感を脳情報から客観的・定量的にとらえられるようになれば、上質感や高級感といったヒトの感性に訴えかける製品開発への展開が期待できる。
一方、ヒトは視覚情報に基づき、対象物の形状や質感を推定しているだけでなく、自己の身体状態の把握も行っている。
「自分が動いている」という知覚（自己運動感覚）は、広視野に与えられた特定の動きパタン（optic flow）によって生じる。これは視覚誘導性自己
運動感覚（Vection）と呼ばれており、「自分が乗っている電車が発車したと思ったら、実は隣の電車が動いただけ」という錯覚は、この視覚機能から生じている。
当研究グループでは、視覚誘導性自己運動感覚の処理に関わる脳部位を明らかにするための fMRI 実験を実施した [3]。この実験を可能にするために、広視野（水平視野角 100 度）の立体映像を MRI の高磁場環境下で提示できるシステムを世界で初めて開発した（図 2）。

図2

fMRI 用広視野立体映像提示装置

眼前のスクリーンに右眼用・左眼用の映像を遠方から投影し、超広角レンズを通して映像を見ることで広視野立体映像の観視を実現している。

多感覚情報処理の脳・認知メカニズムの解明とその応用

脳活動応答 (BOLD % 変化)

5-1

刺激サイズ (水平方向, 視度)
図3

自己運動感覚の生起に関わる脳部位の解析

視覚的動きに応答する脳部位の刺激サイズに対する応答特性を示す。静止パタン（Static）やランダム運動パタン（Random）とは異なり、前進によって生じる一貫性のある視覚の動きパタン（Coherent）が広視野に与えられると自己運動感覚が生じる。

これまでの心理実験により、自己運動感覚は、静止・ランダムな動きパタンでは生じず、一貫性のある動き
パタンに対してのみ生じ、その視野角が増大するにつれ自己運動感覚は強くなることが知られている。本実験の結果、視覚の動き処理に関与が示されてきた脳部位において、各刺激パタンに対する異なる応答特性が得られたが、心理学的知見と最も一致する脳部位が大脳内側部の CSv（帯状溝視覚野）であることから、この部位が視覚誘導性自己運動感覚の生起に特に関わることが明らかとなった（図 3）。
近年の VR（仮想現実）技術は、広視野映像の提示により身体反応を引き起こすような新たな臨場感体験を与えている。本実験の解析手法や知見を活用していくことで、将来、VR 映像がヒトにもたらす正負の影響を脳活動から客観的に評価可能になると期待される。

2.2

聴覚メカニズムの解明と解析技術の活用

ヒトは、音の空間知覚において優れた能力を有している。音環境を再現するために通常ステレオ音の収録・再生が行われているが、これは両耳に届く音の時間差・音圧差をヒトの脳が感知して、音の左右方向を知覚す
るからである。一方、ヒトは上下方向からの音も聞き分けられる。これは、頭部や耳介における音波の共鳴・干渉・反響等により、上下方向からの音が鼓膜において異なる周波数特性を持ち、それを識別する機能を脳が有するためと考えられている。実際、耳管で収録した音（バイノーラル音）を聴くと、頭部の外の空間に音が広がって感じられる。当研究グループでは、このメカニズム解明に取り組み、耳介のどの形状特徴が 3次元空間からの音の周波数特性を規定するかを明らか

図 4 音の空間知覚に関わる脳部位の解析
左：音刺激は四つの象限に置かれたスピーカから提示。右：実験 1（音源
位置同定課題）と実験 2（音の種類の判別課題）において、ステレオ音と比較してバイノーラル音で活動が高まる脳部位を示している。

にした [4][5]。
さらに、音の空間知覚に関わる脳機能を解析するために、fMRI 実験を実施した [6]。この実験では、事前に異なる方向からの音をバイノーラル音、ステレオ音、
モノラル音で収録し、実験 1 では音源位置の同定課題、
実験 2 では音の種類の判別課題を行わせた（図 4）。実験の結果、バイノーラル音では pSTG（上側頭回後部）の活動の高まりが見られたことから、音を頭部外に定位させる機能をこの脳部位が担っていることが明らかになった。
一方、話し手の音声と映像が空間的に一致していな
くても、音声が映像の方から聞こえるというクロス
モーダル現象（腹話術効果）が知られている。この現象を fMRI 実験で解析したところ、音の空間知覚に関わる pSTG の脳活動が、実際、映像提示方向からの音刺激の反応に近づくことが明らかとなった（図 5）[7]。
聴空間知覚に関するこのような脳機能解析技術は、
将来、個人に最適化された 3 次元音場の再現や聴覚障害者の音源定位機能の支援等に向けた活用が期待され
ている。
41

5

脳機能の理解と知見応用のための各種アプローチ

図 5 腹話術効果に関わる脳活動の解析
左：顔映像は正面位置のディスプレイから、音声は± 30°の範囲に置かれたスピーカから提示。右：右脳の pSTG（上側頭回後部）の活動。バイノーラル音を提示した場合（binaural A）、音声が正面から横に移動すると反対側脳の活動が高くなるが、正面に映像を同時に提示した場合（binaural AV）は、音声が横に移動してもその活動が抑えられることを示している。

聴覚情報は、自己を取り巻く物理的な環境の理解・認知だけでなく、対人コミュニケーションにおける相手の理解・認知に大きな役割を果たしている。ヒトは、発話の音声情報から言語的意味だけでなく、相手の情動や意図も推定している。これは、同じ言葉が発せられたとしても、発話者の情動・意図によって、ささや
き声、力んだ声、息漏れ声など、声質（voice quality）
が変化するからである。当研究グループでは、発話の音声情報からこのような声質の微妙な変化を識別するための技術を開発している。
音声は、一般に、声帯で発せられた振動音が声道（口腔・鼻腔）で共鳴し口唇から音波として放射されることで生じる。声質は、このプロセスの声道・口唇における共鳴・放射ではなく、声帯における気流（声門流：
glottal flow）の変化に起因する。よって、発話情報から声門流をいかに逆推定するかが声質を高精度に判別するための鍵となる。発話情報から声門流を逆推定する手法としては、発話音声から声道共鳴と口唇放射の効果を逆フィルタにより除去する反復適応逆フィルタ
リング（IAIF）と呼ばれる手法が知られている。当研
究グループでは、声門流の推定精度を更に向上させる
ために、声道における周波数傾斜を補正する高周波数領域増幅の反復最適化処理（IOP）を加えた新しい手法（IOP-IAIF）を提案した [8]。
提案手法の効果を検証するために、異なる声質の音声を実際に収音し、声質の識別性能を従来手法と比較した。本実験の結果、新手法では従来手法と比較して、異なる声質に対する識別指数 NAQ 値の差が広がるとともに、従来手法では算出不能であった弱い息漏れ声の NAQ 値も推定可能であることが判明し、声質の識別性能が大きく向上する可能性が示された（図 6）。
ロボット・AI とヒトの間でより自然なインタラク
ションを実現するためには、ヒトの発話の言語的意味
42

情報通信研究機構研究報告 Vol. 64 No. 1（2018）

図 6 異なる声質に対する識別性能
息漏れ声、叫び声等、異なる声質に対する識別指数 NAQ（Normalized
Amplitude Quotient）の値を示している。従来手法（IAIF）と比較して提案
手法（IOP-IAIF）では、異なる声質に対する NAQ 値の差が広がっており識別が容易になっている。

理解のみならず、声質の分析から相手の情動・意図を読み解く技術の開発が極めて重要となる。今後、当研
究グループでは、上述の声質識別技術を活用して、ヒトの心に寄り添うロボット・AI の実現を目指してい
きたいと考えている。

2.3

体性感覚メカニズムの解明と解析技術の活用

ヒトの体性感覚には、対象物と皮膚の接触状態を感知する“皮膚感覚”と筋骨格系の状態を感知する“自己固有感覚”が存在する。当研究グループでは、主に手の筋骨格系に力を与える力覚提示装置等を用いて、ヒトの体性感覚メカニズムを探る解析技術を開発してきた。また、視覚、聴覚、触覚、嗅覚の四感覚を統合的に制御して、インタラクティブな体験を可能にする“多5-1

多感覚情報処理の脳・認知メカニズムの解明とその応用

図 7 多感覚インタラクションシステム（MSenS）
左：バーチャルな立体映像を力覚提示装置のスタイラスで触れると物の感触とともに接触音や香りを体験できる。
中：レーザスキャナによる物体の 3 次元構造計測。右：国の重要文化財「海獣葡萄鏡」の再現と多感覚体験の様子。

図 8 異なる音が物の剛性（硬さ）知覚に与える効果
硬い表面に対しては、手に同じ力覚を与えても、金属音・木の音を付与すると太鼓音を付与する
場合や無音と比較して表面の剛性が高いと知覚されることを示している。

感覚インタラクションシステム（MSenS）”の開発に取り組んできた（図 7）。このシステムを用いると、あたかも手元に実物があるかのように、仮想物体の立体映像に触れて、その感触、接触音、香りをリアルかつ自然に体験することができる。これまで、このシステムの社会展開を図るために、国の重要文化財の再現等、通常触れることのできない貴重な文化財等の体験デモ展示を数多く実施してきた [9]。
ヒトは、感触に加えて、物に触れたときに生じる音
からも物の実在性を感じている。そこで、仮想の物体に触れたときにもリアルな接触音を生じさせるために、実際の接触音を収録・解析し、その振動体特性を多数の正弦波モードのパラメータ値として記述、操作時の反力の計測値とこの音特性のパラメータ値を掛け合わせることで、ユーザの動作に合わせた多様な接触音を生成する手法を開発した [10]。この手法により、物に触れてから音が生じる遅延時間をほとんど感じさせる
ことなく、自然なインタラクションが可能となった。
ヒトは物に触れたときの接触音から物の特性（硬さ・ざらつき等）を感じるが、このとき音は手の感触自体を変化させているのであろうか。このような体性感覚と聴覚のクロスモーダル効果を探るために、上記の多感覚インタラクションシステムを用いて、接触音が表面の剛性（硬さ）知覚に与える影響を検証する心理物
理実験を行った [11]。この実験では、被験者は接触音が生じる物体表面を触って剛性を確認した後、接触音の無い表面を触り、先の表面と同じ剛性になるようキー押しで調整を行った。接触音に関しては、音無（統制条件）、金属音、木の音、太鼓音の 4 条件を設定した。
実験の結果、図 8 が示すように、知覚された剛性は、
43

5

脳機能の理解と知見応用のための各種アプローチ(a) 音だけで硬さを判断する条件(b) 音と感触で硬さを判断する条件

図 9 音の材質カテゴリと音響特性が硬さ知覚に与える効果を検証する実験
硬い表面（H）に対しては、音だけで硬さを判断する場合（a）、金属音（M1, M2）か太鼓音（D1, D2）かといった材質カテゴリで知覚される剛性が決まるのに対し、手で硬さを判断する場合（b）は、同じ材質カテゴリと知覚されても音響特性の違い（M1 vs. M2、D1 vs. D2）が剛性知覚に影響することを示している。

金属音及び木の音を付与した条件の方が太鼓音を付与した条件より高いと知覚された。この実験から、接触音の付与により手で感じる表面の硬さの知覚は実際に変化していることが明らかになった。
それでは、このような体性感覚と聴覚の相互作用は、
感覚処理過程のどのレベルで生じているのであろうか。
材質（金属、木等）が異なる物体から生じる接触音は、それぞれ特有の音響特性（周波数・減衰特性）を持つ。
感触に影響を与えているのは、音から推定された高次の材質カテゴリなのか、それとも低次の音響特性なのか。この点を明らかにするために、材質カテゴリの知覚は維持したまま、金属と太鼓の平均周波数が同じになるように減衰係数を変化させた音刺激を新たに作成
し、剛性知覚の実験を再度行った。実験の結果、音だけで硬さを判断する場合は、音響特性ではなく材質カ
テゴリが影響するのに対し、音に感触を加えて硬さを判断する場合は、材質カテゴリではなく音響特性がより強く影響することが明らかとなった（図 9）。よって、低次の音響特性をうまく調整すれば、金属よりも太鼓の方が硬いと“手に錯覚させる”ことも可能であることが分かった。
本実験が示すように感触の再現を音により補強できるのであれば、感触処理にかけるコストを接触音の付加により大幅に削減できる可能性がある。また、当研
究グループでは、視覚と感触の情報を統合して 3 次元
空間内の物体を操作・比較する際、両感覚の変換過程に特定の相互作用が生じることを見いだしている [12]。
将来、感触・聴覚・視覚の情報をヒトのクロスモーダ
ル知覚特性に合わせて適切に提示することにより、医療・遠隔作業等、様々な分野において自然なインタラ
クションが低コストで実現可能になると期待される。

2.4

嗅覚メカニズムの解明と解析技術の活用

44

情報通信研究機構研究報告 Vol. 64 No. 1（2018）

ヒトの嗅覚メカニズムの解析に関しては、当研究グ
ループにおいて独自の香り提示技術の開発を進めてき図 10 香り噴射装置“アロマシューター”
6 種類の香りを瞬時に切替えてユーザに提示することができる。

た [13][14]。他の感覚情報と比較して、嗅覚情報の制御・提示には独特の難しさがある。それは、香りが化学物質であるため一旦空中に拡散すると、それを瞬時に消すことが困難で、香りの残存・付着・混合といった問題が生じるからである。我々が開発してきた香り提示
技術の最大の特徴は、香り物質を広く拡散させることなくヒトの鼻腔付近にだけ噴射させることにより、香り特有の残存問題を回避し、多様な香りを瞬時に切り替えてユーザに提示可能にした点にある。また、香源はほぼ密閉された容器に閉じ込められているため、香りの長期的な保存・利用も可能となった。この香り噴射装置“アロマシューター”（図 10）は、現在、NICT
発のベンチャー企業によって製品化され、香りのデジ
タルサイネージ（香りによるブランディング・集客等）
やリラクゼーション空間の提供・ストレス軽減などの分野において社会実装が進んでいる [15]。
当研究グループでは、この香り提示技術を用いて、香りを画像・音声・感触といった他の感覚情報に付加することによってもたらされるクロスモーダル効果の定量的な解析を進めている。このような取組の 1 つとして、香りが感触知覚（物体表面の硬さ・ざらつき知覚）に与える効果を心理物理実験により解析した [16]。本
実験では、香り噴射装置“アロマシューター”と力覚

5-1

図 11 嗅覚と触覚の心理物理実験
実験参加者は、異なる種類の香りをかぎながら手に感じる感触（硬さ・ざらつき）を判断。

多感覚情報処理の脳・認知メカニズムの解明とその応用

図 12 香りが硬さ知覚に与える効果
硬い表面に対して、白檀（Sandalwood）の香り提示は薔薇（Rose）の香り
提示や無臭と比較してより硬いと知覚された。

提示装置を用いて、香りの時空間提示と感触生成を厳密に制御し、異なる香りが感触（硬さ・ざらつき知覚）に与える影響を心理物理学的手法の 1 つである調整法により検討した（図 11）。
本実験の結果、実験参加者は白檀（Sandalwood）の香りを付加すれば硬い表面はより硬く感じ（図 12）、
薔薇（Rose）の香りを付加すれば滑らかな表面はより滑らかに感じることが分かった（図 13）。この結果は、特定の香りの付加が硬さ・ざらつきのいずれかの感触
知覚に影響を与えることを示している。嗅覚と触覚は、
一見、無関係のように思われるが、日常生活の中で「触ること」と「香りを感じること」を同時に体験することは、多々ある。例えば、焼きたてのパンをちぎったと
きの「しっとり感」と「香ばしさ」、レモンを絞ったと
きの「弾力感」と「酸っぱい香り」といったように、感
触と香りの情報が連関して与えられることも多い。
よって、本実験で得られた嗅覚と触覚の相互作用が日
常経験の中から獲得された可能性も考えられる。ただし、特定の香り成分が直接的に感触知覚に影響するのか、香りから連想されるイメージが感触知覚に影響するのかに関しては、未知な点が多く、更なる検討が必要と考える。さらに当研究グループでは、嗅覚刺激が視知覚に与える効果についても定量的な解析を進めている [17]。今後、嗅覚のクロスモーダル効果に関する知見の蓄積とそのメカニズム解明に取り組んでいく予定である。
香り技術の 1 つの応用先は、医療・ヘルスケアの分野である。嗅覚に障害が生じると、食事を楽しめないだけでなく、有害な食べ物・飲み物の誤飲や、火災の危険を察知できない等の問題を引き起こす。また、高齢者の多くが嗅覚に障害を持っているが、その症状が進まない限り嗅覚低下を自覚しないと言われている。
これは、視覚・聴覚と異なり、病院や健康診断で簡易に扱える嗅覚の検査装置が存在しないためである。そ図 13 香りがざらつき知覚に与える効果
滑らかな表面に対して、薔薇（Rose）の香り提示は無臭と比較してより滑らかと知覚された。

こで、当研究グループでは、香り提示装置“アロマシューター”を活用した嗅覚検査システムの開発とその有効性の定量的評価を進めている [18]。今後、このような嗅覚検査装置の開発・普及が進めば、嗅覚障害
のみならず、嗅覚機能と関連が深いと考えられている
精神疾患の早期発見にも役立つと考えられる。
また、嗅覚刺激は情動や記憶の中枢に対して直接的に影響を与えると考えられており、香りが心身の快適
性や心地良さを生み出す可能性も指摘されている。嗅覚のクロスモーダル効果に関する知見は、香りを感触や画像と組み合せることにより、ヒトの感性に訴えかける豊かな表現・情報を演出できる可能性を示している。例えば、感触に特定の香りを付加することにより、製品の高級感、安心感、清潔感等を喚起・補強することも考えられる。香り技術は、映像技術・音響技術と比べると未成熟であるが、香りは人々の生活を豊かにする可能性を多分に秘めており、今後、香り技術の発展により、新しいメディア・コミュニケーションの創45

5

脳機能の理解と知見応用のための各種アプローチ

出につながっていくことを期待している。

33.1

多感覚認知・脳機能の解析技術の応用に向けた取組
全脳 fMRI データの機械学習よる心的状態の推定

ヒトの心的状態（mental state）は、外界からの感覚情報だけでは決まらず、頭の中で行っている課題や記憶からの想起情報によっても規定される。心の中で何を感じて何を行っているのかを外見から推測することは困難であるが、脳活動を分析すれば心の状態を推定できる可能性がある。心的状態を脳情報から推定できれば、様々なシステムがヒトに与える正負の影響を高精度で評価できるようになるだけでなく、自己の内的状態を把握・表現することが困難な高齢者・障害者に対する支援にも大きく寄与すると考える。

このような狙いの下、当研究グループでは、感覚情報を何も与えずに、純粋なメンタルタスク（心的課題）
を幾つか行わせたときに、脳活動からどの課題を行ったかを推定可能かを検証する fMRI 実験を行った [19]。
本実験では、心の中だけで「数字のカウントダウンを行う」「ポジティブな経験を思い出す」「ネガティブな経験を思い出す」といった課題を行わせたときの脳活動
データを取得した後、脳活動をもとに課題の識別が可能かを機械学習により検討した。その結果、ほとんどの課題間で統計的に有意な識別率が得られることが分かった。
この結果を踏まえて、頭の中だけで行った Yes/No
判断を全脳 fMRI データだけから推定できるか検討した [20]。この実験では、まず実験参加者に「数字のカウントダウン」と「ポジティブな記憶想起」という 2 つ

図 14 全脳の fMRI データに基づく Yes/No 判断の推定例
数字のカウントダウン（Countdown）とポジティブな記憶想起（PAM）という 2 つの心的課題で Yes/No 判断を行わせた時の 2 秒の fMRI データだけから課題識別システムを用いてどちらの判断を行ったかを推定した結果（赤い点）を示している。

46

情報通信研究機構研究報告 Vol. 64 No. 1（2018）の心的課題を行わせ、全脳の fMRI データを機械学習にかけてこれらの課題識別システムを構築した。その後、別の日に複数の質問に対して「Yes ならカウント
ダウン」「No ならポジティブな記憶想起」といった課
題を行う実験を実施した。その結果、先の課題識別シ
ステムを用いて、fMRI の 1 スキャン（2 秒）のデータだけからでも 73.6 ～ 80.8 % の精度で Yes/No 判断を推定可能で、12 スキャン（24 秒）のデータを用いれば、正答率は 83.3 ～ 96.7 % まで上昇することが明らかになった（図 14）。
以上の結果は、fMRI データに基づく心的状態推定がかなり有望であることを示しており、将来、様々なシステム評価や高齢者・障害者支援に対する本技術の適用が期待できる。

3.2

脳情報に基づく注意状態の推定

ヒトは、作業負荷が高くなると、通常の状況では容易に気付くような音（警告音など）も聞き逃してしまう。 こ の 現 象 は“ 非 注 意 性 難 聴（Inattentional
Deafness）”と呼ばれている。これは、ヒトの注意の
資源容量には限界があり、特定の課題に注意の資源を多く用いると、他の課題に使う資源が不足するためと考えられている。作業中に警告音を聞き逃すと危険な状況に陥る可能性もあり、自らの注意状態を常に把握しておきたいが、現実、作業をしながらそれを正確に把握するのは難しい。よって、当研究グループでは脳情報から注意の状態を推定できないか実験的な検討を進めている。
そこでまず非注意性難聴が生じる際の脳の活動状態を調べるために fMRI 実験を実施した [21]。この実験
では、航空機の操縦を模擬したシステムを MRI 内に構築し、警告音を聞いたらボタンを押すといった課題を行わせた（図 15（a））。実験の結果、警告音に正しく反応した場合と比較して、警告音を聞き逃した非注意性難聴の状態においては、右の IFG（下前頭回）とPre-SMA（前補足運動野）の活動が高まっていることが確認できた（図 15（b））。
一方、実空間においては、MRI のような大型の脳活動計測装置を用いることは困難であるため、脳波（EEG）による非注意性難聴の検出を試みている [22]。
従来のインタフェースでは、ヒトの反応・行動に応じてシステムの状態を変化・適応させてきたが、将来は、行動には現われない脳内の状態を直接的に計測・推定することにより、ヒトの内的状態に最適化されたインタフェースが実現できるのではないかと考えている。

5-1

3.3

複合現実技術を活用した遠隔コミュニケー
ション

多感覚情報技術の重要な応用テーマのひとつとして、
遠隔コミュニケーションの促進が挙げられる。現在、映像・音声をリアルタイムで通信し、遠隔の会話や会議を行うことは珍しいことではない。しかしながら、対面でのコミュニケーションと比較すると、リアリ
ティの伝達・再現において限界がある。その要因として、伝達情報の解像感・空間的広がり・立体感の不足、
伝送情報の遅延、映像・音声以外の多感覚情報（感触等）の欠如などが挙げられる。将来、今まで以上に臨場感のある情報が伝達できれば、遠隔の会議・作業・診察・医療・介護など、多様な遠隔コミュニケーションの実
現・促進が期待できる。
本研究グループでは、より自然でリアルな遠隔コ
ミュニケーションを実現するための技術開発を進めて

多感覚情報処理の脳・認知メカニズムの解明とその応用いる。そのひとつが、複合現実（MR: Mixed Reality）
技術を活用した遠隔コミュニケーションである。現状の遠隔会議等では、相手側の人や環境はこちら側のディスプレイの枠内に提示され、先方の空間との一体感・共有感は得られない。そこで、相手の人物映像を切り出し、その立体映像を復元してこちらの 3 次元実空間の特定の位置に固定して提示できれば、相手があたかもこちらの空間にいるかのような実在感を生み出すことが可能になると考えられる。
このような状況を実現するために、赤外アクティブ
センサを用いて人物の切り出しと奥行き点群データの計測を行い、その人物の立体構造のポリゴン表現を構築してテクスチャ画像とともに伝送し、MR-HMD（複合現実ヘッドマウントディスプレイ）を用いて実空間に立体映像を定位させた [23]（図 16）。この MR-HMD
デバイスは、頭部位置のセンシングにより 3 次元空間(a) 航空機の操縦を模擬した実験システム(b) 警告音を聞き逃した状況に対応した脳活動図 15 非注意性難聴に対応する脳内状態を特定するための fMRI 実験
航空機の模擬操作時に警告音を聞き逃した場合、右の IFG（下前頭回）と Pre-SMA（前補足運動野）の脳活動が高まることを示している。

図 16 複合現実技術を活用した遠隔コミュニケーション
赤外アクティブセンサ（左）を用いて計測された奥行き点群データから人物の立体構造とテクスチャ映像を生成し、MR-HMD（複合現実ヘッドマウントディスプレイ）に無線で伝送する（中）ことにより、遠隔からの人物映像を実空間に定位させて会話ができる（右）。

475

脳機能の理解と知見応用のための各種アプローチ

内に立体映像を高精度で定位させて表示させることができる。今回の実験では、人物の立体構造の抽出・伝送にかかる計算時間を最小限に抑える手法を考案して実装し、実時間でスムーズな会話が可能な遠隔コミュ
ニケーションを実現できた。
この複合現実のテレプレゼンス技術は、遠隔にいる
相手と空間の共有感を促進するとともに、取得した立体映像情報に操作を加えることで更なる心理的効果を生み出せる。例えば、相手の立体映像の向きを調整することで視線を一致させることもでき、より自然な意
思疎通が可能になると考えられる。今後、このような効果の検証実験を通じて、本技術の社会展開を図っていく予定である。

4

おわりに
本稿では、CiNet の多感覚認知グループで実施しているヒトの多感覚認知メカニズムの研究に関して、その狙い、最新の成果、将来の応用について概説した。
一方、このような取組は、研究室内の活動にとどまらず、産学官のフォーラム活動を通じて、我が国におけるこの分野の活性化と技術・知見の社会的普及に努めている [24]。また、脳科学・人間科学と情報通信技術に関する異分野融合の研究開発を通じて、地域活性化にも貢献してきている [25]。当研究グループでは、今後更に、感覚・感性の本質を探る研究を進めるとともに、そこで開発された解析技術や得られた科学的知見を社会に活用・展開していきたいと考えている。
【【参考文献1 Y. Sakano and H. Ando, “Effects of head motion and stereo viewing on
perceived glossiness,” Journal of Vision, 10(9):15, pp.1–14, 2010.
2 A. Wada, Y. Sakano, and H. Ando, “Human cortical areas involved inperception of surface glossiness,” NeuroImage, 98, pp.243–257, 2014.
3 A. Wada, Y. Sakano, and H. Ando, “Differential responses to a visualself-motion signal in human medial cortical regions revealed by wideview stimulation,” Frontiers in Psychology, 7:309. doi: 10.3389/
fpsyg.2016.00309, 2016.
4 P. Mokhtari, H. Takemoto, R. Nishimura, and H. Kato, “Frequency andamplitude estimation of the first peak of head-related transfer functions
from pinna anthropometry,” Journal of the Acoustical Society of America(JASA), vol.137 no.2, pp.690–701. 2015.
5 P. Mokhtari, H. Takemoto, R. Nishimura, and H. Kato, “Vertical normal
modes of human ears: individual variation and frequency estimationfrom pinna anthropometry,” Journal of the Acoustical Society of America(JASA), vol.140, no.2, pp.814–831. 2016.
6 A. Callan, D. Callan, and H. Ando, “Neural correlates of sound externalization,” NeuroImage, 66, pp.22–27, 2013.
7 A. Callan, D. Callan, and H. Ando, “An fMRI study of the ventriloquism
effect,” Cerebral Cortex 25, pp.4248–4258, 2015.
8 P. Mokhtari and H. Ando, “Iterative optimal preemphasis for improved
glottal-flow estimation by iterative adaptive inverse filtering,” Proc.
Interspeech, pp.1044–1048, DOI: 10.21437/Interspeech.2017-79. 2017.
9 安藤広志，J. Liu，D. W. Kim，
“多感覚インタラクション技術とシステム
応用，”情報通信研究機構季報，vol.56 nos.1/2 2010.
10 J. Liu and H. Ando, “Hearing how you touch: Real-time synthesis of48

情報通信研究機構研究報告 Vol. 64 No. 1（2018）

contact sounds for multi-sensory interaction,” Proc. IEEE Conf. Human
System Interaction, pp.275–280, 2008.
11 J. Liu and H. Ando “Metal sounds stiffer than drums for ears, but notalways for hands: Low-level auditory features affect multisensory stiffness perception more than high-level categorical information,” PLoS
ONE, 11(11): e0167023. doi:10.1371/journal.pone.0167023, 2016.
12 J. Liu and H. Ando “Response modality vs. target modality: Sensorytransformations and comparisons in cross-modal slant matching tasks,”
Scientific Reports, 8: 11068, DOI:10.1038/s41598-018-29375-w, 2018.
13 D.W. Kim and H. Ando, “Development of directional olfactory display,”
Proc. VRCAI (Virtual Reality Continuum and is Applications in Industry),
ACM SIGGRAPH, 2010.
14 安藤広志,““香り”を瞬時に切り替えられる「香り噴射装置」の開発, ”
ITU ジャーナル vol.43（7）, 2013.
15 NICT 発ベンチャー（株）アロマジョイン（2012 年 10 月設立）：https://aromajoin.com/
16 西野由利恵, D.W. Kim, J. Liu, 安藤広志，“香りが人の感触に与える効果
に関する心理物理学的分析,”日本バーチャルリアリティ学会誌, 19（1）17–23, 2014.
17 Y. Tsushima, Y. Nishino, and H. Ando, “Olfactory stimulation affects
motion perception, ECVP abstract, p.114, 2017.
18 西野由利恵, 村井紀彦, 安藤広志,“デジタル式嗅覚検査システムの研究開
発：嗅覚障害患者を対象とした嗅覚感度測定,”日本味と匂学会第 51 回
大会 Proceedings集, 2017.
19 N. E. Nawa and H. Ando, “Classiﬁcation of self-driven mental tasks
from whole-brain activity patterns,” PLoS ONE 9:e97296. doi: 10.1371/
journal.pone.0097296, 2014.
20 N. E. Nawa and H. Ando, “Retrieving binary answers using whole-brain
activity pattern classification,” Frontiers in Human Neuroscience, 9:689.
doi: 10.3389/fnhum.2015.00689, 2015.
21 G. Durantin, F. Dehais, N. Gonthier, C. Terzibas, and D. Callan, “NeuralSignature of Inattentional Deafness,” Human Brain Mapping
38(11):5440–5455. DOI: 10.1002/hbm.23735, 2017.
22 D. Callan, T. Gateau, G. Durantin, N. Gonthier, and F. Dehais, “Disruption
in neural phase synchrony is related to identification of inattentional
deafness in real-world setting,” Human Brain Mapping 2018;00:1-13.
DOI: 10.1002/hbm.24026, 2018.
23 M. Joachimczak, J. Liu, and H. Ando, “Real-time mixed-reality telepresence via 3D reconstruction with HoloLens and commodity depth sensors,” Proc. the 19th ACM International Conference on MultimodalInteraction (ICMI), pp.514–515, 2017.
24 超臨場感コミュニケーション産学官フォーラム（URCF）：http://www.
urcf.jp/25 けいはんなリサーチコンプレックス事業：http://keihanna-rc.jp/

安藤広志 （あんどうひろし）

脳情報通信融合研究センター
脳機能解析研究室
副室長
Ph.D.
認知脳科学、多感覚情報処理、多感覚インタ
ラクション

和田充史 （わだあつし）

脳情報通信融合研究センター
脳機能解析研究室
研究員
博士（情報学）
脳機能イメージング、視覚情報処理、人工知能5-1

坂野雄一 （さかの多感覚情報処理の脳・認知メカニズムの解明とその応用

Daniel Callan （ダニエル

ゆういち）

カラン）

脳情報通信融合研究センター
脳機能解析研究室
研究員
博士（工学）
視覚情報処理、認知脳科学、映像評価

脳情報通信融合研究センター
脳機能解析研究室
主任研究員
Ph.D.
Neuroergonomics

カラン 明子 （カランMichal Joachimczak （ミハウ ヨアヒムチャク）あきこ）

脳情報通信融合研究センター
脳機能解析研究室主任研究員
博士（学術）
認知脳科学、聴覚神経科学

Parham Mokhtari （パーハム

脳情報通信融合研究センター
脳機能解析研究室
研究員
Ph.D.
Mixed reality telepresence, ₃ D
reconstruction, Deep learning

モクタリ）

脳情報通信融合研究センター
脳機能解析研究室
主任研究員
Ph.D.
Acoustics and physiology of human vocal
communication and spatial hearing

Juan Liu （ジュエンリュウ）

脳情報通信融合研究センター
脳機能解析研究室
主任研究員
Ph.D.
多感覚認知と行動、ヒューマン・マシン・イン
タフェース、機械学習

西野由利恵 （にしのゆりえ）

脳情報通信融合研究センター
脳機能解析研究室
主任研究員
博士（心理学）
認知心理学、認知脳科学

對馬淑亮 （つしまよしあき）

脳情報通信融合研究センター
脳機能解析研究室
研究員
Ph.D.
知覚神経科学、先端映像評価

Norberto E. Nawa （ノルベルト エイジ ナワ）
脳情報通信融合研究センター
脳機能解析研究室
主任研究員
博士（情報学）
高次認知・情動の神経基盤49