解説 / Review

横幹連合・日本人工知能学会 共催

パネル討論「人工知能と横幹知」
高橋 大志∗1 · 津本 周作∗2 · 堤 富士雄∗3 · 松尾 豊∗4 · 栗原 聡∗5北川源四郎∗6 · 椹木哲夫∗7 · 林 勲∗8

日時：2019 年 11 月 30 日（土）15:25〜17:25

学高橋大志教授と人工知能学会副会長（当時）の島根大

場所：長岡技術科学大学

学津本周作教授である．Society 5.0 実現の中核をなすと講義棟 A 講義室

される「人工知能」について，人工知能学会でリーダー
オーガナイザー：

シップをとられている研究者と横幹連合加盟学会会長経高橋大志（慶應義塾大学／横幹連合，人工知能学会）

験者が，それぞれの立場で人工知能に関する学術課題，

津本周作（島根大学／人工知能学会副会長）

社会課題を考える場であった．これを機会に，両者の連コーディネータ：

携活動が発展すればと考える．

高橋大志（慶應義塾大学／横幹連合，人工知能学会）
人工知能学会パネリスト（50 音順）

近年，関心を集めている人工知能，その現状・将来に堤 富士雄（電力中央研究所）

向けて必要な活動とは何かを共有することがこのパネル

津本周作（島根大学）

セッションの目的です．最初に人工知能学会，次に，横松尾 豊（東京大学）

幹連合に話題提供を頂き，パネリスト間とフロアからの横幹連合パネリスト（50 音順）

質疑応答，最後にパネリストの方々から提言を頂く形で

北川源四郎（東京大学／横幹連合会長，日本統計学会

進めます．

元会長）
椹木哲夫（京都大学／計測自動制御学会会長）

堤

林 勲（関西大学／日本知能情報ファジィ学会前会長）

人工知能学会では AI マップタスクフォースを組織し，
AI マップ β という資料を 2019 年 6 月に発表しダウン
ロード可能としました（https://www.ai-gakkai.
or.jp/resource/aimap/）．人工知能学会全国大会には，AI 研究者と AI を利用しようという方々が 3,000
名ぐらい集まり，毎年増えている状況です．AI 研究の初学者と AI 利用者に AI 研究の広がりと方向性を知って頂こうというのが AI マップの趣旨です．
AI マップは，4 枚になりました．A，B，C，D の 4 つの視点で作りました．
最初の A ですが，マップの左側が AI，右側が人間・人間社会です．AI の中身を研究している人がたくさんいることが左側で示されます，AI がいろいろと使われ社会に実装される可能性や課題が右側になります．当然ですが，AI は単体で存在せず，人間や人間社会とつながって進む分野です．
名刺交換を例に挙げると，私が懐に手を入れて近付くと先方は名刺を探しだす，これは非常に知的な活動ですが，無意識に近い状態でやっています．これが人間のすごいところです．人間と計算機をつなぐ分野，ヒューマ
ンエージェントインタラクションはホットな研究です．

横幹連合加盟学会以外のパネリスト
栗原 聡（慶應義塾大学／情報処理学会，人工知能学会）
この記録は，長岡技術科学大学で開催された第 10 回
横幹連合コンファレンス横幹連合企画セッションとして，2019 年 11 月 30 日 15 時 25 分から 17 時 25 分まで開催されたパネル討論「人工知能と横幹知」の概要をまとめたものである．本セッションは，人工知能学会との共催で開催された．コーディネータと当日の司会は，横幹連合と人工知能学会との両者で活躍している慶應義塾大∗1 慶應義塾大学／横幹連合，人工知能学会∗2 島根大学／人工知能学会副会長∗3 電力中央研究所／人工知能学会∗4 東京大学／人工知能学会∗5 慶應義塾大学／人工知能学会・情報処理学会∗6 東京大学／横幹連合会長，日本統計学会∗7 京都大学／計測自動制御学会会長∗8 関西大学／日本知能情報ファジィ学会前会長

富士雄（電力中央研究所／人工知能学会）

Received: 23 November 2020.

100

横幹 第 14 巻 第 2 号

Artificial Intelligence and Transdisciplinary Science and Technology

また，AI の倫理や公平性，信頼性も AI が社会に入ってれた関数を使う技術です．深い関数は表現力が高く，入くるに従い課題になっています．AI がどうやって生ま

出力のいろいろな関係を表すことができます．

れて，維持されて，破棄されるかも今盛んに議論されています．

画像認識等で大きな性能の向上を生み出しています
し，最近は，ロボットに適用されています．面白いのは次に技術と応用のマップ B を見ながら技術面を考え「深層生成モデル」で実際のデータではない画像等をたます．AI 研究は非常に小さなコミュニティから始まり

くさんのデータからの学習で生成することです．どのよました．その後，幾つか冬の時代を経験しました，今，

うにやるかというと，有名なのが GAN（敵対的学習ネッ

このマップの左から右に向かって，対象も下から上に向トワーク）で，偽札をつくる犯人とそれを識別する銀行

かって，複雑な対象を扱うようになりました．こうしてを戦わせ進化させることで，きれいな実データではない

ながめると研究分野としては違うのに近くにマップされ画像を生成できます．

るものが意外と見えます．マルチエージェントシステム

しかし，深層生成モデルの意義は，未来の予測にありと，コントロール，全く違う軸ですが，意外にもこれからます．Predictive Coding はそのためのモデルのひとつで連携して大きな発見の可能性もあると想像しています．

すが，深層学習と組み合わせることで，特定のフレーム

3 番目のマップ C の視点が応用分野の人たちに好評でした．一番上側に社会的実装を配置，真ん中に機械学習などいろいろな手法が配置されます．一番下側にそれを支える基礎的な AI 研究が描かれています．さらに言うと，その下に，数理統計や数理最適化，OR などが関わる，基礎的分野があります．さらに，その下に，哲学，
倫理学，心理学，生物学，さまざまな研究分野と一緒になって基盤がつくられています
現在，AI マップ β の 2.0 版を作ろうとしています（注：2020 年 6 月 11 日に第 2 版が公表）が，それは，この応用の辺りを緻密に作る必要があると考えています．例えば，SDGs など社会課題といかにうまく接合できるかを深堀りしています．
最後のマップは D です．これは，知能がどういうものかという視点から描いていたマップです．丸くなっていて，機械学習は左のほうの学習・予測に相当します．
帰納的推論をデータから行う色々な研究があります．機械学習はブレークスルーを果たしている分野で大事ですが，それ以外にも現在も研究が進んでいる推論，知識，言語研究があります．現在，機械学習系と推論，知識，言語系の方法論が融合を果たしつつあります．こういったことを一緒にやると極めて強力な武器になり，大きな社会実装に繋がります．他にも，ロボット，人の対話，発見，観察，創造，進化，生命，成長といった文明に関わることもベースになることで大きく羽ばたこうとしています．
AI 研究の面白いところは，周りにたくさん関連分野があり，アメーバのようにどんどん外に向かって広がっていく要素を持っていることかもしれません．

画像を見た時に次のフレーム，その次のフレームで何を松尾豊（東京大学／人工知能学会）

深層学習と期待される役割と課題ということで話題提供をさせていただきます．
今，深層学習は注目されていますけれども，根本的には何らかの関数を仮定し，それを用いた予測誤差最小化する枠組みの中で，関数の作り方として深層のネストさ見るかを予測できるのです．また，別の深層生成モデル
では，自分がどういう行動をしたら次に何が起きるかも予測します．ロボットが手を動かすと実際にこういうふ
うに物が動くことを，やる前から予測できます．あるいは，何もない所で動かすと何も起こらないだろうということを予測するのです．これは，自分の行動を条件付けて，未来を生成し，それが良い結果だったらその行動を採用し，そうでなかったら採用しないということをやるのです．
言葉を条件にした生成もできまして，“A large commercial plane flying in the blue sky” という文を入れると画像を生成します．画像にキャプションがついたデータが沢山あり，文と画像とのペアの誤差が最小になるように学習します．反実仮想もでき，例えば，“A stop sign
flying in the blue sky” という画像は通常ないのですが，これも生成できるのです．このように生成モデルを何に条件付けるか，アクションに条件付けるのか言語に条件づけるのかによって，いろいろな生成ができるのです．
言語学会で話したことを紹介しましょう．上のような技術が背景にあるとして，文の意味が分かるとは，言葉をベースにして絵を描くことができることと仮定しましょう．絵というよりは映像といったほうが良いかもしれない．馬の絵というよりは，馬の動いている様子なのかもしれない．視覚以外にも，センサやアクチュエー
タの複合的な情報，馬のいななきとか触った時の触感とか，そういうもの全部含めて「馬」となる．
馬と牛を抽象化した「動物」となると，もはや具体的な絵ではなくて，何らかの束縛条件が緩い，絵とも言えないような何かになる．これを言葉をベースに生成するのが，意味処理の一番中心にあるのではないか．そのために深層生成モデルを用いることができ，また，いったん絵が描ければ次に何が起きるかを予測できますから，ある種のシミュレータとしても使える．思考とはそういうものではないか．つまり，ベースにはパターンのOukan Vol.14, No.2

101

Takahashi, T., et al.

処理があって，環境を知覚して，適応的に行動するといどを渡る時に，アリがアリのお尻に食い付き，まさに橋うループがある，一方，このループの上に言語的処理がを作るという知的な技を進化の過程で獲得しています．

乗っていて，言葉を使って考えたり，発話したり，推論

これは明らかに知的でしょう．しかし，単純なルールにしたりするわけです．この 2 つがどういう関係かという基づき行動しているだけで，個々のアリが橋をつくろうと，言語を扱う記号処理の部分が，知覚・運動系を駆動と思ってやっているわけではないのです．こういうのもし，深層生成モデルによって絵を描いて動かしている．

立派な知能なのだと思います．アリにも人にも共通して

そして，絵を描いて，動かした結果をまた言葉に戻す．

言えるのは，地球環境の中に適応し続けるような動機付

今度，言葉の空間でまた処理して，また，絵を描くというけが知能だということです．それが具現化したものが人ことではないかと思われるわけです．このように考える

工知能かもしれない．しかも，人間でもアリでも，脳をと，ソシュールやチョムスキーの理論などいろいろなこ

分解していくと神経ネットワークの固まりです．知能レとが整合的に説明できます．その材料となる深層生成モ

ベルは違っても原理は一緒です．知能として共通していデルは，技術的にはそろってきているので，大胆な予測るのは何かというと，群れてネットワークを作ることにですが，近い将来，言葉の意味処理が本当の意味で可能よる「創発」です．創発というキーワードで，完成されになるのではないかと考えます．それは，言葉をベースた知能をつくることができないかと議論するのが，汎用に絵を生成するのを基本にしながら，絵だけではなく，人工知能の全体的テーマの一つと考えています．

いろいろなモダリティーを含んだものを再現した上でそ

脳とは五感から何かしら情報が入ってくる反応を起こ

れを時間発展させる．そのような技術が組み合わせるこ

す神経ネットワークです．反応を起こして，それが徐々とで，言葉の意味を理解し，処理できるようになり，こに消えていく過程で何かしらの行動が生まれるのだと思れが大きな社会的インパクトをもたらすのではないかといます．反応炉のようなものです．脳の中のネットワー

考えます．

クの活性が言葉と結び付く．松尾先生と言っていること

栗原 聡（慶應義塾大学／人工知能学会・情報処理学会）は同じでしょうが，画像としてイメージで捉えるのか，

持続可能性や横幹という言葉がキーワードなので，ネッ

ずれにせよ，シンボリックを考えるのではなく，このダ

トワークという観点から話を組み立てます．IT，IOT がネットワークのダイナミクスと考えるかの違いです．いイナミクスを捉えないと駄目です．

何で騒がれているのかといえば，少子高齢化やレジリ

僕らがつくる人工知能はマルチエージェントの考え

エンス情報基盤拡充対策があり，安全安心・外交など，方に基づきますが，自律型モジュールが，連携して一国も「持続可能性」に力を入れています．その一つが，つの大きな知能が創発する仕掛けをつくっていきます．

Society 5.0 で，サイバー空間と実空間の連携を密にし，AI を活用することでの利便性の向上が目的です．ところが，まだまだサイバー空間と実空間がうまく連携ができていないのです．何でもかんでも全てをごった煮状態に集めて，そうして出来るであろうビッグデータに AI を使って，実問題解決をする，という話に終始してしまっています．
サイバー空間で解決したことに付加価値を与えて，イ
ンタラクティブに実空間に戻してこその Society 5.0 でなければいけない．戻すために何を使うかというと，物理的なスマホやロボットかもしれません．実世界にアクションを起こさなければ駄目です．そうすると実空間に対して，対話システムやアクチュエータのようなインタ
ラクションするものが必要となります．膨大なデータか
らどういうふうに学習するか，松尾先生も指摘した，画像から意味を取り出すなどの技術を確立し，想定する性能が出てくれば，簡単ではありませんが，実世界に対してアクションを起こすことが可能になります．その時必要となるのが，目的意識をもって能動的・自律的に動いてくれる「人と共生」する自律型・汎用型 AI なのです．
さて，知能は人のみが持つのか？ 軍隊アリは，谷な

連携する方法は，大きく 3 種類あります．1 つは，人間

102

社会でよくある「中央集権型」です．非常に効率は良いが，場合によると負荷がたまってしまったりするのです．インターネット社会はお互いがインタラクショ
ンを持つ「直接協調型」です．ところが，自然界や脳は間接協調型です．これは，1 個 1 個のエージェント同士が明示的な話をしないのです．動く台の上に置かれた複数メトロノームの同期画像の動画が分かりやす
く，YouTube に分かりやすい動画があります．（https://www.youtube.com/watch?v=cDfFp34iJY4）1個 1 個同じメトロノームが先ほどのエージェントだと思ってください．動く台の上に置かれた多数のメトロ
ノームが，最初はバラバラに振れているのですが，最終的に同期してしまう．これは単なる物理現象ですが，個々の動きは台という環境を通じて他のメトロノームに間接的に伝わっているわけです．こういった仕掛けが，アリや脳の中で動いていて，全体としての知性が創発されるのです．
1 個 1 個の交差点にある信号機を，AI を搭載した AI
信号機にしようという研究もあります．メトロノームのように，それぞれが勝手に動作しつつ，お互いがローカ

横幹 第 14 巻 第 2 号

Artificial Intelligence and Transdisciplinary Science and Technology

ルに協調することで，全体としての整合性のある信号機

います．海外では，後述するように，スマホのチャット制御を行う新しい制御方式が開発中で，そのための実証を使った診療支援等も登場するようになりました．

実験も開始されようとしています．荷の重い集中制御を医師会／医学会でも講演したのですが，30 年前のエキ行うことなく全体最適化を行い，交通渋滞をなくそうとスパートシステムの失敗から，知識の獲得，コンピュータ

いうことを目指しています．

を賢くしようという機械学習やエージェント間の相互作

次に，持続可能性について話します．
『マトリックス』

用，プログラムを人間らしくすることを追及して，AI 研究という映画の最後のほうに，助けに行くためにヘリコプの分野が広がりました．これは AI マップに示されていターが必要だが操縦法が分からない．そのためヘリコプ

る通りです．医療応用についても Nature Medicine2019

ターの乗り方をダウンロードすると，あたかもベテラン

年 1 月の特集「Digital Medicine」でも示されていますが，パイロットのように操縦できてしまうというシーンがあ2018 年から，FDA（アメリカ医薬品食品局）でたくさんの医療用機器への AI 応用が認可されはじめています．
認可されているもののほとんどは画像診断ですが，興味深いことに，アップルウオッチに実装されている心房細動の検査も認可されています．これは 99 ％以上の精度がなければならないという医療機器の方針を FDA が大きく転換させ，Software as Medical Device (SAMD) というコンセプトを定義し，「機械学習によって正答率が上がっていくシステムは，その精度を上げていくメカニズ
ムが存在することで医療機器と認可する」としたことによります．これからの方向性を医療等への応用として考えると，知的 Agent とこれまで開発された技術とのインテグレーションによる診療支援が今後日本でも展開していくことでしょう．例えば，インドのスマホのアプリ，
DocsApp を検索してみてください．このアプリでは，症状を入力するとエキスパートシステムがチャットで応答
して，何か重要な疑いが出た時に実際の医者がチャットで相手をします．チャットは自然言語処理され，重要なキーワードを用いて，診療支援が行われます．最終的に医師が登場した場合は，医師の確定診断を学習させるという仕組みが用意されています．以上のように，今の技術を統合すると多種多様なサービスが実現できますが，信頼性が保証されているのかという問題はあります．今後，人工知能の研究を通して，より柔軟な診療支援が生まれてくることでしょう．私の関心は，人 AI マップのB の推論・対話に関心が傾いています．こういう研究を通して，より人間に近いプログラムを作っていくことになると思います．

ります．すごく合理的ですが，ヘリコプターの操縦がこのように簡単にできるわけがありません．なぜ操縦できたのかというと，例えば車を操縦するという共通知識があるからです．ヘリコプターに乗るための差分知識だけをダウンロードしたから乗れたのです．
例えば，一人一人が自分に特化した秘書のような AIを持つとします．ただし，その AI は常識など汎用的知識までを持つとします．運転であれば，車の運転といった汎用的な知識です．でも，これだけではヘリコプターの操縦はできません．そこで登場するのが IoT や現場にあるアクチュエータなど，現場に特化した知識です．今の IoT システムは，その場所場所ばらばらで，持続可能性が低いのです．ところが各自が保有する AI との共通のインターフェースを持つことで，例えば，ある AI がある場所の IoT システムにプラグインすることで，その現場になるセンサーやロボットをあたかも自分の慣れ親
しんだロボットのように制御できるようになります．こういう切り分け方を通して，自分に特化した AI を汎用化していくことで持続可能性を出すことができると思います．

津本周作（島根大学／人工知能学会副会長）
まず，人工知能がどういうものかということから考えたいと思います．計算機上に人間の知能に近い物を実装
しようというのが，究極の目的と人工知能研究者は考えています．これは計算機がビット計算を元にしていることから，ブール演算=論理計算という立場で，計算機の登場からずっと，こういう試みがやられていました．
で名人を破ったことや医療画像診断で専門家と同等以上

北川源四郎（東京大学／横幹連合会長，日本統計学会）になったからだと思います．計算機が早くなり，これま

データサイエンスで横幹的な役割を果たしている部分で実現されてきた技術を統合することができたのです．

と，現在，数理・データサイエンス・AI の人材育成が

実は 30 年前にできなかったことを解決するために，30

行われようとしていますので，その辺について，ご紹介

年間ひたすら努力してきたのです．私は医療エキスパー

します．20 世紀の終盤に計算機の能力が非常に発達しトシステムを研究してきたのですが，出発点の頃は入力計算科学が誕生しましたが，21 世紀になると，ビッグに手間がかかるとか，間違ったデータを学習できないとデータが登場し，データ駆動型でサイバー空間を活用しか，時間とともに変化する患者の診療を支援できないな

たデータサイエンスが重要になってきたところです．

どいろいろなことがありました．こういう問題点が電子データサイエンスが横幹的役割を果たした例を 1 つ

カルテの登場，診療記録の電子化を経て解決しはじめて話します．JST の CREST ／さきがけで，計測技術と高昨今，人工知能がブームになったのは，将棋とか，囲碁Oukan Vol.14, No.2

103

Takahashi, T., et al.

度情報処理の融合によりインテリジェント計測・解析手後，文科省の事業ではこの提言が数字的にはそのまま採法の確立を目指す情報計測というプログラムが走ってお用されました．特に，IoT や AI 活用の基盤としてのデー

ります．方法と領域をクロスさせる横幹連合でよく行わ

タサイエンスを，文理を問わず全ての学生に教えるといれている考え方です．具体的にはデータ同化，最適化，

うことになりました．この国の方針に基づいて，6 大学

機械学習，スパースモデリングというデータサイエンス

が，数理・データサイエンス教育強化拠点校として選ばと，材料・ライフ・地球科学などの領域科学をクロスされました．拠点校の第 1 のミッションはそれぞれの大学せることによって，新しい研究領域を確立しようというで，全学対象の数理・データサイエンス教育を実施する

ものです．JST CREST で採択されたグループはほとん

ことです．もう一つはモデルカリキュラムを作成して，ど，計測の分野では世界最先端に近い人たちですけれど

全国全ての大学に波及させることです．この目的を実現

も，単に最先端のもので得られたものを最先端の情報処するために，6 大学でコンソーシアムを作り，モデルカ

理をするというのではなく，最先端のぎりぎりのところ

リキュラム，教材，教育用データの検討・作成を行ってまで行って，それ以上，現状では計測することが困難なきました．2019 年 4 月からはさらに 20 大学が協力校とところにデータサイエンス・数理・統計・情報の手法をして採用されて，全国を 6 ブロックに分けて，分担して融合させることによって限界突破し，今までできなかっ全国 788 大学全てに数理データサイエンス教育をというたことを実現しようというものです．

活動してまいりました．

方法と色々な分野をクロスさせることによって，分野と こ ろ が ，2019 年 6 月 に 統 合 イ ノ ベ ー シ ョ ン

間の水平展開，知識移転，あるいは融合も目指していま戦 略 推 進 会 議 が AI 戦 略 2019 （https://www.

す．直接的な分野の融合，知識移転は非常に難しいと言kantei.go.jp/jp/singi/ai_senryaku/pdf/
aistratagy2019.pdf）を定め，Society 5.0 で人間中心の社会を実現するために AI が基盤となるという方向が強く出て，かなり考え方が変わってきました．想
定していた人材ピラミッドも少し変わり，リテラシー
レベル教育 50 万人という人数は変わりませんが，その目標は AI 好きになってくれるような人間を育成することとなりました．そのうちの理系および，社会科学，経済学などの 25 万人の生徒を対象に，それぞれの領域で
AI ・データサイエンス・数理を活用できるような人材に育成するための応用基礎レベルのモデルカリキュラ
ムが作成される予定です．
コンソーシアムはこれまで数理・データサイエンス
教育の全国普及を目指して活動してきましたが，今後はさらに AI を加えるという形で方向転換しました．2019
年度中にリテラシーレベルのモデルカリキュラムを公開し，それに基づいて，大学のリテラシーレベルの認定が行われるということです．この認定は個人認定ではなくて，この大学では数理・データサイエンス・AI の教育を行っているという形で大学を認定すると言われています．2020 年度にはさらに 25 万人向けの応用基礎のレベ
ルの認定を行うためのカリキュラムを作って認定を行っていくという方向になっています．
最後に横幹連合についてです．横幹連合ではこれまではコトづくりや知の統合が重要ということで，これらを推進して成果を上げてきました．横幹としては，デジタル化の先にシステム化を想定して，それが重要だという主張でした．これは今後も重要ですが，デジタル化が爆発的に発展して，世の中を急速に変えていくような状
況になっています．したがって，ここでもう一度立ち止
まって，横幹連合の目指すべきところを考え直していか

われていますけれども，間にデータサイエンスを入れると，その汎用化機能を使うことによって，異分野融合，あるいは知識移転が実現しやすくなるということで，それを目指した活動を行っております．現在，CREST で

16 課題，さきがけで 31 研究者の大きな組織になっています．ライフサイエンス・物質材料・地球惑星科学・飛行機・魚の養殖などで使う計測や解析方法に共通性があり，それらの知識が移転できるという意味で，横幹的な活動の第一フェーズかもしれません．それがデータサイ
エンスで実現できるようになってきたのです．
次に人材育成の話に移ります．海外では 21 世紀の早い時点から，巨大なデータの分析が重要な課題となる事が認識され，2012 年頃からデータサイエンス教育のプログラムで増えてきました．2018 年 6 月に NAS (National Academy of Science) がデータサイエンスの undergraduate カリキュラムの考え方を整備しました．それに対してこの頃日本では数理科学の学部教育に注目が集まっていたので，ビッグデータの利活用人材育成に関してはかなり遅れてしまいました．2014 年に学術会議から提言「ビッグデータ時代に対応する人材の育成」が出され（http://www.scj.go.jp/ja/info/
kohyo/pdf/kohyo-22-t198-2.pdf），それを受けて 2015 年には情報・システム研究機構のビッグデータの利活用に関わる専門人材育成に向けた産学官懇談会
報告書「ビッグデータの利活用のための専門人材育成について」（https://www.rois.ac.jp/open/pdf/
bd_houkokusho.pdf）では，新入大学生全員に教育する必要があるということや，例えば，棟梁クラスのデータサイエンティストを年間 500 人育成する必要があるなど，人数まで定めた提言が出されております．その104

横幹 第 14 巻 第 2 号

Artificial Intelligence and Transdisciplinary Science and Technology

ないといけないと思います．

を成すかについての問題や，あるいはエージェントが自椹木哲夫（京都大学／計測自動制御学会会長）

動化として人と協働する場合には大きな事故につながり

ここでは人工知能学会の先生方の議論についてコメンかねないという問題も議論されました．

トをすると共に，もう一つは学会として横幹知をどのよ

津本先生のお話で，AI の医療適用が進んでいることうに捉えているか．特にそれを人工知能との関係においが分かりました．私からは，それならば医療過誤はゼロて話します．

にできるのかという質問を返したいと思います．医療過堤先生の AI マップ．非常に網羅的に素晴らしいと思

誤は，我々エンジニアから考えると，そんな数の過誤をいました．私は一回前のブーム，1980 年代にエキスパー

起こしていていいのかと切実に感じます．事が起こってトシステムが盛んに言われた時期がございまして，ちょもそれを失敗だとみなさなければ失敗からの学習は進み

うどその時期に博士研究に従事していたことから AI をません．航空機業界では匿名で，いろいろな事故やニア勉強したのです．正直言いまして，先ほど見せていただ

ミスについての報告が遅延なく出せるようになっていまいた AI マップは，当時のキーワードと，ほとんど変わっす．関連して，ELSI (Ethical, Legal, Social, Impact) の問ていないという感想を持ちました．もちろん，AI フロ

題への見解が法のエキスパートから欲しいと思います．

ンティアについては初めてでした．当時はエキスパート

信頼性という言葉も出てきましたが，AI への Trust といシステムですが，ICOT 第 5 世代コンピューターで，そう意味での信頼感をいかに実現できるのかが決め手にな

ういう議論はされていました．

ると考えます．

松尾先生が提示された「意味を深層学習でつかめるか」

計測自動制御学会 (SICE) からは，エンジニアリング

は非常に興味深いテーマです．私の後で話題提供されるやサイエンスにおいて育成を目指すべき人材像について

林先生のファジィを引用させていただくならば，ファ2 点だけ，強調しておきます．
一つは，「モデル思考のデザイン能力」を，計測・制御・システム関係を扱う上で重視しているところです．
分野が違っても，モデルを共通言語にして話が通じる．
これが SICE の強みだと思っております．そういう点で，深層学習の意味の理解について，本当にその対象における深いモデルを作り上げた上での理解になっているのかという質問をさせていただいたのはそういう観点からです．
もう一つは，human centered，人間中心の考え方です．
システム系でのヒューマン・マシンという人間と機械の関係です．機械もある時には「自動化」という技術を内包するように変わりました．そして「自動化」が，今や「AI」に代わってきているかと思います．
自動制御に関しては，今般 IFAC World Congress 2023
を 42 年ぶりに我が国に誘致でき，横浜において東大の淺間一先生を会長として実施されることになりました．
そこでの大会テーマは「わ」です．日本語の「わ」を 3 つの異なる「わ」の意味に置き換えて，「『環』を以て『輪』を為し『和』を創る」というスローガンでまとめています．制御の対象が環（Community）となり，制御の手段
が輪 (Feedback) となり，制御の目標が和 (Harmony) となるという趣旨です．現在，SICE では「社会の中での学会」の位置付けを重要視しています．SDGs もそういった意味では学会が真剣に取り組みをしなければいけない課題であると認識しています．集団としての社会にどのような情報をフィードバックしていけるか，社会の行動
変容をどう促していけるかを考えるといった観点が，これからの学会には求められると考えています
今日の話を聞いていて私が疑問に感じましたのは，確ジィ制御と深層学習のアナロジーを感じました．ファジィ制御は 1970 年から，80 年代盛んに応用された時に，
アンチファジィ制御といいましょうか，従来の一部の研究者からは，そういうものは受け入れられないと言われたのです．それは何かというと，ルールだけで対応してその背後の現象のモデルはどうなっているかを抜きにしては怖くて使えないというせめぎ合いがありました．今日の深層学習アプローチが，どちらかというと，うまくいっているのだからいいではないか，意味もここまでの扱いができるのだから，意味をちゃんと理解していることになる．このような考え方はよく分かったのですけれ
ども，一方で，言語理解を例にとれば，シンタクティク
ス，セマンティクス，プラグマティクスの三軸のもとでの構造化ができない限り，本当に言葉を理解したということにならないと考えますが，果たして，今の深層学習
はどのレベルまでできているのかが誠に興味ふかいところです．
栗原先生のマルチエージェントと創発も，従来，科学研究費で「創発システム」という重点領域が走っており私も参加しておりましたが，その時に議論したのがやはり「間接制御」という概念でした．今日のお話はそうい
う意味で興味深かったです．当時，機能創発の研究者の間では，環境側を変えることでエージェント群の振る舞
いを変容させていくことを「間接制御」と言いました．
今日のお話はそういう観点だと思いましたし，それから，
マルチエージェントの創発では，「引き込み現象」に係る研究が従来から日本で行われていたところであり，さらに電子市場に係る研究では，人工エージェントに加えて生身の人間が絡んできた時に果たしてどのような創発

Oukan Vol.14, No.2

105

Takahashi, T., et al.

かに 17 の持続性はいずれも大事であることは確かです

雇用者の経験と雇用者側の雇用ニーズとのマッチングをが，日本においてはこのような SDGs の議論のもっと手やるのです．高齢者の持っている能力の中には，もう雇前側での持続性の方が深刻な問題ではないかという点

用者がそんな能力は不要と考える能力もあれば，欠落しです．生産年齢人口がこの先 2030 年から 2040 年にかている能力もあります．しかし，人工知能や自動化によ

けてぐっと減ってくることは不可避であってその後も回る能力と組み合わせを考えることで，高齢者の方が持っ復は見込めません．これだけ減ってしまう労働力を一体ている能力を引き上げながら活用できる新しい作業をデどうしますかということが議論されないままでいくと，ザインすることができるでしょう．それによって，高齢持続性もあったものではありません．日本が世界に先駆者の人も安心して，自分らしさを発揮できる仕事に就いけで経験をする事態なのです．従って日本が，この縮小ていくことができるということが実現できます．

を余儀なくされる社会（Shrinking Society）の持続性にものづくり現場では，人間と機械による協働生産も必関して，何がしかの提言を出すことができれば，諸外国

須の項目になっています．特に安全性に関しては，コラ

はそれに追随してくることでしょう．しかし，今のとこボレーションセーフティーという，人と機械が共に協力

ろそういう動きが出てきていません．2050 年には，日し合って安全性をどう担保していくかという概念が注目

本の 100 歳以上の人口が 100 万人を超えるということされていますが，この実現には AI がかなり導入されてですし，今，100 年ライフというのが当たり前になってくることはたしかです．

きています．これから 10〜20 年程度のうちに 70 ％以

次に，これも高齢者雇用の持続性を必要とする理由の上自動化される可能性が高い仕事は全体の 47 ％である

一つになりますが，熟練技術者の確保・育成基盤の整備とのデータも出ています．自動化には AI によるものがを進める必要があります．今や，様々な IoT や計測技術急激に入ってきます．当然，そこには人の側の不適応がのイノベーションが進む中にあっては，人を測るだけで生じる可能性はあり，そこまでを含めて安全・安心な社

なく，人の置かれている作業環境そのものを測って，そ会を見守っていく必要があります．ここで申し上げたい

こから様々な関係性を読み解くことができる時代になっのは，SDGs の持続性以前に，何よりわれわれ人間が持ています．それをやらないと，熟練は理解できません．

つべき「人間力の持続性」こそが SDGs のいくつかに共さらに，高齢者の就業寿命をいかに延伸させるかとい通する持続性の根源にあると考えます．人間力をいかにうことです．「フレイル (Frailty)」として知られています

サスティナブルにしていくかが，差し迫った問題となりが，老いの初期の段階が細かく分類されています．こうます．

いった分類は，日ごろのセンシングやモニタリングで，生産年齢人口が激減する問題の解決のためには，労働どの状態にあるかの同定が可能です．フレイルは，ある力不足を補うための自動化機械による省力化や効率化にところまでに介入してあげれば，また健康な状態に戻れよる解決策だけではなく，高齢者の潜在労働能力を引きるという，そういうレジリエント（復元可能）な状態で出し，働くことによってさらなる健康を手に入れ，経験

す．従って，そこはやはりデータ，知識，適切な介入にによって培われた能力を活用でき，見守りセンシングとよって，人の行動をいかに変えていけるかというサイク

データ集積から高齢者が安心して働き続けられるようにルを実現していくことが，システム制御，情報の観点かすること，が肝要です．すなわち，失われる労働力を人ら見た，今後の人間力の持続性に関して求められるとこ

工知能やロボットで置き換えていくという選択肢とともろです．

に，もう一つは，60 歳，65 歳を超えても，働き続けても最後に，SoS (System of Systems) と呼ばれるような，らうという選択肢です．単純に働き続けてもらうといっ

あらゆるものがつながりだす複雑な社会になってきますても，無理があります．いかに人工知能やシステムや制と，ある一カ所でのゆらぎが全般に伝播して，それを抑御の技術で，これを可能にしていかねばならないかとい

え込むことが困難を極めることは十分に想像できます．

うことです．

正常に遂行できるはずのものとしてデザインされていた

人間機械系の場合には，人間が得意とする能力，機械が作業手順が，意図しない文脈の元に置かれて実施しなけ

得意とする能力．それらを両方，考えて最適な組み合わればならなくなってしまうことで，正常な遂行を想定しせを考える MABA-MABA (Men Are Better At - Machinesていた機能が思わぬ不全をきたし，それがつながった他

Are Better At) のための研究がありました．今やこれがMABA-AABA (Men Are Better At - AI Are Better At) で，人間の思考と AI の思考のそれぞれのいいところをいかに融合させるかという観点になるでしょう．
今，AI の適用がされようとしている分野の一つに高齢被雇用者のマッチングという課題があります．高齢被のシステムへと伝播する中で正常な状態からの乖離が雪106

だるま式に増大してしまい，やがて破綻に至るという事態の生起が懸念されます．特に高齢者に安心して働き続けてもらうためには，SoS の脆弱性の原因にならないよ
うに作業をデザインすることが必要であるとともに，万が一そういう事態になった時にでも安定性を回復するた

横幹 第 14 巻 第 2 号

Artificial Intelligence and Transdisciplinary Science and Technology

めの手立てが用意できているか，さらにその有効性が実りました．いまの人工知能のブームが，この先，どうな証できるか否か (Verification and Validation) に関わるレ

るか分かりませんが，われわれとしては今回の人工知能

ジリエンスのシミュレーション技術は必須になると考えのブームの後にも，人工知能の一つの理論として，ファています．

ジィ理論をもうひと花咲かせたいというのが正直なとこ最後になりますが，ジョン・F・ケネディが米国大統ろです．実際，2018 年度のファジィシステムシンポジウ

領在任中の 1962 年にこういう言葉を残しています．
「わムのセッションのタイトル名を見てみますと，人間共生

れわれは信じる．人間を労働から追い出す機械を新たに

社会，進化計算，テキスト解析，知的システムや，制御発明する才能があるのなら，その人間を労働へと戻らせや医療分野，パターン認識，データマイニングなどが並る才能もまた人間にはあるだろう．」まさにこの言葉をびます．ですので，ほとんど人工知能と同じ分野を網羅

肝に銘じて私からの発表を終わらせていただきます．

しているのがわかります．2019 年度も同様なセッショ

林 勲 （関西大学／日本知能情報ファジィ学会
前会長）

ンが構成されていて，いまでは，ファジィ理論を扱っているセッションは，2 割か，3 割ほどしかありません．

私はここでは具体的な事例を中心に紹介していきたい

Google Scholar を使って，英語雑誌の論文のキーワードと思います．まずは日本知能情報ファジィ学会の活動内

検索を行ってみました．人工知能 (artificial intelligence)

容について紹介します．日本知能情報ファジィ学会の定のキーワードで論文や記事を検索してみると 160 万件

款の前文には次のように書かれています．「日本知能情になります．ただ，不思議なことに，人工知能 (artificial

報ファジィ学会は，あいまいさを含む全方位から知能の

intelligence) の略語である AI で検索すると 228 万件に増えるのです．これは，AI の意味が本来の人工知能の意
味よりも拡大したものになっていると思われます．一方で，deep learning で検索すると AI の検索数とほぼ同じなのです．これは，一般には，AI・イコール・deep learningというイメージになっているのかなあという感じがします．なお，ファジィ (fuzzy) のキーワードは 176 万件でして，robot よりも多く，deep learning の次ぐらいに来ています．一方，人工知能（artificial intelligence）と自動車（automobile）の and，つまり，自動運転の意味で検索してみると，2 万件になり，AI と自動車 (automobile) では
9 万 5,000 件にもなります．しかし，人工知能 (artificial
intelligence) とファジィ (fuzzy) は 20 万件です，また，AI とファジィ (fuzzy) は 63 万件にもなるのです．ですので，英文雑誌では，ファジィと AI はとても密接な関係にあって，ファジィ理論は人工知能のひとつだということも言えます．このように考えますと，私としては，
日本知能情報ファジィ学会は，今後も人工知能学会と共同歩調を保ちながら，ともに横幹知を発展させる学会として発展できればと思っています．
私の研究室では，脳知能情報学の研究を行っています．具体的には，ニューラルネットワーク，ファジィ，
それから，進化計算のソフトコンピューティング，あるいは，強化学習や機械学習，アンサンブル学習などの知能モデルを研究しています．特に，データを高精度に表現するモデルを提案するだけでなく，モデルを高精度にするようなデータの構築法を研究しています．データをどのように構成し，どのように学習モデルに投入すれば，モデルが高精度となるか，そのような逆転の発想で研究しています．例えば，実際に生きている培養神経細胞網から知識を獲得する研究をしています．ラットから海馬領域を抽出し，培養皿で培養しますと，大体 1 か月半程

解明，実現，応用に対して科学的に挑戦する学会です．
また，自然科学・技術にとどまらず，人文・社会科学の分野も包含する領域横断的な学会です．
」 つまり，ファジィ学会はまさに横幹的な学会と言えます．特徴は，知能を扱うということと，工学系だけでなく人文系や社会科学系も含んでいるということ，ソフトサイエンスを含んでいる学会なのです．

1965 年に，ロトフィ・アスカー・ザデー先生がファジィ理論を提唱され，日本ファジィ学会が発足したのは1989 年です．そして，いまの日本知能情報ファジィ学会に改名したのが 2003 年で，知能と情報を前面に出して現在に至っています．現在，会員は 700 名ぐらいです．
残念なことにザデー先生は 2017 年 9 月 6 日にお亡くな
りになりましたが，われわれにとっては，ザデー先生はファジィ理論の提唱者というか，ファジィ理論の父のよ
うな身近な存在です．母国のアゼルバイジャン共和国では，新聞には人工知能の父と書かれていました．Alleyof Honor（アゼルバイジャン共和国の国立墓地）に埋葬されています．
ファジィ集合は，通常の（クリスプ）集合に対して，感性の成り立ちの度合い，「らしさ」をメンバシップ関数で集合に加えるわけです．人の感性の意味を数値に変換するのがメンバシップ関数のファジィ集合です．この定義はとても簡単な構造ですが，意味深い概念だと思います．ですが，最初はなかなか受け入れられませんでした．しかし，徐々にその意義が認められて，その推論モデルがファジィ推論やファジィ制御として花開いたのは1970 年からです．先ほど椹木先生の話に出てきましが，
80 年代の後半から 90 年代のはじめにファジィブームが起こったわけです．現在の人工知能ブームの 30 年ほど
前，第 2 次の人工知能ブームの後にファジィブームがあ

Oukan Vol.14, No.2

107

Takahashi, T., et al.

度生きていて，培養神経細胞は複雑な神経細胞網を形成を獲得する研究と，オムロンの卓球ロボットの共同開発

します．これを使って，ミニロボットに接続し，ミニロの研究事例を紹介します．戦略獲得の研究は，特別な装ボットによる刺激信号を培養皿に送り，その信号を解析

置を必要としないことを目指していて，テレビの放送動すると，培養皿の中でも知能は出来上がるという研究を画から選手が考える戦略を獲得することを目指していま

他大学と共同で行いました．具体的には，ミニロボット

す．卓球の試合動画から，ボール軌跡やボール回転，選の走行中に障害物を近づけると，その距離をロボットの手位置などを画像処理で抽出して，選手の戦略をアンサ

センサーが感知し，信号をロボットに接続されている培

ンブル学習で獲得します．一方のオムロンの共同研究の

養神経細胞網に送って，培養神経細胞網が反応信号を出方は，卓球ロボット「フォルフェウス」の開発に協力し力します．その出力信号を計測してロボットに送り，ミています．オムロンは 5 年ほど前から卓球ロボットの研ニロボットが障害物を回避するのです．このミニロボッ究を行っていて，人工知能の研究者と卓球の研究者を探トと培養神経細胞網の接続は生命反応と制御反応の接していたそうで，それが，人工知能と卓球の両方を研究

続，つまり，生き物と機械との接続とデータ変換ですが，している都合の良い研究者がいると知ったそうで，それこの変換にファジィ集合の推論ルールを用いています．

が私だったわけです．この研究を何故ここで紹介したい

その結果，ミニロボットに，ある特定の走行コースをかというと，この卓球ロボットは人に勝つための競技用

自走させるということができまして，2 つの塀の真ん中のロボットではないからです．このロボットは，人に寄をロボットは壁に当たらずに走行することができます．

り添い，人間を育てるロボットなのです．ロボットの対

しかも，この実験を何度も繰り返すと，ミニロボットは戦相手の卓球技能を評価し，その相手が初級者なのか，段々と真っ直ぐに走行していって，その知識がファジィ上級者なのかを見分けて，初級者だったらそれなりに簡推論ルールで獲得されていくのです．培養皿の中の神経

単なボールを返し，上級者だったら難しいボールを返球細胞網でも知能は作られ，われわれはそれをファジィ推することをします．皆さんは，最も楽しい練習とはどの論ルールの知識として抽出することに成功したのです．

ような練習と思いますか？ 自分の技能が少し上達する

別の研究事例ですが，最近は，卓球の技能スキルを獲ような，例えば，自分の技能が 100 とすれば，技能が 120得する研究を始めています．飛んでくる卓球ボールに対を持つような，ちょっと自分より上手い相手と練習した

して，被験者 3 人がラケットのフォアでスイングしていいですよね．この卓球ロボットは，相手の技能を見抜き，る動画があります．観ていてください．1 人だけ卓球部

その相手の技能の 120 ％程度の技能で返球できるので員がいます．それを皆さんに当ててもらいたいと思います．つまり，人が喜ぶような環境を作ることができるロ

す．次々と動画を見せますので，3 人がスイングをする

ボットなのです．競技者を育てるロボットですね．このところを見ていただきたいと思います．どうですか，誰

動画が最新のロボットです．最後は人の方がミスします

が卓球部員かがわかりますか？ どんなに痩せていてもが，彼は喜んで練習しています．彼はこの研究が開始さ体型を見てスポーツマンかどうかを判断してはいけませ

れたときには全く卓球はできなかったのですが，毎日，んよ（笑）
，スイングを見てほしいのです．答えは，最初卓球ロボットの相手をしていて研究していることで，技の動画の被験者です．多くの人が正解でしたね．でも，能が育てられたそうです．私はオムロンのこの研究の意

ここからが問題です．何故，皆さんは正解したのでしょ義に賛同し全面的に研究に協力しています．将来，人間うか？ 皆さんは卓球のコーチではないはずです．です

社会の中でロボットが存在する世の中になったとき，ロが，多くの人が正解しました．何故でしょうか？ それ

ボットは決して敵対するものではなく，むしろ，人間とは，われわれは多くの試合動画を見た経験から，卓球技能

ロボットが共存する，ロボットが人を育てる，そのようの評価や知識を自然と獲得しているのです．ですが，そな世界があってもよいのではないか，そのような一例に

れは口では表現できないと言うことだと思います．このもなるのではと考えます．ちなみに，この研究は，NHK

知識を多層構造のニューラルネットワークで獲得し，そのサイエンス ZERO でも紹介されました．

れをファジィルールとして表現する研究を行いました．

討論

獲得されたルールを見ると，実は，体の開き具合とか，

高橋：椹木先生から人工知能の先生方に質問があったのラケットスイングの軌道の違いとか，スイングの安定性

で，その辺から始めさせていただければと思います．

とか，そう言った，スイングのコンパクト性や効率性が堤：椹木先生のご指摘は正しいです．昔のキーワードを

卓球の熟練者と初級者を見分けるポイントとなっていた

なるべく残すような形でつくったというのが正直なとのです．このような観測データと動作の熟練性との関係ころです．中身も変わっているものもたくさん存在するをファジィルールとして抽出するができたわけです．

のですが，キーワード的には，共通なものを選びたいと最後に，知識を有効に活用する研究の一つとして，現いうことにしました．新しいものももちろん入っていま

在，日本卓球協会の協力を得て，選手の卓球勝負の戦略

して，深層学習は，松尾先生から何かコメントがあると108

横幹 第 14 巻 第 2 号

Artificial Intelligence and Transdisciplinary Science and Technology

思います．どの分野も社会実装が近付いたところが問題

則を導き出す研究は進んできているということです．逆自体も複雑になっています．椹木先生がおっしゃっていに，リジットな法則がある上で，その差分だけ，誤差だけたファジィ制御に対してアンチファジィから受け入れらをニューラルネットワークで学習する方法もあります．

れない．今も人工知能を実応用する時にいろいろな分野

それらはどちらかというと，帰納的にやる中で，あるで，まさにそれがコンフリクトしています．今後，どん意味でやみくもにやった中からちょっとした法則を見つ

どん人が減っていく中で，どうやってそのコンフリクト

けだすという形だと思います．もう少し本質的なことをを減らしていくかはとても大きな問題だと思います．

言うと，人間が理解していると言っていることは，一体，

松尾：深層学習ですが，ポイントは深い関数を使えるよ

何なのかということです．こういう法則で「方程式で書うになったという，ほぼそれだけです．深い関数を使っけます」と理解した気になっていることは，一体，どうてデータからパラメータを推定できるというだけなのでいうことなのか？

す．本当にそれだけなのです．それが何を意味するかを考えたほうが良いと思っています．

そこには，記号の処理が人間の理解とどう関わっているか自体をもう少しメタに理解する必要もあります．そ逆に言うと，今まで深い関数が使えないという中での辺がやはりすごく面白いところです．ここは，まだま

これだけのことをいろいろとやってきたわけです．それだ深層学習の研究では全くやられていないところなのでは，相当強い制約というか，本当に必要な道具がなかっすけれども，非常に重要なところではないかと思います．

た状態でここまでいろいろな分野の研究がされてきた．

栗原：自律システムが制御不能になった際，どういうふ深い関数が使えるようになった今，もう一回，それが全うに分析し制御するかについては，実際に人とロボット面的に書き換えられるのではないかということだと認識が共生するような，リアルな実験を通した地に足がついしています．

たアプローチも必要と思っています．

当然，その意味を巡っての議論もたくさんありまし

津本：FDA が認可したものは診断に関わるもので，デー

た．いろいろなレベルでの議論はありましたが，いずれタがそろっている．プログラムなどをつくるのは簡単だ

も深い関数がない中で，何とかやってきたことなのだとということになります．

思っています．

ところが，医療過誤はほとんど「治療」に関わるもの

そのためには，簡単なところから書き換えていくしかです．これは「診断」とは全然違うプロセスで，段階もなく，それがどんどんと難しいところに進んでいく．そ幾つもあります．そういうプロセスのデータを取ること

ういう意味では，今までのいろいろな人工知能の分野，と，データを取って，そこから学習するのはワンステッ関連領域を含めての議論を全部無視して進むということ

プ，技術的ハードルが高いところです．

では全くなく，従来の議論を，もう一回，深層学習という道具がある前提でやり直していくのです．

共同研究で，公開されている医療過誤のテキストデー
タを分析して共通性を見ることをやっています．そうい

その時には，従来からの洞察がすごく生きてくると思うプログラムを公開して，それぞれの施設でその種のテいます．むしろ，そういう議論を足掛かりにして，現在

キストデータを使って分析できれば，医療過誤の共通性の深層学習の研究も進めていくべきだと思っていますのというか，共通の問題がもう少し明らかになるのではな

で，そことの融合がすごく重要と思っています．

いかと思います．

椹木：なるほど．少し意地悪な質問になるのですけれど

北川：AI が華々しい成果を上げていて，現在，過剰とも，昔，東京大学・青山学院大学名誉教授の佐伯胖先生

も言えるぐらいの期待があります．しかし，科学革命をという認知心理学の先生が，『「今の中学生，あるいは，引き起こし，科学的方法を変えるものまでに発展するの

小学生の高学年は「3 × 4 は？」「4 × 6 は？」という問かどうか？ また，新しい知識を本当につくりだしてい題に対しては即答してくる，けれども，3 × 4 は 12 となけるのか？ その辺の試みは，「創発」にも関係してくるる回答を求める問題をつくりなさいというと，その頃ののかもしれないですね．

子供は途端に訳の分からない問題を出してくる」』と話されていました．

もう一つ，データが偏っているということがあります．それを AI で自動的に対応をできるのでしょうか？

今の人工知能にそういう危惧を感じるのです．今のよ

栗原：データのバイアス問題はありますね．今のマシン

うな「3 × 4 は？」という，そちらをどんどん学習させ

ラーニングには大量の学習用データが必要で，そのデーたものが，果たして，処理していることの意味の解釈に

タは人が用意します．その段階でバイアスが入り込む．

までさかのぼって理解をしてくれるようになるのかどう

そしてデータを生成しているのは我々であり，つまりわか？ そこはいかがですか．

れわれにバイアスがあるということです．

松尾：幾つかの論点があると思います．1 つは，学習さ一人一人には見えないバイアスが，蒸留されるとだん

れたものから非常にリジットな方程式といいますか，法だん見えてくるのです．かといって，どうすればいいか

Oukan Vol.14, No.2

109

Takahashi, T., et al.

というと，今のマシンラーニングにないというものは，て，彼らはデータサイエンスを，下に見る．当たるも八

目的指向性に尽きるわけです．つまり「何のために学習卦（はっけ）なものを使えるかということが実はありまするのか？」という部分がないわけです．

す．そういう方たちこそ，AI のツールを縦横に使いこ

それは最初にわれわれが植え付けるのかもしれませ

なせていけば，今まで見えなかった新しいルールや法則

ん．モラルをある程度押し付けているのです．モラル基が見いだせるのではないかと私は思っています．北川先準に照らし合わせた時に，そのデータに対してバイア生が紹介された JST のプロジェクトは，まさにそういうスがあることが分かれば，多少はバイアスに対する対応

ところを狙っておられるのかなとも思いまして，今，もの仕方も変わってくるのではないかと思うのです．た

し進めておられる何かそういう問題，アレルギーを何かだし，目的指向性とか，メタ目的という言い方もします

克服する話が何かありましたら，ぜひ教えていただきたが，まさに研究途上ですが，これには期待したいところ

いです．

です．

椹木：一つ思い出したのは，第二次大戦中のイギリスが

松尾：やはり深層学習で根本的に技術が変わったので，大ドイツに戦闘機を飛ばしてはぼこぼこに撃たれて九死にきな変化が起こると思っています．僕は，もともと Web

一生を得てなんとか帰還してくる．それを，データサイ

マイニングやソーシャルメディアの分析などをやってき

エンスによって，どこの機体部分が一番撃たれてやられて，Web の領域も情報がつながる仕組みは，従来の通信

たかのデータを集めて，そこだけ強化する改善設計をすと全く考え方が違う．一見，同じように見えるのだけれれば，墜落しない戦闘機ができるということになったらども，リンクを張れることをベースにして情報がどんどしいのです．実は大きな誤りがあって，それは，戻ってんとつながっていく仕組みはすごいと思っています．

きている戦闘機はそこまで痛手を受けてもなんとか帰還

当初，多くの人が「従来の通信と何が違うのだ？」，信

してきている戦闘機であるのに対して，致命的な爆撃を頼性が担保されないことや，そのようなところが問題で受けた戦闘機は帰還してきていないわけでデータに含まはないかと言っていましたが，10 年 20 年のうちにこれれていないのです．

だけ社会を変えてしまいました．今のディープラーニン
グに近いのではないかなと思っています．

だから，データをどう教えるかは，非常に慎重になるべきです．全く違う概念を教え込んでしまっているかも深い関数を使えることは，本当にすごいことです．そしれないということです．そのため強調したのは，そのれが顕在化しているのは，今のところ画像認識ぐらいで，現象の背後にあるモデルとタイアップして使っていくこ

言語処理もその一部です．皆そんなものかと思っているとの必要性です．

のですが，これは，根本的な技術だと思うのです．長期林：今年の夏に大阪で市民向けに講演を行いました．人

にわたって，いろんな領域を変化させていくでしょう．

工知能の基礎からディープラーニングなど，いろいろな

例えば，従来の科学技術が比較的少数のパラメータ

ことを話しました．最後に 70 歳ぐらいの人が手を挙げを使うということにこだわってきたことに対し，ディー

られて，かなり怒っておられるような感じで質問された

プラーニングは，多数のパラメータを使って，すごく精のです．「先生の話は面白かったけれども，われわれ高度の高いモデルをつくることができる，それは，科学技

齢者は情報化や人工知能というものがよくわからない．

術全体に対しての捉え方をかなり変える可能性がありま

人工知能から取り残される AI の難民をどう救ってくれ

す．そういうところまで含めると本当に大きな変化をもるのか？」と言われました．人工知能が賢い機器やプロたらす可能性があるのです．短期的な浮き沈みはあるとグラムと考え，それに期待するというよりも，その登場

思いますけれども，やはりマクロでいうと大きな変化をに恐怖に感じている方がおられるということだと思いま出していくのではないかと考えます．

す．私は，確かに AI 難民をどう救うというのは，切実

津本：私が注目しているのは，今までになかった表現力な問題だと思いました．もちろんすぐの回答はないのでをわれわれは獲得しつつあるということです．今まですが，「AI 難民を科学者は救うつもりがあるのか？」とは，何かモデルがあって，そのデータから何かのモデル

言う弱者からサイエンティストに対する課題であると思をわれわれは考えなければならなかった変数の分解なわれます．そのあたりの問題をパネリストの皆様はどの

ど，いろいろなテクニックやスキルを身に付けなければように考えられているかということのご意見を頂けたらならなかった．そういうところを機械がやってくれるこ

ありがたいと思います．

ととなると，それは一つ大きなことです．

堤：かなり深刻に考えています．先ほど，熟練知がある

堤：実は，私はどちらかというとサイエンス系なのです．

からベテランを維持するのは大事という話がありまし

電力中央研究所は，ほとんどは物性とか，電力，電気のた．実は，本当のベテランが熟練知を持つかは，データ方程式を繰り広げる専門家が勤めています．その人たによって若干怪しくなり始めています．昔は，経験と物

ちには，椹木先生がおっしゃったアレルギーがありまし

理法則などから，「俺の言っていることは正しい」と言っ110

横幹 第 14 巻 第 2 号

Artificial Intelligence and Transdisciplinary Science and Technologyていたのですが，データがたまってくると実は意外と勘

堤：私はエネルギー産業に関係していますが，さまざま

違いしていることが明らかになってきています．AI 難な自律化，自由化が進行して，大きく不確実性を増して民は実は足元にたくさんいます．

います．何もかもがアウェーな状況です．生産人口はも今の深層学習にしろ，教師なし学習がだいぶ出てきてちろん減りますし，人口も減っていくという大変な状いますが，私がやっているのは基本的には教師あり学習

況にあります．AI が怖いと言っている場合ではないぐ

です．教師データはどこにあるかというと全て現場にあらいの大変な状況なのです．なのに，自分の足元を見る

るのです．現場の人は，大変かもしれないけれども，そと，現場，電力の人たちも，私も含めてですが，AI のパ

れこそ AI を学び，AI に乗り換えられないように，たとワーをまだ十分に自分たちのものにできていません．こえ年寄りだろうが，自分の本質的な価値を見つけ直さな

れはちょっと早めにやらないとまずいと思っています，

ければいけない．厳しい答えで，私もだいぶ年寄りです

待っている時間はないというのが私の思いです．

が．そのように思っています．

津本：人工知能学会の副会長をやっていて，学会外のこ

津本：怖がっているのはそれを理解できていないからだとを考える精神的余裕がなく，ひたすらその会員サービと考えると，堤先生がおっしゃったように，そういう基スとは何かということを考えています．次にどういうこ

礎的なところを知ってもらうというところなのかなと思とをサービスしなければいけないかを考えています．ついます．

まるところが，AI マップかなと思っています．AI マッ

松尾：われわれが AI のことをよく分かっていて，一般のプのサービスの展開を新しくし，より人工知能に興味の方がよく分かっていないという構図もあると思います．

ある会員を増やしていきたいと思っています．

GAFA をはじめとする AI が進んでいる企業や研究機関でそのレベルがどんどん上がって，われわれも含めて，
もうだいぶ置いていかれてしまっているという見方もあると思うのです．僕は，割と後者のほうを気にしていて，日本国内の話だったら最後は何とかなるけれども，グローバルにやはりビハインドしているというのは何かしないといけないと思っています．
一方，世の中の人が危惧を持っていることは，それは尊重しないといけない．僕は人工知能学会でも倫理委員長もやっていました．技術のことを知らないから教えてあげないと駄目だよねというのではなく，やはり対話していくこと，そういう不安を持っているということを含めて一緒に話して相互理解を深めていくことが大事なのかなと思います．
栗原：ミスリードしているだけだと思っています．「人工知能」という言葉がまずいのです．つまり人工的に知能をつくるというのは相当強力な意味です．現在の AI
はまだ IT 技術の延長線に近いわけです．大きなパワーを発揮したので，つい擬人化したくなってしまう．そこをきちんと理解しておけば誤解されることはないのですが実際は難しい．
僕らはつくる側で，皆にとって便利なものを作ることが仕事です．
「何だ，AI って結構ちゃんと自分のことを見てくれて安心できるじゃないか」と分かってもらえるようにするのが，僕らの役目です．早いところつくるしかないですね．
林：貴重なご意見をありがとうございます．大変参考になりました．そうですね，我々研究者の中でも，人工知能を知らないと時勢に遅れてしまい，研究が進められないと危惧する人もいますし，まさに研究者の AI 難民もいるのではないかと思いました．対話が大切ですね．

松尾：AI，ディープラーニングでいろいろな分野をつなげていけると思っています．先ほどの北川先生の話にもありましたけれども，「AI × 各分野」というのが．これから生まれてくる．東大や人工知能学会でも多分野との連携を AI がハブとなってやっていけるといいと思っています．
栗原：一言で言えば，つくるしかない．つくることは僕
ら技術者にしかできません．早くつくって見せていく．
おもちゃをつくっても駄目で，いかに地に足をつけるかということを念頭に先に進む，なかなか理想と現実のバランスが難しいのです．
北川：横幹連合の産業界のカウンターパートである横幹技術協議会から，この時代だから，AI やデータサイエン
スをきちんとやれと言われています．AI は横幹にとっても非常に大事な分野ですので，今後，きちんと連携していただければと思います．メリットがないなどと言わずに，横幹の中で活躍することも必ずあると思いますので，ぜひよろしくお願いします．
椹木：先ほども言いましたが，30 年か 40 年前ですか，
前のブームの時に「人工知能の父」と呼ばれた，マービ
ン・ミンスキーという MIT の先生がいらっしゃいました．その先生が言っていた課題がまだ解決していないのかなと思いました．その課題は何かというと，「本当の人工知能は，自分の考えていること，推論していることを自らが批判できなければいけない．」要は，メタなレベルの思考系を完成させないことには人工知能は使ってはいけないということをおっしゃっていました．まさに，そのとおりだと思いますし，あるいは，そのメタ部
分は，人間の側に委ねることにするとか，なにがしかその辺のブレーキを掛けておかないと怖いという気がいた
します．

Oukan Vol.14, No.2

111

Takahashi, T., et al.

林：私も人工知能を研究している一人ではありますけれ

今後も引き続き，ワクワクするような何か新しい研究

ども，ファジィ学会の前会長という立場でお話しさせてをもっと見せてほしい」と励ましのご意見を頂いたこと

いただくと，産業界では，ファジィの活用は，80 年代があります．AI を研究している当事者として，このこ

後半や 90 年代から徐々に下火になってきた傾向がありとを常に肝に銘じて，今後も，自分自身がもっとワクワます．そういう産業界で「私はいまファジィの研究をしクするような，何か新しい研究を引き続き作っていけれています」と言うと「ああ，昔にそのような研究がありばと思っています．

ましたね．まだそのような研究を続けているのですね」

高橋：ありがとうございました．パネル討論を終了させと，過去の研究や技術は価値のない存在という，勝手なていただきます．

レッテルを貼ってしまいがちになります．AI がそうならないとはもちろん思いますが，今後も研究や技術革新が続く，そのような研究分野であってほしいと願っています．
ファジィ理論が下火になった 90 年代初頭のシンポジ
ウムの討論会で，聴講者の方から「ファジィの研究者は，

112

横幹 第 14 巻 第 2 号