アナログセルラニューラルネットワークを用いた脳型集積システム
Brain-type Integrated System using Analog Cellular Neural Network

よび、保持特性としては、1000 時間の特性維持ができることがわかった。さらに、ミスト CVD 法を用いたメモリスタの動作の確認に成功した。最後に、積層構造の薄膜可変抵抗素子をニューロン LSI のうえに作成したアナログセルラニューラルネットワークで、アルファベットの連想記憶の動作確認に成功した。

木村 睦 ( Mutsumi Kimura, Ph. D.(Eng.), Ph.D.(Sci.))１．研究の背景と目的

龍谷大学 先端理工学部 教授

人工知能は、未来社会の全分野の中核技術として期(Professor, Ryukoku University, Faculty of Advanced Scienceand Technology)

待されている。しかし、現在の人工知能は、超大規模で超高速のノイマン型コンピュータの集合体である多電子情報通信学会 応用物理学会 Institute of Electrical and Electronics
Engineers (IEEE) Society for Information Display (SID)
受賞：Best of the International Conference on Display Technology (ICDT)2019 (2019 年) APEX / JJAP Editorial Contribution Award ( 2019 年)
ベストペーパーアワード, 薄膜材料デバイス研究会 第 15 回研究集会(2018年) 日本熱電学会 学術講演会 優秀講演賞 (2018年) 平成27年 電子・情報・システム部門 技術委員会奨励賞 (2015 年) 他
著書：High Quality Liquid Crystal Displays and Smart Devices, Thin
Film Transistors for Active Matrix LCDs, The Institution of Engineeringand Technology (IET) (2019 年) スッキリ!がってん! 有機 EL の本, 電気書院 (2016 年), 搭載!! 人工知能, 電気書院, (2016 年) 半導体デバイス工学, 金属と半導体の接合, バイポーラトランジスタの動作原理, 薄膜トランジスタ, オーム社 (2008 年) 薄膜トランジスタ, TFT の動作原理, コロナ社 (2008 年) 他
研究専門分野：電子デバイス工学 ニューロモーフィックシステム 人工知能

くのサーバーに、ネットワークを経由して接続され、それらサーバー上のソフトウェアとして動作している。
そのため、表 1 に示すように、サイズ、非ロバスト性、電力という課題がある。
表 1. 我々が目指す脳型集積システムと現在の人工知能との比較

そこで我々は、このような人工知能の課題の解決策

あらまし
本研究は、将来的にコンパクト・ロバスト・超低消費として、デバイスレベルから本質的に生体の神経回路電力なポストノイマン型人工知能を目指し、デバイスの構造・動作・機能を再現する、アナログセルラニュレベルから生体の神経回路の構造・動作・機能を再現

ーラルネットワーク*1 を用いた脳型集積システム*2 のする、アナログセルラニューラルネットワークを用い基礎研究を行っている（図 1）。

た脳型集積システムの研究開発を行う。本研究では、薄膜可変抵抗素子・メモリスタを開発し、シナプス素子としての動作を確認し、脳型集積システムの実用性を検証するため、文字認識や画像認識への応用可能性を評価することを目的としている。まず、ニューロン
LSI は、チップを試作し、ニューロンとしての正常な図 1. 我々が目指すアナログセルラニューラルネットワークを用いた動作を確認した。薄膜シナプスは、可変抵抗素子とし脳型集積システムて、一定の電圧を加えて電流を流すことにより、徐々にコンダクタンスが低下することを確認した。次に、

我々の研究は、超大規模集積化が可能な薄膜デバイメモリスタの開発として、繰返特性としては、徐々にスの積層構造で 3 次元 LSI を作製するので、サイズがオンオフ比は小さくなるものの、100 万回のオンオフ革命的にコンパクトになることが最大の特徴である。

動作ののちでもメモリスタ特性が維持されること、おまた、脳型集積システムでは、全体に機能が分散され
1

TELECOM FRONTIER No.108 2020 SUMMER

アナログセルラニューラルネットワークを用いた脳型集積システム
Brain-type Integrated System using Analog Cellular Neural Network

るため、一部の素子の不良に対しても一定の動作が保証され、ロバスト性は強固なものとなる。さらに、並(2)反転回路 2 個による超簡略化ニューロン構成

列分散処理で個々のデバイスの動作速度を抑制できる

ニューラルネットワークの学習則としては、シナプとともに、非同期型でクロック信号がないため、圧倒スの結合強度が、その両端のニューロンが同時に活性的に低消費電力となる。すなわち、表 1 に示すような化するときに強化されるという Hebb 学習則が知られコンパクト・ロバスト・低消費電力の人工知能を実現ている。我々は、ニューロンの構成を簡略化するためすることが最終の研究目標である。一方、このようなに、シナプスの結合強度が、両端のニューロンの状態脳型集積システムは、ハードウェアの段階で人工知能が異なるときに弱化されるという修正 Hebb 学習則をに必要な基本的な機能を有しているため、ソフトウェ考案することで、ニューロンの構成を超簡略化した。

アは最小限で対応でき、かつ、ハードウェアはきわめ(3)薄膜デバイスが有する 3 次元積層構造やプリンテてコンパクトにできるので、個々の「モノ」、例えば IoTッドプロセスへの適合性よる超集積化や低コスト化へセンサに独立した人工知能を搭載できることにもなる。の可能性

この研究では、まず、脳型集積システムの基礎研究

脳型集積システムを超大規模集積化するためには、*3として、薄膜デバイスのメモリスタ および可変抵抗多層でかつ低コストの 3 次元化技術が必須であるが、素子を開発し、セルラニューラルネットワークのシナ現在進められているＬＳＩの 3 次元化技術は、この要プス素子としての動作を確認する。そして、この脳型求を満たせない。しかし、薄膜デバイスは、低温作製集積システムの実用性を検証するため、文字認識や画可能・高材料使用効率などの長所があり、デバイスの像認識への応用可能性を評価する。

大面積化や 3 次元積層化に適している。特に、プリンテッド（印刷）プロセスの研究開発は、多数の国家・２．研究の特徴

公的なプロジェクトや組織があり、日本が誇れる技術

ニューラルネットワークは、多数のニューロンが多の一つである。

数のシナプスで接続されており、シナプスの伝達効率が変化することが、記憶や学習に重要な役割を持つと３．研究の方法考えられている。我々の研究は、これらシナプスとニまず、ニューロンとして、反転回路２個まで簡略化ューロンの実現方法含め、以下の 3 点の特徴がある。

したマトリクス状の 25 25 個または 32 32 個のニュー(1)シナプスを 1 個の素子で構成

ロンを備えた LSI を設計・試作した。いっぽう、シナＴＦＴの制御電圧をコントロールすることで、半導プスとして、低温作製・印刷プロセス・３次元積層・体デバイスにおけるホットキャリアやジュール熱とい低コスト化などが期待でき最近注目を集めているアモう現象によるＴＦＴの特性変化を積極的に誘起させ、ルファス金属酸化物半導体（AOS）の一種である Ga-Sn-

これをシナプスの結合強度の変化に利用する方式は、O（GTO）薄膜を、ここではスパッタで作製し、可変抵試作と動作確認を終えている。本研究では、学習によ抗素子としての特性を評価した。同時に、デバイス構る特性変動の安定化効果と低消費電力化を実現するメ造や製造プロセスを最適化することで、メモリスタとモリスタによるシナプスの実現を行う(図 2)。

しての特性も評価した。そして、ニューロン LSI のう
えに GTO 薄膜シナプスを積層した。これは、我々の提唱するニューラルネットワークアーキテクチャと修正Hebb 学習則により、アナログセルラニューラルネットワークとして動作することが期待できる。このアナロ
グセルラニューラルネットワークで、複数の文字を学習し、一部が歪んだ文字を入力すると補正した文字を出力するかどうか、すなわち、文字認識の機能を確認

図 2. 本研究のアナログセルラニューラルネットワーク構成

2

TELECOM FRONTIER No.108 2020 SUMMER

アナログセルラニューラルネットワークを用いた脳型集積システム
Brain-type Integrated System using Analog Cellular Neural Network

した。

作を確認した(図 3)[1]。

つぎに、薄膜可変抵抗素子の開発として、In-Ga-ZnO（IGZO）と Ga-Sn-O（GTO)に関して、別途でシミュレーションで得られている指針のとおり、初期特性のバラツキを一定範囲に抑制し、変化特性を数十％とし、変化特性のバラツキも一定範囲に抑制することを試みた。次に、メモリスタの開発として、繰返特性と保持特性の改善を試みた。同時に、より動作を確実にするために、あらたな構造を提案した。これらの薄膜可変抵抗素子とメモリスタは、我々の提案する修正ヘブ学

図 3. ニューロン LSI の設計と試作習則を適用することで、脳型集積システムにおけるシナプス素子として使用することが可能となるはずであ

いっぽう、GTO 薄膜シナプスは、可変抵抗素子としる。そこで、シナプス素子としての動作を確認し、脳て、一定の電圧を加えて電流を流すことにより、徐々型集積システムの実用性を検証するため、ニューロンにコンダクタンスが低下することを確認した[2]。これ

LSI のうえに、IGZO や GTO の薄膜シナプスを積層したは、修正 Hebb 学習則を適用可能なシナプスに必要とアナログセルラニューラルネットワークを作成した。

される特性である。同時に、上下電極をアルミにする

この、アナログセルラニューラルネットワークを用いことで、低抵抗状態と高抵抗状態を多数回にわたり遷て、文字認識の動作確認を試みた。

移する、メモリスタとしての特性が得られることがわ

そして、薄膜可変抵抗素子の開発として、低温薄膜かった(図 4)[3]。

プロセスや印刷プロセスによる 3 次元積層化で高度集積化の可能性が期待できるアモルファス酸化物半導体に関して、これまでの知見を活かしつつ、初期特性と抵抗変化の均一性を向上させるため、成膜時の製造プAlロセス条件の異なる積層構造の試作と評価を試みた。

150 m
150 m

次に、メモリスタの開発として、引き続いて、やはり、成膜時の製造プロセス条件の異なる積層構造の試作と評価を試みた。さらに、ミスト CVD 法という印刷プロ

GTO
I (mA)

Al

76543210-1-2-3-4-5

GTO Al

Set

I
VAl

400th
300th
200th
100th
1stReset-5 -4 -3 -2 -10 1V (V)2345

セスのひとつを用いたメモリスタの試作と評価を試み
図 4. GTO 薄膜デバイスのメモリスタ特性た。これは、より 3 次元積層化の実現に近づくものである。これらの薄膜可変抵抗素子とメモリスタは、我々の提案する局所自律学習則を適用することで、脳型集そして、ニューロン LSI のうえに GTO 薄膜シナプス積システムにおけるシナプス素子として使用することを積層したアナログセルラニューラルネットワークで、が可能となる。そこで最後に、上記のうち、積層構造部分的に文字認識の機能を得ることに成功した[4]。この薄膜可変抵抗素子をニューロン LSI のうえに作成し、こで部分的にしか成功していないのは、本質的な課題アナログセルラニューラルネットワークを構成し、文ではなく評価の時間が足りないからである。
つぎに、薄膜可変抵抗素子の開発として、成膜条件字認識の動作確認を試みた。

とくに成膜時の酸素分圧をコントロールすることで、変化特性を所望の値に制御できることがわかった。ま

４．研究の結果
まず、ニューロン LSI は、異なる４種類の設計で、た、はじめに LED 光を照射することで、初期特性と変80 個のチップを試作し、ニューロンとしての正常な動化特性のバラツキを一定範囲に制御できることもわか

3

TELECOM FRONTIER No.108 2020 SUMMERアナログセルラニューラルネットワークを用いた脳型集積システム
Brain-type Integrated System using Analog Cellular Neural Networkった。次に、メモリスタの開発として、繰返特性としる ICONIP などで講演するとともに[1,2,4,6]、学術雑誌ては、徐々にオンオフ比は小さくなるものの、100 万で発表した[3,5,7,8]。

回のオンオフ動作ののちでもメモリスタ特性が維持されること、および、保持特性としては、1000 時間の特５．将来展望性維持ができることがわかった。さらに、あらたな構脳型集積システムの 3 次元積層構造の LSI を作製す造として、成膜の途中で酸素分圧を変化させることで、ることで、コンパクト・ロバスト・低消費電力かつ膜中の酸素濃度の異なるアモルファス酸化物半導体薄stand-alone 動作する人工知能の実現に近づくことが膜の積層構造で、より動作を確実にすることができたできる。これにより、自律した人工知能の「モノ」へ[5]。そして、アナログセルラニューラルネットワークの搭載が可能となり、IoT や IoE のさらなる進展、すを用いての文字認識の動作確認では、T や L といったなわち、モノのインテリジェント化に貢献できる（表簡単なアルファベットの連想記憶の動作確認に成功し2）。また、より高度なシステムとして、自律型人工知た。

能を実現することで、通信が不安定な瓦礫内の要救援

そして、薄膜可変抵抗素子の開発として、スパッタ者の探索を行う自律型災害ロボットや、高速通信がで成膜時の酸素とアルゴンの分圧の異なる 2 層または 3きない水中における資源調査を行う自律型水中ロボッ層の積層構造で、初期特性と抵抗変化の均一性を向上トの提供も可能となる（図 6）。

させることに成功した。これは、外部環境からの酸素や水分の侵入を阻止しつつ、内部条件で素子特性を制御していることによる。次に、メモリスタの開発として、やはり、スパッタ成膜時の酸素とアルゴンの分圧の異なる 2 層の積層構造で、フォーミング処理なしにはじめから実動作が可能なメモリスタの開発に成功した[6]。これは、アナログセルラニューラルネットワー

図 6. 自律型人工知能搭載の災害/水中ロボットクへの実装に適している。さらに、ミスト CVD 法を用いたメモリスタの動作の確認に成功した[7]。最後に、積層構造の薄膜可変抵抗素子をニューロン LSI のうえに作成したアナログセルラニューラルネットワークで、アルファベットの連想記憶の動作確認に成功した(図さらに、現在の人工知能の延長では、そのための消費電力は 2025 年には全発電量の 20%で、2050 年には60%にもなると試算されており、人工知能の普及に致命的な制約となる。低消費電力の脳型集積システムは、

5)[8]。

社会的なエネルギー消費の観点からも意義あるものである。
おわりに本研究は、将来的にコンパクト・ロバスト・超低消費電力なポストノイマン型人工知能を目指し、デバイスレベルから生体の神経回路の構造・動作・機能を再現する、アナログセルラニューラルネットワークを用い

図 5. アルファベットの連想記憶の動作確認た脳型集積システムの研究開発を行った。本研究では、薄膜可変抵抗素子・メモリスタを開発し、シナプス素シミュレーションによればこれまでよりも認識率が子としての動作を確認し、脳型集積システムの実用性向上することが期待できる。また、これらの結果を、を検証するため、文字認識や画像認識への応用可能性

ニューラルネットワークのトップカンファレンスであ4TELECOM FRONTIER No.108 2020 SUMMER

アナログセルラニューラルネットワークを用いた脳型集積システム
Brain-type Integrated System using Analog Cellular Neural Networkを評価することを目的としている。まず、ニューロン

Semiconductor Thin-Film Devices as Crosspoint-

LSI は、チップを試作し、ニューロンとしての正常なtype動作を確認した。薄膜シナプスは、可変抵抗素子としConfirmation of Letter Recognition, The 25thて、一定の電圧を加えて電流を流すことにより、徐々International Conference on Neural Informationにコンダクタンスが低下することを確認した。次に、Processing, ICONIP 2018, Pt. VII, LNCS 11307,

メモリスタの開発として、繰返特性としては、徐々に

pp. 637-646, Dec. 2018

SynapseElementsandWorking[3] Sumio Sugisaki, Tokiyoshi Matsuda, Mutsunori

オンオフ比は小さくなるものの、100 万回のオンオフ動作ののちでもメモリスタ特性が維持されること、おUenuma,Toshihide

Nabatame,

よび、保持特性としては、1000 時間の特性維持ができ

Nakashima, Takahito Imai, Yusaku Magari,ることがわかった。さらに、ミスト CVD 法を用いたメ

Daichi Koretomo, Mamoru Furuta, and Mutsumi

モリスタの動作の確認に成功した。最後に、積層構造

Kimura,の薄膜可変抵抗素子をニューロン LSI のうえに作成しAmorphous

たアナログセルラニューラルネットワークで、アルフ

Scientific Reports, Vol. 9, 2757, Feb. 2019

MemristiveYasuhikoCharacteristicGa-Sn-Oof

Thin-FilmanDevice,[4] Mutsumi Kimura, Keisuke Ikushima, Daikiァベットの連想記憶の動作確認に成功した。
本研究にあたっては、龍谷大学 龍谷エクステンション

Yamakawa,Hiroki

Yamane,andYasuhikoセンターの田村光夫氏に感謝する。

Nakashima, Real Neuromorphic System using
LSI Chip and Thin-Film Devices, ICONS 2019,
July 2019

用語解説*1 セルラニューラルネットワーク：隣接するニュー[5] Ayata Kurasaki, Ryo Tanaka, Sumio Sugisaki,

ロンのみが接続するニューラルネットワークで、電Tokiyoshi Matsuda, Daichi Koretomo, Yusaku

子デバイスの集積化に適している。

Magari, Mamoru Furuta, and Mutsumi Kimura,*2 脳型集積システム：脳の構造をハードウェアのレMemristive Characteristic of an Amorphous GaSn-O Thin-Film Device with Double Layers of

ベルから模倣した集積システム*3 メモリスタ：電圧や電流の印加の履歴に依存する

Different Oxygen Density, Materials, Vol. 12,Issue 19, 3236, Oct. 2019

コンダクタンスをもつ回路素子[6] Mutsumi Kimura, Kenta Umeda, Keisuke
参考文献
[1]

TomoyaKameda,MutsumiKimura,andIkushima,Toshimasa

Tokiyoshi

Matsuda,Hori,Tomoya

Ryo

Tanaka,Kameda,

andYasuhiko Nakashima, Neuromorphic Hardware

Yasuhiko Nakashima, Neuro-inspired SystemusingThin-Filmwith Crossbar Array of Amorphous Metal-Oxide-

Semiconductor Devices as Synapse Elements -Semiconductor Thin-Film Devices as Self-Plastic

Simulation of Hopfield and Cellular Neural

Synapse Units − Letter Recognition of Five

Network -, The 24th International Conference onAlphabets −, The 26th International Conference

Neural Information Processing, ICONIP 2017, Pt.

on Neural Information Processing, ICONIP 2019,

VI, LNCS 10639, pp. 769–776, Nov. 2017

Pt. II, LNCS 11954, pp. 481-491, Dec. 2019

Simplified

Elements

and[2] Mutsumi Kimura, Kenta Umeda, Keisuke
Ikushima,Toshimasa

Tokiyoshi

Matsuda,Hori,Tanaka,Kameda,

Hattori, Tokiyoshi Matsuda, Sumio Sugisaki,

andYasuhiko Nakashima, and Mutsumi Kimura,

Yasuhiko Nakashima, Hopfield Neural Network

Memristor Property of an Amorphous Sn-Ga-O

withThin-Film

Double-layer

TomoyaRyo[7] Yuta Takishita, Masaki Kobayashi, Kazuki

AmorphousMetal-Oxide
5DevicedepositedusingMist

TELECOM FRONTIER No.108 2020 SUMMER

アナログセルラニューラルネットワークを用いた脳型集積システム
Brain-type Integrated System using Analog Cellular Neural Network

Chemical-Vapor-Deposition

Method,AIPAdvances, Vol. 10, Issue 3, 035112, Mar. 2020
[8] Hiroya Ikeda, Hiroki Yamane, Yuta Takishita,
Mutsumi Kimura, and Yasuhiko Nakashima,
Influence of Characteristic Variation of Oxide
Semiconductor and Comparison of the Activation
Function in Neuromorphic Hardware, NOLTA
IEICE, Vol. 11, No.2, pp. 232-252, Apr. 2020

この研究は、平成２８年度ＳＣＡＴ研究助成の対象として採用され、平成２９～令和元年度に実施されたものです。

6TELECOM FRONTIER No.108 2020 SUMMER