特集

データセントリック時代のソフトウェア技術

ティ
スマートシ

IOWN

AI

将来のスマートシティを支える
高解像度多カメラ分析基盤
IOWN（Innovative Optical and Wireless Network）時代のスマー
トシティは，都市のあらゆる情報を価値化しアクセス可能とするCPS（Cyber-physical system）の上に構築されます．本稿では，都市規模の CPS を支える，高解像度 ・ 多数のカメラ映像を効率的に処理する AI（人工知能）推論基盤，および基盤上での AI 推論処理の処理量 ・ 消費エネルギーの大幅な削減を実現する「イベント駆動型推論」のコンセプトと，その要素技術である「多層推論技術」と「推論リソース共有技術」について紹介します．

みかみけいた

しきょく

三上啓太

史

いのうえ

井上

のりあき

規昭

くればやしりょうすけ

まつお

よしのり

やまさき

いくお

松尾嘉典

榑林山崎旭

亮介
育生

NTT ソフトウェアイノベーションセンタういった，現実世界を対象に情報処理分析を行ったうえで，その分析結果をを行い，最適化等を実現する仕組みを

再び現実世界にフィードバックするこ

皆様がスマートシティという言葉を表す概念として，サイバーフィジカルとで，現実世界に最適な作用を及ぼす聞いて思い浮かべるのはどのような都

シ ス テ ム（CPS：Cyber-physicalという，いわば「現実をプログラム可市でしょうか．国土交通省の定義（1）にsystem）があります．CPS とは図能にするシステム」です．

よると，スマートシティとは「都市の1 に示すように，現実世界（フィジカ

現実がプログラム可能になると何が抱える諸課題に対して，ICT 等の新技ル）の情報を仮想空間（サイバー）に起こるでしょうか．それは「現実のソ術を活用しつつ，マネジメント（計画，取り込み，コンピューティングによるフトウェア化」です．実は現実のソフ

スマートシティとCPS整備，管理・運営等）が行われ，全体最適化が図られる持続可能な都市または地区」としています．また，野村総合研究所の定義（2）では，より具体的に，スマートシティとは「都市内に張り巡らせたセンサー・カメラ，スマー

サイバーフィジカルシステム

コンピューティング
デジタルツインに対する情報処理

センシング
AI推論によるデータの価値化トフォン等を通じて環境データ，設備稼働データ・消費者属性・行動データ等の様々なデータを収集・統合してAI で分析し，更に必要に応じて設備・サイバー空間（デジタルツイン）機器などを遠隔制御することで，都市インフラ・施設・運営業務の最適化，企業や生活者の利便性・快適性向上を目指すもの」としています．いずれの定義でも「都市を対象として，ICT 技現実世界（フィジカル）アクチュエーション
現実世界の制御術を活用して管理運用を行い，全体最適を目指す」点は共通しています．こ142022.2

図1サイバーフィジカルシステム（CPS）

特集

スを必要とする「重い処理」であり，トウェア化はすでにあちこちで起こっ来ない路線バス」は「移動したいと思っています．例えば電話です．かつて電た瞬間に目の前に止まる自動運転タク

私たちも「ストリームマージ技術」や話といえば，それは受話器とダイヤルシー」に置き換わるかもしれません．

「GPU オフローディング技術」といっを備えた箱であり，それが小型化・無都市規模の CPS を構築し，その上た効率化・高収容化技術に取り組んで線化した携帯電話も，はじめはあくまでさまざまな都市サービスのソフトきました．しかし，IOWN（Innovativeで遠隔地の音声をつなぐ端末でした．

ウェア化を進めることで，電話がス

Optical and Wireless Network）

しかし，電話が「ソフトウェア化」しマートフォンになることで手元に起き構想がめざす，「ヒトでは扱いきれなたスマートフォンの登場は世界を変えたような，劇的な変化と利便性・快適い規模の事象をとらえ，ヒトを超えるました．物理的なボタンはタッチスク

性向上が都市規模で起こることが期待速度で分析・判断できる AI システム

リーン上のアイコンとなり，やがて自されています．の実現」に向けては，入力データのさ由に姿を変えてあらゆる手のひら大のインタフェース（電話，電卓，書籍，カメラ等）を兼ねるようになりました．
電子書籍やデジカメも，書籍やカメラ鍵となるのは
AI 推論処理における処理量 ・消費エネルギーの削減

らなる高解像度化・高 FPS（FramePer Second）化と，都市規模のカメ
ラ・センサ数への対応が必要となります（3）．一般に AI 推論の処理量と消費がソフトウェア化した例といえるで

では，スマートシティを支える基盤エネルギーは分析対象となるデータ量しょう．このソフトウェア化により，である都市規模の CPS は，容易に実に比例するため，入力データ量の爆発従来の静的で一方通行のインタフェー現可能なのかというと，そんなことは的な増加は，そのまま処理量と消費エ

スは動的でインタラクティブなものにありません．CPS は大きく，センシネルギーの爆発的な増加につながりま変化し，また提示される情報も受け手ング，コンピューティング，アクチュす．IOWN 時代のスマートシティを支に応じたパーソナライズやレコメンド

エーションの 3 ステップからなり，そえる都市規模の CPS を実現するためが可能となるなど，劇的な変化と利便

れぞれの領域では現在進行形でさまざには，この処理量・消費エネルギーを性・快適性向上が起こりました．

まな研究が進められています．その中持続可能なレベルまで削減する技術が話をスマートシティに戻します．そでも NTT ソフトウェアイノベーショ必要となるのです．

う，スマートシティというのは，「ソンセンタ（SIC）が課題として取り組フトウェア化した都市」なのです．こんでいるのが，センシングおよびコンれまで都市を構成する要素というのピューティングを担う AI（人工知能）は，コンクリートでできたビルであり，推論基盤です．スマートシティにおけ

前述の処理量・消費エネルギーの削金属製の看板であり，その上で運行さるセンシングは，都市の各所に配置さ減のために私たちが取り組んでいるのれる交通機関でした．しかし，スマーれたカメラや各種センサ，都市内のコが「イベント駆動型推論」というスト

トシティではビルは BMS（Building

ネクティッドカーやスマートフォンかリームデータ向け AI 推論の実装コンManagement System）で制御さら発生し続ける大量のストリームデーセプトです．イベント駆動型推論の目れたスマートビルディングに，看板はタを深層学習による推論（いわゆる的は，AI 推論に必要な処理量を，「入デジタルサイネージに，交通機関はコAI 推論）によって分析し，意味のあ力データ量依存」から「価値ある情報

ネクティッドカーをはじめとしたスマーる情報として価値化することによって量依存」に変えていくことにあります

トモビリティになり，それらはすべて行われます．また，価値化された情報（図 2 ）．

プログラム可能です．都市がソフトを「デジタルツイン」として計算機上従来の，すべてのフレームを逐次的ウェア化されれば，「いつも混雑するに再構築し，現実世界に望む結果をもに処理する常時処理型の AI 推論にお道路」は「交通状況に応じて車線や制たらすフィードバックを計算するのにいては，処理量と消費エネルギーは入限速度が最適化されるスマート道路」

も AI 推論は欠かせません．

力されるデータ量（解像度・FPS・になるかもしれませんし，「なかなか従来から AI 推論は大きな計算リソー

イベント駆動型推論のコンセプトと要素技術

ストリーム数等）に依存します．した2022.215

特集

データセントリック時代のソフトウェア技術

計算リソース必要量

計算リソース必要量t
カメラの動作時間

従来の推論処理方式

論型推動ト駆ンイベ

イベントの発生頻度

車が通過した時間

図2がって，スマートシティに配置される推論が挙げられます．多層推論は，同カ メ ラ や セ ン サ の 高 解 像 度 化・ 高一フレームを複数ステップに分けて分FPS 化・数量増加は，そのまま処理析するもので，次節にて詳しく紹介しイベント駆動型推論を実現するため量と消費エネルギーの増加につながります．その他のアプローチとして，時には，何らかの方法でイベントを検知ます．これは一見当たり前のように思間的制御，および空間的制御がありまする必要があります．多層推論では前えますが，例えば人間の認知のメカニす．時間的制御では，時間的に前のフ段のイベント検知を行う軽量な前さばズムを考えると，解像度の増加が処理

レームの分析結果を基に，以降のフきモデルと，後段の本格的な分析を行量・消費エネルギーの増加に直結するレームの分析パラメータを制御しま

う AI 推論モデルを組み合わせ，イベことはありません．それは人間が，普す．例えば，「通常時は5FPS で分析ントが起きたときのみ後段の AI 推論

段はなんとなく全体を把握しておき，を行い，人物が検知された場合のみ分モデルを駆動することで系全体での処いざ何かイベント（目の前に急に現れ析の頻度を上げ，15FPS で分析する」

理量を削減します（図 3 ）．前さばきる，音を立てる等）が起きたときにはといった制御がこれにあたります．空モデルとしては，イベント検知によりそちらに注意を払い，対象を詳しく見

間的制御では，カメラやセンサのトポ後段に送るフレームの絞り込みを行う

るというイベント駆動型の認知を行っロジーを活用し，ある入力ソースの分もの，後段と同一のタスクを前段でよているためです．この場合，認知に必析結果を使って他の入力ソースの分析り軽量・低解像度なモデルで推論し，要な処理量・消費エネルギーは，「注パラメータを制御します．例えば，「監処理結果の確信度が低い場合のみ後段意を払うべき対象の量」すなわちその視エリアの入口のカメラにおいて人物に送るもの，AI 推論を分割してその人にとって「価値ある情報の量」に依が検知された場合のみ，エリア内のカ前半部分を前さばきモデルとし，中間存するはずです．AI 推論を実装する

メラ映像を分析する」といった制御が出力を後段に送るものなど，複数のバ際も同様の工夫を行うことで，「価値これにあたります .

リエーションが考えられ（3），ユースケーある情報量依存」の処理量を実現しよ

このコンセプトの実現に向けて，うというのが「イベント駆動型推論」

SIC では「多層推論技術」および「推のコンセプトです．

論リソース共有技術」に取り組んでいイベント駆動型推論の実現方式とし

16

イベント駆動型推論の概観

ます．

多層推論技術スや利用するハードウェア構成によって最適な構成は変わってきます．

推論リソース共有技術ていくつかのアプローチが考えられま

イベント駆動型推論により処理量がす．代表的なアプローチとして，多層「価値ある情報量依存」になった場合

2022.2

特集

一次解析（軽量な前さばき）

二次解析（本格的なAI推論分析）

アクション

図₃に必要となるのが推論リソース共有技術です．従来の常時処理型の AI 推論

前さばきモデルを用いた多層推論技術の例

今後の展望

では，必要となるハードウェアリソー

本稿では，都市規模の CPS によっ

スは常にほぼ一定であり，その収容設て実現される，ソフトウェア化された計は容易でした．一方で，イベント駆都市（＝スマートシティ）の世界観と，動型推論では，必要となるハードウェ

それを支える，高解像度・多数のカメ

アリソースはイベントに応じて変化しラ映像を効率的に処理する AI 推論基

ます．イベントが集中し負荷が上昇し盤，およびイベント駆動型推論のコンた場合にも対応可能なリソースを用意

セプトと，その要素技術である多層推する必要がありますが，ピーク時に合論技術と推論リソース共有技術についわせて確保したリソースを普段は遊ばて紹介しました．

ベント駆動型推論，” NTT 技術ジャーナル，Vol.32，No.12，pp.16-22，2020．
（4） https://developer.nvidia.com/nvidia-tritoninference-server（5） https://kserve.github.io/website/

せてしまうのは望ましくありません．

多層推論技術や推論リソース共有技

このように，変化する推論の要求に術を利用し，イベント駆動型推論のコ応じて動的にハードウェアリソースをンセプトを導入することで，IOWN 時割り当てる技術としてはサービング技代のスマートシティで必要となる膨大術（Triton Inference Server ，な AI 推論の処理量・消費エネルギーKServe 等）がありますが，一般にを大幅に削減することが期待できまサービング技術はオンデマンドなユーす．さらに，IOWN に向けた 1 つひスケースに特化しています．SIC では，とつの要素技術を積み重ねることで，サービング技術をリアルタイムなストヒトを超える速度で分析・判断できるリーム処理ユースケース向けに拡張しAI システムを実現します．そして，た「推論リソース共有技術」の研究開より安全で，誰にでも利用でき，持続発に取り組んでいます．推論リソース可能で，より快適なサービスを創造し，共有技術を用いることで，リアルタイさまざまな社会課題を解決していきムなストリーム処理のユースケースにます．

私たちは，現状のデータセンタやクラウドでも動くソフトウェアを開発すると同時に，IOWN を見据えて情報処理基盤に必要な要素技術を創出しています．

■参考文献◆問い合わせ先（₄）（5）おいても，ストリーム間で推論リソースを共有し，ピークの異なる複数のストリームを束ねて統計多重効果を得ることが可能となります．

（1） https://www8.cao.go.jp/cstp/society5̲0/
smartcity/index.html（2） h t t p s : / / w w w . n r i . c o m / j p / k n o w l e d g e /glossary/lst/sa/smart̲city（3） 江 田 ･ 榑 林 ･ 榎 本 ･ 史 ･ 飯 田 ･ 羽 室：
“IOWN 時代の AI サービスを支える高効率イ（上段左から）三上 啓太 / 史旭/

井上 規昭（下段左から）榑林 亮介/ 松尾 嘉典/
山崎 育生

NTT ソフトウェアイノベーションセンタ
AI 基盤プロジェクト
TEL 0422-59-7262
E-mailkeita.mikami.mp

2022.2hco.ntt.co.jp

1₇