(57)【要約】      （修正有）【課題】監視カメラにより撮像された警戒区域の画像から火源を検出して放水銃からの放水により確実に火災を抑制消火可能とする。【解決手段】火源検出装置３４は、監視カメラ１２により撮像された消火対象区域の監視画像を複数のブロック画像に分割し、ブロック画像を多層式ニューラルネットワーク４０に入力し、炎ブロック、煙ブロック、放水ブロック及び正常ブロックの各クラスに所属する確率を示す推定値を出力し、判定制御部４２で炎ブロックを判別して火源を検出する。放水制御部３６は火源検出装置３４により検出された火源に向けて消火用水を放水する。【選択図】図５
2019092972.tif 000002
【特許請求の範囲】
【請求項１】
撮像部により撮像された警戒区域の監視画像を多層式ニューラルネットワークに入力して火源を検出する火源検出装置と、
前記火源検出装置により検出された前記火源に向けて消火用水を放水する放水銃装置と、
が設けられたことを特徴とする放水型消火設備。
【請求項２】
請求項１記載の放水型消火設備に於いて、
前記火源検出装置は、前記撮像部により撮像された警戒区域の監視画像を複数のブロック画像に分割し、前記ブロック画像を前記多層式ニューラルネットワークに入力して火源を検出することを特徴とする放水型消火設備。
【請求項３】
請求項２記載の放水型消火設備に於いて、更に、
入力画像を学習画像として複数のブロック画像に分割すると共に、炎学習ブロック画像、煙学習ブロック画像、放水学習ブロック画像又は正常学習ブロック画像に分類して学習画像記憶部に記憶させる学習画像生成部と、
前記学習画像記憶部に記憶された前記炎学習ブロック画像、前記煙学習ブロック画像、前記放水学習ブロック画像及び前記正常学習ブロック画像を前記火源検出装置に入力して前記多層式ニューラルネットワークを学習させる学習制御部と、
が設けられ、
前記学習制御部により学習された前記火源検出装置の多層式ニューラルネットワークは、前記ブロック画像を入力して、炎ブロック、煙ブロック、放水ブロック又は正常ブロックかを検出して出力することを特徴とする放水型消火設備。
【請求項４】
請求項３記載の放水型消火設備に於いて、
前記放水銃装置は、前記火源検出装置により検出された１又は複数の前記炎ブロックに基づいて推定した火源に向けて放水することを特徴とする放水型消火設備。
【請求項５】
請求項３記載の放水型消火設備に於いて、
前記放水銃装置は、前記火源検出装置により前記炎ブロックが検出されずに１又は複数の前記煙ブロックが検出された場合は、前記煙ブロックに基づいて推定した火源に向けて放水することを特徴とする放水型消火設備。
【請求項６】
請求項３記載の放水型消火設備に於いて、
前記放水銃装置は、前記火源位置に向けて放水を開始した場合、前記火源検出装置により検出された前記煙ブロックと前記放水ブロックの時間的な変化から前記火源に放水が命中しているか否か判定して報知することを特徴とする放水型消火設備。
【請求項７】
請求項１記載の放水型消火設備に於いて、
前記放水銃装置の多層式ニューラルネットワークは、放水が火源に当たった場合の放水命中画像と放水が火源に当たっていない場合の放水非命中画像により学習されており、
前記火源位置に向けて放水を開始した場合、前記監視領域の画像を前記多層式ニューラルネットワークに入力して、前記火源に放水が命中しているか否か判定して報知することを特徴とする放水型消火設備。
【請求項８】
請求項６又は７記載の放水型消火設備に於いて、
前記放水銃装置は、前記火源に放水が命中していないことを判定した場合、前記火源に放水が命中している判定結果が得られるように放水方向及び放水圧力の少なくとも何れかを制御することを特徴とする放水型消火設備。
【請求項９】
請求項２記載の放水型消火設備に於いて、
前記多層式ニューラルネットワークは、
特徴抽出部と認識部で構成され、
前記特徴抽出部は、前記入力情報を入力して前記入力情報の特徴が抽出された特徴情報を生成する複数の畳み込み層を備えた畳み込みニューラルネットワークとし、
前記認識部は、前記畳み込みニューラルネットワークから出力される前記特徴情報を入力し、前記炎ブロック、前記煙ブロック、前記放水ブロック及び前記正常ブロックの各クラスに所属する確率を示す推定値を出力する複数の全結合層を備えたニューラルネットワークとしたことを特徴とする火災監視システム。
【請求項１０】
請求項２記載の放水型消火設備に於いて、更に、前記ブロック画像を第２の多層式ニューラルネットワークに入力して前記ブロック画像の内容を示す画像説明文を出力する画像解析装置が設けられたことを特徴とする放水型消火設備。
【請求項１１】
請求項１０記載の放水型消火設備に於いて、
前記画像解析装置は、前記火源までの放水軌道上に位置する前記ブロック画像の画像説明文から障害物なし又は放水が貫通する障害物を識別した場合は、前記放水銃装置に前記火源に向けた直射起動での放水を指示し、前記画像説明文から放水が貫通できない障害物を識別した場合は、前記放水銃装置に前記障害物を迂回する曲射起動で放水を指示することを特徴とする放水型消火設備。
【請求項１２】
請求項１０記載の放水型消火設備に於いて、
前記画像解析装置は、前記火源の近傍に位置する前記ブロック画像の画像説明文から可燃物を識別した場合は前記放水銃装置に放水量の増加を指示し、前記画像説明文から不燃物を識別した場合は前記放水銃装置に放水量を減少を指示することを特徴とする放水型消火設備。
【請求項１３】
請求項１０記載の放水型消火設備に於いて、
前記画像解析装置は、前記火源までの放水軌道上に位置する前記ブロック画像の画像説明文から人を識別した場合、前記放水銃装置に放水開始の禁止又は放水中の放水停止を指示することを特徴とする放水型消火設備。
【請求項１４】
請求項１０記載の放水型消火設備に於いて、
前記画像解析装置は、前記火源までの放水軌道上に位置する前記ブロック画像の画像説明文から人の消火活動を識別した場合は、前記放水銃装置に放水開始の禁止を指示し、前記画像説明文から人が倒れていることを識別した場合は、前記放水銃装置に放水開始を指示することを特徴とする放水型消火設備。
【請求項１５】
請求項１０記載の放水型消火設備に於いて、
前記放水銃装置は、操作部の操作を検出して放水を開始するものであり、
前記画像解析装置は、前記画像ブロックの説明文から、放水軌道上の障害物、火源近傍の可燃物、放水軌道上の人の存在、放水軌道上の人の消火活動又は放水軌道上の倒れている人を識別した場合、当該識別結果を前記放水銃装置の操作部に設けられた表示部に画面表示することを特徴とする放水型消火設備。
【請求項１６】
請求項１０記載の放水型消火設備に於いて、
前記画像解析装置の前記第２の多層式のニューラルネットワークは、
入力した前記監視領域の画像から特徴量を抽出して所定の中間層から出力する畳み込みニューラルネットワークと、
前記畳み込みニューラルネットワークから出力された前記特徴量を入力し、前記監視領域の画像の画像説明文を生成して出力する再帰型ニューラルネットワークと、
により構成されたことを特徴とする放水型消火設備。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、監視カメラで撮像した監視区域の画像からニューラルネットワークにより火源を検出して放水銃からの放水により火災を抑制消火する放水型消火設備に関する。
【背景技術】
【０００２】
従来、競技場、展示会場などの広い監視区域を有する施設の消火設備として放水銃を用いた放水型消火設備が設置されている。放水型消火設備は、走査型の火災検出器による光学的な水平及び垂直走査により監視区域を監視しており、火災の炎によるエネルギーによる受光信号から火災を検出して制御対象となる火源位置を演算し、放水銃を水平旋回により火源位置に指向させ、火源までの距離に応じた放水圧力の制御で消火用水を散水して消火するようにしている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００６−２２３４４０号公報
【特許文献２】特開２００６−２２７７８３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、このような従来の放水型消火設備にあっては、走査型の火災検出器により火源位置を演算して放水銃から消火用水を放水しているが、走査型の火災検出器は特殊な光学系の水平及び垂直走査により監視区域を高い分解精度で走査して火災を検出しているため構造が複雑でコストが嵩み、また、精度を維持するための点検調整に手間と時間がかかるという運用上の問題もある。
【０００５】
一方、近年にあっては、例えば多数の猫と犬の画像にラベル付けをし、それを畳み込みニューラルネットワークを備えた多層式のニューラルネットワークに学習させ、所謂ディープラーニングを行い、新たな画像を学習済みの多層式のニューラルネットワークに提示し、それが猫なのか犬なのかを判定する技術が開示されている。
【０００６】
また、ディープラーニングは画像解析のみにとどまらず、自然言語処理や行動解析等に用いることが検討されている。
【０００７】
このような多層式のニューラルネットワークを火源検出装置に設け、学習時においては多数の火災時及び非火災時の画像を準備して多層式のニューラルネットワークに学習させ、監視時においては監視カメラで撮像した監視区域の画像を学習済みの多層式のニューラルネットワークに入力すれば、その出力から火源を高い精度で推定して放水銃からの消火用水の放水により火災を抑制消火する放水型消火設備が構築可能となる。
【０００８】
しかしながら、監視カメラで撮像された競技場、展示会場などの広い監視区域の画像の中で炎や煙といった火源を示す特徴的な部分は狭い範囲に限られ、画像全体で多層式のニューラルネットワークを学習し、学習後に監視区域の画像を入力しても火源を示す特徴部分が狭い範囲に限られるため、火源の判定精度が低下し、放水銃からの放水による火災の抑制消火の性能が低下する恐れがある。
【０００９】
本発明は、監視カメラにより撮像された警戒区域の画像から、多層式のニューラルネットワークによる火源の検出精度を向上して放水銃からの放水により確実に火災を抑制消火可能とする放水型消火設備を提供することを目的とする。
【課題を解決するための手段】
【００１０】
（放水型消火設備）
本発明は、放水型消火設備に於いて、
撮像部により撮像された警戒区域の監視画像を多層式ニューラルネットワークに入力して火源を検出する火源検出装置と、
火源検出装置により検出された前記火源に向けて消火用水を放水する放水銃装置と、
が設けられたことを特徴とする。
【００１１】
（ブロック分割）
火源検出装置は、撮像部により撮像された警戒区域の監視画像を複数のブロック画像に分割し、ブロック画像を多層式ニューラルネットワークに入力して火源を検出する。
【００１２】
（学習制御と分割ブロック識別）
放水型消火設備は、更に、
入力画像を学習画像として複数のブロック画像に分割すると共に、炎学習ブロック画像、煙学習ブロック画像、放水学習ブロック画像又は正常学習ブロック画像に分類して学習画像記憶部に記憶させる学習画像生成部と、
学習画像記憶部に記憶された炎学習ブロック画像、煙学習ブロック画像、放水学習ブロック画像及び正常学習ブロック画像を火源検出装置の多層式のニューラルネットワークを学習させる学習制御部と、
が設けられ、
学習制御部により学習された火源検出装置の多層式ニューラルネットワークは、ブロック画像を入力して、炎ブロック、煙ブロック、放水ブロック又は正常ブロックかを検出して出力する。
【００１３】
（炎ブロックに基づく火源位置の推定と放水）
放水銃装置は、火源検出装置により検出された１又は複数の炎ブロックに基づいて推定した火源に向けて放水する。
【００１４】
（煙ブロックに基づく火源位置の推定と放水）
放水銃装置は、火源検出装置により炎ブロックが検出されずに１又は複数の煙ブロックが検出された場合は、ブロックに基づいて推定した火源に向けて放水する。
【００１５】
（火源への放水命中の判定）
放水銃装置は、火源位置に向けて放水を開始した場合、火源検出装置により検出された煙ブロックと放水ブロックの時間的な変化から火源に放水が命中しているか否か判定して報知する。
【００１６】
（放水命中画像と放水非命中画像による放水命中の判定）
放水銃装置の多層式ニューラルネットワークは、放水が火源に当たった場合の放水命中画像と放水が火源に当たっていない場合の放水非命中画像により学習されており、火源位置に向けて放水を開始した場合、監視領域の画像を前記多層式ニューラルネットワークに入力して、火源に放水が命中しているか否か判定して報知する。
【００１７】
（火源への放水命中のフィードバック制御）
放水銃装置は、火源に放水が命中していないことを判定した場合、火源に放水が命中している判定結果が得られるように放水方向及び放水圧力の少なくとも何れかを制御する。
【００１８】
（多層式ニューラルネットワークの構成）
多層式ニューラルネットワークは、
特徴抽出部と認識部で構成され、
特徴抽出部は、入力情報を入力して入力情報の特徴が抽出された特徴情報を生成する複数の畳み込み層を備えた畳み込みニューラルネットワークとし、
認識部は、畳み込みニューラルネットワークから出力される特徴情報を入力し、炎ブロック、煙ブロック、放水ブロック及び正常ブロックの各クラスに所属する確率を示す推定値を出力する。
【００１９】
（ブロック画像説明文の生成）
更に、ブロック画像を第２の多層式ニューラルネットワークに入力してブロック画像の内容を示す画像説明文を出力する画像解析装置が設けられる。
【００２０】
（障害物の識別による放水軌道制御）
画像解析装置は、火源までの放水軌道上に位置するブロック画像の画像説明文から障害物なし又は放水が貫通する障害物を識別した場合は、放水銃装置に火源に向けた直射起動での放水を指示し、画像説明文から放水が貫通できない障害物を識別した場合は、放水銃装置に障害物を迂回する曲射起動で放水を指示する。
【００２１】
（可燃物の識別による放水量制御）
画像解析装置は、火源の近傍に位置するブロック画像の画像説明文から可燃物を識別した場合は放水銃装置に放水量の増加を指示し、画像説明文から不燃物を識別した場合は放水銃装置に放水量の減少を指示する。
【００２２】
（人の識別による放水停止制御）
画像解析装置は、火源までの放水軌道上に位置するブロック画像の画像説明文から人を識別した場合、放水銃装置に放水開始の禁止又は放水中の放水停止を指示する。
【００２３】
（人の識別による放水停止制御）
画像解析装置は、火源までの放水軌道上に位置するブロック画像の画像説明文から人の消火活動を識別した場合は、放水銃装置に放水開始の禁止を指示し、画像説明文から人が倒れていることを識別した場合は、放水銃装置に放水開始を指示する。
【００２４】
（画像説明文の識別結果に基づく放水操作の支援）
放水銃装置は、操作部の操作を検出して放水を開始するものであり、
画像解析装置は、画像ブロックの説明文から、放水軌道上の障害物、火源近傍の可燃物、放水軌道上の人の存在、放水軌道上の人の消火活動又は放水軌道上の倒れている人を識別した場合、当該識別結果を放水銃装置の操作部に設けられた表示部に画面表示する。
【００２５】
（画像解析装置の多層式ニューラルネットワーク）
画像解析装置の第２の多層式のニューラルネットワークは、
入力した監視区域の画像から特徴量を抽出して所定の中間層から出力する畳み込みニューラルネットワークと、
畳み込みニューラルネットワークから出力された特徴量を入力し、監視区域の画像の画像説明文を生成して出力する再帰型ニューラルネットワークと、
により構成される。
【発明の効果】
【００２６】
（基本的な効果）
本発明は、放水型消火設備に於いて、撮像部により撮像された警戒区域の監視画像を多層式ニューラルネットワークに入力して火源を検出する火源検出装置と、火源検出装置により検出された前記火源に向けて消火用水を放水する放水銃装置とが設けられたため、撮像部により撮像された警戒領域の監視画像を多層式ニューラルネットワークに入力した場合に、高い精度で火源を示す画像を検出して放水銃からの放水により火災を確実に抑制消火可能とする。
【００２７】
（ブロック分割による効果）
また、火源検出装置は、撮像部により撮像された警戒区域の監視画像を複数のブロック画像に分割し、ブロック画像を多層式ニューラルネットワークに入力して火源を検出するようにしたため、監視領域の画像全体に占める火災による炎や煙等の特徴的な部分が狭い範囲に限られても、監視画像を複数のブロック画像に分割することで、ブロック画像の画像全体に占める火災による特徴部分が広い範囲となり、ブロック画像を多層式ニューラルネットワークに入力した場合に、ブロック画像から高い精度で火源を示すブロック画像を検出して放水銃からの放水により火災を確実に抑制消火可能とする。
【００２８】
また、構造が複雑でコスト的にも高価な走査型の火災検出器に代えて撮像部として機能する汎用の監視カメラを使用することができ、火源を検出するための分解精度は例えば４Ｋ対応の監視カメラにより撮像した監視区域の画像は縦横２１６０×３８４０ピクセルの画素配置となることからブロック画像に分割した場合にも高い画像の分解精度が得られ、火源位置を高精度に検出して放水銃からの放水により確実な抑制消火できる。
【００２９】
（学習制御と分割ブロック識別の効果）
また、放水型消火設備は、更に、入力画像を学習画像として複数のブロック画像に分割すると共に、炎学習ブロック画像、煙学習ブロック画像、放水学習ブロック画像、又は正常学習ブロック画像に分類して学習画像記憶部に記憶させる学習画像生成部と、学習画像記憶部に記憶された炎学習ブロック画像、煙学習ブロック画像、放水学習ブロック画像及び正常学習ブロック画像を火源検出装置の多層式のニューラルネットワークを学習させる学習制御部とが設けられ、学習制御部により学習された火源検出装置の多層式ニューラルネットワークは、ブロック画像を入力して、炎ブロック、煙ブロック、放水ブロック又は正常ブロックかを検出して出力するようにしたため、例えば火災実験等により監視カメラで撮像された火災時の画像及び放水試験により監視カメラで撮像された放水時の画像を学習画像として複数のブロック画像に分割し、分割したブロック画像を炎ブロック画像、煙ブロック画像、放水ブロック画像及び正常ブロック画像（炎、煙、放水のないブロック画像）に分類して記憶し、記憶された炎ブロック画像、煙ブロック画像、放水ブロック画像及び正常ブロック画像を火源検出装置の多層式ニューラルネットワークに入力して学習させることで、学習ブロック画像の全体に占める火災や放水による特徴部分を広い範囲とすることができ、監視領域の画像をブロック画像に分割して入力した場合に、炎ブロック、煙ブロック、放水ブロック又は正常ブロックかを高い精度で検出可能とする。
【００３０】
（炎ブロックに基づく火源位置の推定と放水による効果）
また、放水銃装置は、火源検出装置により検出された１又は複数の炎ブロックに基づいて推定した火源に向けて放水するようにしたため、監視画像を分割した分割ブロックには例えば放水銃の位置を原点とした三次元座標位置が予め設定されており、単一の炎ブロックが検出された場合には、その炎ブロックの三次元座標位置を火源位置とした放水銃による放水軌道の設定が行われ、検出した火源位置に放水銃から消火用水を放水して確実に命中させることができる。
【００３１】
また、複数の炎ブロックの集合が検出された場合には、例えば炎ブロック集合の中心位置を示す三次元座標位置を火源位置とした放水銃による放水軌道の設定が行われ、検出した火源位置に放水銃から消火用水を放水して確実に命中させることができる。
【００３２】
（煙ブロックに基づく火源位置の推定と放水による効果）
また、放水銃装置は、火源検出装置により炎ブロックが検出されずに１又は複数の煙ブロックが検出された場合は、煙ブロックに基づいて推定した火源に向けて放水するようにしたため、例えば、火源が物陰で監視カメラからは見えない位置であった場合、煙ブロックの分布から例えば分布する煙ブロックの最下点の下に隣接した分割ブロックを火源と推定し、遮蔽物を超えた位置に放水銃から消火用水を放水して火災を抑制消火する。
【００３３】
（火源への放水命中の判定による効果）
また、放水銃装置は、火源位置に向けて放水を開始した場合、火源検出装置により検出された煙ブロックと放水ブロックの時間的な変化から火源に放水が命中しているか否か判定して報知するようにしたため、火源に放水銃からの消火用水が命中した場合の煙の時間的な変化、例えば、炎に消火用水が当たった場合に白煙が大きく広がることから、このような煙ブロックの時間的な変化から消火用水が火源に命中したことを判断して操作者に報知できる。また、放水を開始しても白煙が広がるような煙ブロックの時間的な変化が検出されない場合は、放水が命中していないことを操作者に報知でき、これを受けて操作者は放水銃の放水方向や放水距離を調整して放水を命中させる操作を行うことができる。
【００３４】
（放水命中画像と放水非命中画像による放水命中の判定による効果）
また別の実施形態として、放水銃装置の多層式ニューラルネットワークは、放水が火源に当たった場合の放水命中画像と放水が火源に当たっていない場合の放水非命中画像により学習されており、火源位置に向けて放水を開始した場合、監視領域の画像を前記多層式ニューラルネットワークに入力して、火源に放水が命中しているか否か判定して報知するようにしたため、例えば、火源に放水が命中したときに煙が広がることから放水が無い状態または放水非命中時における煙の広がりと放水が命中したときの煙の広がりをそれぞれ学習させることにより、煙の広がり方を特徴として捉えて放水が命中しているかどうか判定可能となる。
【００３５】
（火源への放水命中のフィードバック制御による効果）
また、放水銃装置は、火源に放水が命中していないことを判定した場合、火源に放水が命中している判定結果が得られるように放水方向及び放水圧力の少なくとも何れかを制御するようにしたため、放水を開始した場合に消火用水が火源に命中して白煙が広がるような煙ブロックの時間的な変化が検出されない場合には、例えば、初期設定した放水圧力と放水方向を起点に、放水圧力を所定値だけ増加して放水距離を伸ばした状態で放水方向を所定角度範囲で変化させ、白煙が広がるような煙ブロックの時間的な変化が検出されるまで放水圧力を段階的に増加させ、これにより放水開始時に火源に放水が命中しなくとも、放水銃からの放水距離と放水方向の変更による実質的なフィードバック制御により確実に火源に放水を命中させることができる。
【００３６】
（多層式ニューラルネットワークの構成による効果）
多層式ニューラルネットワークは、特徴抽出部と認識部で構成され、特徴抽出部は、入力情報を入力して入力情報の特徴が抽出された特徴情報を生成する複数の畳み込み層を備えた畳み込みニューラルネットワークとし、認識部は、畳み込みニューラルネットワークから出力される特徴情報を入力し、炎ブロック、煙ブロック、放水ブロック及び正常ブロックの各クラスに所属する確率を示す推定値を出力するようにしたため、畳み込みニューラルネットワークによりブロック画像の特徴が自動的に抽出されることで、監視領域の入力情報から前処理により炎、煙、放水等のブロック画像の特徴、例えば、画像に於いては輪郭等を抽出するような前処理を必要とすることなくブロック画像の特徴が抽出され、引き続いて行う認識部により高い精度で炎ブロック、煙ブロック、放水ブロック及び正常ブロックの各クラスに所属する確率が出力され、ブロックの種別を確実に判別可能とする。
【００３７】
（ブロック画像説明文の生成による効果）
更に、ブロック画像を第２の多層式ニューラルネットワークに入力してブロック画像の内容を示す画像説明文を出力する画像解析装置が設けられたため、例えば炎ブロック画像であれば「炎が出ている」といった画像説明文が生成され、煙ブロック画像であれば「煙が出ている」といった画像説明文が生成され、放水ブロック画像であれば「水がかけられている」といった画像説明文が生成され、この画像説明文を解析することで、ブロック画像の内容を人為的に把握可能とする。
【００３８】
（障害物の識別による放水軌道制御の効果）
また、画像解析装置は、火源までの放水軌道上に位置するブロック画像の画像説明文から障害物なし又は放水が貫通する障害物を識別した場合は、放水銃装置に火源に向けた直射起動での放水を指示し、画像説明文から放水が貫通できない障害物を識別した場合は、放水銃装置に障害物を迂回する曲射起動で放水を指示するようにしたため、例えば、火源を検出して放水銃から放水を開始する前に、火源までの放水軌道上に位置するブロック画像を画像解析装置に入力して画像説明文を生成し、例えば「高い構築物が立っている」といった画像説明文が生成された場合は、直射起動による放水は構築物に当たって火源に届かないことから曲射軌道による放水を行うことで、障害物が存在しても確実に火源に放水可能とする。また、「カーテンが張られている」といった画像説明文が生成された場合は、カーテンは放水を貫通できることから、直射軌道による放水により障害物を貫通して火源に放水可能とする。
【００３９】
（可燃物の識別による放水量制御の効果）
また、画像解析装置は、火源の近傍に位置するブロック画像の画像説明文から可燃物を識別した場合は放水銃装置に放水量の増加を指示し、画像説明文から不燃物を識別した場合は放水銃装置に放水量の減少を指示するようにしたため、火源の近くに燃え易い可燃物がある場合は放水量を増して火災の拡大を防ぎ、火源の近くに不燃物がある場合は放水量を減らして水損被害を抑制する。
【００４０】
（人の識別による放水停止制御の効果）
また、画像解析装置は、火源までの放水軌道上に位置するブロック画像の画像説明文から人の消火活動を識別した場合は、放水銃装置に放水開始の禁止を指示し、画像説明文から人が倒れていることを識別した場合は、放水銃装置に放水開始を指示するようにしたため、例えば避難する人を放水により妨害することなく安全に避難させることを可能とする。
【００４１】
（人の識別による放水停止制御の効果）
また、画像解析装置は、火源までの放水軌道上に位置するブロック画像の画像説明文から人の消火活動を識別した場合は、放水銃装置に放水開始の禁止を指示し、画像説明文から人が倒れていることを識別した場合は、放水銃装置に放水開始を指示するようにしたため、例えば「男性が消火器を使用している」といった画像説明文が生成された場合は初期消火を識別して放水を開始しないことで消火活動を妨害しないようにし、一方、「人が倒れている」といった画像説明部が生成された場合は放水を開始して火災から防護するようにし、放水軌道上にいる人物の状況に応じて適切な放水開始や放水停止といった制御を可能とする。
【００４２】
（画像説明文の識別結果に基づく放水操作の支援による効果）
また、放水銃装置は、操作部の操作を検出して放水を開始するものであり、画像解析装置は、画像ブロックの説明文から、放水軌道上の障害物、火源近傍の可燃物、放水軌道上の人の存在、放水軌道上の人の消火活動又は放水軌道上の倒れている人を識別した場合、当該識別結果を放水銃装置の操作部に設けられた表示部に画面表示するようにしたため、放水開始を担当者が判断して操作するように構成された放水型消火設備にあっては、放水軌道上の障害物、火源近傍の可燃物、放水軌道上の人の存在、放水軌道上の人の消火活動又は放水軌道上の人の状況等の情報を操作者に提供することで支援し、担当者は放水銃の判断操作を迅速且つ適切に行って火災を抑制消火可能とする。
【００４３】
（画像解析装置の多層式ニューラルネットワークによる効果）
また、画像解析装置の第２の多層式のニューラルネットワークは、入力した監視区域の画像から特徴量を抽出して所定の中間層から出力する畳み込みニューラルネットワークと、畳み込みニューラルネットワークから出力された特徴量を入力し、監視区域の画像の画像説明文を生成して出力する再帰型ニューラルネットワークとにより構成されたため、ブロック画像から前処理を必要とすることなく炎、煙、放水といったブロック画像の特徴量が自動的に抽出され、続いて、抽出された特徴量を再帰型ニューラルネットワークに入力することで、ブロック画像の内容を示す画像説明文が生成され、人がブロック画像を見て判断していると同等な放水銃装置の制御を可能とする。
【図面の簡単な説明】
【００４４】
【図１】監視カメラにより火源を検出して放水する放水型消火設備の概略を示した説明図
【図２】屋外球技場に対する放水銃及び監視カメラの設置状態を示した説明図
【図３】放水銃の直射軌道による放水を示した説明図
【図４】放水銃の曲射軌道による放水を示した説明図
【図５】図１の中央制御盤の機能構成を示したブロック図
【図６】図５の火源検出装置に設けられた多層式ニューラルネットワークの機能構成を示した説明図
【図７】監視区域の火災実験により撮像された学習画像のブロック分割とブロック画像の炎、煙、正常の分類を示した説明図
【図８】監視区域の火災実験に対する放水により撮像された学習画像のブロック分割とブロック画像の炎、煙、放水、正常の分類を示した説明図
【図９】図５の学習制御部による学習画像生成制御を示したフローチャート
【図１０】図５の火源検出装置による火源検出制御を示したフローチャート
【図１１】図１の中央制御装置の他の実施形態を示したブロック図
【図１２】図１１の画像解析装置に設けられた第２の多層式ニューラルネットワークの機能構成を示した説明図
【図１３】図１１の画像解析装置による画像解析制御を示したフローチャート
【発明を実施するための形態】
【００４５】
［放水型消火設備の第１実施形態］
（火災監視システムの概要）
図１は監視カメラにより火源を検出して放水する放水型消火設備の概略を示した説明図である。
【００４６】
図１に示すように、本実施形態の放水型消火設備は、競技場や展示会場などの施設を消火対象区域として例えば４台の放水銃１０が設置されており、それぞれの放水銃１０の消火対象区域に対応して４台の監視カメラ１２が設置されている。
【００４７】
放水銃１０に対しては制御盤１４と現場操作盤１６が設けられている。監視カメラ１２及び制御盤１４は監視センタに設置された中央制御盤１８に信号線接続されている。
【００４８】
中央制御盤１８に対しては中央操作卓２０が設けられている。またポンプ室にはポンプ２２が設けられ、ポンプ２２はポンプ制御盤２４により制御される。ポンプ２２からの配水管２６は放水銃１０に放水圧力制御弁として機能する電動弁１３を介して接続される。またポンプ室にはエアーコンプレッサ２８が設けられ、空気配管３０により放水銃１０に接続されている。
【００４９】
中央制御盤１８は監視カメラ１２の画像から多層式ニューラルネットワークを用いた火源検出機能により火源を監視しており、監視カメラ１２の画像からの火源検出による火災断定信号を受信すると中央操作卓２０に火災発生地区表示を行って警報を出すと共に、検出した火源に対応した所定の放水銃１０に対し火源位置情報を送信する。
【００５０】
このとき、例えば中央制御盤１８において自動モードが設定されていた場合には、放水銃１０の水平旋回及び垂直旋回により火源位置にノズル方向を指向して放水軌道を設定した後、ポンプ２２の起動で加圧消火放水を供給し、火源までの距離に応じた電動弁１３による圧力制御により消火用水を火源位置に向けて放水する。
【００５１】
同時にエアーコンプレッサ２８から圧縮空気が供給され、圧縮空気は放水銃１０内における消火用水の周囲に噴出され、低い放水圧、少ない放水量で長距離且つ広範囲に消火用水を散布する。
【００５２】
図２は屋外球技場に対する放水銃及び監視カメラの設置状態を示した説明図である。図２は屋外球技場を例にとっており、中央のグランド部分が消火対象区域３２に定められ、その周囲を囲んだ観客席の背後の所定高さの位置に４台の放水銃１０が消火対象区域３２を囲んで配置されている。
【００５３】
また、スタンド側の放水銃１０の後方となる高い位置には監視カメラ１２が設置されている。監視カメラ１２はＲＧＢのカラー画像を例えば３０フレーム／秒で撮像して動画として出力する。また、監視カメラ１２は４Ｋ対応としており、１フレームは例えば縦横３８４０×２１６０ピクセルの画素配置となる。
【００５４】
更に、監視カメラ１２は消火対象区域３２を斜め上方から俯瞰できるようにスタンド側の可能な限り高い位置に設置することが望ましい。このような監視カメラ１２の高所配置により、監視カメラ１２からの距離に対する撮像物体の変化を最小限に抑える。また、必要に応じて監視カメラ１２で撮像した画像を、消火対象区域３２の上空から見下ろした画像に変換して出力するようにしても良い。
【００５５】
（放水軌道の概要）
図３は放水銃の直射軌道による放水を示した説明図、図４は放水銃の曲射軌道による放水を示した説明図である。
【００５６】
図３において、消火対象区域３２には原点ＯをもつＸ軸、Ｙ軸、Ｚ軸の三次元座標が設定され、Ｘ−Ｙ軸面は図２に示したグランド面であり、グランド面から高さＨとなるＺ軸上に放水銃１０の放水点Ｐが設定されている。ここで、グランド面のＱ点が火源として検出された場合、放水銃１０をＸ軸に対し水平旋回角φだけ旋回して水平放水軸Ｗが火源Ｑを通るようにし、また、放水点Ｐから火源Ｑの間に障害物がないことから、放水点Ｐから下向きに垂直旋回角θ１だけ放水銃１０を垂直旋回し、放水銃１０からの放水軸線が火源Ｑに直接当たるように直射軌道５４を設定して放水を行う。
【００５７】
これに対し図４に示すように、放水点Ｐから火源Ｑの間に障害物５８が存在する場合には、放水点Ｐから上向きに垂直旋回角θ２だけ放水銃１０を垂直旋回し、放水銃１０からの放水軸線が放物線を描いて障害物５８を超えて火源Ｑに直接当たるように曲射軌道５６を設定して放水を行う。
【００５８】
なお、図３の直射軌道５４は火源Ｑまでの距離Ｌが短い場合は有効であるが、距離Ｌが長くなると直射軌道５４では火源Ｑに当たらないことから、下向きの垂直旋回角θ１を上向きに修正して火源Ｑを直射する軌道に設定する。このような直射軌道の垂直旋回角θ１と放水距離Ｌの関係は予め設定されており、火源Ｑが検出された場合に放水距離Ｌを演算することで対応する垂直旋回角θを取得して直射軌道５４が設定される。
【００５９】
また、図４の曲射軌道５８についても、垂直旋回角θ２と放水距離Ｌとの関係は予め設定されており、障害物が識別された場合に、火源Ｑまでの放水距離Ｌを演算することで対応する垂直旋回角θ２を取得し曲射軌道５６が設定される。
【００６０】
更に、火源Ｑの近傍に人がいる場合に直射軌道５４の設定による放水は危険を伴うことから、障害物の有無に関わらず、常に、曲射軌道５６を設定して放水するようにしても良い。
【００６１】
［中央制御盤の構成］
図５は図１の中央制御盤の機能構成を示したブロック図であり、図１に示した放水銃１０と監視カメラ１２の一系統を例にとって示している。
【００６２】
図５に示すように、中央制御盤１８には火源検出装置３４と放水制御部３６が設けられる。火源検出装置３４は、撮像部として機能する監視カメラ１２により撮像された消火対象区域の監視画像を複数のブロック画像に分割し、ブロック画像を多層式ニューラルネットワーク４０に入力して火源を検出する。
【００６３】
放水制御部３６は、火源検出装置３４により検出された火源に向けて、例えば図３に示した直射軌道５４または図４に示した障害物を回避する曲射軌道５６を設定して消火用水を放水する。
【００６４】
（火源検出装置の構成）
火源検出装置３４は、画像入力部３８、多層式ニューラルネットワーク４０、判定制御部４２及びブロック分類画像記憶部４４で構成され、また、多層式ニューラルネットワーク４０に対し学習制御部４６が設けられ、学習制御部４６には学習画像記憶部４８、キーボードやマウス等の操作部５０、モニタ画面を備えた表示部５２が接続され、これらの機能は、ニューラルネットワークの処理に対応したコンピュータ回路のＣＰＵによるプログラムの実行により実現される。
【００６５】
画像入力部３８は監視カメラ１２により撮像された消火対象区域の動画画像を、フレーム単位に監視画像として入力し、例えば縦横１６×１６の２５６ブロックのブロック画像に分割し、各ブロック画像を多層式ニューラルネットワーク４０に順次入力し、ブロック画像が炎ブロックか、煙ブロックか、放水ブロックかを示すクラスタリングの推定値を出力する。
【００６６】
判定制御部４２は多層式ニューラルネットワーク４０から出力された炎、煙、放水を示すブロック画像の各推定値を所定の閾値と比較し、閾値を超えた推定値のブロック画像の種別を判定結果としてブロック分類画像記憶部４４に記憶する。
【００６７】
また、判定制御部４２は監視画像から分割された全てのブロック画像の種別判定が終了した場合に、ブロック分類画像記憶部４４に記憶されている種別ブロックから炎ブロックを検出して火源位置（火源位置座標）を求め、火源位置を放水制御部３６に出力して放水制御を行わせる。
【００６８】
この場合、判定制御部４２はブロック分類画像記憶部４４から単一の炎ブロックが検出された場合は、検出された炎ブロックの位置座標を火源位置として放水制御部３６に出力するが、複数の炎ブロックの集合が検出された場合には、例えば炎ブロック集合の中心位置の座標を火源位置と推定して放水制御部３６に出力する。
【００６９】
また、判定制御部４２はブロック分類画像記憶部４４から炎ブロックが検出できなかった場合は煙ブロックを検出し、検出した煙ブロックから火源位置を推定する。煙ブロックに基づく火源位置の推定は、煙は火源から出て拡散する分布となることから、煙ブロック集合における拡散開始端の煙ブロックに隣接したブロックを火源位置と推定する制御を行う。
【００７０】
これより炎が遮蔽物に隠れて監視カメラ１２から見えない場合にも、煙ブロックから火源位置を推定し、例えば曲射軌道の設定による放水で確実に消火抑制可能とする。
【００７１】
学習制御部４６は、設備の立上げ時等に、学習画像記憶部４８に予め記憶されている炎学習ブロック画像、煙学習ブロック画像、放水学習ブロック画像及び正常学習ブロック画像を順次読み出し、画像入力部３８を介して多層式ニューラルネットワーク４０に教師ありのブロック画像として入力し、例えばバックプロパゲーション法（誤差逆伝播法）等の学習法により多層式ニューラルネットワーク４０の重みとバイアスを学習させる。
【００７２】
この教師ありのブロック画像を用いて学習の済んだ多層式ニューラルネットワーク４０に、監視カメラ１２で撮像された監視領域の画像を分割したブロック画像を入力すると炎、煙、放水及び正常のクラス（種別）を示す推定値が出力される。
【００７３】
ここで、炎推定値をｙ１、煙推定値をｙ２、放水推定値をｙ３、正常期待値をｙ４とすると、理想的には、
炎ブロックの場合は  （ｙ１，ｙ２，ｙ３，ｙ４）＝（１，０，０，０）
煙ブロックの場合は  （ｙ１，ｙ２，ｙ３，ｙ４）＝（０，１，０，０）
放水ブロックの場合は（ｙ１，ｙ２，ｙ３，ｙ４）＝（０，０，１，０）
正常ブロックの場合は（ｙ１，ｙ２，ｙ３，ｙ４）＝（０，０，０，１）
となる。
【００７４】
実際のブロック画像を多層式ニューラルネットワーク４０に入力した場合は、推定値ｙ１〜ｙ４の総和は１で、それぞれは０〜１の間の値をとることから、推定値ｙ１〜ｙ４を判定制御部４２に入力して所定の閾値、例えば０．５と比較し、閾値以上の推定値ｙｉのクラスを判別結果とする。なお、判定制御部４２は、推定値ｙ１〜ｙ４の中の最大値となるクラスを判定結果としても良い。
【００７５】
（多層式ニューラルネットワーク）
図６は図５に示した多層式ニューラルネットワークの機能構成を示した説明図であり、図６（Ａ）に概略を示し、図６（Ｂ）に詳細を模式的に示している。
【００７６】
図６（Ａ）に示すように、本実施形態の多層式ニューラルネットワーク４０は、特徴抽出部として機能する畳み込みニューラルネットワーク６０と、認識部として機能する全結合ニューラルネットワーク６１で構成される。
【００７７】
多層式ニューラルネットワーク４０は、深層学習（ディープラーニング）を行うニューラルネットワークであり、中間層を複数つなぎ合わせた深い階層をもつニューラルネットワークであり、特徴抽出となる表現学習を行う。
【００７８】
通常のニューラルネットワークは、画像から炎、煙、放水、正常といった画像の特徴を推定するための特徴抽出には、人為的な試行錯誤による作業を必要とするが、多層式ニューラルネットワーク４０では、特徴抽出部として機能する畳み込みニューラルネットワーク６０を用いることで、画像の画素値を入力とし、学習により最適な特徴を抽出し、認識部として機能する全結合ニューラルネットワーク６１に入力して炎、煙、放水、正常といった画像の特徴より分類したクラスタリングを行う。
【００７９】
全結合ニューラルネットワーク６１は、図６（Ｂ）に模式的に示すように、入力層６６、全結合６８、中間層７０と全結合６８の繰り返し、及び出力層７２で構成されている。
【００８０】
ここで、全結合ニューラルネットワーク６１は、ブロック画像を炎、煙、放水及び正常の４クラスに分類する多クラス分類を行うことから、最後の出力層７２には、目的とする４クラスと同じ４ユニットを配置し、これらのユニットへの入力を、ソフトマックス関数を用いて、総和が１の出力ｙ１，ｙ２，ｙ３，ｙ４となるようにしており、各ユニットの出力ｙ１，ｙ２，ｙ３，ｙ４はそのクラスに属する確率を示すことになる。
【００８１】
（畳み込みニューラルネットワーク）
図６（Ｂ）は特徴抽出部として機能する畳み込みニューラルネットワーク６０の構造を模式的に示している。
【００８２】
畳み込みニューラルネットワーク６０は、通常のニューラルネットワークとは少し特徴が異なり、視覚野から生物学的な構造を取り入れている。視覚野には、視野の小区域に対し敏感な小さな細胞の集まりとなる受容野が含まれており、受容野の挙動は、行列の形で重み付けを学習することで模倣できる。この行列は重みフィルタ（カーネル）呼ばれ、生物学的に受容野が果たす役割と同様に、ある画像の類似した小区域に対して敏感になる。
【００８３】
畳み込みニューラルネットワーク６０は、畳み込み演算により、重みフィルタと小区域との間の類似性を表すことでき、この演算を通して、画像の適切な特徴を抽出することができる。
【００８４】
畳み込みニューラルネットワーク６０は、図６（Ｂ）に示すように、まず、ブロック画像として入力される入力画像６２に対し重みフィルタ６３により畳み込み処理を行う。例えば、重みフィルタ６３は縦横３×３の所定の重み付けがなされた行列フィルタであり、入力画像６２の各画素にフィルタ中心を位置合わせしながら畳み込み演算を行うことで、入力画像６２の９画素を小区域となる特長マップ６４ａの１画素に畳み込み、複数の特徴マップ６４ａが生成される。
【００８５】
続いて、畳み込み演算により得られた特徴マップ６４ａに対しプーリングの演算を行う。プーリングの演算は、識別に不必要な特徴量を除去し、識別に必要な特徴量を抽出する処理である。
【００８６】
続いて、重みフィルタ６５ａ，６５ｂを使用した畳み込み演算とプーリングの演算を多段に繰り返して特徴マップ６４ｂ，６４ｃが得られ、最後の層の特徴マップ６４ｃを全結合ニューラルネットワーク６１に入力し、通常の全結合ニューラルネットワーク６１を用いた認識部により入力したブロック画像が炎、煙、放水、正常の何れかのクラスに属するかを推定する。
【００８７】
なお、畳み込みニューラルネットワークにおけるプーリングの演算は、炎、煙、放水、正常かの推定に不必要な特徴量が必ずしも明確でなく、必要な特徴量を削除する可能性があることから、プーリングの演算は行わないようにしても良い。
【００８８】
［多層式ニューラルネットワークの学習］
（バックプロパゲーション）
入力層、複数の中間層及び出力層で構成されるニューラルネットワークは、各層に複数のユニットを設けて他の層の複数のユニットと結合し、各ユニットにはウェイト（重み）とバイアス値が設定され、複数の入力値とウェイトとのベクトル積を求めてバイアス値を加算して総和を求め、これを所定の活性化関数に通して次の層のユニットに出力するようにしており、最終層に到達するまで値が伝播するフォワードプロパゲーションが行われる。
【００８９】
このようなニューラルネットワークのウェイトやバイアスを変更するには、バックプロパゲーションとして知られている学習アルゴリズムを使用する。バックプロパゲーションでは、入力値ｘと期待される出力値（期待値）ｙというデータセットをネットワークに与えた場合の教師ありの学習と、入力値ｘのみをネットワークに与えた場合の教師なしの学習があり、本実施形態は、例えば教師ありの学習を行う。
【００９０】
教師ありの学習でバックプロパゲーションを行う場合は、ネットワークを通ってきたフォワードプロパゲーションの結果である推定値ｙ＊と期待値yの値を比較する誤差として、例えば、平均二乗誤差の関数を使用する。
【００９１】
バックプロパゲーションでは、推定値ｙ＊と期待値ｙの誤差の大きさを使い、ネットワークの後方から前方までウェイトとバイアスを補正しながら値を伝播させる。各ウェイトとバイアスについて補正した量は、誤差への寄与として扱われ、最急降下法で計算され、ウェイトとバイアスの値を変更することにより、誤差関数の値を最小化する。
【００９２】
ニューラルネットワークに対するバックプロパゲーションによる学習の手順は次にようになる。
（１）  入力値ｘをニューラルネットワークに入力して、フォワードプロパゲーションを行い推定値ｙ＊を求める。
（２）  推定値ｙ＊と期待値ｙに基づき誤差関数で誤差を計算する。
（３）  ウェイトとバイアスを更新しながら、ネットワークにて、バックプロパゲーションを行う。
【００９３】
この手順は、ニューラルネットワークのウェイトとバイアスの誤差が可能な限り最小になるまで、異なる入力値ｘと期待値ｙの組み合わせを使って繰り返し、誤差関数の値を最小化する。
【００９４】
図６（Ｂ）に示す多層式ニューラルネットワーク４０の教師ありの学習制御では、炎学習ブロック画像の期待値（ｙ１，ｙ２，ｙ３，ｙ４）＝（１，０，０，０）、煙学習ブロック画像の期待値（ｙ１，ｙ２，ｙ３，ｙ４）＝（０，１，０，０）、放水学習ブロック画像の期待値（ｙ１，ｙ２，ｙ３，ｙ４）＝（０，０，１，０）、更に正常学習ブロック画像の期待値（ｙ１，ｙ２，ｙ３，ｙ４）＝（０，０，０，１）を使用し、前述したバックプロパゲーションを行う。
【００９５】
なお、教師なしの学習でバックプロパゲーションを行う場合は、推定値ｙ＊と入力値ｘの誤差の大きさを使い、ネットワークの後方から前方までウェイトとバイアスを補正しながら値を伝播させる。この場合にも各ウェイトとバイアスについて補正した量は、誤差への寄与として扱われ、最急降下法で計算され、ウェイトとバイアスの値を変更することにより、誤差関数の値を最小化する。
【００９６】
（学習画像の生成機能）
図５に示す学習制御部４６は、操作部５０による所定の学習画像生成操作が行われると、監視カメラ１２により撮像された火災実験又は放水実験の動画からフレーム単位に画像を学習画像として画像入力部３８に読み込み、例えば４Ｋ画像の場合、縦横１６×１６の２５６ブロックのブロック画像に分割して表示部５２のモニタ画面に表示させる。なお、学習画像は、監視カメラ１２により撮像された火災実験又は放水実験の動画を図示しない録画装置に録画し、録画装置から画像入力部３８に読み込んでも良い。
【００９７】
図７は監視領域の火災実験等により撮像された学習画像のブロック分割とブロック画像の炎、煙、正常の分類を示した説明図である。
【００９８】
図７（Ａ）に示すように、図５の表示部５２のモニタ画面には、画像入力部３８に読み込まれてブロック分割された火災画像７４−１が表示される。本実施形態では、火災画像７４−１は縦横２６×１６の２５６ブロックのブロック画像に分割されているが、これは一例であり、ブロックサイズは、放水銃１０による散水領域に対応した画面上のサイズとなるように分割される。
【００９９】
火災画像７４−１は、燃焼物７６に例えば角材を積み上げて燃焼物として着火し、着火後に炎７８が少し上がり、その上に煙８０が上がっている火災初期段階の画像である。
【０１００】
このようなブロック分割された火災画像７４−１に対し、煙学習ブロック画像Ｓ、炎学習ブロック画像Ｆ及び正常ブロック画像とするブロック画像の分類を、操作者の目視判断により行う。この分類操作により図７（Ｂ）に示すブロック分類画像８２−１が生成される。なお、正常ブロック画像は白枠のブロックで示している。
【０１０１】
ここで、正常学習ブロック画像は炎や煙がないブロックであり、煙学習ブロック画像Ｓは煙が目視できるブロックであり、炎学習ブロック画像Ｆは炎が目視できるブロックである。
【０１０２】
また、図７（Ｂ）に示すブロック分類画像８２−１は、例えば左上隅を初期位置とした行番号１〜１６と列番号１〜１６で特定されるブロックアドレス（二元アドレス）Ａ１〜Ａ２５６に対応して煙学習ブロック画像Ｓ、炎学習ブロック画像Ｆを示す識別情報を格納したデータ形式で記憶される。
【０１０３】
更に、ブロックアドレスＡ１〜Ａ２５６には、図３及び図４に示した消火対象区域３２の三次元座標位置を示す座標値（Ｘｉ，Ｙｉ，Ｚｉ）を含むデータ形式で記憶されている。
【０１０４】
図８は消火対象区域の火災実験に対する放水により撮像された学習画像のブロック分割とブロック画像の炎、煙、放水、正常の分類を示した説明図である。
【０１０５】
図８（Ａ）に示すブロック分割された火災画像７４−２にあっては、図７（Ａ）に対し時間の経過に伴い火災が拡大し、燃焼物７６からの炎７８は大きく立ち上がっており、ここに放水銃１０からの放水８４が開始された状態であり、燃焼物７６に放水８４が当たることで水蒸気を含む煙８０が大きく拡散している。
【０１０６】
図８（Ｂ）は、図８（Ａ）の火災画像７４−２におけるブロック分類画像８２−２であり、炎学習ブロック画像Ｆ及び煙学習ブロック画像Ｓに加え、放水学習ブロック画像Ｗが新たに加わっている。
【０１０７】
図７（Ａ）及び図８（Ａ）は火災画像の一例であり、実際には、燃焼物の着火から図７（Ａ）を経て図８（Ａ）のように炎が燃え上がるように拡大し、その後放水を受けて鎮火して行く火災動画が入力されていることから、例えば着火から５分間の録画をフレーム単位に読み込むと、９０００枚の火災画像が得られ、それぞれ縦横１６×１６の２５６ブロックのブロック画像に分割して分類することで、正常ブロック画像、炎学習ブロック画像Ｆ、煙学習ブロック画像Ｓ及び放水学習ブロック画像Ｗが最大で２，３０４，０００枚生成できる。
【０１０８】
なお、火災画像を分割したブロック画像の分類は、操作者の目視による手動操作による分類以外に、例えばブロック単位に画素の輝度の総和を求めて自動的に判定して分類するようにしても良い。
【０１０９】
また、火災実験による火災画像の撮像は、消火対象区域３２では行えない場合もあることから、この場合には、システム製造側の火災実験施設を使用して行った火災実験を撮像して録画した動画を利用する。
【０１１０】
（学習画像生成制御）
図９は図５の学習制御部による学習画像生成制御を示したフローチャートである。図９に示すように、所定の操作により学習画像生成制御が開始されると、学習制御部４６は、ステップＳ１で監視カメラ１２により撮像されて例えば録画装置に録画されている火災動画をフレーム単位に火災画像として読み込み、ステップＳ２で所定サイズのブロック画像に分割し、ステップＳ３で例えば図７（Ａ）に示すように表示部５２のモニタ画面に表示させる。
【０１１１】
続いて、ステップＳ４に進み、学習制御部４６は、モニタ画面に表示されたブロック画像の操作者による目視による操作に基づき、ブロック画像を炎学習ブロック画像、煙学習ブロック画像、放水学習ブロック画像、正常学習ブロック画像に分類し、この内の炎学習ブロック画像、煙学習ブロック画像、放水学習ブロック画像、正常学習ブロック画像をステップＳ５で学習画像記憶部４８に記憶させる。
【０１１２】
続いて、学習制御部４６は、ステップＳ６で全ての火災画像を処理したか否か判別し、全ての火災画像を処理していない場合はステップＳ１からの処理を繰り返し、全ての火災画像を処理したことを判別すると一連の処理を終了し、多層式ニューラルネットワーク４０の学習を行う。
【０１１３】
（火源検出制御）
図１０は図５の火源検出装置による火源検出制御を示したフローチャートである。図１０に示すように、火源検出装置３４はステップＳ１１で監視カメラ１２からの監視画像を画像入力部３８に読み込み、ステップＳ１２で所定サイズのブロック画像に分割して、ステップＳ１３で先頭のブロック画像から順番に多層式ニューラルネットワーク４０に入力し、多層式ニューラルネットワーク４０から出力された炎、煙、放水及び正常の４クラスの推定値に対し判定制御部４２で所定の閾値との比較で煙、放水及び正常の何れのクラスに属するかを判定し、ステップＳ１４で判定結果をブロック分類画像記憶部４４に記憶させる。
【０１１４】
続いて、ステップＳ１５で、火源検出装置３４は全てのブロック画像の入力を判別するまでステップＳ１３からの処理を繰り返し、全てのブロック画像の入力を判別した場合はステップＳ１６に進み、ブロック分類画像記憶部４４に炎ブロックが記憶されているか否か判別し、炎ブロックが１つでも判別されるとステップＳ１７に進み、炎ブロックから火源ブロックを推定する。このとき複数の炎ブロックの集合が判別された場合は、炎ブロック集合の中心に位置する炎ブロックを火源ブロックと推定する。
【０１１５】
続いて、ステップＳ１８に進み、火源検出装置３４は、推定した火源ブロックの位置座標をブロックアドレスに基づいて取得し、火源位置座標を放水制御部３６に出力して放水銃１０からの放水を行わせる。
【０１１６】
また、火源検出装置３４は、ステップＳ１６で、ブロック分類画像記憶部４４から炎ブロックが判別されなかった場合はステップＳ１９に進み、ブロック分類画像記憶部４４に煙ブロックが記憶されているか否か判別し、煙ブロックが判別されるとステップＳ２０に進み、煙ブロックから火源ブロックを推定する。
【０１１７】
ここで、火災であればブロック分類画像記憶部４４に多数の煙ブロックが記憶されていることから、火源検出装置３４はステップＳ２０で複数の煙ブロックの集合の分布から火源ブロックを推定し、続いて、ステップＳ１８に進み、推定した火源ブロックの位置座標をブロックアドレスに基づいて取得し、火源位置座標を放水制御部３６に出力して放水銃１０からの放水を行わせる。
【０１１８】
（火源への放水命中の判定機能）
図５に示した火源検出装置３４は、火源座標を放水制御部３６に出力して放水銃１０から火源に向けて放水を開始した場合、監視カメラ１６により撮像された消火対象区域の画像を画像入力部３８でブロック画像に分割して多層式ニューラルネットワーク４０に入力し、判定制御部４２で炎、煙、放水のブロック種別を判別してブロック分類画像記憶部４４に記憶し、煙ブロックと放水ブロックの時間的な変化から火源に放水が命中しているか否か判定し、判定結果を現場操作盤１６に送って報知させる制御を行う。
【０１１９】
これは図８に示したように、炎７８に放水銃１０からの放水８４が当たった場合に煙８０が大きく広がることから、火源検出装置３４は、このような煙ブロックの時間的な変化から消火用水が火源に命中したことを判断して操作者に報知する。
【０１２０】
また、放水を開始しても白煙が広がるような煙ブロックの時間的な変化が検出されない場合は、火源検出装置３４は放水が命中していないことを操作者に報知でき、これを受けて操作者は放水銃１０の放水方向や放水距離を調整して放水を命中させる操作を行うことができる。
【０１２１】
（火源への放水命中のフィードバック制御）
また、火源検出装置３４は、煙ブロックと放水ブロックの時間的な変化から火源に放水が命中していないことを判定した場合に放水制御部３６に通知し、火源に放水が命中している判定結果が得られるように放水制御部３６が放水方向及び放水圧力の少なくとも何れかを変更する制御を行う。
【０１２２】
即ち、火源検出装置３４は、放水を開始した場合に消火用水が火源に命中して白煙が広がるような煙ブロックの時間的な変化が検出されない場合には、放水制御部３６に放水条件の変更を指示し、これを受けた放水制御部３６は、例えば、初期設定した放水圧力と放水方向を起点に、放水圧力を所定値だけ増加して放水距離を伸ばした状態で放水方向を所定角度範囲で変化させ、火源検出装置３４から白煙が広がるような煙ブロックの時間的な変化の判別通知が得られるまで放水圧力を段階的に増加させる制御を行う。これにより放水開始時に火源に放水が命中しなくとも、放水銃からの放水距離と放水方向の変更による実質的なフィードバック制御により確実に火源に放水を命中させることができる。
【０１２３】
［放水型消火設備の第２実施形態］
（中央制御装置の概要）
図１１は図１の中央制御装置の他の実施形態を示したブロック図である。図１１に示すように、中央制御盤１８には火源検出装置３４と放水制御部３６に加え、新たに画像解析装置９０が設けられる。
【０１２４】
火源検出装置３４は、監視カメラ１２により撮像された警戒対象区域の監視画像を複数のブロック画像に分割し、ブロック画像を多層式ニューラルネットワーク４０に入力して火源を検出する。また、放水制御部３６は、火源検出装置３４により検出された火源に向けて消火用水を放水する。このような火源検出装置３４及び放水制御部３６は、図５の実施形態と基本的に同じになることから、同一符号を付してその説明は省略する。
【０１２５】
（画像解析装置の概要）
画像解析装置９０は、画像入力部９２、第２の多層式ニューラルネットワーク９４、判定制御部９６及びシソーラス辞書９８で構成され、また、第２の多層式ニューラルネットワーク９４に対し学習制御部１００が設けられ、学習制御部１００には学習データセット記憶部１０２、キーボードやマウス等の操作部１０４、モニタ画面を備えた表示部１０６が接続され、これらの機能は、ニューラルネットワークの処理に対応したコンピュータ回路のＣＰＵによるプログラムの実行により実現される。
【０１２６】
放水制御部３６は、火源検出装置３４により検出された火源位置に向けて放水制御部３６が放水銃１０から放水を行う放水軌道を設定した場合、放水軌道設定情報を画像解析装置９０の画像入力部９２に出力する。
【０１２７】
画像入力部９２は、放水制御部３６から受けた放水軌道設定情報に基づき、監視カメラ１２から読み込んで分割したブロック画像に対し放水軌道を設定し、放水軌道上に位置するブロック画像を切り出して第２の多層式ニューラルネットワーク９４に入力し、入力したブロック画像の画像説明文を生成させる。
【０１２８】
第２の多層式ニューラルネットワーク９４で生成された画像説明文は判定制御部９６に出力され、シソーラス辞書９８に記憶された単語との比較照合が行われ、放水軌道上のブロック画像が何を示しているかの識別が行われ、この識別結果に基づく放水開始や放水停止といった制御指示が放水制御部３６に出力され、放水軌道上の状況に合わせた適切な放水制御を可能とする。
【０１２９】
例えば、第２の多層式ニューラルネットワーク９４に炎ブロック画像が入力されると「炎が出ている」といった画像説明文が生成され、また、煙ブロック画像が入力されると「煙が出ている」といった画像説明文が生成され、更に、放水ブロック画像がに入力されると「水がかけられている」といった画像説明文が生成され、この画像説明文を判定制御部９６でシソーラス辞書９８の登録単語と比較照合して解析することで、ブロック画像の内容を人為的に把握可能とする。
【０１３０】
（障害物の識別による放水軌道制御）
画像解析装置９０の判定制御部９６は、第２の多層式ニューラルネットワーク９４により生成された火源までの放水軌道上に位置するブロック画像の画像説明文から例えば「高い構築物が立っている」といった画像説明文が生成された場合、放水制御部３６に図４に示した曲射軌道５６の設定による放水を指示し、直射軌道による放水は構築物に当たって火源に届かないことから曲射軌道による放水を行うことで、障害物が存在しても確実に火源に放水可能とする。
【０１３１】
また、第２の多層式ニューラルネットワーク９４により「カーテンが張られている」といった画像説明文が生成された場合は、カーテンは放水を貫通できることから、判定制御部９６は図３に示した直射軌道５４の設定による放水を放水制御部３６に指示し、直射軌道により障害物となるカーテンを貫通して火源に放水する。
【０１３２】
（可燃物の識別による放水量制御）
画像解析装置９０の判定制御部９６は、第２の多層式ニューラルネットワーク９４により生成された火源までの放水軌道上に位置するブロック画像の画像説明文から例えば「段ボール箱が積み上げられている」といった可燃物を示す画像説明文が生成された場合、放水制御部３６に放水量を増加させる指示を行い、確実な消火を可能とする。
【０１３３】
また、第２の多層式ニューラルネットワーク９４から「コンクリートブロックが積み上げられている」といった不燃物を示す画像説明文が生成された場合、判定制御部９６は放水制御部３６に放水量を減少させる指示を行い、水損被害を抑制可能とする。
【０１３４】
（人の識別による放水停止制御）
画像解析装置９０の判定制御部９６は、第２の多層式ニューラルネットワーク９４により生成された火源までの放水軌道上に位置するブロック画像の画像説明文から例えば「大勢の人が移動している」といった画像説明文が生成された場合、これは消火対象区域から利用者が避難している状況であることから、判定制御部９６は放水制御部３６に放水開始を禁止する指示を行い、放水により避難行動を妨害することなく安全に避難させることを可能とする。
【０１３５】
（人の識別による放水停止制御）
画像解析装置９０の判定制御部９６は、第２の多層式ニューラルネットワーク９４により生成された火源までの放水軌道上に位置するブロック画像の画像説明文から例えば「男性が消火器を使用している」といった初期消火を示す画像説明文が生成された場合、判定制御部９６は放水制御部３６に放水開始を禁止する指示を行い、放水により消火活動を妨害しないようにする。
【０１３６】
また、第２の多層式ニューラルネットワーク９４から例えば「人が倒れている」といった画像説明文が生成された場合、これは避難しようとした人が火源の近くに倒れている状況であることから、判定制御部９６は放水制御部３６に放水開始を指示し、放水により倒れている人を火災から守るようにする。この場合の放水軌道は、人的被害のない曲射軌道を指定した放水指示となる。
【０１３７】
（画像説明文の識別結果に基づく放水操作の支援制御）
画像解析装置９０の判定制御部９６は、第２の多層式ニューラルネットワーク９４により生成された放水軌道上にあるブロック画像の画像説明文から放水軌道上の障害物、火源近傍の可燃物、放水軌道上の人の存在、放水軌道上の人の消火活動又は放水軌道上の倒れている人を識別した場合、これらの識別結果を例えば現場操作盤１６に設けられた表示部の画面に表示する制御を行う。
【０１３８】
このため放水銃による放水開始を担当者が判断して操作する場合、放水軌道上の障害物、火源近傍の可燃物、放水軌道上の人の存在、放水軌道上の人の消火活動又は放水軌道上の人の状況等の情報が操作者に示されることで、操作者は放水銃１０の判断操作を迅速且つ適切に行って火災を抑制消火することが可能となる。
【０１３９】
（画像解析部の第２の多層式ニューラルネットワーク）
図１２は図１１の画像解析装置に設けられた第２の多層式ニューラルネットワークの機能構成を示した説明図である。図１２に示すように、第２の多層式ニューラルネットワーク９４は、畳み込みニューラルネットワーク１０８と再帰型ニューラルネットワーク１１０で構成される。
【０１４０】
（畳み込みニューラルネットワーク）
図１２に示すように、畳み込みニューラルネットワーク１０８は入力層１１２、複数の中間層１１４で構成されている。
【０１４１】
通常の畳み込みニューラルネットワークは、図６の多層式ニューラルネットワーク４０に示すように、畳み込みニューラルネットワーク６０の最後の中間層の後に、入力層６６、全結合６８、中間層７０と全結合６８の繰り返し、及び出力層７２で構成される全結合ニューラルネットワーク６１を設け、畳み込みニューラルネットワーク６０で抽出された画像の特徴量から例えば画像をクラスタリングするようにしているが、本実施形態は、入力画像の特徴量を抽出するだけで良いことから、後段の全結合ニューラルネットワーク６１は設けず、図１２に示すように、任意の中間層１１４で得られた特徴量を再帰型ニューラルネットワーク１１０に入力している。それ以外は図６の畳み込みニューラルネットワーク６１と同じになることから説明は省略する。
【０１４２】
（畳み込みニューラルネットワークの学習）
図１１に示した学習制御部１００により第２の多層式ニューラルネットワーク９４を学習するためには、火源までの放水軌道上に位置するブロック画像とその画像説明文のペアからなる学習データセットを準備して学習データセット記憶部１０２に記憶させる。
【０１４３】
学習制御部１００による第２の多層式ニューラルネットワーク９４の学習は、図６に示した畳み込みニューラルネットワーク６０と全結合ニューラルネットワーク６１で構成された多層式ニューラルネットワークを学習用として別途準備し、学習データセット記憶部１０２から学習ブロック画像を読み出して入力し、バックプロパゲーションによる学習制御を行う。
【０１４４】
バックプロパゲーションでは、入力値ｘと期待される出力値（期待値）ｙというデータセットをネットワークに与えた場合の教師ありの学習と、入力値ｘのみをネットワークに与えた場合の教師なしの学習があり、本実施形態は、例えば教師ありの学習を行う。
【０１４５】
教師ありの学習でバックプロパゲーションを行う場合は、ネットワークを通ってきたフォワードプロパゲーションの結果である推定値ｙ＊と期待値yの値を比較する誤差として、例えば、平均二乗誤差の関数を使用する。
【０１４６】
バックプロパゲーションでは、推定値ｙ＊と期待値ｙの誤差の大きさを使い、ネットワークの後方から前方までウェイトとバイアスを補正しながら値を伝播させる。各ウェイトとバイアスについて補正した量は、誤差への寄与として扱われ、最急降下法で計算され、ウェイトとバイアスの値を変更することにより、誤差関数の値を最小化する。
【０１４７】
図６に示す学習用の多層式ニューラルネットワークに対する学習制御が終了した場合には、学習済みの畳み込みニューラルネットワーク６０の各層に生成されているウェイトとバイアスを学習済みパラメータとして取得し、図１２の畳み込みニューラルネットワーク１０８に設定して学習済みとする転移学習を行う。
【０１４８】
（再帰型ニューラルネットワーク）
図１２に示す再帰型ニューラルネットワーク１１０は、畳み込みニューラルネットワーク１０８を用いて抽出したブロック画像の特徴量を、単語ベクトルと共に入力して画像説明文を推定する。
【０１４９】
本実施形態の再帰型ニューラルネットワーク１１０は、時系列データ対応の深層学習モデルとなるＬＳＴＭ−ＬＭ（Ｌｏｎｇ  Ｓｈｏｒｔ−Ｔｅｒｍ  Ｍｅｍｏｒｙ−Ｌａｎｇｕａｇｅ  Ｍｏｄｅｌ）を使用している。
【０１５０】
通常の再帰型ニューラルネットワークのモデルは、入力層、隠れ層、出力層で構成され、隠れ層の情報を次時刻の入力とすることで過去の経歴を利用した時系列解析をするモデルである。これに対しＬＳＴＭモデルは、過去の文脈となるｔ−１個の単語からｔ番目の単語として各単語が選ばれる確率を算出する。即ち、ＬＳＴＭモデルは１時刻前の隠れ状態となる時刻１〜ｔ−１の単語情報、１時刻前の予測結果となる時刻ｔ−１の単語、及び外部情報の３つを入力とし、逐次的に次の単語の予測を繰り返して文章を生成する。
【０１５１】
図１２の再帰型ニューラルネットワーク１１０は、畳み込みニューラルネットワーク１０８で抽出された画像の特徴ベクトルをＬＳＴＭ隠れ層１１８に入力する行列に変換するＬＳＴＭ入力層１１６、レジスタ１２０に単語単位に格納された単語Ｓ0〜ＳN-1をベクトルＷｅＳ0〜ＷｅＳN-1に変換するベクトル変換部１２２、Ｎ−１段のＬＳＴＭ隠れ層１１８、ＬＳＴＭ隠れ層１１８の出力を出現確率ｐ1〜ｐNに変換する確率変換部１２４、単語を出力する確率からコスト関数ｌｏｇＰ1（ｓ１）〜ｌｏｇｐN（ＳN）により算出してコストを最小化するコスト算出部１２６で構成される。
【０１５２】
（再帰型ニューラルネットワークの学習）
再帰型ニューラルネットワーク１１０の学習対象は、ベクトル変換部１２２とＬＳＴＭ隠れ層１１８であり、畳み込みニューラルネットワーク１０８からの特徴量の抽出には、学習済みのパラメータ（ウェイトとバイアス）をそのまま使用する。
【０１５３】
学習データは、学習画像Ｉとその行動説明文の単語列｛Ｓｔ｝（ｔ＝０，・・・Ｎ）となり、次の手順で行う。
（１）  画像Ｉを畳み込みニューラルネットワーク１０８に入力し、特定の中間層１１４の出力を特徴ベクトルとして取り出す。
（２）  特徴ベクトルをＬＳＴＭ隠れ層１１８に入力する。
（３）  単語列Ｓｔをｔ＝０からｔ＝Ｎ−１まで順に入力し、それぞれのステップで確率ｐt+1を得る。
（４）  単語Ｓｔ＋１を出力する確率ｐｔ＋１（Ｓｔ＋１）から求まるコストを最小化する。
【０１５４】
（画像説明文の生成）
学習済みの畳み込みニューラルネットワーク１０８と再帰型ニューラルネットワーク１１０を使用して入力ブロック画像の画像説明文を推定する場合には、畳み込みニューラルネットワーク１０８にブロック画像を入力して生成した特徴量のベクトルを再帰型ニューラルネットワーク１１０に入力し、単語の出現確率の積が高い順に単語列を並べて画像説明文を生成させる。この手順は次のようになる。
【０１５５】
（１）  画像を畳み込みニューラルネットワーク１０８に入力し、特定の中間層１１４の出力を特徴ベクトルとして取り出す。
（２）  特徴ベクトルをＬＳＴＭ入力層１１６からＬＳＴＭ隠れ層１１８に入力する。
（３）  文の開始記号＜Ｓ＞を、ベクトル変換部１２２を使用してベクトルに変換し、ＬＳＴＭ隠れ層１１８に入力する。
（４）  ＬＳＴＭ隠れ層１１８の出力から単語の出現確率が分かるので、上位Ｍ個（例えばＭ＝２０個）の単語を選ぶ。
（５）  １つ前のステップで出力した単語を、ベクトル変換部１２２を使用してベクトルに変換し、ＬＳＴＭ隠れ層１１８に入力する。
（６）  ＬＳＴＭ隠れ層１１８の出力から、これまでに出力した単語の確率の積を求め、上位Ｍ個の単語列を選択する。
（７）  前記（５）と前記（６）の処理を、単語の出力が終端記号になるまで繰り返す。
【０１５６】
（画像解析制御）
図１３は図１１の画像解析装置による画像解析制御を示したフローチャートである。図１３に示すように、画像解析装置９０はステップＳ２１で放水制御部３６からの放水軌道指示情報に基づき、画像入力部９２により監視カメラ１２で撮像された監視画像を分割したブロック画像の中の火源までの放水軌道に基づくブロック画像、例えば放水軌道上及びその周辺のブロック画像を読み込み、ステップＳ２２で第２の多層式ニューラルネットワーク９４に入力して画像説明文を生成し、ステップＳ２３で生成した画像説明文を判定制御部９６で保持する。
【０１５７】
続いてステップＳ２４に進み、判定制御部９６はシソーラス辞書９８の登録単語との比較照合により放水軌道上に障害物があるか否か判別し、障害物なしを判別した場合はステップＳ２５に進み、放水制御部３６に直射軌道による放水を指示する。これに対し判定制御部９６はステップＳ２４で放水軌道上に障害物ありを判別した場合はステップＳ２６に進み、放水制御部３６に曲射軌道による放水を指示する。なお、判定制御部９６は、放水軌道上に障害物ありを判別しても、障害物が放水を貫通可能な場合は、直射軌道による放水を指示する。
【０１５８】
続いて、判定制御部９６はステップＳ２７に進み、画像説明文から火源近傍に可燃物ありを判別した場合はステップＳ２８に進み、放水制御部３６に放水量の増加を指示する。これに対し判定制御部９６はステップＳ２７で火源近傍に可燃物なしを判定した場合はステップＳ２９に進み、火源近傍に不燃物ありを判定した場合はステップＳ３０に進み、放水制御部３６に放水量の減少を指示する。
【０１５９】
続いて、判定制御部９６はステップＳ３１に進み、画像説明文から放水軌道上に人が存在することを判別するとステップＳ３２に進み、放水制御部３６に放水開始の禁止を指示する。なお、ステップＳ３１の放水軌道上に人が存在することの判別は、初期消火活動を示す画像説明文の判別も含んでいる。
【０１６０】
続いて、放水制御部９６はステップＳ３３に進み、画像説明文から放水軌道上に人が倒れていることを判別するとステップＳ３４に進み、放水制御部３６に放水開始を指示する。
【０１６１】
なお、図１３の画像解析制御における画像説明文の解析と解析結果に基づく放水制御部３６による制御は一例であり、放水軌道上及びその近傍のブロック画像から生成される画像説明文の内容は様々であり、その内容に応じて最適な放水制御を設定することになる。
【０１６２】
〔本発明の変形例〕
（放水銃）
上記の実施形態は、水平旋回と垂直旋回を行う放水銃を例にとっているが、水平旋回は行うが、垂直旋回は行わずに垂直走査角を固定した曲射放水専用の放水銃を設置としても良い。
【０１６３】
（監視画像の認識）（この部分は請求項２〜１５を、非ブロック画像として示しています。）
上記の実施形態は、監視画像を分割したブロック画像を多層式ニューラルネットワークに入力しているが、監視画像を分割せずに多層式ニューラルネットワークに入力して火源を検出し、検出された火源に向けて消火用水を放水するようにしても良い。
【０１６４】
この場合、学習画像生成部は、入力画像を学習画像として炎学習画像、煙学習画像、放水学習画像又は正常学習画像に分類して学習画像記憶部に記憶させ、学習制御部は、
学習画像記憶部に記憶された炎学習画像、煙学習画像、放水学習画像及び正常学習画像を火源検出装置に入力して多層式ニューラルネットワークを学習させ、学習制御部により学習された火源検出装置の多層式ニューラルネットワークは、監視領域の監視画像を入力して、炎画像、煙画像、放水画像又は正常画像かを検出して出力する。
【０１６５】
また、炎画像に基づく火源位置の推定と放水として、放水銃装置は、火源検出装置により検出された炎画像に基づいて推定した火源に向けて放水する。
【０１６６】
また、煙画像に基づく火源位置の推定と放水として、放水銃装置は、火源検出装置により炎画像が検出されずに煙画像が検出された場合は、煙画像に基づいて推定した火源に向けて放水する。
【０１６７】
また、火源への放水命中の判定として、放水銃装置は、火源位置に向けて放水を開始した場合、火源検出装置により検出された煙画像と放水画像の時間的な変化から火源に放水が命中しているか否か判定して報知する。
【０１６８】
また、火源への放水命中の判定の他の例として、放水銃装置の多層式ニューラルネットワークは、放水が火源に当たった場合の放水命中画像と放水が火源に当たっていない場合の放水非命中画像により学習されており、火源位置に向けて放水を開始した場合、監視画像を多層式ニューラルネットワークに入力して出力される放水命中画像と放水非命中画像の判定結果から火源に放水が命中しているか否か判定して報知する。
【０１６９】
例えば、火源に放水が命中したときには、煙が広がることから放水が無い状態または放水非命中時における煙の広がりと放水が命中したときの煙の広がりをそれぞれ学習させることにより、煙の広がり方を特徴として捉えて放水が命中しているかどうか判定可能となる。
【０１７０】
また、火源への放水命中のフィードバック制御として、放水銃装置は、火源に放水が命中していないことを判定した場合、火源に放水が命中している判定結果が得られるように放水方向及び放水圧力の少なくとも何れかを制御する。
【０１７１】
また、多層式ニューラルネットワークの構成として、多層式ニューラルネットワークは、特徴抽出部と認識部で構成され、特徴抽出部は、入力情報を入力して前記入力情報の特徴が抽出された特徴情報を生成する複数の畳み込み層を備えた畳み込みニューラルネットワークとし、認識部は、畳み込みニューラルネットワークから出力される特徴情報を入力し、炎画像、煙画像、放水画像及び正常画像の各クラスに所属する確率を示す推定値を出力する複数の全結合層を備えたニューラルネットワークとする。
【０１７２】
また、画像説明文の生成として、更に、監視画像を第２の多層式ニューラルネットワークに入力して画像の内容を示す画像説明文を出力する画像解析装置が設けられる。
【０１７３】
また、障害物の識別による放水軌道制御として、画像解析装置は、火源までの放水軌道上に位置する画像の画像説明文から障害物なし又は放水が貫通する障害物を識別した場合は、放水銃装置に火源に向けた直射起動での放水を指示し、画像説明文から放水が貫通できない障害物を識別した場合は、放水銃装置に前記障害物を迂回する曲射起動で放水を指示する。
【０１７４】
また、可燃物の識別による放水量制御として、画像解析装置は、画像説明文から火源の近傍に位置する可燃物を識別した場合は放水銃装置に放水量の増加を指示し、画像説明文から不燃物を識別した場合は放水銃装置に放水量を減少を指示する。
【０１７５】
また、人の識別による放水停止制御として、画像解析装置は、画像説明文から火源までの放水軌道上に位置する人を識別した場合、放水銃装置に放水開始の禁止又は放水中の放水停止を指示する。
【０１７６】
また、人の識別による放水停止制御として、画像解析装置は、画像説明文から火源までの放水軌道上に位置する人の消火活動を識別した場合は、放水銃装置に放水開始の禁止を指示し、画像説明文から人が倒れていることを識別した場合は、放水銃装置に放水開始を指示する。
【０１７７】
また、画像説明文の識別結果に基づく放水操作の支援として、放水銃装置は、操作部の操作を検出して放水を開始するものであり、画像解析装置は、画像説明文から、放水軌道上の障害物、火源近傍の可燃物、放水軌道上の人の存在、放水軌道上の人の消火活動又は放水軌道上の倒れている人を識別した場合、当該識別結果を放水銃装置の操作部に設けられた表示部に画面表示する。
【０１７８】
（特徴抽出）
上記の実施形態は、畳み込みニューラルネットワークにブロック画像を入力して火災による特徴を抽出しているが、畳み込みニューラルネットワークを使用せず、入力したブロック画像から輪郭、濃淡等の特徴を抽出する前処理を行って所定の特徴を抽出し、特徴が抽出された画像を認識部として機能する全結合ニューラルネットワークに入力して火災を推定させるようにしても良い。これによりブロック画像の特徴抽出の処理負担を低減可能とする。また、畳み込みニューラルネットワークは全結合のニューラルネットワークより学習が高速となるため好適であるが、全結合のニューラルネットワークを用いるようにしても良い。
【０１７９】
（学習方法について）
上記の実施形態は、バックプロパゲーションによる学習を行っているが、多層ニューラルネットワークの学習方法はこれに限らない。
【０１８０】
（その他）
また、本発明は上記の実施形態に限定されず、その目的と利点を損なうことのない適宜の変形を含み、更に上記の実施形態に示した数値による限定は受けない。
【符号の説明】
【０１８１】
１０：放水銃
１２：監視カメラ
１４：制御盤
１６：現場操作盤
１８：中央制御盤
２０：中央操作卓
２２：ポンプ
２４：ポンプ制御盤
２６：配水管
２８：エアーコンプレッサ
３０：空気配管
３２：消火対象区域
３４：火源検出装置
３６：放水制御部
３８，９２：画像入力部
４０：多層式ニューラルネットワーク
４２，９６：判定制御部
４４：ブロック分類画像記憶部
４６，１００：学習制御部
４８：学習画像記憶部
５０，１０４：操作部
５２，１０６：表示部
５４：直射軌道
５６：曲射軌道
６０：畳み込みニューラルネットワーク
６１：全結合ニューラルネットワーク
６２：入力画像
６３，６５ａ，６５ｂ：重みフィルタ
６４ａ，６４ｂ，６４ｃ：特徴マップ
６６，１１２：入力層
６８：全結合
７０，１１４：中間層
７２：出力層
７４−１，７４−２：火災画像
７６：燃焼物
７８：炎
８０：煙
８２−１，８２−２：ブロック分類画像
８４：放水
９０：画像解析装置
９４：第２の多層式ニューラルネットワーク
９８：シソーラス辞書
１１６：ＬＳＴＭ入力層
１１８：ＬＳＴＭ隠れ層
１２０：レジスタ
１２２：ベクトル変換部
１２４：確率変換部
１２６： コスト算出部
【図１】
2019092972.tif 000003
【図２】
2019092972.tif 000004
【図３】
2019092972.tif 000005
【図４】
2019092972.tif 000006
【図５】
2019092972.tif 000007
【図６】
2019092972.tif 000008
【図７】
2019092972.tif 000009
【図８】
2019092972.tif 000010
【図９】
2019092972.tif 000011
【図１０】
2019092972.tif 000012
【図１１】
2019092972.tif 000013
【図１２】
2019092972.tif 000014
【図１３】
2019092972.tif 000015