(57)【要約】  本発明は、画像のタイムシーケンスを処理するためのデバイスであって、前記デバイスは、メモリからの前記画像のタイムシーケンスから画像を取り出すことと、前記取り出された画像に対して生のシーン認識を実施することと、前記シーン認識の結果に基づいて、前記画像に対してリアルタイムアクションを実施するとを行うように適合されたデバイスを提供する。【選択図】      図１
2017511627.tif 000002
【特許請求の範囲】
【請求項１】
画像のタイムシーケンスを処理するためのデバイスであって、前記デバイスは、
−  メモリからの前記画像のタイムシーケンスから画像を取り出すことと、
−  前記取り出された画像に対して生のシーン認識を実施することと、
−  前記シーン認識の結果に基づいて、前記画像に対してリアルタイムアクションを実施するとを行うように適合されるデバイス。
【請求項２】
前記アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像の表示をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される、請求項１に記載のデバイス。
【請求項３】
前記アクションは、前記画像のタイムシーケンスからの画像のサブセットに対するアクションを備え、前記サブセットは前記画像を含む、請求項１または２に記載のデバイス。
【請求項４】
前記デバイスは、少なくとも前記画像のタイムシーケンスのサブセットに対してシーン認識を実施するように適合される、請求項１〜３のいずれか一項に記載のデバイス。
【請求項５】
前記デバイスは、
−  前記シーン認識の結果に基づいて識別子を提供することと、
−  前記識別子が既定の識別子と一致する場合、前記識別子に基づいて、前記画像に対してアクションを実施すると、前記アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される、を行うように適合される、請求項１〜４のいずれか一項に記載のデバイス。
【請求項６】
前記画像のタイムシーケンスは、生の画像のシーケンスおよびビデオフィルムを形成する画像のシーケンスのグループから選択される、請求項１〜５のいずれか一項に記載のデバイス。
【請求項７】
前記シーン認識は、画像の固有のデジタル署名を算出し、次いでその署名を他の写真の署名と照合することと、差別的な特徴の取り出しと、輪郭に基づく形状記述子と、ディープフィッシャーネットワークと、バグオブワードと、サポートベクターマシンと、ディープラーニングと、顔検出と、対象物の特徴的な形状およびカラーに基づいたテンプレートマッチングと、それらの組合せとからなる群から選択されたアルゴリズムを適用することを備える、請求項１〜６のいずれか一項に記載のデバイス。
【請求項８】
前記画像を前記修正することは、前記画像の少なくとも一部分を不鮮明化することを備える、請求項１〜７のいずれか一項に記載のデバイス。
【請求項９】
前記アクションは、少なくとも１つの写真フィルタを適用することによる画像処理である、請求項１〜８のいずれか一項に記載のデバイス。
【請求項１０】
前記デバイスは、画像、特にフィルムを形成する前記一連の画像を捕捉するように適合された画像センサーを備え、ここにおいて、前記シーン認識は前記画像に対して実施され、前記アクションは、特に次の画像が取り出される前に、前記捕捉画像に対して実施される、請求項１〜９のいずれか一項に記載のデバイス。
【請求項１１】
前記デバイスは、データストレージを備え、ここにおいて、前記デバイスは、前記画像を前記データストレージに記憶する前に、前記アクションを実施するように適合される、請求項１〜１０のいずれか一項に記載のデバイス。
【請求項１２】
前記デバイスは、前記画像を表示するためのディスプレイを備え、ここにおいて、前記デバイスは、前記画像を表示する前に、前記アクションを実施するように適合される、請求項１〜１１のいずれか一項に記載のデバイス。
【請求項１３】
イメージングシステムであって、
−  画像を捕捉するための画像センサーと、
−  前記画像を記憶するためのメモリと、
−  画像のタイムシーケンスを処理するためのデバイスとを備え、前記デバイスは、
−  メモリからの前記画像のタイムシーケンスから画像を取り出すことと、
−  前記取り出された画像に対して生のシーン認識を実施することと、
−  前記シーン認識の結果に基づいて、前記画像に対してリアルタイムアクションを実施するとを行うように適合されるイメージングシステム。
【請求項１４】
画像表示システムであって、
−  表示するための画像を受容するためのメモリと、
−  前記画像を表示するためのディスプレイと、
−  画像のタイムシーケンスを処理するためのデバイスとを備え、前記デバイスは、
−  メモリからの前記画像のタイムシーケンスから画像を取り出すことと、
−  前記取り出された画像に対して生のシーン認識を実施することと、
−  前記シーン認識の結果に基づいて、前記画像に対してリアルタイムアクションを実施するとを行うように適合される画像表示システム。
【請求項１５】
データプロセッサ上で稼働しているとき、
−  メモリから画像を取り出すことと、
−  前記画像に対して生のシーン認識を実施することと、
−  前記シーン認識の結果に基づいて、前記画像に対してリアルタイムアクションを実施するとを行うように前記データプロセッサを構成するソフトウェアコード部分を備えるコンピュータプログラム。
【請求項１６】
前記リアルタイムアクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される、請求項１５に記載のコンピュータプログラム。
【請求項１７】
−  前記シーン認識の結果に基づいて識別子を提供することと、
−  前記識別子が既定の識別子と一致する場合、前記識別子に基づいて、前記画像に対してアクションを実施することと、前記アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される、を行うようにさらに構成される、請求項１５または１６に記載のコンピュータプログラム。
【請求項１８】
請求項１５に記載のコンピュータプログラムを設けられたデータキャリア。
【請求項１９】
請求項１５に記載の前記コンピュータプログラムの少なくとも一部分を搬送する信号。
【請求項２０】
コンピュータ上で実行されるためのプログラムを表す信号シーケンスであって、請求項１５に記載の前記コンピュータプログラムを表す信号シーケンス。
【請求項２１】
生の画像のシーケンスを処理するための方法であって、
−  前記画像のシーケンスのうちの少なくとも画像の１セットに対してシーン認識を実施することと、
−  前記シーン認識の結果に基づいて、前記画像のシーケンスのうちの後続の画像に対してリアルタイムアクションを実施するとを備える方法。
【請求項２２】
前記アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される、請求項２１に記載の方法。
【請求項２３】
−  前記シーン認識の結果に基づいて識別子を提供することと、
−  前記識別子が既定の識別子と一致する場合、前記識別子に基づいて、前記画像のシーケンスのうちの後続の画像に対してアクションを実施するとをさらに備える、請求項２１または２２に記載の方法。
【請求項２４】
前記アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される、請求項２１〜２３のいずれか一項に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像のタイムシーケンスを処理するためのデバイス、イメージングシステム、画像表示システム、および生（live）の画像のシーケンスを処理するための方法に関する。
【背景技術】
【０００２】
この十年間で、デジタル画像の捕捉、処理、表示、およびフィルタ処理が発展した。現在、ほとんどのデバイスは、高分解能でのデジタル画像の捕捉、高フレームレートでの高解像度デジタルビデオの捕捉および表示を可能にしている。ほとんどのデバイスは、画像の捕捉または記憶を備え、ノイズ低減、カラー調整、ホワイトバランシング、画像の符号化および復号、ならびに他の基本的な前処理を実施することのような、画像の前処理を可能にする画像プロセッサを備える。実際は、この画像処理は、画像が記録されている間または画像が表示されている間に、画像に対して行われ得る。ビジュアルコンテンツを不明瞭にするための画像フィルタ処理が、たとえば米国特許出願第２００７／２９７６４１号（Ｌｉｎｄａ  Ｃｒｉｄｄｌｅら）によって記述されている。そのコンテンツは、以前に記録および記憶されたものである。フィルタ処理を適用するために、コンテンツのレビューおよび分析が、ディスプレイ自体によってではなく、サーバによって実施される。結果として、ディスプレイは、フィルタ処理の正当性に関して、サーバ、およびサーバとの通信に依存することになる。
【０００３】
写真フィルタは、記録された画像を修正する。ときには、それらは、わずかな変更だけを画像に行うために使用されるが、画像が単に、それらの変更なしには利用できないときもある。カラーリングフィルタは、種々のカラーの相対的明るさに影響を及ぼすものであり、赤色の口紅は、種々のフィルタによってほとんど白色からほとんど黒色までのいかなるものとしてもレンダリングされ得る。その他は、白熱光下の写真が、赤みがかった色合いを伴うのではなく、カラーを知覚される通りに示すように、画像のカラーバランスを変化させるものである。画像を所望の方式でゆがめ、さもなければ鋭い画像をぼやかし、星の効果（starry effect）を加え、画像を不鮮明にするかまたはマスキングなどをするフィルタが存在する。
【０００４】
Ｉｎｓｔａｇｒａｍ、Ｃａｍｅｒａ＋、ＥｙｅＥｍ、Ｈｉｐｓｔａｍａｔｉｃ、Ａｖｉａｒｙなどのような普及しているアプリによって今日、提供されているため、写真フィルタはよく知られている。これらの写真フィルタは一般に、赤色、緑色、または青色チャネルごとに強度、色相、飽和状態、コントラスト、カラー曲線を画像内で局所的にまたは全面的に調節し、カラールックアップテーブルを適用し、口径食マスク（より暗色のエッジおよびコーナ）などの１つ以上のマスキングフィルタを重ね、幅および高さを調節するために画像をクロッピングし、境界線を画像に加え、それによってたとえばポラロイド（登録商標）効果を生成し、またそれらの組合せを行う。たとえば、ｈｔｔｐ：／／ｍａｓｈａｂｌｅ．ｃｏｍ／２０１２／０７／１９／Ｉｎｓｔａｇｒａｍ−ｆｉｌｔｅｒｓ／において公表されているように、審美的に感じのよいピクチャを得るために、種々のフィルタが種々のタイプの画像に最良に適用される。たとえばＩｎｓｔａｇｒａｍアプリによって提供される写真フィルタの周知の例が以下のフィルタである。
【０００５】
人のクローズアップショット用のＲｉｓｅフィルタ
建造物の屋外写真用のＨｕｄｓｏｎフィルタ
自然の屋外ショット用のＳｉｅｒｒａフィルタ
食物のショット用のＬｏ−Ｆｉフィルタ
サマーイベント、夜間外出、ＢＢＱ、ピクニックの写真用のＳｕｔｒｏフィルタ
画像が強い陰影を有する場合のＢｒａｎｎａｎフィルタ
光と影が画像中で目立つ場合のＩｎｋｗｅｌｌフィルタ
画像が活気に満ちたカラーを有する場合（虹）などのＨｅｆｅフィルタ
ユーザが画像をスナップで撮影すると、写真フィルタ操作またはそれらの組合せが、インタラクティブモードで画像に適用され得、ここでユーザは、最良の審美的効果を与えるフィルタを手動で選択する。捕捉された写真を編集することは、たとえば欧州特許出願第１６９５５４８号および米国特許出願第２００６／００２３０７７号（Ｂｅｎｊａｍｉｎ  Ｎ．Ａｌｔｏｎら）から知られている。
【発明の概要】
【０００６】
本発明の一態様は、デジタル画像の捕捉および／または表示の新規なおよび／またはさらに向上された使用法を提供することである。本発明はさらにまたは組合せにより、拷問または性行為、児童ポルノ、機密の軍事対象物を表示するシーンなど、不要なタイプの画像の記録および／または表示を生で防止することを可能にし、また本発明は、審美的にピクチャを捕捉および／または表示することを可能にする。
【０００７】
本発明は、画像のタイムシーケンスを処理するためのデバイスであって、前記デバイスは、メモリからの前記画像のタイムシーケンスから画像を取り出すことと、前記取り出された画像に対してシーン認識を実施することと、前記シーン認識の結果に基づいて、画像が記録される前に前記画像に対してアクションを実施するとを行うように適合されたデバイスを提供する。
【０００８】
一実施形態では、前記アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正を備える。
【０００９】
一実施形態では、前記アクションは、前記画像を修正画像へと修正することを備える。
【００１０】
一実施形態では、前記アクションは、前記画像の記憶をブロックすることを備える。
【００１１】
一実施形態では、前記アクションは、前記画像の表示をブロックすることを備える。
【００１２】
一実施形態では、前記アクションは、前記画像を前記メモリから消去することを備える。
【００１３】
一実施形態では、前記アクションは、前記画像を暗号化することを備える。
【００１４】
これらのアクションは組み合わされ得る。各アクションは、その利点または用途または使用法を有し得る。
【００１５】
シーン内の対象物を認識することを含めて、またシーン内の事象を認識することを含めて、シーンを理解することにより、不要なシーンおよび／または対象物および／または事象が表示されること、または記録されることさえもがキャン防止され得る。たとえば、本発明を備えられた表示デバイス（スクリーン、モニタなど）が、児童ポルノを、これらの画像を含んだ入力信号を受信しても表示することはできない。同様にして、児童ポルノシーンを指すカメラデバイス（デジタルカメラなど）がその画像を記録することはできない。さらに、画像の改善および／またはフィルタ処理の自動化を可能にする。
【００１６】
本出願では、画像はデジタル画像を指す。通常、そのような画像は、光の量を表すデジタル値をそれぞれが有するピクセルから構成される。画像は、ピクチャまたは写真によって表され得る。それは、後続の画像のセットの一部分であり得る。この用途では、画像が捕捉されているとき、画像はまだ記録されていない。画像は、捕捉および処理された後にのみ記録されている。機械学習法およびソフトウェアコンピレーション技法を適合させることにより、本発明は、データプロセッサ上で動作することが可能なソフトウェアコード部分を備えるコンピュータプログラム内にシーン認識を埋め込むことを可能にしている。したがって、前記プロセッサは、限定はしないが、カメラ、（スマート）フォンおよびデジタルタブレットなどのポータブルデバイスの寸法に収まり得る。シーン認識の性能をチューニングすることにより、画像は、迅速に捕捉および処理され得、その後、人間の目によって可能となる。結果として、処理された画像は、リアルタイムで適合およびブロックされ得る。本発明によるアプリケーションは、それらのコンテンツの理解に基づいた、自動化された画像の向上および画像のフィルタ処理を備える。
【００１７】
本発明の別の利点は、シーンを理解することにより、結果として画像またはビデオ記録が審美的に改善される写真フィルタをユーザが手動で選択しなければならないという負担からユーザが解放されることである。
【００１８】
シーン認識は、種々のタイプの画像またはビデオの認識を備える。このことは、コンピュータビジョンおよび／または機械学習アルゴリズムを使用して可能となった。既知のアルゴリズムはたとえば、
−  画像の固有のデジタル署名を算出し、次いでその署名を他の写真の署名と照合すること（特定の実施形態については、Ｍｉｃｒｏｓｏｆｔ  ＰｈｏｔｏＤＮＡ  Ｆａｃｔ  Ｓｈｅｅｔ  Ｄｅｃｅｍｂｅｒ  ２００９、またはＨｅｏ  ｅｔ  ａｌ、「Ｓｐｈｅｒｉｃａｌ  ｈａｓｈｉｎｇ」、ｉｎ  Ｃｏｍｐｕｔｅｒ  Ｖｉｓｉｏｎ  Ｐａｔｔｅｒｎ  Ｒｅｃｏｇｎｉｔｉｏｎ  Ｃｏｎｆｅｒｅｎｃｅ、２０１２を参照。）、
−  差別的な特徴の取り出し（特定の実施形態については、Ｂａｎｇｐｅｎｇ  Ｙａｏ、Ｋｈｏｓｈｌａ、Ｌｉ  Ｆｅｉ−Ｆｉｅ、「Ｃｏｍｂｉｎｉｎｇ  ｒａｎｄｏｍｉｚａｔｉｏｎ  ａｎｄ  ｄｉｓｃｒｉｍｉｎａｔｉｏｎ  ｆｏｒ  ｆｉｎｅ−ｇｒａｉｎｅｄ  ｉｍａｇｅ ｃａｔｅｇｏｒｉｚａｔｉｏｎ」、ｉｎ  Ｃｏｍｐｕｔｅｒ  Ｖｉｓｉｏｎ  Ｐａｔｔｅｒｎ  Ｒｅｃｏｇｎｉｔｉｏｎ  Ｃｏｎｆｅｒｅｎｃｅ、２０１１を参照。）または輪郭に基づく形状記述子（特定の実施形態については、Ｈｕ、Ｊｉａ、Ｌｉｎｇ、Ｈｕａｎｇ、「Ｍｕｌｔｉｓｃａｌｅ  Ｄｉｓｔａｎｃｅ  Ｍａｔｒｉｘ  ｆｏｒ  Ｆａｓｔ  Ｐｌａｎｔ  Ｌｅａｆ  Ｒｅｃｏｇｎｉｔｉｏｎ」、ＩＥＥＥ  Ｔｒａｎｓ．ｏｎ  Ｉｍａｇｅ  Ｐｒｏｃｅｓｓｉｎｇ（Ｔ−ＩＰ）、２１（１１）：４６６７−４６７２、２０１２を参照）、
−  ディープフィッシャーネットワーク（Deep Fisher networks）（特定の実施形態については、Ｓｉｍｏｎｙａｎ、Ｖｅｄａｌｄｉ、Ｚｉｓｓｅｒｍａｎ、「Ｄｅｅｐ  Ｆｉｓｈｅｒ  Ｎｅｔｗｏｒｋｓ  ｆｏｒ  Ｌａｒｇｅ−Ｓｃａｌｅ  Ｉｍａｇｅ  Ｃｌａｓｓｉｆｉｃａｔｉｏｎ」、ｉｎ  Ａｄｖａｎｃｅｓ  ｉｎ  Ｎｅｕｒａｌ  Ｉｎｆｏｒｍａｔｉｏｎ  Ｐｒｏｃｅｓｓｉｎｇ  Ｓｙｓｔｅｍｓ、２０１３を参照）、
−  バグオブワード／サポートベクターマシン（Bag of Words/Support vector machines）（特定の実施形態については、Ｓｎｏｅｋ  ｅｔ  ａｌ、「Ｔｈｅ  ＭｅｄｉａＭｉｌｌ  ＴＲＥＣＶＩＤ  ２０１２  Ｓｅｍａｎｔｉｃ  Ｖｉｄｅｏ  Ｓｅａｒｃｈ  Ｅｎｇｉｎｅ」、ｉｎ  Ｐｒｏｃｅｅｄｉｎｇｓ  ｏｆ  ｔｈｅ  １０ｔｈ  ＴＲＥＣＶＩＤ  Ｗｏｒｋｓｈｏｐ、Ｇａｉｔｈｅｒｓｂｕｒｇ、ＵＳＡ、２０１２を参照）、
−  ディープラーニング（Deep learning）（特定の実施形態については、Ｋｒｉｚｈｅｖｓｋｙ、Ａ．、Ｓｕｔｓｋｅｖｅｒ、Ｉ．ａｎｄ  Ｈｉｎｔｏｎ、Ｇ．Ｅ．ＩｍａｇｅＮｅｔ  Ｃｌａｓｓｉｆｉｃａｔｉｏｎ  ｗｉｔｈ  Ｄｅｅｐ  Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋｓ、Ａｄｖａｎｃｅｓ  ｉｎ  Ｎｅｕｒａｌ  Ｉｎｆｏｒｍａｔｉｏｎ  Ｐｒｏｃｅｓｓｉｎｇ  ２５、ＭＩＴ  Ｐｒｅｓｓ、Ｃａｍｂｒｉｄｇｅ、ＭＡを参照）、
−  対象物の特徴的な形状およびカラーに基づいたテンプレートマッチング（特定の実施形態については、Ｒ．Ｂｒｕｎｅｌｌｉ、Ｔｅｍｐｌａｔｅ  Ｍａｔｃｈｉｎｇ  Ｔｅｃｈｎｉｑｕｅｓ  ｉｎ  Ｃｏｍｐｕｔｅｒ  Ｖｉｓｉｏｎ：Ｔｈｅｏｒｙ  ａｎｄ  Ｐｒａｃｔｉｃｅ、Ｗｉｌｅｙを参照）
−  顔検出（特定の実施形態については、Ｖｉｏｌａ  Ｊｏｎｅｓ、Ｒｏｂｕｓｔ  Ｒｅａｌ−Ｔｉｍｅ  Ｆａｃｅ  Ｄｅｔｅｃｔｉｏｎ、Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｊｏｕｒｎａｌ  ｏｆ  Ｃｏｍｐｕｔｅｒ  Ｖｉｓｉｏｎ、２００４を参照）および顔認識（特定の実施形態については、Ｒ．Ｂｒｕｎｅｌｌｉ  ａｎｄ  Ｔ．Ｐｏｇｇｉｏ、「Ｆａｃｅ  Ｒｅｃｏｇｎｉｔｉｏｎ：Ｆｅａｔｕｒｅｓ  ｖｅｒｓｕｓ  Ｔｅｍｐｌａｔｅｓ」、ＩＥＥＥ  Ｔｒａｎｓ．ｏｎ  ＰＡＭＩ、１９９３を参照）
−  またはそれらの組合せ（特定の実施形態については、Ｓｎｏｅｋ  ｅｔ  ａｌ、「ＭｅｄｉａＭｉｌｌ  ａｔ  ＴＲＥＣＶＩＤ  ２０１３：Ｓｅａｒｃｈｉｎｇ  Ｃｏｎｃｅｐｔｓ、Ｏｂｊｅｃｔｓ、Ｉｎｓｔａｎｃｅｓ  ａｎｄ  Ｅｖｅｎｔｓ  ｉｎ  Ｖｉｄｅｏ」、ｉｎ  Ｐｒｏｃｅｅｄｉｎｇｓ  ｏｆ  ｔｈｅ  １１ｔｈ  ＴＲＥＣＶＩＤ  Ｗｏｒｋｓｈｏｐ、Ｇａｉｔｈｅｒｂｕｒｇ、ＵＳＡ、２０１３を参照。）である。
【００１９】
この点では、シーン認識は画像を処理することに関する。そのような処理では、設定、対象物、事象、またはそれらの組合せが識別される。シーン認識後に画像を処理するために、一実施形態では、ラベル、識別子またはハッシュが画像に貼り付けられる。この点で、一実施形態では、そのようなラベルまたは被識別物は、シーン認識の結果に関連または相関する。
【００２０】
シーン認識はたとえば、既知の児童性的虐待の画像を認識することを可能にする。
【００２１】
シーン認識はたとえば、以下のことを可能にする。
【００２２】
屋内または屋外、食物、人、夕焼け、山、犬などのシーンの、コース粒状の認識。
【００２３】
数百の植物種の葉、または、シェパード、アフガンハウンド、テリア、スパニエル、アメリカンフォックスハウンドなどの種々の犬種の、きめの細かい認識。
【００２４】
車のタイヤを交換している人物、結婚式を執り行っている個人、サンドウィッチを作っている人物、器具を清掃している人物、ロッククライミング中のチームなどの対象物間の、行為の認識または関係の認識。
【００２５】
ブックカバーまたはワインラベルの認識。
【００２６】
ナンバープレートおよび交通標識などの既知の対象物の認識。
【００２７】
シーン認識アルゴリズムの結果に基づいて、アクションが前記画像に対して実施される。一実施形態では、前記アクションは、前記シーンの少なくとも一部分を適合させることを備えるシーン修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像の表示をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される。
【００２８】
一実施形態では、上述する、および普及しているアプリによって提供されるフィルタの系統、またはそれらの組合せが適用され得る。
【００２９】
アクション、特に画像修正アルゴリズムは、画像を適合させるためにリアルタイムで使用され得る。さらにまたは組合せにより、アクション、特に画像修正アルゴリズムは、特に撮影中に、画像のタイムシーケンスに、たとえば記録されているビデオフィルムを形成する画像に適用され得る。他のまたは関連する実施形態では、画像修正のアクションは、画像または画像のシーケンスが表示、ブロードキャストまたは記憶される前に実施され得る。この点で、画像認識は、生のプレビューで捕捉および提示されるすべての画像に対して実施され得るか、またはたとえば、そのタイムシーケンスからの捕捉画像のサブセットに対して実施され得、またアクションは、プレビューで表示される画像の各々に対して実施され得る。
【００３０】
この用途では、参照はサーバに対して行われ得る。そのようなサーバは、あるロケーションに配置された１つのサーバデバイス、たとえばコンピュータデバイスであり得る。代替的に、サーバは、同じロケーションにあるおよび／または遠隔の特に物理的／地理的に遠隔のロケーションに配置された、１つまたは複数のデータ接続を介して接続された少なくとも１つのサーバデバイスを参照し得る。
【００３１】
画像記録デバイスでは、画像センサーが画像を捕捉する。現在、画像センサーは多くの場合、ＣＭＯＳデバイスであるが、他のデバイスもまた検討され得る。これらの画像センサーはまた、空間画像センサーとも呼ばれ得る。これらのセンサーは、１つ以上の少なくとも２次元の画像の捕捉を可能にする。
【００３２】
現在の技術では、捕捉画像は、画像センサーからクロックアウト（clocked out）または読出しされ、デジタルピクセル画像を表すデジタル値のストリームへとデジタル化される。ある場合には、画像記録デバイスは、捕捉画像のいくつかの基本的な処理および一時的な記憶をもたらすための画像プロセッサを備え得る。前処理の例は、カラー補正、ホワイトバランシング、ノイズ低減、さらには画像を異なるデジタルファイル形式へと変換および／または圧縮するための画像変換を備える。
【００３３】
画像表示デバイスでは、画像、画像のセット、または画像のシーケンスがメモリに記憶され、また表示され得るように変換され得る。画像表示デバイスは、表示画面、たとえばＯＬＥＤパネル、ＬＣＤパネルなどを備え得るか、または、ピクチャもしくはフィルムを遠隔の画面上に投射するためのプロジェクタを備え得る。しばしば、画像、画像のセット、または画像のシーケンスは符号化または復号される。
【００３４】
本発明の一実施形態では、画像または画像のセットのもしくは画像のシーケンスの少なくともサブセットが、シーン認識アルゴリズムにかけられ、結果として得られる識別子が与えられる。識別子に基づいて、アクションのうちの１つが、画像または画像のセットまたは画像のシーケンスに対して実施され、特定の識別子を与えられる画像がそれに続き、および／または含まれる。特に、アクションは、画像、画像のセット、または画像のシーケンスがディスプレイパネルまたはプロジェクタを介してユーザに提示される前に実施される。
【００３５】
画像記録と画像表示は組み合わされ得る。多くの画像記録デバイスはまた、リアルタイムで捕捉されている間に画像を直接的に閲覧することを可能にするディスプレイを備える。したがって、ディスプレイはビューアとして機能して、ユーザが画像構成を構成することを可能にする。ユーザが選択し、たとえば、ピクチャを取るかまたはフィルムの一部を撮影すると、画像センサーは、画像または画像のシーケンスを捕捉する。その画像は次いで、画像プロセッサによって前処理され、メモリに記憶される。しばしば、捕捉画像はまたディスプレイ上にも表示される。ここで、ユーザは、フィルタ処理、赤目の低減などのような、さらなる画像処理を手動で適用し得る。
【００３６】
シーン認識、そしてさらに画像修正アクションは、画像がプレビューのために与えられ、表示され、または記憶される前に実施され得る。
【００３７】
別のモードでは、画像記録デバイスは、いわゆる「バーストモード」または「連続捕捉モード」にあって、ビデオが捕捉され得てもよい。この「バーストモード」では、ビデオフレームレートで画像が捕捉されていて、フィルムを提供する。しばしば、そのようなフレームレートは少なくとも２０フレーム毎秒（ｆｐｓ）、特に少なくとも３０ｆｐｓである。
【００３８】
デバイスは、画像のタイムシーケンスに関連する。画像のタイムシーケンスの例が、フィルムの記録である。別の例が、デジタルカメラのビューアを通じた、機能的に生の閲覧である。特に、デジタルビューアが使用されるとき、機能的に生の画像のシーケンスがビューアを介して表示される。デバイスは、たとえば、ビューアに表示される画像の各々に対してアクションを適用し得る。画像のタイムシーケンスはタイムベースを有し得る。画像間の時間は、たとえばフィルムにおけるように一定であり得る。画像のタイムシーケンスはまた、後続の画像のバーストを備え得、各バーストは、後続のバースト間の種々の時間のうちの同じものを有する。
【００３９】
一実施形態では、アクションは、前記画像のタイムシーケンスからの画像のサブセットに対するアクションを備え、前記サブセットは前記画像を含む。シーン認識はたとえば、画像に対して行われ得る。その後、時間においてその画像に追従または先行する画像が、そのアクションを使用して処理され得る。したがって、シーン認識にかけられる画像間の時間が比較的短く、たとえば人間の視覚能力に対して短く、たとえば０．２秒未満の時間間隔であり、追従する画像のセットがこの時間間隔内で処理される場合、ほぼ一定の視覚的な画像のシーケンスが処理される。
【００４０】
一実施形態では、デバイスは、少なくとも前記画像のタイムシーケンスのサブセットに対してシーン認識を実施するように適合される。たとえば、連続的な画像のセットがシーン認識にかけられ得る。代替的に、各ｎ番目の画像がシーン認識にかけられ得る。
【００４１】
一実施形態では、デバイスは、アクションをシーン認識の結果に依存したものにし得る。
【００４２】
一実施形態では、デバイスは、前記シーン認識の結果に基づいて識別子を提供するように適合される。識別子は番号または文字であり得る。識別子はまた、たとえばハッシュ機能の適用を可能にする、別のタイプのラベルであってもよい。さらなる一実施形態では、前記識別子が既定の識別子と一致する場合、その識別子に基づいて、デバイスは前記画像に対してアクションを実施する。したがて、たとえば、シーン、対象物、または事象が変化する場合、その変化に応答してアクションを変更することもまた可能となり得る。アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択され得る。
【００４３】
一実施形態では、画像のタイムシーケンスは、生の画像のシーケンスおよびビデオフィルムを形成する画像のシーケンスのグループから選択される。全シーケンスのうちの１つの画像またはすべての画像がシーン認識にかけられ得る。
【００４４】
一実施形態では、シーン認識は、画像の固有のデジタル署名を算出し、次いでその署名を他の写真の署名と照合することと、差別的な特徴の取り出しと、輪郭に基づく形状記述子と、ディープフィッシャーネットワークと、バグオブワードと、サポートベクターマシンと、ディープラーニングと、顔検出と、対象物の特徴的な形状およびカラーに基づいたテンプレートマッチングと、それらの組合せとからなる群から選択されたアルゴリズムを適用することを備える。
【００４５】
一実施形態では、前記画像を修正することは、前記画像の少なくとも一部分を不鮮明化することを備える。たとえば、認識されたシーンの一部、認識されたシーン内の対象物、または認識されたシーン内の事象が不鮮明化され得る。したがって、表示の前にまたは（永久的な）記憶の前に各部分を不鮮明化することも可能となり得る。したがって、不要なシーンならびにシーン内の不要な事象および／または対象物を記録または表示し得ない画像レコーダ、デジタルカメラまたはコンピュータディスプレイを提供することが可能となり得る。
【００４６】
一実施形態では、アクションは、写真フィルタを適用することによる画像処理である。述べたように、これらのフィルタの例は、赤色、緑色または青色チャネルごとの強度、色相、飽和状態、コントラスト、カラー曲線から選択された少なくとも１つを画像において局所的にまたは全体的に調整するフィルタである。これらのフィルタは、カラールックアップテーブルを適用し得る。これらのフィルタは、口径食マスク（より暗色のエッジおよびコーナ）などの１つ以上のマスキングフィルタを重ね、幅および高さを調節するために画像をクロッピングし、または境界線を画像に加え得る。一実施形態では、これらのフィルタは、Ｒｉｓｅフィルタ、Ｈｕｄｓｏｎフィルタ、Ｓｉｅｒｒａフィルタ、Ｌｏ−Ｆｉフィルタ、Ｓｕｔｒｏフィルタ、Ｂｒａｎｎａｎフィルタ、Ｉｎｋｗｅｌｌフィルタ、Ｈｅｆｅフィルタ、およびそれらの組合せの群から選択される。
【００４７】
一実施形態では、デバイスは、画像、特にフィルムを形成する前記一連の画像を捕捉するように適合された画像センサーを備え、ここにおいて、前記シーン認識は前記画像に対して実施され、前記アクションは、特に次の画像が捕捉される前に、前記捕捉画像に対して実施される。
【００４８】
一実施形態では、デバイスはデータストレージを備え、ここにおいて、前記デバイスは、前記画像を前記データストレージに記憶する前に、前記アクションイズを実施するように適合される。そのようなデータストレージは、ハードディスク、ソリッドステートディスク（ＳＳＤ）を備え得るが、外部ストレージ、たとえば遠隔の外部ストレージに似たクラウドストレージにも関連し得る。
【００４９】
一実施形態では、デバイスは、前記画像を表示するためのディスプレイを備え、ここにおいて、前記デバイスは、前記画像を表示する前に、前記アクションを実施するように適合される。
【００５０】
一実施形態では、本発明は、画像を捕捉するための画像センサーと、前記画像を記憶するためのメモリと、本発明のデバイスとを備えるイメージングシステムに関する。
【００５１】
一実施形態では、本発明は、表示するための画像を受容するためのメモリと、前記画像を表示するためのディスプレイと、本発明のデバイスとを備える画像表示システムに関する。
【００５２】
本発明はさらに、データプロセッサ上で稼働しているとき、
−  メモリから画像を取り出すことと、
−  前記画像に対してシーン認識を実施することと、
−  前記シーン認識の結果に基づいて、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択されたアクションを実施することと、
を行うように前記データプロセッサを構成するソフトウェアコード部分を備えるコンピュータプログラムに関する。
【００５３】
本発明はさらに、本コンピュータプログラムを設けられたデータキャリアに関する。
【００５４】
本発明はさらに、本コンピュータプログラムの少なくとも一部を搬送する信号に関する。
【００５５】
本発明はさらに、コンピュータ上で実行されるためのプログラムを表す信号シーケンスであって、本コンピュータプログラムを表す信号シーケンスに関する。
【００５６】
本発明はさらに、生の画像のシーケンスを処理するための方法であって、前記方法は、前記画像のシーケンスのうちの少なくとも画像の１セットに対してシーン認識を実施することと、前記シーン認識の結果に基づいて、前記画像のシーケンスのうちの後続の画像に対してアクションを実施するとを備える方法に関する。一実施形態では、前記アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正を備える。
【００５７】
一実施形態では、前記アクションは、前記画像を修正画像へと修正することを備える。
【００５８】
一実施形態では、前記アクションは、前記画像の記憶をブロックすることを備える。
【００５９】
一実施形態では、前記アクションは、前記画像を前記メモリから消去することを備える。
【００６０】
一実施形態では、前記アクションは、前記画像を暗号化することを備える。
【００６１】
これらのアクションは組み合わされ得る。
【００６２】
一実施形態では、この方法はさらに、前記シーン認識の結果に基づいて識別子を提供することを備える。
【００６３】
一実施形態では、この方法はさらに、前記識別子が既定の識別子と一致する場合、その識別子に基づいて、前記画像のシーケンスのうちの後続の画像に対してアクションを実施する、前記アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される、を備える。
【００６４】
本発明はさらに、画像のセットを処理するための方法であって、前記方法は、前記画像のセットのうちの少なくとも画像のサブセットに対してシーン認識を実施することと、前記シーン認識の結果に基づいて、前記画像のシーケンスのうちの後続の画像に対してアクションを実施するとを備える方法に関する。一実施形態では、前記アクションは画像修正を備える。一実施形態では、前記アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される。
【００６５】
したがって、この実施形態では、画像の大きなセットまたは画像のデータベースに対するアクションは自動化され得る。
【００６６】
本明細書における「実質的に」という用語は、「実質的になる」におけるように、当業者には理解されまた明らかとなろう。「実質的に」という用語はまた、「全体的に」、「完全に」、「すべて」などを伴う実施形態を含み得る。したがって、実施形態では、実質的にという形容詞は除去されてもよい。適用可能な場合、「実質的に」という用語はまた、１００％を含めて、９５％以上、特定的には９９％以上、さらに特定的には９９．５％以上など、９０％以上に関し得る。「備える（ｃｏｍｐｒｉｓｅ）」という用語はまた、「備える」という用語が「からなる（ｃｏｎｓｉｓｔｓ  ｏｆ）」を意味する実施形態を含む。
【００６７】
「機能的に」という用語は、たとえば「機能的に結合される」または「機能的に直接的な通信」において使用されるとき、当業者には理解され、明らかとなろう。「実質的に」という用語はまた、「全体的に」、「完全に」、「すべて」などを伴う実施形態を含み得る。したがって、実施形態では、実質的にという形容詞は除去されてもよい。したがって、たとえば、「機能的に直接的な通信」は、直接的な生の通信を備える。また、当事者の通信の立場から「生」として経験される通信を備え得る。したがって、たとえばボイスオーバーＩＰ（ＶＯＩＰ）のように、デジタルボイスデータを備える様々なデータパッケージ間に少量の時間が存在し得るが、これらの時間量は、非常に小さいため、ユーザには、利用可能な空いた通信回線または電話回線が存在するように見える。
【００６８】
さらに、説明および特許請求の範囲における第１、第２、第３などの用語は、類似する要素同士を区別するために使用されており、必ずしも順番または発生順を説明するために使用されているとは限らない。そのように使用される用語は、適切な状況下で交換可能であること、および、本明細書で説明する本発明の実施形態は、本明細書で記述または説明した以外の順序での動作も可能であることを理解されたい。
【００６９】
本明細書におけるデバイスまたは装置は、特に動作中に説明されている。当業者には明らかとなるように、本発明は、動作の方法または動作中のデバイスに限定されるものではない。
【００７０】
上述の実施形態は本発明を限定するのではなく説明するものであること、および、当業者であれば添付の特許請求の範囲から逸脱することなく、多くの代替実施形態を設計することが可能となることに留意されたい。特許請求の範囲では、丸括弧の中に置かれたいかなる参照符号も、特許請求の範囲を限定するものとして解釈されるべきではない。「備える（ｔｏ  ｃｏｍｐｒｉｓｅ）」という動詞およびその活用形の使用は、特許請求の範囲で述べた以外の要素またはステップの存在を除外するものではない。要素に先行する冠詞「ａ」または「ａｎ」は、そのような要素が複数存在することを除外するものではない。本発明は、いくつかの別個の要素を備えるハードウェアによって、また適切にプログラムされたコンピュータによって実装され得る。いくつかの手段を列挙するデバイスまたは装置クレームでは、これらの手段のうちのいくつかが、ハードウェアの１つの同じアイテムによって実現され得る。特定の測定値が、相互に異なる従属クレームで列挙されているという単なる事実は、これらの測定値の組合せが有利には使用され得ないことを示しているわけではない。
【００７１】
本発明はさらに、説明に記載したおよび／または添付の図面に示した特性のうちの１つまたは複数を備える装置またはデバイスに適用される。本発明はさらに、説明に記載したおよび／または添付の図面に示した特性のうちの１つまたは複数を備える方法またはプロセスに関係する。
【００７２】
本特許で議論した様々な態様は、付加的な利点をもたらすために組み合わされ得る。さらに、それらの特徴のうちのいくつかは、１つまたは複数の分割出願の基礎をなし得るものである。
次に、本発明の実施形態を、添付の概略的な図面を参照しながら単に例として説明するが、ここにおいて、対応する参照符号は、対応する部を示している。
【図面の簡単な説明】
【００７３】
【図１】画像のタイムシーケンスを処理するためのデバイスを概略的に示す図。
【図２】イメージングシステムを概略的に示す図。
【図３】表示システムを概略的に示す図。
【図４】写真フィルタを屋外シーンに適用するカメラを示す図。
【図５】写真フィルタをポートレートに適用するカメラを示す図。
【図６】不要な事象の記録をブロックするカメラを示す図。
【図７】不要な事象のシーンをブロックする表示画面デバイスを示す図。
【発明を実施するための形態】
【００７４】
図面は必ずしも一定の尺度であるとは限らない。
【００７５】
図１は、モジュール２０１を通じてデジタル化画像を受信するデバイスを概略的に示している。画像はシーン１００の表現である。これらの画像は一時メモリ２０２に記憶される。次に、画像は、モジュール２０３におけるシーン認識にかけられる。モジュール２０４におけるシーン認識の結果に基づいて、識別子２０５が画像に提供され得る。あるアクションがモジュール２０６における画像を変更し、および／または識別子２０５’が、画像の変更を防止し、一時メモリ２０２ウィッチ（which）に画像を記憶する。それまでに、画像はシーン１００’を表している。この変更されたシーン１００’では、シーンの各部分は不鮮明化され得る。
【００７６】
図２は、カメラ２００を通じて画像を捕捉するイメージングシステムを概略的に示している。これらの画像はシーン１００を表す。画像は一時メモリ２０２に記憶される。次に、これらの画像は、モジュール２０３におけるシーン認識にかけられる。モジュール２０４におけるシーン認識の結果に基づいて、識別子２０５が画像に提供され得る。識別子に基づいて、１つ以上のアクションがモジュール２０６において画像に実施され得る。たとえば、識別子２０５’は、画像の変更を防止し得る。次に、画像は、一時メモリ２０２に記憶され、モジュール２０７に記録され得、ここで画像はそれまでシーン１００’を表している。
【００７７】
図３は、モジュール２０１を通じてデジタル化画像を受信する表示システムを概略的に示している。これらの画像はシーン１００を表す。画像は一時メモリ２０２に記憶され得る。次に、シーン認識がモジュール２０３において適用される。モジュール２０４におけるシーン認識の結果に基づいて、識別子２０５が画像に提供され得る。あるアクションがモジュール２０６において画像に実施され得、および／または識別子２０５’が画像の変更を防止する。次に、画像が一時メモリ２０２に記憶され得、画面２１０上に画像を表示する。それまで、画像はシーン１００’を表し得る。
【００７８】
図４は、屋外シーン１０１を認識するカメラ２００を示している。カメラは、シーン１０１の捕捉画像に対して特定の写真フィルタを自動的に適用する。修正画像は次いで、審美的に向上されたシーン１０１’を示すカメラ２００のビューア上に表示される。付加的なカメラ２００はたとえば、シーンの一部分を不鮮明化することを可能にする。シーンのうちの不要部分は、機能的に生で不鮮明化され得る。したがって、視聴者は、不要なシーンに直面することがない。
【００７９】
図５は、ポートレートシーン１０２を認識するカメラ２００を示している。カメラは、シーン１０２の捕捉画像に対して特定の写真フィルタを自動的に適用し、修正画像を、審美的に向上されたシーン１０２’を示すカメラ２００のビューア上に表示する。カメラ２００はしたがって、機能的に生の画像に対する、または生の画像のシーケンスに対するアクションを可能にする。
【００８０】
図６は、不要な事象１０３を認識するカメラ２００を概略的に示している。次に、カメラ２００は、事象１０３の捕捉画像を自動的にブロックし、その事象をカメラ２００上に記録しない。たとえば、子供がフィルム内の恐ろしい細部を見ることが防止され得る。シーン認識はしたがって事実上、毎回、画像を解釈し、不要な部分を識別するものである。それは次いで、たとえばその不要な部分のブロッキングまたは変更または不鮮明化を可能にする。ブロッキングは、フィルムの動画を再生している間に、そのような不要な部分または対象物または事象がシーンに存在する場合にも行われ得る。このことは、対象物がシーンにおいて変位するかまたは事象が変化する場合にも可能である。したがって、シーン認識は、たとえばそれらの周囲におけるまたは事象における対象物の解釈をもたらし、またほとんど人間の知能の方式でそれらを解釈する。
【００８１】
図７は、不要な事象１０３を認識する表示画面デバイス２１０を示している。表示画面デバイスは、事象１０３の着信画像を自動的に消去し、表示画面２１０または表示画面デバイス２１０のディスプレイパネル上にその事象を表示しない。
【００８２】
また、上記の説明および図面は本発明のいくつかの実施形態を説明するために含められたものであり、保護の範囲を限定するために含められたものではないことが明らかとなろう。本開示を始めとして、多数のさらなる実施形態が当業者には明らかとなろう。これらの実施形態は、保護の範囲内にあり、本発明の本質であり、また、従来技術と本特許の開示内容との明白な組合せである。
【図１】
2017511627.tif 000003
【図２】
2017511627.tif 000004
【図３】
2017511627.tif 000005
【図４】
2017511627.tif 000006
【図５】
2017511627.tif 000007
【図６】
2017511627.tif 000008
【図７】
2017511627.tif 000009
【手続補正書】
【提出日】平成28年10月18日(2016.10.18)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
画像のタイムシーケンスを処理するためのシステムであって、前記システムは、
プロセッサと、
命令を記憶するための、前記プロセッサに結合されたメモリと
を備え、前記命令は、前記メモリから実行されると、前記プロセッサに、前記画像のタイムシーケンスを処理するための動作を実施させ、前記動作は、
前記メモリから前記画像のタイムシーケンスの画像を取り出すことと、ここにおいて、前記画像のタイムシーケンスは、前記メモリに一時的に記憶される、
前記取り出された画像に対してシーン認識を実施することと、ここにおいて、前記シーン認識は、シーンを認識すること、前記シーン内の対象物を認識すること、および前記シーン内の事象を認識すること、のうちの少なくとも１つを備える、
前記シーン認識が実施された後の前記取り出された画像に識別子を貼り付けることと、ここにおいて、前記取り出された画像に貼り付けられる前記識別子は、前記シーン認識の結果に相関する、
前記画像のタイムシーケンスの前記画像が、記録、表示、および記憶のうちの少なくとも１つを行われる前に、前記識別子を既定の識別子と照合することに基づいて、前記取り出された画像に対してアクションを実施することと
を含む、システム。
【請求項２】
前記アクションは、取り出された画像の少なくとも一部分を適合させること、前記取り出された画像を修正すること、前記取り出された画像がデータストレージに記憶されることを防止すること、前記取り出された画像が表示デバイス上に表示されることを防止すること、前記取り出された画像を前記メモリから消去すること、または前記取り出された画像を暗号化すること、のうちの少なくとも１つを含む、請求項１に記載のシステム。
【請求項３】
シーン認識の前記実施は、少なくとも１つのシーン認識アルゴリズムを使用して前記取り出された画像を処理することを含む、請求項１に記載のシステム。
【請求項４】
前記処理することは、前記取り出された画像内の設定、対象物、または事象のうちの少なくとも１つを識別することを含む、請求項３に記載のシステム。
【請求項５】
前記システムは、前記取り出された画像の前記識別を処理した後に、前記識別子を、前記シーン認識が実施された後の前記取り出された画像内の前記設定、前記対象物、または前記事象のうちの少なくとも１つに適用することをさらに備える、請求項４に記載のシステム。
【請求項６】
前記識別子は、番号、文字、ラベル、またはハッシュ機能のうちの少なくとも１つを含む、請求項５に記載のシステム。
【請求項７】
前記画像の前記取り出し、前記取り出された画像に対する前記シーン認識の前記実施、および前記取り出された画像に対する前記アクションの前記実施は、リアルタイムで実施される、請求項１に記載のシステム。
【請求項８】
前記画像のタイムシーケンスの各画像は、順番に、取り出され、前記シーン認識にかけられ、前記アクションにかけられる、請求項７に記載のシステム。
【請求項９】
前記画像のタイムシーケンスの各ｎ番目の画像は、取り出され、前記シーン認識にかけられ、前記アクションにかけられる、請求項７に記載のシステム。
【請求項１０】
命令を記憶した非一時的なコンピュータ可読媒体であって、前記命令は、処理デバイス内の１つまたは複数のプロセッサによって実行されると、前記処理デバイスに、画像のタイムシーケンスを処理するための方法を実施させ、前記方法は、
メモリから前記画像のタイムシーケンスの画像を取り出すことと、ここにおいて、前記画像のタイムシーケンスは、前記メモリに一時的に記憶される、
前記取り出された画像に対してシーン認識を実施することと、ここにおいて、前記シーン認識は、シーンを認識すること、前記シーン内の対象物を認識すること、および前記シーン内の事象を認識すること、のうちの少なくとも１つを備える、
前記シーン認識が実施された後の前記取り出された画像に識別子を貼り付けることと、ここにおいて、前記取り出された画像に貼り付けられる前記識別子は、前記シーン認識の結果に相関する、
前記画像のタイムシーケンスの前記画像が、記録、表示、および記憶のうちの少なくとも１つを行われる前に、前記識別子を既定の識別子と照合することに基づいて、前記取り出された画像に対してアクションを実施することと
を備える、非一時的なコンピュータ可読媒体。
【請求項１１】
前記アクションは、取り出された画像の少なくとも一部分を適合させること、前記取り出された画像を修正すること、前記取り出された画像がデータストレージに記憶されることを防止すること、前記取り出された画像が表示デバイス上に表示されることを防止すること、前記取り出された画像を前記メモリから消去すること、または前記取り出された画像を暗号化すること、のうちの少なくとも１つを含む、請求項１０に記載の非一時的なコンピュータ可読媒体。
【請求項１２】
シーン認識の前記実施は、少なくとも１つのシーン認識アルゴリズムを使用して前記取り出された画像を処理することを含む、請求項１０に記載の非一時的なコンピュータ可読媒体。
【請求項１３】
前記処理することは、前記取り出された画像内の設定、対象物、または事象のうちの少なくとも１つを識別することを含む、請求項１２に記載の非一時的なコンピュータ可読媒体。
【請求項１４】
前記方法は、
前記取り出された画像の前記識別を処理した後に、前記識別子を、前記シーン認識が実施された後の前記取り出された画像内の前記設定、前記対象物、または前記事象のうちの少なくとも１つに貼り付けること
をさらに備える、請求項１３に記載の非一時的なコンピュータ可読媒体。
【請求項１５】
前記識別子は、番号、文字、ラベル、またはハッシュ機能のうちの少なくとも１つを含む、請求項１４に記載の非一時的なコンピュータ可読媒体。
【請求項１６】
前記画像の前記取り出し、前記取り出された画像に対する前記シーン認識の前記実施、および前記取り出された画像に対する前記アクションの前記実施は、リアルタイムで実施される、請求項１０に記載の非一時的なコンピュータ可読媒体。
【請求項１７】
前記画像のタイムシーケンスの各画像は、順番に、取り出され、前記シーン認識にかけられ、前記アクションにかけられる、請求項１６に記載の非一時的なコンピュータ可読媒体。
【請求項１８】
前記画像のタイムシーケンスの各ｎ番目の画像は、取り出され、前記シーン認識にかけられ、前記アクションにかけられる、請求項１６に記載の非一時的なコンピュータ可読媒体。
【請求項１９】
画像のタイムシーケンスを処理するためのコンピュータ実装方法であって、
メモリから前記画像のタイムシーケンスの画像を取り出すことと、ここにおいて、前記画像のタイムシーケンスは、前記メモリに一時的に記憶される、
前記取り出された画像に対してシーン認識を実施することと、ここにおいて、前記シーン認識は、シーンを認識すること、前記シーン内の対象物を認識すること、および前記シーン内の事象を認識すること、のうちの少なくとも１つを備える、
前記シーン認識が実施された後の前記取り出された画像に識別子を貼り付けることと、ここにおいて、前記取り出された画像に貼り付けられる前記識別子は、前記シーン認識の結果に相関する、
前記画像のタイムシーケンスの前記画像が、記録、表示、および記憶のうちの少なくとも１つを行われる前に、前記識別子を既定の識別子と照合することに基づいて、前記取り出された画像に対してアクションを実施することと
を備えるコンピュータ実装方法。
【請求項２０】
前記画像の前記取り出し、前記取り出された画像に対する前記シーン認識の前記実施、および前記取り出された画像に対する前記アクションの前記実施は、リアルタイムで実施される、請求項１９に記載のコンピュータ実装方法。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００８２
【補正方法】変更
【補正の内容】
【００８２】
また、上記の説明および図面は本発明のいくつかの実施形態を説明するために含められたものであり、保護の範囲を限定するために含められたものではないことが明らかとなろう。本開示を始めとして、多数のさらなる実施形態が当業者には明らかとなろう。これらの実施形態は、保護の範囲内にあり、本発明の本質であり、また、従来技術と本特許の開示内容との明白な組合せである。
以下に本願発明の当初の特許請求の範囲に記載された発明を付記する。
［Ｃ１］
画像のタイムシーケンスを処理するためのデバイスであって、前記デバイスは、
−  メモリからの前記画像のタイムシーケンスから画像を取り出すことと、
−  前記取り出された画像に対して生のシーン認識を実施することと、
−  前記シーン認識の結果に基づいて、前記画像に対してリアルタイムアクションを実施するとを行うように適合されるデバイス。
［Ｃ２］
前記アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像の表示をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される、Ｃ１に記載のデバイス。
［Ｃ３］
前記アクションは、前記画像のタイムシーケンスからの画像のサブセットに対するアクションを備え、前記サブセットは前記画像を含む、Ｃ１または２に記載のデバイス。
［Ｃ４］
前記デバイスは、少なくとも前記画像のタイムシーケンスのサブセットに対してシーン認識を実施するように適合される、Ｃ１〜３のいずれか一項に記載のデバイス。
［Ｃ５］
前記デバイスは、
−  前記シーン認識の結果に基づいて識別子を提供することと、
−  前記識別子が既定の識別子と一致する場合、前記識別子に基づいて、前記画像に対してアクションを実施すると、前記アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される、を行うように適合される、Ｃ１〜４のいずれか一項に記載のデバイス。
［Ｃ６］
前記画像のタイムシーケンスは、生の画像のシーケンスおよびビデオフィルムを形成する画像のシーケンスのグループから選択される、Ｃ１〜５のいずれか一項に記載のデバイス。
［Ｃ７］
前記シーン認識は、画像の固有のデジタル署名を算出し、次いでその署名を他の写真の署名と照合することと、差別的な特徴の取り出しと、輪郭に基づく形状記述子と、ディープフィッシャーネットワークと、バグオブワードと、サポートベクターマシンと、ディープラーニングと、顔検出と、対象物の特徴的な形状およびカラーに基づいたテンプレートマッチングと、それらの組合せとからなる群から選択されたアルゴリズムを適用することを備える、Ｃ１〜６のいずれか一項に記載のデバイス。
［Ｃ８］
前記画像を前記修正することは、前記画像の少なくとも一部分を不鮮明化することを備える、Ｃ１〜７のいずれか一項に記載のデバイス。
［Ｃ９］
前記アクションは、少なくとも１つの写真フィルタを適用することによる画像処理である、Ｃ１〜８のいずれか一項に記載のデバイス。
［Ｃ１０］
前記デバイスは、画像、特にフィルムを形成する前記一連の画像を捕捉するように適合された画像センサーを備え、ここにおいて、前記シーン認識は前記画像に対して実施され、前記アクションは、特に次の画像が取り出される前に、前記捕捉画像に対して実施される、Ｃ１〜９のいずれか一項に記載のデバイス。
［Ｃ１１］
前記デバイスは、データストレージを備え、ここにおいて、前記デバイスは、前記画像を前記データストレージに記憶する前に、前記アクションを実施するように適合される、Ｃ１〜１０のいずれか一項に記載のデバイス。
［Ｃ１２］
前記デバイスは、前記画像を表示するためのディスプレイを備え、ここにおいて、前記デバイスは、前記画像を表示する前に、前記アクションを実施するように適合される、Ｃ１〜１１のいずれか一項に記載のデバイス。
［Ｃ１３］
イメージングシステムであって、
−  画像を捕捉するための画像センサーと、
−  前記画像を記憶するためのメモリと、
−  画像のタイムシーケンスを処理するためのデバイスとを備え、前記デバイスは、
−  メモリからの前記画像のタイムシーケンスから画像を取り出すことと、
−  前記取り出された画像に対して生のシーン認識を実施することと、
−  前記シーン認識の結果に基づいて、前記画像に対してリアルタイムアクションを実施するとを行うように適合されるイメージングシステム。
［Ｃ１４］
画像表示システムであって、
−  表示するための画像を受容するためのメモリと、
−  前記画像を表示するためのディスプレイと、
−  画像のタイムシーケンスを処理するためのデバイスとを備え、前記デバイスは、
−  メモリからの前記画像のタイムシーケンスから画像を取り出すことと、
−  前記取り出された画像に対して生のシーン認識を実施することと、
−  前記シーン認識の結果に基づいて、前記画像に対してリアルタイムアクションを実施するとを行うように適合される画像表示システム。
［Ｃ１５］
データプロセッサ上で稼働しているとき、
−  メモリから画像を取り出すことと、
−  前記画像に対して生のシーン認識を実施することと、
−  前記シーン認識の結果に基づいて、前記画像に対してリアルタイムアクションを実施するとを行うように前記データプロセッサを構成するソフトウェアコード部分を備えるコンピュータプログラム。
［Ｃ１６］
前記リアルタイムアクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される、Ｃ１５に記載のコンピュータプログラム。
［Ｃ１７］
−  前記シーン認識の結果に基づいて識別子を提供することと、
−  前記識別子が既定の識別子と一致する場合、前記識別子に基づいて、前記画像に対してアクションを実施することと、前記アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される、を行うようにさらに構成される、Ｃ１５または１６に記載のコンピュータプログラム。
［Ｃ１８］
Ｃ１５に記載のコンピュータプログラムを設けられたデータキャリア。
［Ｃ１９］
Ｃ１５に記載の前記コンピュータプログラムの少なくとも一部分を搬送する信号。
［Ｃ２０］
コンピュータ上で実行されるためのプログラムを表す信号シーケンスであって、Ｃ１５に記載の前記コンピュータプログラムを表す信号シーケンス。
［Ｃ２１］
生の画像のシーケンスを処理するための方法であって、
−  前記画像のシーケンスのうちの少なくとも画像の１セットに対してシーン認識を実施することと、
−  前記シーン認識の結果に基づいて、前記画像のシーケンスのうちの後続の画像に対してリアルタイムアクションを実施するとを備える方法。
［Ｃ２２］
前記アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される、Ｃ２１に記載の方法。
［Ｃ２３］
−  前記シーン認識の結果に基づいて識別子を提供することと、
−  前記識別子が既定の識別子と一致する場合、前記識別子に基づいて、前記画像のシーケンスのうちの後続の画像に対してアクションを実施するとをさらに備える、Ｃ２１または２２に記載の方法。
［Ｃ２４］
前記アクションは、前記画像の少なくとも一部分を適合させることを備える画像修正と、前記画像を修正画像へと修正することと、前記画像の記憶をブロックすることと、前記画像を前記メモリから消去することと、前記画像を暗号化することと、それらの組合せとからなる群から選択される、Ｃ２１〜２３のいずれか一項に記載の方法。
【手続補正書】
【提出日】平成29年2月10日(2017.2.10)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
画像のタイムシーケンスを処理するためのシステムであって、前記システムは、
プロセッサと、
命令を記憶するための、前記プロセッサに結合されたメモリと
を備え、前記命令は、前記メモリから実行されると、前記プロセッサに、前記画像のタイムシーケンスを処理するための動作を実施させ、前記動作は、
前記メモリから前記画像のタイムシーケンスの画像を取り出すことと、ここにおいて、前記画像のタイムシーケンスは、前記メモリに一時的に記憶される、
前記取り出された画像に対してシーン認識を実施することと、ここにおいて、前記シーン認識は、シーン内の対象物を認識すること、および前記シーン内の事象を認識すること、のうちの少なくとも１つを備える、
前記シーン認識が実施された後の前記取り出された画像に識別子を貼り付けることと、ここにおいて、前記取り出された画像に貼り付けられる前記識別子は、前記シーン認識の結果に相関する、
前記画像のタイムシーケンスの前記画像が、記録、表示、および記憶のうちの少なくとも１つを行われる前に、前記識別子を既定の識別子と照合することに基づいて、前記取り出された画像に対してアクションを実施することと
を含む、システム。
【請求項２】
前記アクションは、取り出された画像の少なくとも一部分を適合させること、前記取り出された画像を修正すること、前記取り出された画像がデータストレージに記憶されることを防止すること、前記取り出された画像が表示デバイス上に表示されることを防止すること、前記取り出された画像を前記メモリから消去すること、または前記取り出された画像を暗号化すること、のうちの少なくとも１つを含む、請求項１に記載のシステム。
【請求項３】
シーン認識の前記実施は、少なくとも１つのシーン認識アルゴリズムを使用して前記取り出された画像を処理することを含む、請求項１に記載のシステム。
【請求項４】
前記処理することは、前記取り出された画像内の設定、対象物、または事象のうちの少なくとも１つを識別することを含む、請求項３に記載のシステム。
【請求項５】
前記システムは、前記取り出された画像の前記識別を処理した後に、前記識別子を、前記シーン認識が実施された後の前記取り出された画像内の前記設定、前記対象物、または前記事象のうちの少なくとも１つに適用することをさらに備える、請求項４に記載のシステム。
【請求項６】
前記識別子は、番号、文字、ラベル、またはハッシュ機能のうちの少なくとも１つを含む、請求項５に記載のシステム。
【請求項７】
前記画像の前記取り出し、前記取り出された画像に対する前記シーン認識の前記実施、および前記取り出された画像に対する前記アクションの前記実施は、リアルタイムで実施される、請求項１に記載のシステム。
【請求項８】
前記画像のタイムシーケンスの各画像は、順番に、取り出され、前記シーン認識にかけられ、前記アクションにかけられる、請求項７に記載のシステム。
【請求項９】
前記画像のタイムシーケンスの各ｎ番目の画像は、取り出され、前記シーン認識にかけられ、前記アクションにかけられる、請求項７に記載のシステム。
【請求項１０】
命令を記憶した非一時的なコンピュータ可読媒体であって、前記命令は、処理デバイス内の１つまたは複数のプロセッサによって実行されると、前記処理デバイスに、画像のタイムシーケンスを処理するための方法を実施させ、前記方法は、
メモリから前記画像のタイムシーケンスの画像を取り出すことと、ここにおいて、前記画像のタイムシーケンスは、前記メモリに一時的に記憶される、
前記取り出された画像に対してシーン認識を実施することと、ここにおいて、前記シーン認識は、シーン内の対象物を認識すること、および前記シーン内の事象を認識すること、のうちの少なくとも１つを備える、
前記シーン認識が実施された後の前記取り出された画像に識別子を貼り付けることと、ここにおいて、前記取り出された画像に貼り付けられる前記識別子は、前記シーン認識の結果に相関する、
前記画像のタイムシーケンスの前記画像が、記録、表示、および記憶のうちの少なくとも１つを行われる前に、前記識別子を既定の識別子と照合することに基づいて、前記取り出された画像に対してアクションを実施することと
を備える、非一時的なコンピュータ可読媒体。
【請求項１１】
前記アクションは、取り出された画像の少なくとも一部分を適合させること、前記取り出された画像を修正すること、前記取り出された画像がデータストレージに記憶されることを防止すること、前記取り出された画像が表示デバイス上に表示されることを防止すること、前記取り出された画像を前記メモリから消去すること、または前記取り出された画像を暗号化すること、のうちの少なくとも１つを含む、請求項１０に記載の非一時的なコンピュータ可読媒体。
【請求項１２】
シーン認識の前記実施は、少なくとも１つのシーン認識アルゴリズムを使用して前記取り出された画像を処理することを含む、請求項１０に記載の非一時的なコンピュータ可読媒体。
【請求項１３】
前記処理することは、前記取り出された画像内の設定、対象物、または事象のうちの少なくとも１つを識別することを含む、請求項１２に記載の非一時的なコンピュータ可読媒体。
【請求項１４】
前記方法は、
前記取り出された画像の前記識別を処理した後に、前記識別子を、前記シーン認識が実施された後の前記取り出された画像内の前記設定、前記対象物、または前記事象のうちの少なくとも１つに貼り付けること
をさらに備える、請求項１３に記載の非一時的なコンピュータ可読媒体。
【請求項１５】
前記識別子は、番号、文字、ラベル、またはハッシュ機能のうちの少なくとも１つを含む、請求項１４に記載の非一時的なコンピュータ可読媒体。
【請求項１６】
前記画像の前記取り出し、前記取り出された画像に対する前記シーン認識の前記実施、および前記取り出された画像に対する前記アクションの前記実施は、リアルタイムで実施される、請求項１０に記載の非一時的なコンピュータ可読媒体。
【請求項１７】
前記画像のタイムシーケンスの各画像は、順番に、取り出され、前記シーン認識にかけられ、前記アクションにかけられる、請求項１６に記載の非一時的なコンピュータ可読媒体。
【請求項１８】
前記画像のタイムシーケンスの各ｎ番目の画像は、取り出され、前記シーン認識にかけられ、前記アクションにかけられる、請求項１６に記載の非一時的なコンピュータ可読媒体。
【請求項１９】
画像のタイムシーケンスを処理するためのコンピュータ実装方法であって、
メモリから前記画像のタイムシーケンスの画像を取り出すことと、ここにおいて、前記画像のタイムシーケンスは、前記メモリに一時的に記憶される、
前記取り出された画像に対してシーン認識を実施することと、ここにおいて、前記シーン認識は、シーン内の対象物を認識すること、および前記シーン内の事象を認識すること、のうちの少なくとも１つを備える、
前記シーン認識が実施された後の前記取り出された画像に識別子を貼り付けることと、ここにおいて、前記取り出された画像に貼り付けられる前記識別子は、前記シーン認識の結果に相関する、
前記画像のタイムシーケンスの前記画像が、記録、表示、および記憶のうちの少なくとも１つを行われる前に、前記識別子を既定の識別子と照合することに基づいて、前記取り出された画像に対してアクションを実施することと
を備えるコンピュータ実装方法。
【請求項２０】
前記画像の前記取り出し、前記取り出された画像に対する前記シーン認識の前記実施、および前記取り出された画像に対する前記アクションの前記実施は、リアルタイムで実施される、請求項１９に記載のコンピュータ実装方法。
【国際調査報告】
2017511627.tif 000010
2017511627.tif 000011