(57)【要約】【課題】画像の内容を分かりやすく表すことができる画像処理装置、プログラム、データ構造及び画像データを提供する。【解決手段】画像処理装置１は、キーワードと、画像６０を含む画像情報とを対応付けて記憶する画像記憶部３２と、画像６０からキーワードに対応するオブジェクトのキーワード領域を抽出する領域抽出部１５と、画像６０に、領域抽出部１５により抽出したキーワード領域を強調して表示する画像出力部２０とを備えることを特徴とする。【選択図】図２
2020119168.tif 000002
【特許請求の範囲】
【請求項１】
キーワードと、画像情報とを対応付けて記憶する画像記憶部と、
画像から前記キーワードに対応する要素画像のキーワード領域を抽出する領域抽出手段と、
前記画像に、前記領域抽出手段により抽出した前記キーワード領域を強調して表示する画像出力手段と、
を備える画像処理装置。
【請求項２】
請求項１に記載の画像処理装置において、
前記領域抽出手段により抽出した前記キーワード領域を強調した強調画像を生成する強調画像生成手段を備え、
前記強調画像は、透過性を有する画像であり、
前記画像出力手段は、前記強調画像を、前記画像に重畳して表示させる、
画像処理装置。
【請求項３】
請求項１又は請求項２に記載の画像処理装置において、
強調した前記キーワード領域を表示するか否かを切り替える切替手段を備える、
画像処理装置。
【請求項４】
請求項１から請求項３までのいずれかに記載の画像処理装置において、
前記画像を分析して前記要素画像を含む矩形領域を抽出し、抽出した前記矩形領域に含まれる前記要素画像の特徴ごとに関連付いた単語を参照して説明文を生成する説明文生成手段と、
前記説明文生成手段により生成した説明文から複数の語を抽出する語抽出手段と、
前記語抽出手段により抽出した語の少なくとも一部をキーワードとして選定するキーワード選定手段と、
前記キーワード選定手段によって選定したキーワードと、前記画像を含む前記画像情報とを対応付けて前記画像記憶部に記憶する関連付け手段と、
を備え、
前記領域抽出手段は、前記キーワードに対応した前記矩形領域を、前記キーワード領域として抽出する、
画像処理装置。
【請求項５】
請求項４に記載の画像処理装置において、
前記キーワード選定手段によって選定したキーワードに対してスコアを付与するスコア付与手段と、
前記スコア付与手段により付与された前記スコアに応じて、対応する前記キーワード領域の表示態様を決定する表示態様決定手段と、
を備え、
前記画像出力手段は、前記画像に、前記表示態様決定手段により決定された表示態様の前記キーワード領域を強調して表示する、
画像処理装置。
【請求項６】
請求項４に記載の画像処理装置において、
前記キーワード選定手段によって選定したキーワードに対してスコアを付与するスコア付与手段と、
対象語と、領域表示設定データとを対応付けて記憶する領域表示設定記憶部と、
前記キーワード選定手段によって選定したキーワードと、前記スコア付与手段により付与された前記キーワードの前記スコアから得られる優先順位とに基づいて、前記領域表示設定記憶部を参照して、前記キーワード領域の表示態様を決定する表示態様決定手段と、
を備え、
前記画像出力手段は、前記画像に、前記表示態様決定手段により決定された表示態様の前記キーワード領域を強調して表示する、
画像処理装置。
【請求項７】
請求項６に記載の画像処理装置において、
前記領域表示設定データは、領域の色データを含み、
前記キーワード選定手段によって選定したキーワードと、前記スコア付与手段により付与された前記キーワードの前記スコアから得られる優先順位とに基づいて、前記領域表示設定記憶部を参照して得られた前記領域の色データが類似であるか否かを判定する類似色判定手段を備え、
前記表示態様決定手段は、前記類似色判定手段により類似であると判定された前記領域の色データに対して異なる濃淡度の重み付けを付与して、前記キーワード領域の表示態様を決定する、
画像処理装置。
【請求項８】
請求項５から請求項７までのいずれかに記載の画像処理装置において、
前記スコア付与手段は、前記キーワードの出現頻度に基づいて前記スコアを付与する、
画像処理装置。
【請求項９】
請求項５から請求項７までのいずれかに記載の画像処理装置において、
前記スコア付与手段は、前記キーワード領域の前記画像に占める割合に応じて前記スコアを付与する、
画像処理装置。
【請求項１０】
請求項５から請求項７までのいずれかに記載の画像処理装置において、
前記スコア付与手段は、前記説明文生成手段において画像を分析する際に用いた、前記要素画像の認識結果である確信度に応じて前記スコアを付与する、
画像処理装置。
【請求項１１】
請求項５から請求項７までのいずれかに記載の画像処理装置において、
前記スコア付与手段は、自然言語処理による意味解析結果に基づいて前記スコアを付与する、
画像処理装置。
【請求項１２】
請求項５から請求項７までのいずれかに記載の画像処理装置において、
複数の画像を記憶した画像データベースに対して通信可能に接続されており、
前記スコア付与手段は、前記画像データベースに記憶された前記複数の画像との前記キーワードの相対出現頻度に基づいて、前記スコアを付与する、
画像処理装置。
【請求項１３】
請求項１から請求項１２までのいずれかに記載の画像処理装置において、
前記画像出力手段は、前記キーワード領域に、前記キーワードを表示する、
画像処理装置。
【請求項１４】
請求項１から請求項１３までのいずれかに記載の画像処理装置としてコンピュータを機能させるためのプログラム。
【請求項１５】
対象語と、
領域の色データと、
領域の濃淡度データであって、処理対象の画像から選定されたキーワードの優先順に決定され、前記キーワードを前記対象語として前記キーワードに対応した領域の表示に用いられる、前記領域の色データに対応した領域の濃淡度データと、
を含む、
領域表示設定データのデータ構造。
【請求項１６】
請求項１５に記載の領域表示設定データのデータ構造において、
前記濃淡度データは、処理対象の画像から選定されたキーワードの優先順によって決定された他の領域の色データに基づき類似色か否かが判定された際に、類似色である場合に乗じる濃淡度の重みデータをさらに含む、
領域表示設定データのデータ構造。
【請求項１７】
請求項１５又は請求項１６に記載の領域表示設定データのデータ構造において、
文字サイズデータであって、処理対象の画像から選定された前記キーワードの優先順に決定され、前記キーワードを前記対象語として前記キーワードに対応した領域に表示する前記キーワードに用いられる、前記文字サイズデータと、
をさらに含む、
領域表示設定データのデータ構造。
【請求項１８】
複数の要素画像からなる画像の情報と、
前記要素画像同士の比較結果から優先順位を決定し、前記優先順位に基づいて階層状に生成した前記要素画像に対応する要素領域情報と、
を備えた画像データ。
【請求項１９】
請求項１８に記載の画像データにおいて、
前記要素領域情報は、前記要素画像の領域の大きさに基づいて決定した優先順位により複数の要素画像の領域が階層に表示される、
画像データ。
【請求項２０】
請求項１８又は請求項１９に記載の画像データにおいて、
前記要素領域情報は、前記要素画像の領域を指示した際に表示される、
画像データ。
【請求項２１】
請求項１８から請求項２０までのいずれかに記載の画像データにおいて、
前記要素領域情報は、前記要素画像を認識して生成した前記要素画像の領域が表示される、
画像データ。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、プログラム、データ構造及び画像データに関する。
【背景技術】
【０００２】
従来、画像を検索する画像検索に関する技術が開示されている。例えば、画像がメッセージ情報を有し、メッセージ情報の少なくとも一部を検索条件として指定し、指定された検索条件で画像データベースを検索して、所定値以上の一致度を持つ画像を読み出す技術が開示されている（例えば、特許文献１）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００１−８４２７４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
ところで、検索結果として表示された画像について、単に画像を表示しただけでは、検索条件に一致している箇所が容易に判断しづらい。
【０００５】
そこで、本発明は、画像の内容を分かりやすく表すことができる画像処理装置、プログラム、データ構造及び画像データを提供することを目的とする。
【課題を解決するための手段】
【０００６】
本発明は、以下のような解決手段により、前記課題を解決する。
第１の発明は、キーワードと、画像情報とを対応付けて記憶する画像記憶部と、画像から前記キーワードに対応する要素画像のキーワード領域を抽出する領域抽出手段と、前記画像に、前記領域抽出手段により抽出した前記キーワード領域を強調して表示する画像出力手段と、を備える画像処理装置である。
第２の発明は、第１の発明の画像処理装置において、前記領域抽出手段により抽出した前記キーワード領域を強調した強調画像を生成する強調画像生成手段を備え、前記強調画像は、透過性を有する画像であり、前記画像出力手段は、前記強調画像を、前記画像に重畳して表示させる、画像処理装置である。
第３の発明は、第１の発明又は第２の発明の画像処理装置において、強調した前記キーワード領域を表示するか否かを切り替える切替手段を備える、画像処理装置である。
第４の発明は、第１の発明から第３の発明までのいずれかの画像処理装置において、前記画像を分析して前記要素画像を含む矩形領域を抽出し、抽出した前記矩形領域に含まれる前記要素画像の特徴ごとに関連付いた単語を参照して説明文を生成する説明文生成手段と、前記説明文生成手段により生成した説明文から複数の語を抽出する語抽出手段と、前記語抽出手段により抽出した語の少なくとも一部をキーワードとして選定するキーワード選定手段と、前記キーワード選定手段によって選定したキーワードと、前記画像を含む前記画像情報とを対応付けて前記画像記憶部に記憶する関連付け手段と、を備え、前記領域抽出手段は、前記キーワードに対応した前記矩形領域を、前記キーワード領域として抽出する、画像処理装置である。
第５の発明は、第４の発明の画像処理装置において、前記キーワード選定手段によって選定したキーワードに対してスコアを付与するスコア付与手段と、前記スコア付与手段により付与された前記スコアに応じて、対応する前記キーワード領域の表示態様を決定する表示態様決定手段と、を備え、前記画像出力手段は、前記画像に、前記表示態様決定手段により決定された表示態様の前記キーワード領域を強調して表示する、画像処理装置である。
第６の発明は、第４の発明の画像処理装置において、前記キーワード選定手段によって選定したキーワードに対してスコアを付与するスコア付与手段と、対象語と、領域表示設定データとを対応付けて記憶する領域表示設定記憶部と、前記キーワード選定手段によって選定したキーワードと、前記スコア付与手段により付与された前記キーワードの前記スコアから得られる優先順位とに基づいて、前記領域表示設定記憶部を参照して、前記キーワード領域の表示態様を決定する表示態様決定手段と、を備え、前記画像出力手段は、前記画像に、前記表示態様決定手段により決定された表示態様の前記キーワード領域を強調して表示する、画像処理装置である。
第７の発明は、第６の発明の画像処理装置において、前記領域表示設定データは、領域の色データを含み、前記キーワード選定手段によって選定したキーワードと、前記スコア付与手段により付与された前記キーワードの前記スコアから得られる優先順位とに基づいて、前記領域表示設定記憶部を参照して得られた前記領域の色データが類似であるか否かを判定する類似色判定手段を備え、前記表示態様決定手段は、前記類似色判定手段により類似であると判定された前記領域の色データに対して異なる濃淡度の重み付けを付与して、前記キーワード領域の表示態様を決定する、画像処理装置である。
第８の発明は、第５の発明から第７の発明までのいずれかの画像処理装置において、前記スコア付与手段は、前記キーワードの出現頻度に基づいて前記スコアを付与する、画像処理装置である。
第９の発明は、第５の発明から第７の発明までのいずれかの画像処理装置において、前記スコア付与手段は、前記キーワード領域の前記画像に占める割合に応じて前記スコアを付与する、画像処理装置である。
第１０の発明は、第５の発明から第７の発明までのいずれかの画像処理装置において、前記スコア付与手段は、前記説明文生成手段において画像を分析する際に用いた、前記要素画像の認識結果である確信度に応じて前記スコアを付与する、画像処理装置である。
第１１の発明は、第５の発明から第７の発明までのいずれかの画像処理装置において、前記スコア付与手段は、自然言語処理による意味解析結果に基づいて前記スコアを付与する、画像処理装置である。
第１２の発明は、第５の発明から第７の発明までのいずれかの画像処理装置において、複数の画像を記憶した画像データベースに対して通信可能に接続されており、前記スコア付与手段は、前記画像データベースに記憶された前記複数の画像との前記キーワードの相対出現頻度に基づいて、前記スコアを付与する、画像処理装置である。
第１３の発明は、第１の発明から第１２の発明までのいずれかの画像処理装置において、前記画像出力手段は、前記キーワード領域に、前記キーワードを表示する、画像処理装置である。
第１４の発明は、第１の発明から第１３の発明までのいずれかの画像処理装置としてコンピュータを機能させるためのプログラムである。
第１５の発明は、対象語と、領域の色データと、領域の濃淡度データであって、処理対象の画像から選定されたキーワードの優先順に決定され、前記キーワードを前記対象語として前記キーワードに対応した領域の表示に用いられる、前記領域の色データに対応した領域の濃淡度データと、を含む、領域表示設定データのデータ構造である。
第１６の発明は、第１５の発明の領域表示設定データのデータ構造において、前記濃淡度データは、処理対象の画像から選定されたキーワードの優先順によって決定された他の領域の色データに基づき類似色か否かが判定された際に、類似色である場合に乗じる濃淡度の重みデータをさらに含む、領域表示設定データのデータ構造である。
第１７の発明は、第１５の発明又は第１６の発明の領域表示設定データのデータ構造において、文字サイズデータであって、処理対象の画像から選定された前記キーワードの優先順に決定され、前記キーワードを前記対象語として前記キーワードに対応した領域に表示する前記キーワードに用いられる、前記文字サイズデータと、をさらに含む、領域表示設定データのデータ構造である。
第１８の発明は、複数の要素画像からなる画像の情報と、前記要素画像同士の比較結果から優先順位を決定し、前記優先順位に基づいて階層状に生成した前記要素画像に対応する要素領域情報と、を備えた画像データである。
第１９の発明は、第１８の発明の画像データにおいて、前記要素領域情報は、前記要素画像の領域の大きさに基づいて決定した優先順位により複数の要素画像の領域が階層に表示される、画像データである。
第２０の発明は、第１８の発明又は第１９の発明の画像データにおいて、前記要素領域情報は、前記要素画像の領域を指示した際に表示される、画像データである。
第２１の発明は、第１８の発明から第２０の発明までのいずれかの画像データにおいて、前記要素領域情報は、前記要素画像を認識して生成した前記要素画像の領域が表示される、画像データである。
【発明の効果】
【０００７】
本発明によれば、画像の内容を分かりやすく表すことができる画像処理装置、プログラム、データ構造及び画像データを提供することができる。
【図面の簡単な説明】
【０００８】
【図１】第１実施形態に係る画像処理システムの全体概要図及び端末の機能ブロック図である。
【図２】第１実施形態に係る画像処理装置の機能ブロック図である。
【図３】第１実施形態に係る画像処理システムの画像データ処理を示すフローチャートである。
【図４】第１実施形態に係る画像処理装置での処理の具体例を示す図である。
【図５】第１実施形態に係る画像処理装置の画像分析処理を示すフローチャートである。
【図６】第１実施形態に係る画像処理装置での処理の具体例を示す図である。
【図７】第１実施形態に係る画像処理装置の画像編集処理を示すフローチャートである。
【図８】第１実施形態に係る画像処理装置での処理の具体例を示す図である。
【図９】第２実施形態に係る画像処理システムの全体概要図及び画像処理装置の機能ブロック図である。
【図１０】第２実施形態に係る画像処理装置の領域表示設定記憶部の例を示す図である。
【図１１】第２実施形態に係る画像処理装置の画像編集処理を示すフローチャートである。
【図１２】第２実施形態に係る画像処理装置の他の領域表示設定記憶部の例を示す図である。
【発明を実施するための形態】
【０００９】
以下、本発明を実施するための形態について、図を参照しながら説明する。なお、これは、あくまでも一例であって、本発明の技術的範囲はこれに限られるものではない。
（第１実施形態）
＜画像処理システム１００＞
図１は、第１実施形態に係る画像処理システム１００の全体概要図及び端末４の機能ブロック図である。
図２は、第１実施形態に係る画像処理装置１の機能ブロック図である。
【００１０】
図１に示す画像処理システム１００は、画像処理装置１と、端末４とを備えたシステムである。画像処理装置１は、端末４から画像データ（画像の情報）を受信し、受信した画像データを分析して、画像内のオブジェクト（要素画像）を含むキーワード領域を抽出し、キーワード領域を強調する編集を行って画像を表示させる。そうすることで、画像処理装置１は、画像の内容を表すオブジェクトと、その位置とを、端末４のユーザに一見して分かるように提示する。
以下の説明において、画像データは、例えば、美術館や博物館等で展示されている絵画等を、画像データ化したものであるとする。しかし、これは一例であり、画像データは、カメラによる写真データ等であってもよい。
画像処理装置１と、端末４とは、通信ネットワークＮを介して通信可能に接続されている。通信ネットワークＮは、例えば、インターネット回線等であり、有線であるか無線であるかを問わない。
【００１１】
＜画像処理装置１＞
画像処理装置１は、画像データが示す画像を分析して、画像内のオブジェクトを表す複数の語を抽出し、キーワードを選定する。そして画像処理装置１は、キーワードに関する情報と、画像データを含む画像情報とを関連付けて、画像記憶部３２に記憶させる。また、画像処理装置１は、選定したキーワードに対するスコアを付与し、付与されたスコアに応じて決定した表示態様で、画像内のキーワード領域を強調表示する編集を行う。
【００１２】
画像処理装置１は、例えば、サーバである。画像処理装置１は、その他、パーソナルコンピュータ（ＰＣ）等であってもよい。
図２に示すように、画像処理装置１は、制御部１０と、記憶部３０と、通信インタフェース部３９とを備える。
制御部１０は、画像処理装置１の全体を制御する中央処理装置（ＣＰＵ）である。制御部１０は、記憶部３０に記憶されているオペレーティングシステム（ＯＳ）やアプリケーションプログラムを適宜読み出して実行することにより、上述したハードウェアと協働し、各種機能を実行する。
【００１３】
制御部１０は、画像受信部１１と、説明文生成部１２（説明文生成手段）と、語抽出部１３（語抽出手段）と、キーワード選定部１４（キーワード選定手段）と、領域抽出部１５（領域抽出手段）と、関連付け部１６（関連付け手段）と、スコア付与部１７（スコア付与手段）と、態様決定部１８（表示態様決定手段）と、画像編集部１９（強調画像生成手段）と、画像出力部２０（画像出力手段）と、切替部２１（切替手段）とを備える。
画像受信部１１は、処理対象の画像データを受け付ける。画像受信部１１は、例えば、端末４が送信した、絵画を画像化した画像データを受け付ける。
【００１４】
説明文生成部１２は、受け付けた画像データから説明文を生成する。
説明文生成部１２は、例えば、公知の説明文生成ソフトウェアである“ＤｅｎｓｅＣａｐ”を使用して、画像に関する説明文を生成する。
ここで、“ＤｅｎｓｅＣａｐ”を使用した場合には、説明文生成部１２は、画像に含まれるオブジェクトを認識し、オブジェクトを含む矩形領域を抽出する。ここで、オブジェクトとは、何かしらの物体を意味する。また、説明文生成部１２は、オブジェクトの認識結果としてオブジェクトの認識度合を示す確信度を算出する。そして、説明文生成部１２は、抽出した矩形領域に含まれるオブジェクトの特徴ごとに関連付いた単語を参照してオブジェクトに関する説明文を生成する。ここで、説明文生成部１２は、複数の説明文を生成する。また、“ＤｅｎｓｅＣａｐ”を使用した場合、説明文の言語は、英語である。
【００１５】
次に、説明文の言語が英語であるので、説明文生成部１２は、英語の説明文を、日本語に翻訳する。説明文生成部１２は、例えば、公知の自動翻訳のソフトウェアを用いて、説明文を翻訳することができる。なお、その他として、説明文生成部１２は、通信ネットワークＮを介して接続された翻訳のウェブサービスを行うサーバ（図示せず）に対して通信をして、翻訳のウェブサービスを行うサーバによって英語から日本語に翻訳してもよい。
【００１６】
なお、“ＤｅｎｓｅＣａｐ”の場合、説明文の生成では、現在の写真等の画像データを使用して学習した学習器を用いている。そのため、“ＤｅｎｓｅＣａｐ”は、学習結果として、画像から現在においてありふれた物を用いた説明文を生成する。他方、この例のように、美術館や博物館等の絵画の画像データには、古い時代の絵画を含むため、“ＤｅｎｓｅＣａｐ”では、誤変換が生じる場合がある。例えば、人物が手に持っている聖書を、現在においてありふれた物であるタブレットに、誤って変換する場合がある。よって、その場合には、生成された説明文に含まれるタブレットを、聖書に置き換えたり、絵画がモチーフとしている時代にはない物の説明については、削除したりする必要がある。
【００１７】
語抽出部１３は、複数の説明文から複数の語を抽出する。具体的には、語抽出部１３は、例えば、各説明文に対して形態素解析を行うことによって、複数の説明文から複数の語を抽出する。ここで、語抽出部１３が抽出する語は、例えば、名詞や、名詞句である。
なお、語抽出部１３は、語を抽出する際に、「彼」や「これ」等の代名詞や、「側」や「製」等の接尾名詞、「中」や「一部」等の副詞可能名詞等を除外するようにしてもよい。
また、上述では、“ＤｅｎｓｅＣａｐ”を用いた説明文の生成及び語の抽出を説明したが、これに限定するものではない。画像中のオブジェクトを含む領域を抽出し、オブジェクトを表す語が抽出されるものであれば、他の方法を用いてもよい。
【００１８】
キーワード選定部１４は、語抽出部１３により抽出された複数の語からキーワードを選定する。キーワード選定部１４は、例えば、抽出された語の出現頻度に基づいて、語のうちの少なくとも一部を、キーワードとして選定してもよい。
領域抽出部１５は、キーワードに対応するオブジェクトの少なくとも一部を含んだキーワード領域を抽出する。ここで、領域抽出部１５は、キーワードに対応するオブジェクトのうち少なくとも１つの矩形領域を、キーワード領域として抽出してもよい。
関連付け部１６は、キーワードに関連する情報と、画像データを含む画像情報とを関連付けて画像記憶部３２に記憶させる。ここで、キーワードに関連する情報としては、例えば、キーワード、キーワードに対応するキーワード領域、次に説明するスコア等を含む。また、画像情報は、画像データの他、画像の特徴量等を含んでよい。
【００１９】
スコア付与部１７は、キーワードに対するスコアを算出して、キーワードに付与する。
スコア付与部１７は、例えば、画像を分析した結果得られたキーワードの出現頻度に基づいて、スコアを算出することができる。なお、スコア付与部１７は、キーワードの出現頻度以外のものでスコアを算出してもよい。スコア付与部１７は、例えば、画像データの面積に対してキーワード領域の面積が占める割合である占有率に応じて、スコアを算出してもよい。また、スコア付与部１７は、例えば、“ＤｅｎｓｅＣａｐ”によって画像を分析する際に得たオブジェクトの確信度に対応した値を、キーワードに対するスコアとして算出してもよい。さらに、スコア付与部１７は、例えば、自然言語処理による意味解析結果に基づいて、スコアを算出してもよい。さらにまた、スコア付与部１７は、例えば、上述の方法により算出した複数のスコアを用いてもよい。
【００２０】
態様決定部１８は、領域抽出部１５で抽出したキーワード領域の表示態様を、スコアに基づいて決定する。ここで、表示態様は、例えば、キーワード領域の色や濃淡や、キーワードのフォントの大きさ等である。
画像編集部１９は、キーワード領域の表示態様に基づいて、キーワード領域を強調した強調画像（要素領域情報）を生成する。ここで、生成する強調画像は、透過性を有するものであってもよい。そのようにすることで、画像に強調画像を重ねた場合であっても、ユーザは、強調画像の下にある画像についても視認できる。
画像出力部２０は、元の画像に強調画像を重畳した編集後画像データを、端末４に対して出力する。このようにすることで、端末４では、元の画像に重ねて強調画像が表示される。
切替部２１は、端末４での切替操作に応じて、強調画像の表示及び非表示を切り替える。
【００２１】
記憶部３０は、制御部１０が各種の処理を実行するために必要なプログラム、データ等を記憶するためのハードディスク、半導体メモリ素子等の記憶領域である。
記憶部３０は、プログラム記憶部３１と、画像記憶部３２とを備える。
プログラム記憶部３１は、各種のプログラムを記憶する記憶領域である。プログラム記憶部３１は、上述した“ＤｅｎｃｅＣａｐ”等の公知の説明文生成ソフトウェアや、公知の自動翻訳ソフトウェアの他、画像処理プログラム３１ａを記憶している。画像処理プログラム３１ａは、画像処理装置１の制御部１０が実行する各種機能を行うためのプログラムである。なお、画像処理プログラム３１ａは、公知の説明文生成ソフトウェアや、公知の自動翻訳ソフトウェアを含むものであってもよい。
【００２２】
画像記憶部３２は、端末４から受信した画像データを含む画像情報と、キーワードに関する情報とを関連付けて記憶する記憶領域である。
通信インタフェース部３９は、通信ネットワークＮを介して、例えば、端末４との間の通信を行うためのインタフェースである。
【００２３】
＜端末４＞
図１に示す端末４は、例えば、タブレットに代表されるコンピュータの機能を併せ持った携帯型の端末である。端末４は、その他、スマートフォンや携帯電話機等の携帯型の端末でもよいし、ＰＣ等の据置型の端末であってもよい。
端末４は、画像処理装置１に対して画像データを送信し、画像処理装置１から受信した編集後画像データを表示させる。
端末４は、制御部４０と、記憶部５０と、タッチパネルディスプレイ５７と、通信インタフェース部５９とを備える。
【００２４】
制御部４０は、端末４の全体を制御するＣＰＵである。制御部４０は、記憶部５０に記憶されているＯＳやアプリケーションプログラムを適宜読み出して実行することにより、上述したハードウェアと協働し、各種機能を実行する。
制御部４０は、処理対象の画像データを、画像処理装置１に対して送信する。
また、制御部４０は、画像処理装置１から受信した編集後画像データを、タッチパネルディスプレイ５７に表示させる。
さらに、制御部４０は、強調画像の表示及び非表示の切替要求を、画像処理装置１に対して送信する。
【００２５】
記憶部５０は、制御部４０が各種の処理を実行するために必要なプログラム、データ等を記憶するための半導体メモリ素子等の記憶領域である。
タッチパネルディスプレイ５７は、液晶パネル等で構成される表示部としての機能と、ユーザからの指等によるタッチ入力を検出する入力部としての機能とを有する。
通信インタフェース部５９は、通信ネットワークＮを介して画像処理装置１との間で通信を行うためのインタフェースである。
【００２６】
ここで、コンピュータとは、制御部、記憶装置等を備えた情報処理装置をいい、画像処理装置１及び端末４は、各々制御部、記憶部等を備えた情報処理装置であり、コンピュータの概念に含まれる。
【００２７】
＜画像処理システム１００の処理＞
次に、画像に強調画像を重畳して表示させる処理について説明する。
図３は、第１実施形態に係る画像処理システム１００の画像データ処理を示すフローチャートである。
図４、図６及び図８は、第１実施形態に係る画像処理装置１での処理の具体例を示す図である。
図５は、第１実施形態に係る画像処理装置１の画像分析処理を示すフローチャートである。
図７は、第１実施形態に係る画像処理装置１の画像編集処理を示すフローチャートである。
【００２８】
図３のステップＳ（以下、単に「Ｓ」という。）１０において、端末４の制御部４０は、処理対象の画像データを、画像処理装置１に対して送信する。
図４（Ａ）は、画像処理装置１に対して送信した、処理対象の画像データが示す画像６０の例である。
図３のＳ１１において、画像処理装置１の制御部１０（画像受信部１１）は、処理対象の画像データを受信する。
Ｓ１２において、制御部１０は、画像分析処理を行う。
ここで、画像分析処理について、図５に基づき説明する。
【００２９】
図５のＳ２０において、制御部１０（説明文生成部１２）は、画像に含まれるオブジェクトを認識する。オブジェクトの認識は、画像内のオブジェクト（物体）の有無を、例えば、ｐｘ（ピクセル）ごとの色情報の変化の度合い等から判断することで認識する。
Ｓ２１において、制御部１０（説明文生成部１２）は、オブジェクトの確信度を算出する。これは、オブジェクトの認識度合に応じたものであり、例えば、輪郭がぼやけているオブジェクトは、確信度が低い値になる。
Ｓ２２において、制御部１０（説明文生成部１２、領域抽出部１５）は、オブジェクトを含む矩形領域を抽出する。
【００３０】
Ｓ２３において、制御部１０（説明文生成部１２）は、矩形領域ごとにその内容を説明する説明文を生成する。そして、制御部１０（説明文生成部１２）は、生成した説明文を翻訳する。
図４（Ｂ）は、画像６０に対して“ＤｅｎｓｅＣａｐ”を使用した場合の結果画像６１及びキャプション６２の例である。“ＤｅｎｓｅＣａｐ”では、画像６０の矩形領域ごとに文を出力する。矩形領域は、上述したように、オブジェクトごとに抽出するために、画像６０内に重なって複数生成される。よって、矩形領域に対応して、文も複数生成される。なお、画像６０の画素数が６４０ｐｘ（ピクセル）である場合には、“ＤｅｎｓｅＣａｐ”は、約８０個のキャプション６２を生成する。
図４（Ｃ）は、キャプション６２を翻訳した説明文６３の例を示す。
【００３１】
図５のＳ２４において、制御部１０（語抽出部１３）は、生成した複数の説明文から、語を抽出する。そして、制御部１０（キーワード選定部１４）は、抽出した語の一部を、キーワードとして選定する。その際、制御部１０（キーワード選定部１４）は、出現頻度が一定以上の語を、キーワードとして選定するようにしてもよい。なお、キーワードは、抽出した語の少なくとも一部を含むものであればよく、抽出したキーワード全てであってもよい。
図６（Ａ）は、説明文６３を形態素解析することによって、名詞を語として抽出した名詞頻度テーブル６４の例を示す。名詞頻度テーブル６４は、抽出した名詞と、その出現頻度とを対応付けたテーブルである。
図５のＳ２５において、制御部１０（関連付け部１６）は、キーワードに関する情報と、画像データを含む画像情報とを、画像記憶部３２に記憶させる。キーワードに関する情報は、この例では、選定したキーワードと、キーワードに対応する矩形領域の情報を含む。そして、矩形領域の情報に示される矩形領域は、キーワードに対応した少なくとも１つであってもよい。また、矩形領域は、複数の矩形領域を結合したものであってもよい。さらに、矩形領域は、画像を、再認識処理をすることによって抽出してもよい。その後、制御部１０は、処理を図３に移す。
【００３２】
図３に戻り、Ｓ１３において、制御部１０は、画像編集処理を行う。
ここで、画像編集処理について、図７に基づき説明する。
図７のＳ３０において、制御部１０（領域抽出部１５）は、選定したキーワード及びキーワードが示すキーワード領域を抽出する。具体的には、制御部１０は、画像記憶部３２を参照し、選定したキーワードと矩形領域とを抽出する。
Ｓ３１において、制御部１０（スコア付与部１７）は、キーワードに対するスコアを付与する。制御部１０は、キーワードの出現頻度に対応するようにスコアを付与してもよい。また、制御部１０は、画像の面積に対するキーワード領域の占有率に応じて、スコアを付与してもよい。さらに、制御部１０は、キーワード領域に対応付けられたオブジェクトの確信度に対応したスコアを付与してもよい。さらにまた、制御部１０は、上述したスコアを複数用いて、スコアを付与してもよい。そして、制御部１０は、付与したスコアを、画像記憶部３２に記憶させる。
図６（Ｂ）は、キーワードスコアテーブル６５の例を示す。キーワードスコアテーブル６５は、キーワードと、算出されたスコアとを対応付けたテーブルである。このキーワードスコアテーブル６５は、画像記憶部３２のデータの一部である。
【００３３】
図７のＳ３２において、制御部１０（態様決定部１８）は、スコアに基づいて、キーワード領域の表示態様を決定する。制御部１０は、スコアが所定の閾値以上のキーワードを、強調表示の対象にしてもよい。また、制御部１０は、スコアが上位である（例えば、上位５つである）キーワードを、強調表示の対象にしてもよい。
そして、制御部１０は、例えば、スコアに基づいてキーワード領域の色の濃淡を変化させる場合に、スコアがより高い方が、より濃い色になるように表示態様を決定してもよい。また、制御部１０は、例えば、スコアに基づいて、キーワード領域を囲む囲い線の太さを変化させてもよく、スコアが高い方が、より太い線になるように表示態様を決定してもよい。
さらに、制御部１０は、例えば、スコアに基づいて、キーワード領域に表示するキーワードの表示態様を決定する。制御部１０は、キーワードのフォントの大きさを変化させてもよく、スコアが高い方が、より大きなフォントの文字になるように表示態様を決定してもよい。
【００３４】
Ｓ３３において、制御部１０（画像編集部１９）は、決定した表示態様に基づいてキーワード領域を強調した強調画像を生成する。
Ｓ３４において、制御部１０（画像編集部１９）は、生成した強調画像を、元の画像に重畳させて、編集後画像データを生成する。
図８（Ａ）は、強調画像７０の例を示す。強調画像７０は、キーワード領域７０ａ〜７０ｅを含む。また、強調画像７０は、透過性のある画像である。キーワード領域７０ａ及び７０ｂは、キーワード「女性」に対応する領域である。キーワード領域７０ｃは、キーワード「空」に対応する領域である。キーワード領域７０ｄは、キーワード「山々」に対応し、キーワード領域７０ｅは、キーワード「植物」に対応する。ここで、キーワードスコアテーブル６５（図６（Ｂ）参照）によれば、キーワード「女性」に対するスコアが最も高い。よって、キーワード「女性」に対応するキーワード領域７０ａ及び７０ｂは、他のキーワード領域７０ｃ〜７０ｅと比較して、キーワード領域の色の濃淡が、より濃い色によって表現されている。また、キーワード領域７０ａ及び７０ｂのキーワードの文字フォントは、他のキーワード領域の文字フォントよりも大きな文字で表されている。
また、キーワード領域７０ａと、キーワード領域７０ｄとは、重なっている。このような場合、面積の大きいキーワード領域７０ａが、キーワード領域７０ｄよりも下になるように階層状態で示されてもよい。
【００３５】
図８（Ｂ）は、編集後画像８０の例を示す。編集後画像８０は、画像６０（画像の情報）の上に、強調画像７０（要素領域情報）を重ねたものである。上述したように、強調画像７０は、透過性のある画像であるため、編集後画像８０によっても、強調画像７０の下にある画像６０を見ることができる。
その後、制御部１０は、処理を図３に移す。
【００３６】
図３に戻り、Ｓ１４において、制御部１０（画像出力部２０）は、編集後画像データを、端末４に送信する。その後、制御部１０は、本処理を終了する。
Ｓ１５において、端末４の制御部４０は、編集後画像データを受信して、タッチパネルディスプレイ５７に出力する。その後、制御部４０は、本処理を終了する。
【００３７】
このような画像処理装置１の処理によって、端末４には、編集後画像が表示される。編集後画像は、処理対象の画像に対して画像の内容を表したキーワードに対応するオブジェクトを強調したものである。編集後画像は、画像に含まれるオブジェクトを含む領域を、色やキーワードによって強調表示するものであるので、ユーザに、画像の内容を分かりやすく表すことができる。
【００３８】
なお、元の画像にしたい場合には、例えば、表示画面に切替ボタン（図示せず）を用意しておき、ユーザが切替ボタンを選択させることで、元の画像と、編集後画像とを切り替えるようにすればよい。その場合、画像処理装置１は、端末４から切替要求を受信すると、制御部１０（切替部２１）は、切替要求に内容に応じて、強調画像の表示及び非表示を切り替えればよい。そうすることで、ユーザは、編集後画像を確認後に、元の画像も簡単に確認できる。
【００３９】
このように、第１実施形態の画像処理装置１によれば、以下のような効果がある。
（１）画像内のオブジェクトを含むキーワード領域と、オブジェクトを表すキーワードとを含む強調画像を生成し、画像に重畳して表示する。よって、画像の内容を一見して分かりやすく表すことができる。
（２）強調画像は、透過性を有するものであるため、重畳した場合であっても元の画像を見ることができる。
（３）強調画像の表示及び非表示を切り替えることができるので、強調画像によって画像の内容を分かりやすく示した後に、強調画像を非表示することで、元の画像を見やすくできる。
【００４０】
（４）画像を分析してオブジェクトを含む矩形領域を得て説明文を生成し、説明文から複数の語を抽出してキーワードを選定するので、キーワードは、画像の内容を表すものにできる。
また、“ＤｅｎｃｅＣａｐ”を使用することで、オブジェクトを含む矩形領域や説明文を簡単に生成でき、説明文からキーワードを簡単に選定できる。
（５）キーワードに対してスコアを付与し、スコアに応じてキーワード領域の表示態様を決定する。よって、表示態様によって、画像の内容を分かりやすく示すことができる。また、表示態様によって、キーワードと、画像におけるキーワードの重要度を分かりやすく示すことができる。
【００４１】
（６）キーワードの出現頻度に応じてスコアを算出するので、出現頻度の高いキーワードは、画像の内容を表す重要なものとして、表示態様を決定できる。
（７）キーワード領域の画像の面積に対する占有率に応じてスコアを算出するので、面積比の高いキーワード領域を、画像の内容を表す重要なものとして、表示態様を決定できる。
（８）画像を分析して説明文を生成する際に用いた、画像内のオブジェクトの認識度合いを示す認識確信度に応じてスコアを算出する。よって、認識確信度の高いオブジェクトを含むキーワード領域を、画像の内容を表す重要なものとして、表示態様を決定できる。
【００４２】
（第２実施形態）
第２実施形態では、キーワード領域の表示態様を決定するためのデータを、プログラムの外に保持し、キーワード領域の表示態様を決定するためのデータを用いて、キーワードの優先順位にしたがって表示態様を決定するものを説明する。なお、以降の説明において、上述した第１実施形態と同様の機能を果たす部分には、同一の符号又は末尾に同一の符号を付して、重複する説明を適宜省略する。
【００４３】
図９は、第２実施形態に係る画像処理システム２００の全体概要図及び画像処理装置２０１の機能ブロック図である。
図１０は、第２実施形態に係る画像処理装置２０１の領域表示設定記憶部２３３の例を示す図である。
図９に示す画像処理システム２００は、画像処理装置２０１と、端末４とを備える。画像処理装置２０１と、端末４とは、通信ネットワークＮを介して通信可能に接続されている。
【００４４】
＜画像処理装置２０１＞
画像処理装置２０１は、画像データが示す画像を分析して、画像内のオブジェクトを表す複数の語を抽出し、キーワードを選定する。そして画像処理装置２０１は、キーワードに関する情報と、画像データを含む画像情報とを関連付けて、画像記憶部３２に記憶させる。また、画像処理装置２０１は、選定したキーワードに対するスコアを付与し、付与されたスコアによってキーワードの優先順位を決定する。そして、画像処理装置２０１は、領域表示設定記憶部２３３を参照し、優先順位を用いて、画像内のキーワード領域の表示色や濃淡度を決定し、画像に重ね合わせて表示する。
図９に示すように、画像処理装置２０１は、制御部２１０と、記憶部２３０と、通信インタフェース部３９とを備える。
【００４５】
制御部２１０は、画像受信部１１と、説明文生成部１２と、語抽出部１３と、キーワード選定部１４と、領域抽出部１５と、関連付け部１６と、スコア付与部１７と、態様決定部２１８と、画像編集部２１９と、画像出力部２２０と、切替部２１とを備える。
態様決定部２１８は、スコア付与部１７が付与したスコアに基づいて、キーワードの優先順位を決定する。そして、態様決定部２１８は、領域表示設定記憶部２３３を参照して、優先順に、キーワード領域の表示態様を決定する。
画像編集部２１９は、表示態様が決定されたキーワード領域を強調した強調画像を生成する。
画像出力部２２０は、画像編集部２１９が生成した強調画像を、元の画像に重畳して端末４に出力する。
【００４６】
記憶部２３０は、プログラム記憶部２３１と、画像記憶部３２と、領域表示設定記憶部２３３とを備える。
プログラム記憶部２３１は、画像処理装置２０１の制御部２１０が実行する各種機能を行うためのプログラムである画像処理プログラム２３１ａを記憶している。
領域表示設定記憶部２３３は、キーワード領域の表示態様を決定するためのデータを記憶した記憶領域である。
【００４７】
例えば、図１０に示す領域表示設定記憶部２３３は、対象語と、表示色と、領域の濃淡度と、文字サイズとを対応付けて記憶している。
ここで、対象語は、領域表示を強調する対象の語であり、予め決められたものである。
表示色は、領域の色データであり、対象語に対応付けて予め決められている。
領域の濃淡度は、優先順位に対する基準値の割合で算出されるデータである。ここで、基準値は、例えば、１００であり、優先順位が高いと濃淡度が高く、濃い。
文字サイズは、優先順位に対する基準値の割合で算出されるデータである。ここで、基準値は、例えば、２０ｐｔであり、優先順位が高い方が、文字サイズが大きい。
【００４８】
＜画像処理システム２００の処理＞
次に、画像に強調画像を重畳して表示させる処理について説明する。
画像データ処理については、第１実施形態（図３）と同様であり、画像データ処理の中で行われる画像分析処理については、第１実施形態（図５）と同様である。
ここでは、第１実施形態と異なる処理である画像編集処理について説明する。
図１１は、第２実施形態に係る画像処理装置２０１の画像編集処理を示すフローチャートである。
【００４９】
図１１のＳ２３０及びＳ２３１の処理は、第１実施形態（図７）のＳ３０及びＳ３１の処理と同様である。
Ｓ２３２において、制御部２１０（態様決定部２１８）は、付与されたスコアから優先順位を決定する。制御部２１０は、例えば、優先順位を、１位から順番にｍ位（ｍは、２以上の整数）まで決定する。
Ｓ２３３において、制御部２１０は、変数ｎに１をセットする。
Ｓ２３４において、制御部２１０は、優先順位がｎ位のキーワードを取得する。この画像編集処理が最初に行われる場合には、変数ｎには１がセットされているので、優先順位が１位のキーワードが取得される。
【００５０】
Ｓ２３５において、制御部２１０（態様決定部２１８）は、領域表示設定記憶部２３３に基づいて、取得したキーワードの表示態様を決定する。
例えば、優先順位が１位のキーワードが「女性」である場合、図１０に示す領域表示設定記憶部２３３を参照すると、対象語であるキーワード「女性」の表示色は「赤」である。また、領域の濃淡度データは、１００／１＝１００であり、文字サイズデータは、２０／１＝２０（ｐｔ）である。よって、制御部２１０は、キーワード「女性」に対応する領域の表示色を「赤」とし、濃淡度データを「１００」とし、文字サイズデータを「２０ｐｔ」に決定する。
【００５１】
Ｓ２３６において、制御部２１０（画像編集部２１９）は、決定した表示態様に基づいてキーワード領域を強調した強調画像を生成する。
Ｓ２３７において、制御部２１０（画像編集部２１９）は、生成した強調画像を、元の画像に重畳させる。
Ｓ２３８において、制御部２１０は、変数ｎに１を加算する。
Ｓ２３９において、制御部２１０は、変数ｎが整数ｍより大きくなったか否かを判断する。変数ｎが整数ｍより大きくなった場合（Ｓ２３９：ＹＥＳ）には、制御部２１０は、本処理を終了し、処理を図３のＳ１４に移す。他方、変数ｎが整数ｍより大きくなっていない場合（Ｓ２３９：ＮＯ）には、制御部２１０は、処理をＳ２３４に移し、次の優先順位のキーワードに対する処理を行う。
【００５２】
例えば、優先順位が２位のキーワードが「空」である場合、図１０に示す領域表示設定記憶部２３３を参照すると、対象語であるキーワード「空」の表示色は「青」である。また、領域の濃淡度データは、１００／２＝５０であり、文字サイズデータは、２０／２＝１０（ｐｔ）である。よって、制御部２１０は、キーワード「空」に対応する領域の表示色を「青」とし、濃淡度データを「５０」とし、文字サイズデータを「１０ｐｔ」に決定する。
【００５３】
このような画像処理装置２０１の処理によって、端末４には、編集後画像が表示される。なお、ここでは、キーワードの優先順に強調画像を生成して重畳する処理を繰り返すものとして説明したが、端末４に送信までを繰り返して行うものであってもよい。そうすることによって、端末４では、優先順に次々にキーワード領域が強調された編集後画像が表示されるようにできる。
【００５４】
このように、第２実施形態の画像処理装置２０１によれば、以下のような効果がある。
画像内のオブジェクトを含むキーワード領域と、オブジェクトを表すキーワードとを含む強調画像を、領域表示設定記憶部２３３に記憶された領域表示設定データに基づいて生成する。設定データが、画像処理プログラム２３１ａ自体に有するわけではないため、プログラムを改変する必要がない。そして、領域表示設定記憶部２３３に記憶された領域表示設定データを変更すれば、強調画像の表示態様を変えられるため、使い勝手のよいシステムにできる。
例えば、絵画等の美術品を撮影した画像の場合と、監視カメラから得た画像の場合では、同じキーワードであっても、色等の表示態様を変えたい場合がある。そのような場合であっても、領域表示設定記憶部２３３の領域表示設定データを変えればよく、簡単である。
【００５５】
（第２実施形態の他の実施例）
第２実施形態にした領域表示設定記憶部２３３を用いた場合であって、例えば、１位からｍ位までの間に同色や類似色があると、異なるキーワードであるのにもかかわらず、似たような近い色で示されるため判別しにくい場合がある。
そこで、画像処理装置は、上述した領域表示設定記憶部２３３に代えて、例えば、図１２に示す領域表示設定記憶部３３３を用いてもよい。
図１２に示す領域表示設定記憶部３３３は、対象語と、表示色と、領域の濃淡度と、文字サイズとを対応付けて記憶している。
【００５６】
領域の濃淡度は、既に選定された表示色に類似色があるか否かを判定し、類似色がない場合には、優先順位に対する基準値の割合で算出され、類似色がある場合には、優先順位に対する基準値の割合に、選定された類似色に対する重みｇを乗じて算出されるデータである。
ここで、基準値は、例えば、１００である。また、類似色の判定は、例えば、表色系を使用して色を数値化することで判定できる。表色系は、例えば、ＲＧＢ表色系やＸＹＺ表色系等の様々な表現方法があるが、いずれのものを用いてもよい。さらに、重みｇは、０から１までの数値であり、類似度が高いほど、重みを低くする等、類似度に対応付けたものであってもよい。
【００５７】
例えば、優先順位が１位のキーワードが「女性」である場合、図１２に示す領域表示設定記憶部３３３を参照すると、対象語であるキーワード「女性」の表示色は「赤」である。また、既に選定された表示色がないため、領域の濃淡度データは、１００／１＝１００であり、文字サイズデータは、２０／１＝２０（ｐｔ）である。よって、画像処理装置の制御部は、キーワード「女性」に対応する領域の表示色を「赤」とし、濃淡度データを「１００」とし、文字サイズデータを「２０ｐｔ」に決定する。
【００５８】
そして、優先順位がｎ位（ｎ＜ｍ）のキーワードが「植物」である場合、図１２に示す領域表示設定記憶部３３３を参照すると、対象語であるキーワード「植物」の表示色は「赤紫」である。また、既に選定された表示色である「赤」が類似色であるため、領域の濃淡度データは、１００／ｎ×ｇ（ｇは０〜１の数値）である。また、文字サイズデータは、２０／ｎ（ｐｔ）である。よって、画像処理装置の制御部は、キーワード「植物」に対応する領域の表示色を「赤紫」とし、濃淡度データを「１００／ｎ×ｇ」とし、文字サイズデータを「２０／ｎｐｔ」に決定する。
【００５９】
以上、本発明の実施形態について説明したが、本発明は上述した実施形態に限定されるものではない。また、実施形態に記載した効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、実施形態に記載したものに限定されない。なお、上述した実施形態及び後述する変形形態は、適宜組み合わせて用いることもできるが、詳細な説明は省略する。
【００６０】
（変形形態）
（１）各実施形態では、端末から受け付けた画像データに対して画像分析及び編集を行って、画像の内容を表すものを分かりやすく示すものを説明したが、これに限定されない。例えば、画像検索時に、抽出された各画像に対して、各実施形態で用いた処理を適用し、強調画像を画像に重畳表示をさせるものであってもよい。その場合には、各画像の内容を示すキーワードとその位置とを一見して把握できるため、ユーザは、探している画像をより早くかつ正確に見つけることができる。
【００６１】
（２）各実施形態では、キーワード領域に対するスコアの算出に際して、いくつかの方法について説明したが、これに限定されない。例えば、対象の画像内のキーワードの出現頻度ではなく、画像処理装置に対して通信可能に接続され、様々な画像データを蓄積した画像ＤＢ（データベース）の画像データを用い、画像ＤＢ内の画像データとのキーワードの相対出現頻度（ＩＤＦ）を用いてスコアを算出してもよい。そのようにすれば、処理対象の画像データには多く含まれるキーワードであって、他の画像データにはあまり含まれないキーワードに対応するキーワード領域を、処理対象の画像データの特徴部分として強調表示されるため、対象の画像データの特徴をより表すものにできる。
また、自然言語処理による意味解析の結果を用いてスコアを算出してもよい。例えば、「○○な女性」という説明文の場合に、途中の名詞ではなく、係り受けの受け元に修飾されている名詞を重要なものとしてスコアを高く付与したり、外部辞書を用いて固有名詞等のスコアを高く付与したりする。そのようにすることで、画像の内容をより表したキーワードを、高いスコアで算出でき、対応するキーワード領域を強調表示できる。
【００６２】
（３）各実施形態では、強調表示として、キーワード領域の色の濃淡、キーワードのフォントの大きさを例に説明したが、これに限定されない。例えば、キーワード領域の枠の線の太さによる表示や、異なる色によるキーワード領域の表示であってもよい。第２実施形態の場合には、このような、異なる強調表示のデータを、領域表示設定記憶部に追加して保有すればよい。また、キーワードをスコア順に一列に並べて別画面等に表示し、キーワードとキーワード領域との結び付きを含めて表すようにしてもよい。
（４）各実施形態では、キーワード領域を矩形領域として説明したが、これに限定されない。キーワードに対応するオブジェクトを含む領域であれば、円形、楕円形、オブジェクトの形状等であってもよい。
（５）各実施形態では、キーワード領域が重なっている場合であっても、透過性を有するもののために同一平面上に表現するようなものを例に説明したが、これに限定されない。例えば、透過性を有するか否かにかかわらず、スコアによって階層状に形成してもよい。
【００６３】
（６）各実施形態では、強調画像を透過性の有する画像であるとして元の画像に重ねるものを説明したが、これに限定されない。元の画像に強調した領域を表示するものであればよく、例えば、強調画像と元の画像とを合成した合成画像を生成してもよい。
（７）第１実施形態では、強調表示の対象にしたものを全て含んだ強調画像を生成して出力するものとして説明したが、これに限定されない。例えば、画像が表示されている状態で、例えば、ユーザによりオブジェクトに対するタッチ入力がされた等によりオブジェクトの選択を受け付けた場合に、選択されたオブジェクトに対応するキーワード領域のみを強調して出力してもよい。また、選択されたオブジェクトに対応するキーワードが複数のキーワード領域に対応付けられている場合には、複数のキーワード領域を強調して出力してもよい。
【００６４】
（８）第２実施形態では、画像処理装置の記憶部に領域表示設定記憶部を備えるものを例に説明したが、これに限定されない。例えば、画像処理装置に対して通信可能に接続された別サーバに、領域表示設定記憶部を備えてもよい。また、複数の領域表示設定記憶部を備え、画像の種類（用途）に応じて使い分けてもよい。
また、第２実施形態の他の実施例として、領域表示設定記憶部に含む領域の濃淡度を、既に選定された表示色に類似色があるか否かを判定し、類似色がない場合には、優先順位に対する基準値の割合で算出され、類似色がある場合には、優先順位に対する基準値の割合に、選定された類似色に対する重みｇを乗じて算出されるデータとした。しかし、類似色であるか否かの判定を、類似色判定手段として画像処理プログラムに有し、類似色であると判定された場合に重みｇを乗じるように、領域表示設定記憶部を構成してもよい。
さらに、第２実施形態の他の実施例では、領域の濃淡度について類似色に対する重みを乗じるものを説明したが、さらに、文字サイズにも重みを適用してもよい。
【００６５】
（９）各実施形態では、美術館や博物館で保有する絵画の画像データを対象とした例を説明したが、これに限定されない。画像化されているデータであればよく、例えば、特許図面の画像データであってもよいし、写真等の画像データであってもよい。
（１０）各実施形態では、“ＤｅｎｃｅＣａｐ”を用いて処理を行うものを例に説明したが、これに限定されない。画像を分析可能な他の分類器を用いてもよい。
【符号の説明】
【００６６】
１，２０１  画像処理装置
４    端末
１０，２１０  制御部
１２  説明文生成部
１３  語抽出部
１４  キーワード選定部
１５  領域抽出部
１６  関連付け部
１７  スコア付与部
１８，２１８  態様決定部
１９，２１９  画像編集部
２０，２２０  画像出力部
２１  切替部
３０，２３０  記憶部
３１ａ，２３１ａ  画像処理プログラム
３２  画像記憶部
６０  画像
７０  強調画像
８０  編集後画像
１００，２００  画像処理システム
２３３，３３３  領域表示設定記憶部
【図１】
2020119168.tif 000003
【図２】
2020119168.tif 000004
【図３】
2020119168.tif 000005
【図４】
2020119168.tif 000006
【図５】
2020119168.tif 000007
【図６】
2020119168.tif 000008
【図７】
2020119168.tif 000009
【図８】
2020119168.tif 000010
【図９】
2020119168.tif 000011
【図１０】
2020119168.tif 000012
【図１１】
2020119168.tif 000013
【図１２】
2020119168.tif 000014
【手続補正書】
【提出日】平成31年4月18日(2019.4.18)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
処理対象の画像を分析して要素画像を含む矩形領域を抽出し、抽出した前記矩形領域に含まれる前記要素画像の特徴ごとに関連付いた単語を参照して説明文を生成する説明文生成手段と、
前記説明文生成手段により生成した説明文から複数の語を抽出する語抽出手段と、
前記語抽出手段により抽出した語の少なくとも一部をキーワードとして選定するキーワード選定手段と、
前記キーワード選定手段によって選定した前記キーワードに対応した前記矩形領域を、キーワード領域として抽出する領域抽出手段と、
前記キーワード選定手段によって選定した前記キーワードに対してスコアを付与するスコア付与手段と、
前記スコア付与手段により付与された前記スコアに応じて、対応する前記キーワード領域の表示態様を決定する表示態様決定手段と、
前記画像に、前記表示態様決定手段により決定された表示態様の前記キーワード領域を強調して表示する画像出力手段と、
を備える画像処理装置。
【請求項２】
処理対象の画像を分析して要素画像を含む矩形領域を抽出し、抽出した前記矩形領域に含まれる前記要素画像の特徴ごとに関連付いた単語を参照して説明文を生成する説明文生成手段と、
前記説明文生成手段により生成した説明文から複数の語を抽出する語抽出手段と、
前記語抽出手段により抽出した語の少なくとも一部をキーワードとして選定するキーワード選定手段と、
前記キーワード選定手段によって選定した前記キーワードに対応した前記矩形領域を、キーワード領域として抽出する領域抽出手段と、
前記キーワード選定手段によって選定した前記キーワードに対してスコアを付与するスコア付与手段と、
対象語を含む領域表示設定データを記憶する領域表示設定記憶部と、
前記キーワード選定手段によって選定したキーワードと、前記スコア付与手段により付与された前記キーワードの前記スコアから決定される前記キーワードの優先順位とに基づいて、前記領域表示設定記憶部を参照して、前記キーワードに対応する前記対象語を含む前記領域表示設定データに前記優先順位を適用して前記キーワード領域の表示態様を決定する表示態様決定手段と、
前記画像に、前記表示態様決定手段により決定された表示態様の前記キーワード領域を強調して表示する画像出力手段と、
を備える画像処理装置。
【請求項３】
請求項２に記載の画像処理装置において、
前記領域表示設定データは、領域の色データを含み、
前記キーワード選定手段によって選定したキーワードと、前記スコア付与手段により付与された前記キーワードの前記スコアから決定される前記キーワードの優先順位とに基づいて、前記領域表示設定記憶部を参照して、前記キーワードに対応する前記対象語を含む前記領域表示設定データに前記優先順位を適用して得られた、複数の前記キーワードに係る前記領域の色データが類似であるか否かを判定する類似色判定手段を備え、
前記表示態様決定手段は、前記類似色判定手段により類似であると判定された前記領域の色データに対して異なる濃淡度の重み付けを付与して、前記キーワード領域の表示態様を決定する、
画像処理装置。
【請求項４】
請求項１から請求項３までのいずれかに記載の画像処理装置において、
前記キーワード選定手段によって選定した前記キーワードと、前記キーワードに対応し抽出した前記矩形領域である前記キーワード領域と、前記画像を含む画像情報とを対応付けて画像記憶部に記憶する関連付け手段を備える、
画像処理装置。
【請求項５】
請求項１から請求項４までのいずれかに記載の画像処理装置において、
前記領域抽出手段により抽出した前記キーワード領域を強調した強調画像を生成する強調画像生成手段を備え、
前記強調画像は、透過性を有する画像であり、
前記画像出力手段は、前記強調画像を、前記画像に重畳して表示させる、
画像処理装置。
【請求項６】
請求項１から請求項５までのいずれかに記載の画像処理装置において、
強調した前記キーワード領域を表示するか否かを切り替える切替手段を備える、
画像処理装置。
【請求項７】
請求項１から請求項６までのいずれかに記載の画像処理装置において、
前記スコア付与手段は、前記キーワードの出現頻度に基づいて前記スコアを付与する、
画像処理装置。
【請求項８】
請求項１から請求項６までのいずれかに記載の画像処理装置において、
前記スコア付与手段は、前記キーワード領域の前記画像に占める割合に応じて前記スコアを付与する、
画像処理装置。
【請求項９】
請求項１から請求項６までのいずれかに記載の画像処理装置において、
前記スコア付与手段は、前記説明文生成手段において画像を分析する際に用いた、前記要素画像の認識結果である確信度に応じて前記スコアを付与する、
画像処理装置。
【請求項１０】
請求項１から請求項６までのいずれかに記載の画像処理装置において、
前記スコア付与手段は、自然言語処理による意味解析結果に基づいて前記スコアを付与する、
画像処理装置。
【請求項１１】
請求項１から請求項６までのいずれかに記載の画像処理装置において、
複数の画像を記憶した画像データベースに対して通信可能に接続されており、
前記スコア付与手段は、前記画像データベースに記憶された前記複数の画像との前記キーワードの相対出現頻度に基づいて、前記スコアを付与する、
画像処理装置。
【請求項１２】
請求項１から請求項１１までのいずれかに記載の画像処理装置において、
前記画像出力手段は、前記キーワード領域に、前記キーワードを表示する、
画像処理装置。
【請求項１３】
請求項１から請求項１２までのいずれかに記載の画像処理装置としてコンピュータを機能させるためのプログラム。
【請求項１４】
対象語と、
領域の色データと、
前記領域の色に係る濃淡度データと、
を含み、
前記対象語と、前記領域の色データと、前記領域の色に係る濃淡度データとが対応づけられている領域表示設定データのデータ構造であって、
コンピュータが、処理対象の画像を分析して要素画像を含む矩形領域を抽出し、抽出した前記矩形領域に含まれる前記要素画像の特徴ごとに関連付いた単語を参照して説明文を生成し、生成した説明文から複数の語を抽出し、抽出した語の少なくとも一部をキーワードとして選定し、選定した前記キーワードに対応した前記矩形領域をキーワード領域として抽出し、選定した前記キーワードに対してスコアを付与し、付与した前記キーワードの前記スコアから前記キーワードの優先順位を決定した後に、
前記領域表示設定データを参照することで、選定した前記キーワードに対応する前記対象語に対応付けられた前記領域の色データと、選定した前記キーワードに対応する前記対象語に対応付けられた前記領域の色に係る濃淡度データであって、前記キーワードの優先順位に基づいて決定される前記領域の色に係る濃淡度データとに基づいて、前記キーワードの表示態様を決定し、前記キーワードの表示態様に基づいて前記キーワード領域の強調画像を生成し、生成した前記強調画像を、前記処理対象の画像に含まれる前記キーワード領域に重畳させて表示する処理に用いられる、
領域表示設定データのデータ構造。
【請求項１５】
請求項１４に記載の領域表示設定データのデータ構造において、
前記領域の色に係る濃淡度データは、処理対象の画像から選定されたキーワードの優先順位によって決定された他の領域の色データに基づき類似色か否かが判定された際に、類似色である場合に乗じる濃淡度の重みデータをさらに含む、
領域表示設定データのデータ構造。
【請求項１６】
請求項１４又は請求項１５に記載の領域表示設定データのデータ構造において、
文字サイズデータであって、処理対象の画像から選定された前記キーワードの優先順位によって決定され、前記キーワードを前記対象語として前記キーワードに対応した前記キーワード領域に表示する前記キーワードに用いられる、前記文字サイズデータをさらに含む、
領域表示設定データのデータ構造。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００１
【補正方法】変更
【補正の内容】
【０００１】
本発明は、画像処理装置、プログラム及びデータ構造に関する。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】０００５
【補正方法】変更
【補正の内容】
【０００５】
そこで、本発明は、画像の内容を分かりやすく表すことができる画像処理装置、プログラム及びデータ構造を提供することを目的とする。
【手続補正書】
【提出日】令和1年8月13日(2019.8.13)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
処理対象の画像を分析して要素画像を含む矩形領域を抽出し、抽出した前記矩形領域に含まれる前記要素画像の特徴ごとに関連付いた単語を参照して説明文を生成する説明文生成手段と、
前記説明文生成手段により生成した説明文から複数の語を抽出する語抽出手段と、
前記語抽出手段により抽出した語の少なくとも一部をキーワードとして選定するキーワード選定手段と、
前記キーワード選定手段によって選定した前記キーワードに対応した前記矩形領域を、キーワード領域として抽出する領域抽出手段と、
前記キーワード選定手段によって選定した前記キーワードに対してスコアを付与するスコア付与手段と、
前記スコア付与手段により付与された前記スコアに応じて、対応する前記キーワード領域の表示態様を決定する表示態様決定手段と、
前記画像に、前記表示態様決定手段により決定された表示態様の前記キーワード領域を強調して表示する画像出力手段と、
を備える画像処理装置。
【請求項２】
処理対象の画像を分析して要素画像を含む矩形領域を抽出し、抽出した前記矩形領域に含まれる前記要素画像の特徴ごとに関連付いた単語を参照して説明文を生成する説明文生成手段と、
前記説明文生成手段により生成した説明文から複数の語を抽出する語抽出手段と、
前記語抽出手段により抽出した語の少なくとも一部をキーワードとして選定するキーワード選定手段と、
前記キーワード選定手段によって選定した前記キーワードに対応した前記矩形領域を、キーワード領域として抽出する領域抽出手段と、
前記キーワード選定手段によって選定した前記キーワードに対してスコアを付与するスコア付与手段と、
対象語と、優先順位に基づく表示態様に係る情報とを含む領域表示設定データを記憶する領域表示設定記憶部と、
前記キーワード選定手段によって選定したキーワードと、前記スコア付与手段により付与された前記キーワードの前記スコアから決定される前記キーワードの優先順位とに基づいて、前記領域表示設定記憶部を参照して前記キーワード領域の表示態様を決定する表示態様決定手段と、
前記画像に、前記表示態様決定手段により決定された表示態様の前記キーワード領域を強調して表示する画像出力手段と、
を備える画像処理装置。
【請求項３】
請求項２に記載の画像処理装置において、
前記領域表示設定データは、領域の色データを含み、
前記キーワード選定手段によって選定したキーワードと、前記スコア付与手段により付与された前記キーワードの前記スコアから決定される前記キーワードの優先順位とに基づいて、前記領域表示設定記憶部を参照して得られた、複数の前記キーワードに係る前記領域の色データが類似であるか否かを判定する類似色判定手段を備え、
前記表示態様決定手段は、前記類似色判定手段により類似であると判定された前記領域の色データに対して異なる濃淡度の重み付けを付与して、前記キーワード領域の表示態様を決定する、
画像処理装置。
【請求項４】
請求項１から請求項３までのいずれかに記載の画像処理装置において、
前記キーワード選定手段によって選定した前記キーワードと、前記キーワードに対応し抽出した前記矩形領域である前記キーワード領域と、前記画像を含む画像情報とを対応付けて画像記憶部に記憶する関連付け手段を備える、
画像処理装置。
【請求項５】
請求項１から請求項４までのいずれかに記載の画像処理装置において、
前記領域抽出手段により抽出した前記キーワード領域を強調した強調画像を生成する強調画像生成手段を備え、
前記強調画像は、透過性を有する画像であり、
前記画像出力手段は、前記強調画像を、前記画像に重畳して表示させる、
画像処理装置。
【請求項６】
請求項１から請求項５までのいずれかに記載の画像処理装置において、
強調した前記キーワード領域を表示するか否かを切り替える切替手段を備える、
画像処理装置。
【請求項７】
請求項１から請求項６までのいずれかに記載の画像処理装置において、
前記スコア付与手段は、前記キーワードの出現頻度に基づいて前記スコアを付与する、
画像処理装置。
【請求項８】
請求項１から請求項６までのいずれかに記載の画像処理装置において、
前記スコア付与手段は、前記キーワード領域の前記画像に占める割合に応じて前記スコアを付与する、
画像処理装置。
【請求項９】
請求項１から請求項６までのいずれかに記載の画像処理装置において、
前記スコア付与手段は、前記説明文生成手段において画像を分析する際に用いた、前記要素画像の認識結果である確信度に応じて前記スコアを付与する、
画像処理装置。
【請求項１０】
請求項１から請求項６までのいずれかに記載の画像処理装置において、
前記スコア付与手段は、自然言語処理による意味解析結果に基づいて前記スコアを付与する、
画像処理装置。
【請求項１１】
請求項１から請求項６までのいずれかに記載の画像処理装置において、
複数の画像を記憶した画像データベースに対して通信可能に接続されており、
前記スコア付与手段は、前記画像データベースに記憶された前記複数の画像との前記キーワードの相対出現頻度に基づいて、前記スコアを付与する、
画像処理装置。
【請求項１２】
請求項１から請求項１１までのいずれかに記載の画像処理装置において、
前記画像出力手段は、前記キーワード領域に、前記キーワードを表示する、
画像処理装置。
【請求項１３】
請求項１から請求項１２までのいずれかに記載の画像処理装置としてコンピュータを機能させるためのプログラム。
【請求項１４】
コンピュータに、それぞれが対応付けられた対象語と、領域の色データと、前記領域の色に係る濃淡度データと、類似色である場合に乗じる前記濃淡度データに対する重みデータとを記憶させ、
処理対象の画像を分析して要素画像を含む矩形領域を抽出し、抽出した前記矩形領域に含まれる前記要素画像の特徴ごとに関連付いた単語を参照して説明文を生成し、生成した説明文から複数の語を抽出し、抽出した語の少なくとも一部をキーワードとして選定し、選定した前記キーワードに対応した前記矩形領域をキーワード領域として抽出し、選定した前記キーワードに対してスコアを付与し、付与した前記キーワードの前記スコアから前記キーワードの優先順位を決定する処理を実行させた後に、
前記対応づけられたデータを参照することで、選定した前記キーワードと同一の対象語に対応付けられた前記領域の色データと、選定した前記キーワードと同一の前記対象語に対応付けられた前記領域の色に係る濃淡度データであって、前記キーワードの優先順位に基づいて決定される前記領域の色に係る濃淡度データと、前記キーワードの優先順位と類似色である場合に乗じる濃淡度の重みデータと、を抽出して、前記キーワードの表示態様を決定し、前記キーワードの表示態様に基づいて前記キーワード領域の強調画像を生成し、生成した前記強調画像を、前記処理対象の画像に含まれる前記キーワード領域に重畳させて表示する処理を実行させる際に、
処理対象の画像から選定されたキーワードの優先順位によって決定された他の領域の色データに基づき類似色か否かを判定する処理を、コンピュータに実行させるプログラム。