(57)【特許請求の範囲】
【請求項１】
入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、
前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出する静止エッジ検出手段と、
前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、
前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジを含む囲み領域を設定し、前記囲み領域に対する前記エッジの密集度に応じて前記囲み領域がテロップ領域である否かを判定するテロップ判定手段と、を備え、
前記エッジ画像抽出手段は、前記入力映像信号の１フレーム分の映像信号を抽出するフレーム抽出手段と、
１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段と、
前記フレーム抽出手段によって抽出された１フレーム分の前記有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データを前記エッジ画像データとして抽出する手段と、を有することを特徴とするテロップ検出装置。
【請求項２】
前記静止エッジ検出手段は、前記静止エッジ画像データを保存する静止エッジバッファと、前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと前記静止エッジバッファに保存された前記静止エッジ画像データとの重複部分を新たな前記静止エッジ画像データとし、その新たな静止エッジ画像データを前記静止エッジバッファに格納する静止エッジ検出部と、を備えたことを特徴とする請求項１記載のテロップ検出装置。
【請求項３】
前記静止エッジ検出手段は、前記エッジ画像抽出手段によって先頭フレームの映像信号から抽出されたエッジ画像データ、又は前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定された直後のフレームの映像信号から前記エッジ画像抽出手段によって抽出されたエッジ画像データを、そのまま前記静止エッジ画像データとすることを特徴とする請求項１記載のテロップ検出装置。
【請求項４】
前記継続状態判定手段は、前記静止エッジ画像データが示すエッジ数が第１閾値より大であるか否かを判別するエッジ数測定部と、前記エッジ数測定部によって前記エッジ数が前記第１閾値より大であることが判別されたときフレーム計数値を１だけ増加させ、前記エッジ数測定部によって前記エッジ数が前記第１閾値以下であることが判別されたとき前記フレーム計数値が第２閾値より大であるか否かを判別する継続時間測定部と、前記エッジ数測定部によって前記エッジ数が前記第１閾値以下であることが判別されたとき前記フレーム計数値を０に初期化するリセット手段と、を備え、前記フレーム計数値が前記第２閾値より大であるときに前記テロップ判定手段によるテロップ領域の判定が行われることを特徴とする請求項１記載のテロップ検出装置。
【請求項５】
前記テロップ判定手段は、前記判定された静止エッジ画像データを所定の複数画素からなるブロック単位に分割し、前記判定された静止エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成部と、前記エッジブロック画像データが示すブロックのうちの孤立したブロックを除去するブロック除去手段と、前記ブロック除去手段による孤立ブロック除去後のエッジブロック画像データが示すブロック数が第３閾値より大であるか否かを判別するブロック数判別手段と、前記ブロック数判別手段によって前記ブロック数が前記第３閾値より大であると判別されたとき前記孤立ブロック除去後のエッジブロック画像データが示すブロックを全て含む領域を囲む最小の矩形ブロック領域をブロック囲み領域として設定するブロック囲み領域設定手段と、前記ブロック囲み領域におけるブロック部分との面積比を算出し、その面積比が第４閾値以上であるか否かを判別するブロック密集度算出部と、を備え、前記面積比が前記第４閾値以上であるとき前記ブロック囲み領域を前記テロップ領域と判定することを特徴とする請求項１記載のテロップ検出装置。
【請求項６】
前記テロップ判定手段は、前記判定された静止エッジ画像データが示すエッジのうちの孤立したエッジを除去するエッジ除去手段と、前記エッジ除去手段による孤立エッジ除去後の静止エッジ画像データが示すエッジ数が第５閾値より大であるか否かを判別するエッジ数判別手段と、前記エッジ数判別手段によって前記エッジ数が前記第５閾値より大であると判別されたとき前記孤立エッジ除去後の静止エッジ画像データが示すエッジを全て含む領域を囲む最小の矩形領域をエッジ囲み領域として設定するエッジ囲み領域設定手段と、前記エッジ囲み領域におけるエッジ部分との面積比を算出し、その面積比が第６閾値以上であるか否かを判別するエッジ密集度算出部と、を備え、前記面積比が前記第６閾値以上であるとき前記エッジ囲み領域を前記テロップ領域と判定することを特徴とする請求項１記載のテロップ検出装置。
【請求項７】
入力映像信号を記録媒体に記録するレコーダであって、
前記入力映像信号又は前記記録媒体に記録された映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、
前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出する静止エッジ検出手段と、
前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、
前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジを含む囲み領域を設定し、前記囲み領域に対する前記エッジの密集度に応じて前記囲み領域がテロップ領域であるか否かを判定するテロップ判定手段と、を備え、
前記エッジ画像抽出手段は、前記入力映像信号の１フレーム分の映像信号を抽出するフレーム抽出手段と、
１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段と、
前記フレーム抽出手段によって抽出された１フレーム分の前記有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データを前記エッジ画像データとして抽出する手段と、を有することを特徴とするレコーダ。
【請求項８】
前記テロップ判定手段によって判定されたテロップ領域を用いてチャプタメニューを作成するチャプタメニュー作成手段を更に備えたことを特徴とする請求項７記載のレコーダ。
【請求項９】
入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、
１フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成手段と、
前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出する静止ブロック検出手段と、
前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、
前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックを含む囲み領域を設定し、前記囲み領域に対する前記ブロックの密集度に応じて前記囲み領域がテロップ領域であるか否かを判定するテロップ判定手段と、を備え、
前記エッジ画像抽出手段は、前記入力映像信号の１フレーム分の映像信号を抽出するフレーム抽出手段と、
１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段と、
前記フレーム抽出手段によって抽出された１フレーム分の前記有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データを前記エッジ画像データとして抽出する手段と、を有することを特徴とするテロップ検出装置。
【請求項１０】
前記エッジ画像抽出手段は、入力映像信号の１フレーム分の映像信号を抽出するフレーム抽出部と、前記フレーム抽出部によって抽出された１フレーム分の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示すエッジ画像データを抽出するフレーム内エッジ抽出部と、を備えたことを特徴とする請求項９記載のテロップ検出装置。
【請求項１１】
前記静止ブロック検出手段は、前記静止ブロック画像データを保存する静止ブロックバッファと、前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと前記静止ブロックバッファに保存された前記静止ブロック画像データとの重複部分を新たな前記静止ブロック画像データとし、その新たな静止ブロック画像データを前記静止ブロックバッファに格納する静止ブロック検出部と、を備えたことを特徴とする請求項９記載のテロップ検出装置。
【請求項１２】
前記静止ブロック検出手段は、前記エッジブロック作成手段によって作成された先頭フレームのエッジブロック画像データ、又は前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定された直後のフレームのエッジブロック画像データをそのまま前記静止ブロック画像データとすることを特徴とする請求項９記載のテロップ検出装置。
【請求項１３】
前記継続状態判定手段は、前記静止ブロック画像データが示すブロック数が第１閾値より大であるか否かを判別するブロック数測定部と、前記ブロック数測定部によって前記ブロック数が前記第１閾値より大であることが判別されたときフレーム計数値を１だけ増加させ、前記ブロック数測定部によって前記ブロック数が前記第１閾値以下であることが判別されたとき前記フレーム計数値が第２閾値より大であるか否かを判別する継続時間測定部と、前記ブロック数測定部によって前記ブロック数が前記第１閾値以下であることが判別されたとき前記フレーム計数値を０に初期化するリセット手段と、を備え、前記フレーム計数値が第２閾値より大であるときに前記テロップ判定手段によるテロップ領域の判定が行われることを特徴とする請求項９記載のテロップ検出装置。
【請求項１４】
前記テロップ判定手段は、前記エッジブロック画像データが示すブロックのうちの孤立したブロックを除去するブロック除去手段と、前記ブロック除去手段による孤立ブロック除去後のエッジブロック画像データが示すブロック数が第３閾値より大であるか否かを判別するブロック数判別手段と、前記ブロック数判別手段によって前記ブロック数が前記第３閾値より大であると判別されたとき前記孤立ブロック除去後のエッジブロック画像データが示すブロックを全て含む領域を囲む最小の矩形ブロック領域をブロック囲み領域として設定するブロック囲み領域設定手段と、前記ブロック囲み領域におけるブロック部分との面積比を算出し、その面積比が第４閾値以上であるか否かを判別するブロック密集度算出部と、を備え、前記面積比が前記第４閾値以上であるとき前記ブロック囲み領域を前記テロップ領域と判定することを特徴とする請求項９記載のテロップ検出装置。
【請求項１５】
入力映像信号を記録媒体に記録するレコーダであって、
前記入力映像信号又は前記記録媒体に記録された映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、
１フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成手段と、
前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出する静止ブロック検出手段と、
前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、
前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックを含む囲み領域を設定し、前記囲み領域に対する前記ブロックの密集度に応じて前記囲み領域がテロップ領域であるか否かを判定するテロップ判定手段と、を備え、
前記エッジ画像抽出手段は、前記入力映像信号の１フレーム分の映像信号を抽出するフレーム抽出手段と、
１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段と、
前記フレーム抽出手段によって抽出された１フレーム分の前記有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データを前記エッジ画像データとして抽出する手段と、を有することを特徴とするレコーダ。
【請求項１６】
前記テロップ判定手段によって判定されたテロップ領域を用いてチャプタメニューを作成するチャプタメニュー作成手段を更に備えたことを特徴とする請求項１５記載のレコーダ。
【請求項１７】
入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出ステップと、
今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を前記静止エッジ画像データとして検出する静止エッジ検出ステップと、
前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定ステップと、
前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジを含む囲み領域を設定し、前記囲み領域に対する前記エッジの密集度に応じて前記囲み領域がテロップ領域であるか否かを判定するテロップ判定ステップと、を備え、
前記エッジ画像抽出ステップは、前記入力映像信号の１フレーム分の映像信号を抽出するフレーム抽出ステップと、
１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割ステップと、
前記フレーム抽出ステップにおいて抽出された１フレーム分の前記有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データを前記エッジ画像データとして抽出するステップと、を有することを特徴とするテロップ検出方法。
【請求項１８】
入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出ステップと、
１フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成ステップと、
今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出する静止エッジ検出ステップと、
前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定ステップと、
前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックを含む囲み領域を設定し、前記囲み領域に対する前記ブロックの密集度に応じて前記囲み領域がテロップ領域であるか否かを判定するテロップ判定ステップと、を備え、
前記エッジ画像抽出ステップは、前記入力映像信号の１フレーム分の映像信号を抽出するフレーム抽出ステップと、
１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割ステップと、
前記フレーム抽出ステップにおいて抽出された１フレーム分の前記有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データを前記エッジ画像データとして抽出するステップと、を有することを特徴とするテロップ検出方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、映像信号からテロップ部分の情報を検出するテロップ検出装置及び方法並びにそのテロップ検出装置及び方法が適用されたディスクレコーダ等のレコーダに関する。
【背景技術】
【０００２】
テレビ放送番組には、情報番組やバラエティ番組のように、番組全体が幾つかの話題から構成される番組がある。このような番組においては、放送中の映像が何の話題についての映像であるのかを示すため、画面隅にテロップが表示されることが多い。例えば、図１に示すように画面Ａの右上隅にテロップＢが表示される。このようなテロップをコーナーテロップ（「コーナー」＝「画面隅」の意）と呼ぶ。コーナーテロップは番組の話題を示すためのものであり、番組の内容理解において重要なキー情報と言える。よってコーナーテロップが検出できれば、番組全体を話題毎に構造化したり、ユーザによるシーン検索の支援が出来たりといった応用が可能になる。
【０００３】
図２はかかるコーナーテロップと放送中の映像に付加される通常のテロップとの差異について示している。通常のテロップは一般に視聴者に注目させるために、テロップ自体を目立たせる必要があり、通常のテロップを構成する画素と背景との輝度差が大きく、エッジ（文字の縁）の輝度強度も強い。また、通常のテロップの表示時間は短く、概ね数秒程度である。
【０００４】
これに対し、コーナーテロップは、上記のように放送中の番組内の話題についての概要を示すテロップである。これにより、ユーザが番組を途中から視聴した場合でも、コーナーテロップを見ればどのような番組かを大まかに理解できる。その後は基本的に不要なテロップとなるので、できるだけ本編映像の妨げにならないような表示形態であることが望ましい。よって、コーナーテロップを構成する画素と背景との輝度差も比較的小さく、エッジ強度も弱い。ただし、コーナーテロップは同一の話題が続いている間に亘って表示されるので、コーナーテロップの表示時間は長く、少なくとも数十秒は表示される。
【０００５】
通常のテロップを検出する従来の方法としては、特許文献１には画面端に表示されるテロップとして、緊急ニュースなどの速報用テロップの検出方法が示されている。当該検出方法によれば、速報用テロップはテレビ画面の上部または下部の所定領域に表示されるので、これらの画面領域を対象に時間軸上の閾値以上の輝度変化を検出し、閾値以上の輝度変化の時点を速報用テロップの開始時点および終了時点として検出することが行われる。
【０００６】
また、特許文献２に示されたテロップの検出方法によれば、テロップには一般的に高輝度であり、背景との境目に強いエッジがあるという特徴があるため、高輝度画素のみを有効とした画像である輝度２値化画像と、エッジ検出した画像を数画素分膨張したエッジ膨張画像との重ね合わせ（ＡＮＤ処理）によりテロップ部分を検出することが行われる。
【０００７】
更に、特許文献３には、テレビジョン信号中の映像信号の任意の画素の輝度レベルと周辺画素の輝度レベルを比較して略均一な輝度レベルの領域を検出する均一記録領域検出回路と、映像信号の任意の映像平面における周波数成分の高域を検出する高周波領域検出回路と、その任意の画素の輝度レベルが所定時間以上無変化であるか否かを判定する一定時間無変化画素検出回路と、を備え、それら回路の各出力を基にテロップを抽出する方法が開示されている。
【特許文献１】特開平１２−２３０６２号公報
【特許文献２】特開平１２−１８２０５３号公報
【特許文献３】特開平１０−２３３９９４号公報
【発明の開示】
【発明が解決しようとする課題】
【０００８】
しかしながら、上記したように、コーナーテロップは通常のテロップと異なる性質を持つため、特許文献１及び２の開示技術においては、背景との輝度差が大きいテロップの検出には有効であるが、コーナーテロップのように背景との輝度差が小さいテロップの検出には不向きであるという欠点がある。上記の特許文献３の開示技術においては、文字の構成輝度がほぼ均一であるテロップの検出には有効であるが、コーナーテロップは構成輝度が均一である保証は少なく、コーナーテロップの高精度の検出が難しいという欠点がある。
【０００９】
本発明が解決しようとする課題には、上記の欠点が一例として挙げられ、映像内のコーナーテロップ等のテロップを高精度で検出することができるテロップ検出装置及び方法並びにレコーダを提供することが本発明の目的である。
【課題を解決するための手段】
【００１０】
請求項１に係る発明のテロップ検出装置は、入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出する静止エッジ検出手段と、前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジを含む囲み領域を設定し、前記領域に対する前記エッジの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備え、前記エッジ画像抽出手段は、前記入力映像信号の１フレーム分の映像信号を抽出するフレーム抽出手段と、１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段と、前記フレーム抽出手段によって抽出された１フレーム分の前記有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データを前記エッジ画像データとして抽出する手段と、を有することを特徴としている。
【００１１】
請求項７に係る発明のレコーダは、入力映像信号を記録媒体に記録するレコーダであって、入力映像信号又は前記記録媒体に記録された映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出する静止エッジ検出手段と、前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジを含む囲み領域を設定し、前記領域に対する前記エッジの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備え、前記エッジ画像抽出手段は、前記入力映像信号の１フレーム分の映像信号を抽出するフレーム抽出手段と、１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段と、前記フレーム抽出手段によって抽出された１フレーム分の前記有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データを前記エッジ画像データとして抽出する手段と、を有することを特徴としている。
【００１２】
請求項９に係る発明のテロップ検出装置は、入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、１フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成手段と、前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出する静止ブロック検出手段と、前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックを含む囲み領域を設定し、前記領域に対する前記ブロックの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備え、前記エッジ画像抽出手段は、前記入力映像信号の１フレーム分の映像信号を抽出するフレーム抽出手段と、１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段と、前記フレーム抽出手段によって抽出された１フレーム分の前記有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データを前記エッジ画像データとして抽出する手段と、を有することを特徴としている。
【００１３】
請求項１５に係る発明のレコーダは、入力映像信号を記録媒体に記録するレコーダであって、入力映像信号又は前記記録媒体に記録された映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、１フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成手段と、前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出する静止ブロック検出手段と、前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックを含む囲み領域を設定し、前記領域に対する前記ブロックの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備え、前記エッジ画像抽出手段は、前記入力映像信号の１フレーム分の映像信号を抽出するフレーム抽出手段と、１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段と、前記フレーム抽出手段によって抽出された１フレーム分の前記有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データを前記エッジ画像データとして抽出する手段と、を有することを特徴としている。
【００１４】
請求項１７に係る発明のテロップ検出方法は、入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出ステップと、今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を前記静止エッジ画像データとして検出する静止エッジ検出ステップと、前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定ステップと、前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジを含む囲み領域を設定し、前記囲み領域に対する前記エッジの密集度に応じて前記囲み領域がテロップ領域であるか否かを判定するテロップ判定ステップと、を備え、前記エッジ画像抽出ステップは、前記入力映像信号の１フレーム分の映像信号を抽出するフレーム抽出ステップと、１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割ステップと、前記フレーム抽出ステップにおいて抽出された１フレーム分の前記有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データを前記エッジ画像データとして抽出するステップと、を有することを特徴としている。
【００１５】
請求項１８に係る発明のテロップ検出方法は、入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出ステップと、１フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成ステップと、今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出する静止エッジ検出ステップと、前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定ステップと、前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックを含む囲み領域を設定し、前記囲み領域に対する前記ブロックの密集度に応じて前記囲み領域がテロップ領域であるか否かを判定するテロップ判定ステップと、を備え、前記エッジ画像抽出ステップは、前記入力映像信号の１フレーム分の映像信号を抽出するフレーム抽出ステップと、１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割ステップと、前記フレーム抽出ステップにおいて抽出された１フレーム分の前記有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データを前記エッジ画像データとして抽出するステップと、を有することを特徴としている。
【発明を実施するための最良の形態】
【００１６】
請求項１に係る発明のテロップ検出装置においては、入力映像信号の１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段が備えられ、１フレーム分の有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データがエッジ画像データとして抽出され、今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分が静止エッジ画像データとして検出され、静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したならば、その静止エッジ画像データが示すエッジを含む囲み領域が設定され、その領域に対するエッジの密集度に応じてテロップ領域が判定される。
【００１７】
請求項７に係る発明のレコーダにおいては、入力映像信号又は前記記録媒体に記録された映像信号の１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段が備えられ、１フレーム分の有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データがエッジ画像データとして抽出され、今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分が静止エッジ画像データとして検出され、静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したならば、その静止エッジ画像データが示すエッジを含む囲み領域が設定され、その領域に対するエッジの密集度に応じてテロップ領域が判定される。
【００１８】
また、請求項１７に係る発明のテロップ検出方法においては、入力映像信号の１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割ステップが備えられ、１フレーム分の有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データがエッジ画像データとして抽出され、今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出し、静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定したとき、その静止エッジ画像データが示すエッジを含む囲み領域が設定され、その領域に対するエッジの密集度に応じてテロップ領域を判定することが行われる。
【００１９】
よって、請求項１、請求項９及び請求項１９に係る発明においては、テロップを構成する画素と背景との輝度差も比較的小さく、エッジの輝度強度が弱いテロップを高精度で検出することができる。
【００２０】
請求項９に係る発明のテロップ検出装置においては、入力映像信号の１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段が備えられ、１フレーム分の有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データがエッジ画像データとして抽出され、１フレームが所定の複数画素からなるブロック単位に分割され、エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データが入力映像信号のフレーム毎に作成され、今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分が静止ブロック画像データとして検出され、静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したならば、その静止ブロック画像データが示すブロックを含む囲み領域が設定され、その領域に対するブロックの密集度に応じてテロップ領域が判定される。
【００２１】
請求項１５に係る発明のレコーダにおいては、入力映像信号又は前記記録媒体に記録された映像信号の１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段が備えられ、１フレーム分の有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データがエッジ画像データとして抽出され、１フレームが所定の複数画素からなるブロック単位に分割され、エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データが入力映像信号のフレーム毎に作成され、今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分が静止ブロック画像データとして検出され、静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したならば、その静止ブロック画像データが示すブロックを含む囲み領域が設定され、その領域に対するブロックの密集度に応じてテロップ領域が判定される。
【００２２】
請求項１８に係る発明のテロップ検出方法においては、入力映像信号の１フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段が備えられ、１フレーム分の有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示す画像データがエッジ画像データとして抽出され、１フレームを所定の複数画素からなるブロック単位に分割し、エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成し、今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を静止ブロック画像データとして検出し、静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定したとき、その静止ブロック画像データが示すブロックを含む囲み領域が設定され、その領域に対するブロックの密集度に応じてテロップ領域を判定することが行われる。
【００２３】
よって、請求項１１、請求項１７及び請求項２０に係る発明においては、テロップを構成する画素と背景との輝度差も比較的小さく、エッジの輝度強度が弱いテロップを高精度で検出することができる。また、ブロック単位で検出処理することにより、少ないデータ量でテロップを検出することができるので、処理負荷を軽減させることができる。
【実施例】
【００２４】
以下、本発明の実施例を図面を参照しつつ詳細に説明する。
【００２５】
図３は本発明のテロップ検出装置が適用されたディスクレコーダを示している。このディスクレコーダは、ＴＶチューナ１０１、Ａ／Ｄ変換器１０２、ＭＰＥＧエンコーダ１０３、制御部１０４、表示部１０５、操作部１０６、ＨＤＤ（ハードディスクドライブ）装置１０７、光ディスクドライブ装置１０８、ＲＯＭ１０９、ＲＡＭ１１０、ＭＰＥＧデコーダ１１１、Ｄ／Ａ変換器１１２及びコーナーテロップ検出装置１１３からなる。
【００２６】
ＴＶチューナ１０１はアンテナ入力端子１２１に接続され、そこに接続されるアンテナ（図示せず）を介してテレビ放送波を制御部１０４による制御によって選択的に受信しその受信信号を復調してアナログの映像信号及び音声信号を出力する。ＴＶチューナ１０１の出力はＡ／Ｄ変換器１０２に接続されている。Ａ／Ｄ変換器１０２はＴＶチューナ１０１から出力されるアナログの映像信号及び音声信号をディジタル化する。また、Ａ／Ｄ変換器１０２は外部映像及び音声入力端子１２２及び１２３に接続され、そこに供給されるアナログの映像信号及び音声信号をディジタル化する。Ａ／Ｄ変換器１０２の出力はエンコーダ１０３に接続されている。エンコーダ１０３はディジタル化された映像信号及び音声信号を例えば、ＭＰＥＧ形式の圧縮データに変換する。
【００２７】
エンコーダ１０３、制御部１０４、ＨＤＤ装置１０７、光ディスクドライブ装置１０８、ＲＯＭ１０９、ＲＡＭ１１０、デコーダ１１１及びコーナーテロップ検出装置１１３は共通のバス１１６に接続されている。
【００２８】
制御部１０４は例えば、マイクロコンピュータからなり、予め定められた制御用プログラムに従って本ディスクレコーダ全体を制御する。制御部１０４とＴＶチューナ１０１との間は図示しない制御ラインによって接続され、ＴＶチューナ１０１の受信チャンネルが制御部１０４によって制御されるようになっている。
【００２９】
表示部１０５及び操作部１０６は制御部１０４に接続されている。表示部１０５は制御部１０４から表示指令に応じてＴＶチューナ１０１の受信チャンネルやＨＤＤ装置１０７及び光ディスクドライブ装置１０８の記録／再生状態を表示する。操作部１０６はユーザの入力操作を受け入れてその入力操作に応じた指令を制御部１０４に供給する。
【００３０】
ＨＤＤ装置１０７は書き換え可能な固定ディスク（図示せず）による記憶装置であり、制御部１０４の書込指示に応じてエンコーダ１０３から供給される圧縮データを内部の固定ディスクのその書込指示が示すアドレス位置に書き込む。また、制御部１０４の読出指示に応じて固定ディスクからその読出指示によってアドレス指定された記憶位置の圧縮データを読み出してバス１１６に出力する。
【００３１】
光ディスクドライブ装置１０８は、リムーバブル型の記憶装置であり、制御部１０４の書込指示に応じてエンコーダ１０３又はＨＤＤ装置１０７からの圧縮データを光ディスク１１５に書き込み可能な装置である。光ディスク１１５としては例えば、ＤＶＤ−ＲやＤＶＤ−ＲＷが用いられる。光ディスクドライブ装置１０８は制御部１０４の読出指示に応じて光ディスク１１５に書き込まれている圧縮データを読み出すこともできる。
【００３２】
ＲＯＭ１０９には上記の制御用プログラムが予め書き込まれている。ＲＡＭ１１０には制御部１０４の制御動作において必要なデータが書き込まれ又はそこからデータが読み出される。
【００３３】
デコーダ１１１はバス１１６を介してエンコーダ１０３、制御部１０４、ＨＤＤ装置１０７又は光ディスクドライブ装置１０８から供給される圧縮データを伸張してディジタルの映像信号及び音声信号を復元する。復元されたディジタルの映像信号及び音声信号はＤ／Ａ変換器１１２に供給される。Ｄ／Ａ変換器１１２はディジタルの映像信号及び音声信号をアナログの映像信号及び音声信号に変換して映像及び音声出力端子１２４及び１２５に供給する。映像及び音声出力端子１２４及び１２５には図示しないテレビモニタが接続される。
【００３４】
コーナーテロップ検出装置１１３は上記したようにバス１１６に接続され、ＭＰＥＧ形式の圧縮データに応じてコーナーテロップを検出する。コーナーテロップ検出装置１１３には、エンコーダ３から出力されている圧縮データ、ＨＤＤ装置１０７から読み出された圧縮データ、或いは光ディスク１１５から光ディスクドライブ装置１０８によって読み出された圧縮データのいずれかが制御部１０４の制御によって供給される。コーナーテロップ検出装置１１３によるコーナーテロップ検出出力は制御部１０４に供給される。
【００３５】
図４は、コーナーテロップ検出装置１１３の概略構成を示している。コーナーテロップ検出装置１１３は、エッジ抽出部１と、コーナーテロップ候補検出部２と、コーナーテロップ判定部３とを備えている。
【００３６】
エッジ抽出部１は、フレーム抽出部１１、フレーム内エッジ抽出部１２、静止エッジ検出部１３及び静止エッジバッファ１４からなり、入力映像信号から１フレーム毎に静止エッジを検出してそれを保存する。フレーム抽出部１１は入力映像信号から１フレーム分の映像信号を抽出する。フレーム内エッジ抽出部１２は１フレーム分の映像信号から輝度上のエッジを形成した画素からなるエッジ画像データを抽出する。エッジ画像データはテロップ文字の縁などの、隣接画素との輝度差が所定値以上の急峻である部分、すなわちエッジを示す。静止エッジ検出部１３は抽出されたエッジ画像データと、既に検出された静止エッジ画像データとを比較して、位置の変化しない部分のエッジ画素を静止エッジ画像データとして検出する。静止エッジバッファ１４は静止エッジ検出部１３で検出された静止エッジ画像データを保存する。
【００３７】
コーナーテロップ候補検出部２は、エッジ数測定部２１及び継続時間測定部２２からなり、静止エッジ検出部１３によって検出された静止エッジ画像データが何フレームに亘って継続したかを検出する。エッジ数測定部２１は、静止エッジ検出部１３によって検出された静止エッジ画像データが示すエッジの数を測定する。継続時間測定部２２は、エッジ数測定部２１によって測定されたエッジ数が閾値Ｔｎ以上である状態が継続したフレーム数を測定する。
【００３８】
コーナーテロップ判定部３は、エッジブロック作成部３１、ブロック密集度算出部３２及びエッジブロックバッファ３３からなり、静止エッジ画像データに基づいてコーナーブロック領域を判定する。エッジブロック作成部３１は、静止エッジ画像データに応じて静止エッジブロック画像データを作成する。ブロック密集度算出部３２は、画像内のブロック密集度を算出してその密集度に応じてコーナーブロック領域を判定する。エッジブロックバッファ３３は、エッジブロック画像データを保持する。
【００３９】
なお、本実施例では特に断り書きが無い場合、各フレームの画素を構成する要素は輝度信号とする。
【００４０】
かかる構成のコーナーテロップ検出装置１１３の動作について以下にフローチャートを用いて説明する。
【００４１】
図５に示すように、エッジ検出部１においては、入力映像信号を受け入れる前に、初期化処理として、コーナーテロップ候補の継続フレーム数を示すフレーム計数値countが初期値０にリセットされる（ステップＳ１）。実際のコーナーテロップ検出処理が開始されると、先ず、フレーム抽出部１１が入力映像信号から１フレーム分の映像信号（画素データ）を抽出する（ステップＳ２）。入力映像信号はＭＰＥＧ等の圧縮形式のディジタル圧縮信号であるが、これ以外のアナログ信号、デジタル信号、他の圧縮形式のディジタル圧縮信号であっても良い。画像サイズなどは問わないが、アナログ映像信号の場合はＡ／Ｄ(アナログ／デジタル)変換器を介してフレーム抽出部１１には供給される。
【００４２】
フレーム抽出部１１は１フレームを複数の領域に分割し、有効部分と無効部分とに分ける（ステップＳ３）。例えば、図６に示すように、抽出した１フレームを縦方向４つ、横方向２つの計８領域に分割し、画面隅に相当する４つの領域を有効領域とし、残りを無効領域とする。コーナーテロップは画面隅に表示される傾向が高いため、このように有効領域を限定することで、処理の効率化及び検出精度向上が期待できる。図６の場合には以降のエッジ処理なども４つの有効領域に対して個々に行われる。また、領域分割の方法はこれ以外でも良く、また領域分割自体を行わなくても良い。
【００４３】
フレーム内エッジ抽出部１２は、フレーム内の有効領域の画素データからエッジを抽出し、エッジ画像データを作成する（ステップＳ４）。エッジ抽出に用いるフィルタとしては例えば、ラプラシアンフィルタを用いることができるが、これに特に限定されない。なお、コーナーテロップはエッジが弱いという性質があるため、好ましくはエッジ判定を緩めにしても良い。
【００４４】
静止エッジ検出部１３は、現フレームが入力映像信号の先頭フレームか、若しくはコーナーテロップ候補が検出された直後のフレームか否かを判定する（ステップＳ５）。すなわち、フレーム計数値countが０であるか否かが判別される。ステップＳ４にてエッジ検出が行われたフレームが先頭フレーム又はコーナーテロップ候補検出直後のフレームであれば、count＝０であり、検出されたエッジ画像データを静止エッジ画像データとし、静止エッジバッファ１４に格納する（ステップＳ６）。一方、ステップＳ４にてエッジ検出が行われたフレームが先頭フレーム又はコーナーテロップ候補検出直後のフレームではないならば、今回作成したエッジ画像データと既に検出された静止エッジ画像データ（例えば、前回検出された静止画エッジ画像データ）とのＡＮＤ（論理積）をとり、それを新たな静止エッジ画像データとし、静止エッジバッファ１４に格納する（ステップＳ７）。なお、ステップＳ７では、今回作成したエッジ画像データと既に検出された静止エッジ画像データとのＡＮＤ処理に限らず、今回作成したエッジ画像データと既に検出された静止エッジ画像データとのＯＲ（論理和）をとり、それを静止エッジ画像データとしても良く、これ以外の重ね合わせ手法を用いても良い。
【００４５】
例えば、図７(a)に示すようなコーナーテロップの画像が有効領域にある場合には、その静止エッジ画像データは図７(b)に示すようになる。
【００４６】
エッジ数測定部２１は、静止エッジバッファ１４から静止エッジ画像データを取得し、静止エッジ画像データが示すエッジの数を測定し、そのエッジ数が閾値Ｔｎ（第１閾値）以上になったか否かを判別する（ステップＳ８）。エッジ数が閾値Ｔｎ以上になった場合には、フレーム計数値countが１だけ増加され（ステップＳ９）、入力映像信号の全フレームの処理が終了したか否かが判別される（ステップＳ１０）。全フレームの処理が終了していない場合には、入力映像信号の処理が次のフレームに進められ（ステップＳ１１）、そして、ステップＳ２に戻って次のフレームについてのコーナーテロップ検出処理が実行される。
【００４７】
エッジ数が閾値Ｔｎ以上になった場合には、継続時間測定部２２においてフレーム計数値countが閾値Ｔｃ（第２閾値）より大であるか否かが判別される（ステップＳ１２）。閾値Ｔｃはコーナーテロップ表示時間の下限に対応する。コーナーテロップには表示時間が長いという性質があるため、閾値Ｔｃは好ましくは長めに設定しても良い。閾値Ｔｃの具体的な設定方法としては、番組の全体的な長さに基づいて番組中の各話題の時間を類推して設定することが考えられる。例えば、番組長が１時間の場合、話題数を１０個程度と想定すると、各話題の平均時間は約６分程度である。ただし、番組中には現実的には話題以外にコマーシャルなども含まれるので、それらを加味した上で、例えば、Ｔｃを２，３分程度に設定しても良い。また各番組の性質を元にして、話題数が少なければＴｃを更に長めに設定し、逆に話題数が多ければＴｃを短めに設定しても良い。全ての番組で閾値Ｔｃを例えば、１分のように固定長に設定しても良い。
【００４８】
count≦Ｔｃならば、保存された静止エッジ画像データはコーナーテロップの画像ではない可能性が高いので、静止エッジバッファ１４に保存された静止エッジ画像データが消去され、またフレーム計数値countは初期値０にリセットされる（ステップＳ１３）。その後、ステップＳ１０が実行される。
【００４９】
count＞Ｔｃならば、コーナーテロップ判定部３によるコーナーテロップ判定サブルーチンが実行され（ステップＳ１４）、その後、ステップＳ１３が実行される。
【００５０】
コーナーテロップ判定サブルーチンにおいて、図８に示すように、先ず、エッジブロック作成部３１は、コーナーテロップ候補検出部２において検出された静止エッジ画像データからエッジブロック画像データを作成し、そのエッジブロック画像データをエッジブロックバッファ３３に格納する（ステップＳ２１）。エッジブロック画像データは、静止エッジ画像を８×８画素からなるブロック単位に分割し、各ブロック内のエッジ数が所定数以上である多エッジ数のブロックをエッジブロックとした画像を示す。例えば、図７(b)に示した静止エッジ画像データの画像に対して、ブロック単位は図７(c)に示すように破線で示され、エッジブロックは図７(d)に示すように黒のブロックである。なお、ブロックは８×８画素に限らず、縦横を他の画素数で構成しても良い。
【００５１】
エッジブロック作成部３１は、エッジブロック画像から空間的に孤立したブロックを除去する（ステップＳ２２）。図９(a)に示すように静止エッジ画像にコーナーテロップ以外のごみ等のエッジが含まれている場合には、それに基づいたエッジブロック画像には図９(b)に示すようにコーナーテロップ部分以外にもブロックが現れる。よって、ステップＳ２２では図９(c)に示すように、このような孤立ブロックを除去したエッジブロック画像が作成される。
【００５２】
ブロック密集度算出部３２は、エッジブロック作成部３１によって作成されたエッジブロック画像のブロック数が閾値Ｔｂ（第３閾値）より大であるか否かを判別する（ステップＳ２３）。ブロック数が閾値Ｔｂ以下ならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【００５３】
ブロック密集度算出部３２は、ブロック数が閾値Ｔｂより大であるならば、そのエッジブロックを囲む最小の矩形領域をブロック囲み領域として設定する（ステップＳ２４）。エッジブロック作成部３１によって作成されたエッジブロック画像において例えば、図１０(a)に示すように、エッジブロックが存在するならば、図１０(b)に太線で示すように矩形のブロック囲み領域は設定される。ブロック密集度算出部３２は、設定したブロック囲み領域に対するエッジブロックの面積比を算出し、その面積比が閾値Ｔａ（第４閾値）以上であるか否かを判別する（ステップＳ２５）。面積比が閾値Ｔａより小であるならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【００５４】
一方、面積比が閾値Ｔａ以上ならば、ブロック密集度算出部３２は、設定したブロック囲み領域にコーナーテロップを含むと判定してコーナーテロップ情報を出力する（ステップＳ２６）。コーナーテロップ情報は、コーナーテロップの開始時刻及び終了時刻、静止エッジ画像、エッジブロック画像、及びブロック囲み領域の座標の少なくとも１である。ＯＣＲ（光学式文字読取装置）処理により静止エッジ画像の文字認識を行って、その結果を文字コードとして出力しても良い。
【００５５】
図１１は、本発明の実施例を示している。図１１に示したコーナーテロップ検出装置は、図４の装置と同様に、エッジ抽出部１と、コーナーテロップ候補検出部２と、コーナーテロップ判定部３とを備えている。エッジ抽出部１と、コーナーテロップ候補検出部２とは、図４の装置のものと同一である。コーナーテロップ判定部３は、孤立エッジ除去部３５と、エッジ密集度算出部３６とから構成される。孤立エッジ除去部３５は静止エッジ画像から孤立エッジを除去する。エッジ密集度算出部３６は、孤立エッジが除去された静止エッジ画像内のエッジ密集度を算出する。
【００５６】
図１１のコーナーテロップ判定部３によるコーナーテロップ判定サブルーチンにおいて、図１２に示すように、孤立エッジ除去部３５はコーナーテロップ候補検出部２において検出された静止エッジ画像から空間的に孤立した孤立エッジを除去する（ステップＳ３１）。例えば、図１３(a)に示した孤立エッジを含む静止エッジ画像に対して、孤立エッジ除去部３５によって、図１３(b)に示すように、孤立エッジを除去した静止エッジ画像が作成される。
【００５７】
エッジ密集度算出部３６は、孤立エッジ除去後の静止エッジ画像のエッジ数が閾値Ｔｅ（第５閾値）より大であるか否かを判別する（ステップＳ３２）。エッジ数が閾値Ｔｅ以下ならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【００５８】
エッジ数が閾値Ｔｅより大であるならば、その静止エッジ画像のエッジを全て囲む最小の矩形領域をエッジ囲み領域として設定する（ステップＳ３３）。上記の図１３(b)の孤立エッジ除去後の静止エッジ画像においては、例えば、図１３(c)に太線で示すように矩形のエッジ囲み領域は設定される。
【００５９】
エッジ密集度算出部３６は、設定したエッジ囲み領域に対するエッジ部分の面積比を算出し、その面積比が閾値Ｔａ（第６閾値）以上であるか否かを判別する（ステップＳ３４）。面積比が閾値Ｔａより小であるならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【００６０】
一方、面積比が閾値Ｔａ以上ならば、エッジ密集度算出部３６は、設定したエッジ囲み領域にコーナーテロップを含むと判定してコーナーテロップ情報を出力する（ステップＳ３５）。
【００６１】
かかる図１１及び図１２に示した実施例においては、画素単位でコーナーテロップ領域を決定することができるので、コーナーテロップ領域をより限定的に判定することができる。
【００６２】
図１４は、更に本発明の他の実施例を示している。図１４に示したコーナーテロップ検出装置は、静止ブロック検出部５、コーナーテロップ候補検出部６と、コーナーテロップ判定部７とを備えている。静止ブロック検出部５は、フレーム抽出部５１、フレーム内エッジ抽出部５２、エッジブロック作成部５３、静止ブロック検出部５４及び静止ブロックバッファ５５を備え、入力映像信号から１フレーム毎に静止ブロック画像を検出してそれを保存する。
【００６３】
フレーム抽出部５１は入力映像信号から１フレーム分の映像信号を抽出する。フレーム内エッジ抽出部５２は１フレーム分の映像信号からエッジを形成した画素からなるエッジ画像を抽出する。エッジブロック作成部５３は抽出されたエッジ画像からエッジブロック画像を作成する。静止ブロック検出部５４はエッジブロック画像から静止ブロック画像を検出してそれを静止ブロックバッファ５５に保存させる。
【００６４】
コーナーテロップ候補検出部６は、ブロック数測定部６１及び継続時間測定部６２を備え、静止ブロック検出部１３によって検出された静止ブロック画像の状態が何フレームに亘って継続したことを検出する。ブロック数測定部６１は、静止ブロック検出部１３によって検出された静止ブロック画像のブロック数を測定する。継続時間測定部６２は、ブロック数測定部６１によって測定されたブロック数が閾値以上である状態が継続したフレーム数を測定する。
【００６５】
コーナーテロップ判定部７は、孤立ブロック除去部７１及びブロック密集度算出部７２からなり、静止ブロック画像のコーナーテロップを含むブロックを判定する。孤立ブロック除去部７１は静止ブロック画像から孤立ブロック除去する。ブロック密集度算出部７２は、孤立ブロックが除去された静止ブロック画像内のブロック密集度を算出してブロック密集度に基づいてコーナーテロップを含むブロックを判定する。
【００６６】
図１４のコーナーテロップ検出装置の動作について以下にフローチャートを用いて説明する。
【００６７】
図１５に示すように、静止ブロック検出部５においては、入力映像信号を受け入れる前に、初期化処理として、コーナーテロップ候補の継続フレーム数を示すフレーム計数値countが初期値０にリセットされる（ステップＳ５１）。実際のコーナーテロップ検出処理が開始されると、先ず、フレーム抽出部５１が入力映像信号から１フレーム分の映像信号（画素データ）を抽出する（ステップＳ５２）。
【００６８】
フレーム抽出部５１は１フレームを複数の領域に分割し、有効部分と無効部分とに分ける（ステップＳ５３）。ステップＳ５３の実行後、フレーム内エッジ抽出部５２は、有効領域の画素データからエッジを抽出し、エッジ画像を作成する（ステップＳ５４）。ステップＳ５１〜Ｓ５４は上記したステップＳ１〜Ｓ４と同一である。
【００６９】
エッジブロック作成部５３は、エッジ画像からエッジブロック画像を作成する（ステップＳ５５）。エッジブロック画像の作成方法としてはエッジブロック作成部３１において示した方法が用いられる。すなわち、エッジ画像を８×８画素からなるブロック単位に分割し、各ブロック内のエッジ数が所定数以上である多エッジ数のブロックをエッジブロックとした画像が作成される。ここで入力映像信号がＭＰＥＧ等の圧縮映像信号の場合には、そのＤＣＴ係数に基づいて、高周波ブロック（エッジの多いブロック）を検出することができる。このようなブロックをエッジブロックとして用いても良い。また、圧縮映像信号の場合には、入力圧縮映像信号のフルデコード処理、及びステップＳ５４のエッジ画像の作成が不要となるので、処理負荷の軽減につながる。
【００７０】
静止ブロック検出部５４は、エッジブロック作成部５３によってエッジブロック画像が作成された現フレームが入力映像信号の先頭フレームか、若しくはコーナーテロップ候補が検出された直後のフレームか否かを判定する（ステップＳ５６）。現フレームが先頭フレーム又はコーナーテロップ候補検出直後のフレームであれば、作成されたエッジブロック画像を静止ブロック画像とし、静止ブロックバッファ５５に格納する（ステップＳ５７）。一方、現フレームが先頭フレーム又はコーナーテロップ候補検出直後のフレームではないならば、今回作成したエッジブロック画像と既に検出された静止ブロック画像（例えば、前回検出された静止ブロック画像）とのＡＮＤ（論理積）をとり、それを静止ブロック画像とし、静止ブロックバッファ５５に格納する（ステップＳ５８）。なお、ステップＳ５８では、今回作成したエッジブロック画像と既に検出された静止ブロック画像とのＯＲ（論理和）をとり、それを静止ブロック画像としても良く、これ以外の重ね合わせ手法を用いても良い。
【００７１】
ブロック数測定部６１は、静止ブロックバッファ５５から静止ブロック画像を読み出して取得し、静止ブロック画像中のブロック数を測定し、そのブロック数が閾値Ｔｎ（第１閾値）以上になったか否かを判別する（ステップＳ５９）。ブロック数が閾値Ｔｎ以上になった場合には、フレーム計数値countが１だけ増加され（ステップＳ６０）、入力映像信号の全フレームの処理が終了したか否かが判別される（ステップＳ６１）。全フレームの処理が終了していない場合には、入力映像信号の処理が次のフレームに進められ（ステップＳ６２）、そして、ステップＳ５２に戻って次のフレームについてのコーナーテロップ検出処理が実行される。
【００７２】
ブロック数が閾値Ｔｎ以上になった場合には、継続時間測定部６２においてフレーム計数値countが閾値Ｔｃ（第２閾値）より大であるか否かが判別される（ステップＳ６３）。count≦Ｔｃならば、静止ブロックバッファ５５に現在保存された静止ブロック画像データはコーナーテロップの画像データではない可能性が高いので、静止ブロックバッファ５５に保存された静止ブロック画像データが消去され、またフレーム計数値countは初期値０にリセットされる（ステップＳ６４）。その後、ステップＳ６１が実行される。
【００７３】
count＞Ｔｃならば、コーナーテロップ判定部３によるコーナーテロップ判定サブルーチンが実行され（ステップＳ６５）、その後、ステップＳ６４が実行される。
【００７４】
ステップＳ６５のコーナーテロップ判定サブルーチンにおいて、図１６に示すように、先ず、孤立ブロック除去部７１は、静止ブロック画像から空間的に孤立したブロックを除去する（ステップＳ７１）。ステップＳ７１では孤立ブロックを除去した静止ブロック画像が作成される。
【００７５】
ブロック密集度算出部７２は、孤立ブロック除去部７１による孤立ブロック除去後の静止ブロック画像のブロック数が閾値Ｔｂ（第３閾値）より大であるか否かを判別する（ステップＳ７２）。ブロック数が閾値Ｔｂ以下ならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【００７６】
ブロック密集度算出部７２は、ブロック数が閾値Ｔｂより大であるならば、その静止ブロック画像のブロックを囲む最小の矩形領域をブロック囲み領域として設定する（ステップＳ７３）。ブロック密集度算出部７２は、設定したブロック囲み領域に対する静止ブロックの面積比を算出し、その面積比が閾値Ｔａ（第４閾値）以上であるか否かを判別する（ステップＳ７４）。面積比が閾値Ｔａより小であるならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【００７７】
一方、面積比が閾値Ｔａ以上ならば、ブロック密集度算出部７２は、設定したブロック囲み領域にコーナーテロップを含むと判定してコーナーテロップ情報を出力する（ステップＳ７５）。
【００７８】
かかる図１４〜図１６に示した実施例でにおいては、画素単位の静止エッジ画像データに代えてブロック単位の静止ブロック画像データが検出され、静止ブロック画像データに応じてコーナーテロップ候補検出及びコーナーテロップ判定が行われる。よって、図２における静止エッジバッファ１４の記憶容量に比べて静止ブロックバッファ５５の記憶容量は少なくて済むので、内蔵メモリ等のリソースの少ない機器でも容易に実装することができる。また、入力映像信号としてＭＰＥＧ等の圧縮符号化信号を用いる場合には、そのＤＣＴ係数に基づいてエッジブロック（高周波ブロック）が検出できるので、図１４におけるフレーム内エッジ抽出部５２及びエッジブロック作成部５３が不要となり、処理負荷を低減させることができる。
【００７９】
上記した各実施例においては、主に情報番組で表示されるコーナーテロップを検出する場合であるが、野球やサッカー等のスポーツ番組におけるスコア表示検出へ応用することも可能である。スポーツ番組のスコア表示も、画面隅に表示され、プレイ中表示されるという、コーナーテロップと類似した性質を持っているため、基本的には図２と同様のブロック構成で検出できる。ただしスポーツの種類に応じて以下のような工夫を行っても良い。代表的なスポーツ番組の例として、野球とサッカーを挙げる。野球のスコア表示には得点の他、ストライク／ボール／アウトカウント等の多くの情報が表示され、エッジ強度も強い。また１回の表示時間も比較的短い（数秒程度）。一方、サッカーの場合はエッジ強度が弱く、表示時間は比較的長い傾向にある。スポーツによりスコアの表示時間が異なる理由は、各々のプレイ単位（プレイの区切り間の時間長）が異なるためであり、野球は基本的にピッチャーによる投球１回が１プレイ単位であることに対し、サッカーはキックオフ（またはプレイ再開）からファウルやゴールのためにプレイが中断するまでの間が１プレイ単位である。そのため、入力映像が野球映像の場合、図２におけるフレーム内エッジ抽出部１２でのエッジ判定閾値Ｔｎを高めに設定し、継続時間測定部２２の継続時間閾値Ｔｃを短めに設定することで、野球のスコア検出に適した処理が実現できる。一方、サッカーなどの場合、フレーム内エッジ抽出部１２でのエッジ判定閾値Ｔｎを低めに設定し、継続時間測定部２２の継続時間閾値Ｔｃを長めに設定することで、サッカーのスコア検出に適した処理が実現できる。またスコア表示の検出過程において、時間的に直近に検出されたスコアデータとの類似度比較を行うことで、例えば得点が入った箇所を検出することができる。具体的な比較方法として、現時点と前回のそれぞれの静止エッジ画像を重ね合わせ、その変化度を元に判定する等の方法が考えられる。これはスポーツ番組だけでなく情報番組のコーナーテロップ検出に対しても有効であり、前回検出したデータと比較することにより、話題の変化を判定しても良い。
【００８０】
また、上記した実施例においては、図６に示したように１フレームの領域分割を行うと、コーナーテロップの表示候補が複数（この例では４つ）になるため、真のコーナーテロップがどの領域に表示されているか判断が必要になる。そこで、各領域でのコーナーテロップ候補検出頻度を元に、コーナーテロップ表示領域を決定しても良い。１つの方法として、４つの領域のうち最も多くコーナーテロップ表示候補が検出された領域をコーナーテロップ表示領域と決定しても良い。ただし、この場合、例えば、図１７(a)及び(b)に示すように、画面隅の時刻表示や放送局名のテロップをコーナーテロップとして誤判定する可能性がある。そこで、正確に１分毎に変化するテロップや、逆に、非常に長時間に渡って変化しないテロップなどをコーナーテロップ候補から外す処理を加えてコーナーテロップの誤検出を防ぐようにしても良い。また、検出対象の番組がシリーズ物であり、前回の放送分からコーナーテロップを検出していた場合、その情報を元にコーナーテロップの表示領域を決定しても良い。
【００８１】
更に、上記した各実施例においては、本発明をコーナーテロップを検出するコーナーテロップ検出装置に適用した場合について説明したが、本発明によって検出されるテロップはコーナーテロップに限定されない。すなわち、テロップはコーナーテロップとして画面の隅に表示されることが多いが、必ずしも画面の隅に表示される必要はない。
【００８２】
以上のように、エッジ検出部１と、コーナーテロップ候補検出部３及びコーナーテロップ判定部３とを備えたことより、エッジの輝度強度が弱く、テロップを構成する画素と背景との輝度差が小さいコーナーテロップを高精度で検出することができる。また、静止ブロック検出部５、コーナーテロップ候補検出部６及びコーナーテロップ判定部７とを備えたことより、コーナーテロップを高精度で検出することができるだけでなく、ブロック単位で検出処理するので、少ないデータ量でコーナーテロップを検出することができるので、処理負荷を軽減させることができる。
【００８３】
本発明のテロップ検出装置及び方法は、テレビ放送を受信し、録画或いは視聴するための、例えば、ＤＶＤ／ＨＤＤレコーダ、ＰＤＰテレビ装置等のＴＶ受像機、ＴＶチューナ内蔵のＰＣ（パーソナルコンピュータ）又はカーナビ装置等の映像機器及びＰＣ用のソフトウェアに適用することができる。
【００８４】
かかる本発明のテロップ検出装置又は方法によって検出されたコーナーテロップを用いてチャプタメニューを作成することができる。映像コンテンツを録画視聴できる上記したＤＶＤ／ＨＤＤレコーダ、ＰＤＰテレビ装置、カーナビ装置等の機器であれば、全て同様の応用が可能である。例えば、図３に示したレコーダの場合には、先ず、レコーダのＨＤＤ装置１０７に蓄積されたいるコンテンツ（録画済みの圧縮データ）又は光ディスク１１５に記録されているコンテンツ、又はこれから記録するコンテンツからコーナーテロップを検出する。本発明によるコーナーテロップ検出方法は、コンテンツを録画しながら同時に検出するリアルタイム検出、又は録画済みのコンテンツを再処理して検出する非リアルタイム検出のいずれに適用しても良い。コーナーテロップ検出時には、コーナーテロップ情報として少なくともテロップの表示開始時刻が検出される。コーナーテロップを検出したならば、制御部１０４ではその検出箇所に映像の区切りを示すためにチャプタを設定することが行われる。チャプタの設定ではコーナーテロップの表示開始時刻と再生アドレスとの関係を示すチャプタテーブルファイルが作成される。チャプタの設定は、コンテンツの時間情報と映像情報との同期が取れたタイミング（例えば録画後）で行われる。次に、制御部１０４では検出されたコーナーテロップをボタン画像として用いたチャプタメニューを作成することが行われる。チャプタメニューとは、図１８に示すように、チャプタの内容をメニュー形式でユーザに対して分かり易く示したものである。ユーザはこのチャプタメニューを見ることで、番組の全体概要を一目で把握することができる。更に、興味を持った箇所をメニューから選択することにより、表示開始時刻が指定されるのでその時刻に対応した再生アドレスがチャプタテーブルファイルから読み出されることになり、その再生アドレスからの映像再生が開始される。よって、ユーザは映像コンテンツを好きな箇所から視聴することができる。このようにコーナーテロップをコンテンツのチャプタ付けに応用することで、コンテンツをその内容に即して自動的に構造化できる。更にコーナーテロップをボタン画像に用いたチャプタメニューを作成することで、ユーザは番組の全体概要を一目で把握することができ、興味を持った箇所からコンテンツを視聴することができる。このようにコーナーテロップを応用することで、ユーザにとってコンテンツの利便性を高めることができる。
【図面の簡単な説明】
【００８５】
【図１】コーナーテロップの表示例を示す図である。
【図２】通常のテロップとコーナーテロップとの特徴的な差異を示す図である。
【図３】本発明が適用されたディスクレコーダの構成を示すブロック図である。
【図４】図３のレコーダ中のコーナーテロップ検出装置の構成を示すブロック図である。
【図５】図４のコーナーテロップ検出装置の動作を示すフローチャートである。
【図６】１フレームの複数の分割領域、その有効領域及び無効領域を示す図である。
【図７】フレーム画像、エッジ画像、ブロック単位の分割及びエッジブロック画像を示す図である。
【図８】コーナーテロップ判定サブルーチンを示すフローチャートである。
【図９】エッジ画像、エッジブロック画像及び孤立ブロックの除去を示す図である。
【図１０】エッジブロック画像及びブロック囲み領域を示す図である。
【図１１】本発明の他の実施例を示すブロック図である。
【図１２】図１１のコーナーテロップ検出装置で実行されるコーナーテロップ判定サブルーチンを示すフローチャートである。
【図１３】エッジ画像、孤立ブロックの除去及びエッジ囲み領域を示す図である。
【図１４】本発明の実施例を示すブロック図である。
【図１５】図１４のコーナーテロップ検出装置の動作を示すフローチャートである。
【図１６】図１４のコーナーテロップ検出装置で実行されるコーナーテロップ判定サブルーチンを示すフローチャートである。
【図１７】映像内の時刻表示及び放送局名テロップの例を示す図である。
【図１８】チャプタメニュー例を示す図である。
【符号の説明】
【００８６】
１  エッジ抽出部
２，６  コーナーテロップ候補検出部
３，７  コーナーテロップ判定部
５  静止ブロック検出部
【図１】
0004634894.tif 000002
【図２】
0004634894.tif 000003
【図３】
0004634894.tif 000004
【図４】
0004634894.tif 000005
【図５】
0004634894.tif 000006
【図６】
0004634894.tif 000007
【図７】
0004634894.tif 000008
【図８】
0004634894.tif 000009
【図９】
0004634894.tif 000010
【図１０】
0004634894.tif 000011
【図１１】
0004634894.tif 000012
【図１２】
0004634894.tif 000013
【図１３】
0004634894.tif 000014
【図１４】
0004634894.tif 000015
【図１５】
0004634894.tif 000016
【図１６】
0004634894.tif 000017
【図１７】
0004634894.tif 000018
【図１８】
0004634894.tif 000019