(57)【特許請求の範囲】
【請求項１】
放送番組を受信する番組受信部と、
前記番組受信部により受信された放送番組の字幕を構成する字幕文字情報と属性情報を抽出する字幕抽出部と、
前記番組受信部により受信された放送番組の映像を抽出する映像抽出部と、
外部と通信を行う通信部と、
前記通信部を介し、複数の文字情報が登録されるサーバから、前記放送番組に関連して作成された文字情報を取得する文字情報取得部と、
前記属性情報に含まれる前記字幕文字情報の位置情報に基づいて、前記映像における前記字幕文字情報の位置に前記文字情報を挿入した映像を表示装置へ出力する画像生成部と、を備える
画像処理装置。
【請求項２】
前記番組受信部により前記放送番組とともに受信される、該放送番組に関する情報を取得する番組情報取得部と、
前記サーバから、前記放送番組に関する情報に含まれる放送局情報と紐付けられた文字情報を指定して取得するための指定情報を生成する指定情報生成部と、をさらに備え、
前記通信部より前記サーバへ前記指定情報を送信し、前記文字情報取得部は、前記指定情報に対して前記サーバから返信される、前記放送局情報と紐付けられた文字情報を取得する
請求項１に記載の画像処理装置。
【請求項３】
前記サーバから、ユーザにより設定される情報と紐付けられた文字情報を指定して取得するための指定情報を生成する指定情報生成部と、をさらに備え、
前記通信部より前記サーバへ前記指定情報を送信し、前記文字情報取得部は、前記指定情報に対して前記サーバから返信される、前記ユーザにより設定された情報と紐付けられた文字情報を取得する
請求項１に記載の画像処理装置。
【請求項４】
前記番組受信部により前記放送番組とともに受信される、該放送番組に関する情報を取得する番組情報取得部と、
複数の文字が登録された記録装置と、
該放送番組に関する情報から文字を抽出し、前記抽出した文字に該当する文字を文字辞書に登録された複数の文字の中から取得する文字抽出部と、
前記文字抽出部により取得された文字をローマ字に変換するローマ字変換部と、
前記サーバから、前記ローマ字と紐付けられた文字情報を指定して取得するための指定情報を生成する指定情報生成部と、をさらに備え、
前記通信部より前記サーバへ前記指定情報を送信し、前記文字情報取得部は、前記指定情報に対して前記サーバから返信される、前記ローマ字と紐付けられた文字情報を取得する
請求項１に記載の画像処理装置。
【請求項５】
前記画像生成部は、設定情報に従い、前記映像における前記字幕文字情報の位置に前記字幕文字情報又は前記文字情報のいずれを挿入するか選択する文字情報選択部、を有する
請求項２に記載の画像処理装置。
【請求項６】
前記画像生成部は、前記文字情報取得部により前記サーバから取得された前記文字情報を、取得した時間順に一定時間間隔で、前記映像における前記字幕文字情報の位置に挿入する
請求項３に記載の画像処理装置。
【請求項７】
前記文字情報は、文字数が所定数内に制限された文字列である
請求項４に記載の画像処理装置。
【請求項８】
放送番組を受信する番組受信部と、
前記番組受信部により受信された放送番組の字幕を構成する字幕文字情報と属性情報を抽出する字幕抽出部と、
前記番組受信部により受信された放送番組の映像を抽出する映像抽出部と、
外部と通信を行う通信部と、
前記通信部を介し、複数の文字情報が登録されるサーバから、前記放送番組に関連して作成された文字情報を取得する文字情報取得部と、
前記属性情報に含まれる前記字幕文字情報の位置情報に基づいて、前記映像における前記字幕文字情報の位置に前記文字情報を挿入した映像を記録装置へ出力する録画処理部と、を備える
録画装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、放送番組に関するつぶやき等の文字情報を当該放送番組と一緒に画面に表示する画像処理装置、及びこれらを記録する録画装置に関する。
【背景技術】
【０００２】
従来、インターネット等のネットワークにおいて、Ｔｗｉｔｔｅｒ（登録商標）という、ブログとＳＮＳ（Social Networking Service）とチャットの間の様な短文型テキストサービスが提供されている。このサービスは、或るユーザがＴｗｉｔｔｅｒサーバに登録した短文の“つぶやき（ツイート）”に対して、これをフォローするつぶやきを不特定の他のユーザが登録することができる。ユーザが気軽に自分のつぶやきを公開し、他のユーザがそのつぶやきに応答したりする。登録できるつぶやきの文字数は、１４０文字以内である。投稿されたつぶやきは、タイムラインという表示方式によって時系列に並べて表示される。最新の投稿が一番上に表示され、古い投稿は下に流れていく。静止画、動画、音楽は、別のサイトにアップロードされた後、各個体のリンク情報をつぶやきに追加することができる。
【０００３】
投稿されたつぶやきは、つぶやき内のハッシュタグを見ることにより、何に対してのつぶやきかを特定することができる。テレビジョン放送の番組に対してつぶやきを投稿するユーザもたくさんいるが、例えば、放送局が日本放送協会（ＮＨＫ）であれば、“♯nhk”のハッシュタグを見て、ＮＨＫに対してのつぶやきであると判断できる。
【０００４】
近年では、このような放送番組に関するつぶやきの情報を、放送番組と一緒にテレビジョン受像機等の画面に表示する機能が提供されている（非特許文献１を参照）。
【先行技術文献】
【特許文献】
【０００５】
【非特許文献１】株式会社ソニー・コンピュータエンタテインメント、“つながるネットワークtorne（トルネ）  アップデートver.2.10ライブ”、［online］、［平成２３年３月１８日検索］、インターネット＜ＵＲＬ：http://www.jp.playstation.com/ps3/torne/update/index.html＞
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、放送番組と一緒につぶやきを画面に表示させるには、放送番組の表示領域を縮小させてつぶやき表示用の枠（別ウィンドウ）を確保している。また、画面上に単純につぶやきを表示するだけでは、番組画像の重要な部分を隠してしまう可能性がある。
【０００７】
本開示は、上記の状況を考慮してなされたものであり、放送番組に関するつぶやき等の文字情報を、当該放送番組と一緒に画面の適切な位置に表示するものである。
【課題を解決するための手段】
【０００８】
放送番組の字幕情報は放送局が付与するものであるから、番組画像に重畳しても支障のない位置に表示されるようになっていることが多い。よって、字幕情報に含まれている表示位置情報を用いて、放送番組に関連するつぶやき等の文字情報を表示することにより、最適な位置への文字情報の表示を可能にする。
具体的には、本開示の一側面の画像処理装置は、放送番組を受信する番組受信部と、前記番組受信部により受信された放送番組の字幕を構成する字幕文字情報と属性情報を抽出する字幕抽出部と、前記番組受信部により受信された放送番組の映像を抽出する映像抽出部と、外部と通信を行う通信部と、前記通信部を介し、複数の文字情報が登録されるサーバから、前記放送番組に関連して作成された文字情報を取得する文字情報取得部と、前記属性情報に含まれる前記字幕文字情報の位置情報に基づいて、前記映像における前記字幕文字情報の位置に前記文字情報を挿入した映像を表示装置へ出力する画像生成部と、を備える。
【０００９】
本開示の一側面の画像処理装置によれば、放送局が決めた字幕の位置に放送番組に関連して作成された文字情報を挿入することによって、当該文字情報が字幕領域の背景にある番組画像の不適切な位置にかぶることなく表示される。
【００１０】
また、本開示の一側面の録画装置は、放送番組を受信する番組受信部と、前記番組受信部により受信された放送番組の字幕を構成する字幕文字情報と属性情報を抽出する字幕抽出部と、前記番組受信部により受信された放送番組の映像を抽出する映像抽出部と、外部と通信を行う通信部と、前記通信部を介し、複数の文字情報が登録されるサーバから、前記放送番組に関連して作成された文字情報を取得する文字情報取得部と、前記属性情報に含まれる前記字幕文字情報の位置情報に基づいて、前記映像における前記字幕文字情報の位置に前記文字情報を挿入した映像を記録装置へ出力する録画処理部と、を備える。
【００１１】
本開示の一側面の録画装置によれば、放送局が決めた字幕の位置に放送番組に関連して作成された文字情報を挿入することによって、当該文字情報が字幕領域の背景にある番組画像の不適切な位置にかぶることなく記録される。
【発明の効果】
【００１２】
本開示によれば、放送番組に関するつぶやき等の文字情報を、当該放送番組と一緒に画面の適切な位置に挿入して表示又は記録することができる。
【図面の簡単な説明】
【００１３】
【図１】第１の実施形態に係る文字情報表示システムの構成例を模式的に示した説明図である。
【図２】第１の実施形態に係る表示装置に表示する画面例の説明図であり、Ａは字幕の表示例、Ｂはつぶやきの表示例を示している。
【図３】第１の実施形態に係る字幕／つぶやき表示の切り替えの説明図である。
【図４】第１の実施形態に係る各サーバに適用されるコンピュータの内部構成例を示すブロック図である。
【図５】第１の実施形態に係る画像処理装置の内部構成例を示すブロック図である。
【図６】第１の実施形態に係る画像生成部の内部構成例を示すブロック図である。
【図７】第１の実施形態に係る画像生成部によるつぶやき表示処理例を示すフローチャートである。
【図８】第１の実施形態に係る画像処理装置のつぶやき情報サーバからツイートを取得するための内部構成例の要部を示すブロック図である。
【図９】第１の実施形態に係る画像生成部によるつぶやき取得処理例を示すフローチャートである。
【図１０】第１の実施形態に係る画像処理装置の変形例の要部を示すブロック図である。
【図１１】第２の実施形態に係る録画装置の内部構成例を示すブロック図である。
【図１２】第２の実施形態に係る録画処理部の内部構成例を示すブロック図である。
【図１３】第２の実施形態に係る録画処理部によるつぶやき記録処理例を示すフローチャートである。
【図１４】第３の実施形態に係る再生装置の内部構成例を示すブロック図である。
【図１５】第３の実施形態に係る画像生成部の内部構成例を示すブロック図である。
【発明を実施するための形態】
【００１４】
以下、本開示を実施するための形態の例について、添付図面を参照しながら説明する。各図において共通の構成要素には、同一の符号を付して重複する説明を省略する。説明は下記の順序で行う。
１．第１の実施形態（画像処理装置：放送局に紐づけられたつぶやきを取得する例）
１−１．変形例（画像処理装置：放送番組に関する情報から文字を抽出して指定情報を生成し、つぶやきを取得する例）
２．第２の実施形態（録画装置の例）
３．第３の実施形態（再生装置の例）
【００１５】
＜１．第１の実施形態＞
以下に示す実施の形態では、受信した放送番組と、該放送番組に関する短文の文字情報（例えばＴｗｉｔｔｅｒに代表されるつぶやき）を、表示装置の画面に一緒に表示する場合を説明する。以下の実施の形態では、文字情報は、漢字、かな文字、英数字、記号の少なくともいずれかを含む文字列であって、文字数が制限されている（一例として、ｌ４０字以内）ことを想定している。
【００１６】
［文字情報表示システムの概要］
図１は、第１の実施形態に係る文字情報表示システムの構成例を模式的に示した説明図である。
本実施形態の文字情報表示システムは、複数のつぶやき情報（文字情報）が登録されるつぶやき情報サーバ１と、指定情報サーバ２と、テレビジョン放送波（放送番組）を受信する画像処理装置３を有し、これらの装置がインターネット等のネットワーク４で相互に通信可能に接続されている。画像処理装置３には、表示装置５が接続されている。画像処理装置３には、一例としてビデオレコーダを適用することができ、無線又は有線のいずれの設備を利用して放送番組を受信してもよい。
【００１７】
指定情報サーバ２は、一例として表１に示すような指定情報テーブルを保存している。なお、サービスＩＤとは、放送局から自動的に割り当てられる情報であるが、同じ放送局でも地域によって異なる場合もある。
【表１】
0005857449.tif 000002
【００１８】
表１に示した指定情報テーブルの一項目の指定情報は、Ｔｗｉｔｔｅｒのハッシュタグに対応する情報である。どの放送局がどのハッシュタグを使用するのか紐付けがわかるデータテーブルを指定情報サーバ２に保存しておく。この指定情報を基に、放送番組に関する情報（例えば、ＳＩ（Service Information）情報）に含まれる放送局情報と紐付けられたつぶやきを取得するためのＵＲＬ（Uniform Resource Locator）が作成される。ＵＲＬとは、インターネット上に存在する情報資源(文書や画像など)の場所を指し示すアドレス情報である。
【００１９】
指定情報テーブルは、次のようにして取得できる。まず、画像処理装置３を起動時もしくは所定操作を実行時に、指定情報のデータ（指定情報テーブル）を指定情報サーバ２からダウンロードし、画像処理装置３の記憶手段に受信したデータを保存しておく。放送局が増えたり、減ったり、変更があるときに対応するため、常に最新のデータを持つように管理することが望ましい。例えば、ユーザが画像処理装置３に対し、当該画像処理装置３から受信可能な周波数のプリセットを実行する操作をした場合に、画像処理装置３でプリセットした周波数に対応する放送局の情報を指定情報サーバ２へ提供し、提供した放送局の情報と紐付けられた指定情報（例えばハッシュタグ）を指定情報サーバ２から画像処理装置３へ返信するようにしてもよい。
【００２０】
なお、指定情報サーバ２から指定情報テーブルをダウンロードしない場合は、画像処理装置３において自動的にもしくはユーザが手動で指定情報テーブルを直接作成して保存しておいてもよい。
【００２１】
文字情報表示システムの動作の概要は、以下のとおりである。
まず、画像処理装置３が、つぶやき情報サーバ１に新しいつぶやきがないか確認する。すなわち、或る指定情報をキーとしてつぶやき情報サーバ１に登録されているつぶやきを検索する。
【００２２】
つぶやき情報サーバ１には、オープンＡＰＩ（Application Programming Interface）が用意されていて、ネットワーク通信（ＨＴＴＰ／ＧＥＴメソッド）するだけで、ＵＲＬで指定したアドレス情報が取得できる。例えば、表１の“Ａテレビ”のつぶやき情報を取得したい場合は、例えば画像処理装置３がＵＲＬを「http://search.twitter.com/search.atom?q=%23AAA」と指定してつぶやき情報サーバ１へ送信し、つぶやき情報サーバ１から#AAA（Ａテレビ）と紐づけられたつぶやき情報を受信する。つぶやき情報サーバ１から受信した情報が画像処理装置３に保存され、表示装置５の画面に表示される。
【００２３】
本開示の文字情報表示システムによる字幕及びつぶやきの表示について説明する。
図２は、第１の実施形態に係る表示装置に表示する画面例の説明図であり、Ａは字幕の表示例、Ｂはつぶやきの表示例を示している。
ここで、新しいつぶやきがない場合、図２Ａに示すように表示装置５の画面１１の字幕領域１２に字幕１３を表示する。なお、図２Ａの例では、字幕１３を表示しているが、字幕の位置情報のみ取れていて、つぶやきを表示しないようにしてもよい。一方、新しいつぶやきがある場合、その情報を取得して、図２Ｂに示すように字幕領域１２の字幕の位置につぶやき１４を表示させる。
【００２４】
このように、放送局が決めた字幕の位置に短文の文字情報を表示することによって、取得した文字情報が字幕領域の背景にある番組画像の不適切な位置にかぶることなく表示できる。
【００２５】
画像処理装置３がつぶやき情報サーバ１から取得したつぶやきの文字サイズや色などの書式は、ユーザがリモート・コントローラ（以下、「リモコン」と略す。）を操作して選択・設定できるようにする。また、つぶやきの文字情報を表示させる・させないは、オプション・メニューからユーザの指示により切り替えられるようにする。
【００２６】
図３は、第１の実施形態に係る字幕／つぶやき表示の切り替えの説明図である。
オプション・メニュー画面１６のオプション項目として、字幕／つぶやき表示切り替え１６ａの項目が用意されている。ディフォルトは、字幕が表示されており、字幕／つぶやき表示切り替え１６ａの項目をクリックすると、つぶやき表示に切り替わる。再度、字幕／つぶやき表示切り替え１６ａの項目を選ぶと字幕表示に切り替わるトグル機構となっている。なお、気になるワード１６ｂの項目は、ＥＰＧ（Electronic Program Guide）情報（ＳＩ情報）に含まれる文字を元に指定情報（本例ではハッシュタグ）を作成し、放送番組に関連するつぶやき情報を取得する目的で利用されるものであり、詳細は後述する。
【００２７】
［サーバの構成例］
次に、つぶやき情報サーバ１及び指定情報サーバ２の構成を説明する。
つぶやき情報サーバ１及び指定情報サーバ２は、一例として汎用のコンピュータを適用することができる。図４は、コンピュータのハードウェアの内部構成例を示すブロック図である。
【００２８】
コンピュータ２０において、ＣＰＵ(Central Processing Unit)２１、ＲＯＭ(Read Only Memory)２２、ＲＡＭ(Random Access Memory)２３は、バス２４により相互に接続されている。
【００２９】
バス２４には、さらに、入出力インタフェース２５が接続されている。入出力インタフェース２５には、入力部２６、出力部２７、記憶部２８、通信部２９、およびドライブ３０が接続されている。
【００３０】
入力部２６は、キーボード、マウス、マイクロフォンなどよりなる。出力部２７は、ディスプレイ、スピーカなどよりなる。記憶部２８は、ハードディスクや不揮発性のメモリなどよりなる。通信部２９は、ネットワークインタフェースなどよりなる。ドライブ３０は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア３１を駆動する。
【００３１】
以上のように構成されるコンピュータ２０では、ＣＰＵ２１が、例えば、記憶部２８に記憶されているプログラムを入出力インタフェース２５及びバス２４を介してＲＡＭ２３にロードして実行することにより、上述した一連の処理が行われる。
【００３２】
コンピュータ２０（ＣＰＵ２１）が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア３１に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル放送といった、有線または無線の伝送媒体を介して提供することができる。
【００３３】
コンピュータ２０では、プログラムは、リムーバブルメディア３１をドライブ３０に装着することにより、入出力インタフェース２５を介して、記憶部２８にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部２９で受信し、記憶部２８にインストールすることができる。その他、プログラムは、ＲＯＭ２２や記憶部２８に、あらかじめインストールしておくことができる。
【００３４】
上述のように構成されたつぶやき情報サーバ１は、ハッシュタグを元に作成されたＵＲＬを画像処理装置３から受信すると、ＣＰＵ２１がそのＵＲＬにより指定された文字情報を記憶部２８に保存された文字情報から検索する。そして、該当する文字情報が検索された場合、ネットワーク４を介して該当文字情報を画像処理装置３へ送信する。
【００３５】
また、指定情報サーバ２は、画像処理装置３から指定情報テーブル（表１参照）の送信要求を受けたとき、ＣＰＵ２１が記憶部２８に保存された指定情報テーブルを読み出し、画像処理装置３へ送信する。あるいは、画像処理装置３から特定の放送局に対応する指定情報（例えばハッシュタグ）の送信要求を受けた場合、記憶部２８から該当する放送局の指定情報を読み出して画像処理装置３へ送信してもよい。
【００３６】
［画像処理装置の構成例］
次に、画像処理装置３の構成を説明する。
図５は、画像処理装置３の内部構成例を示すブロック図である。
画像処理装置３は大きく分けると、放送番組に対する処理を実行するブロックと、つぶやき情報に対する処理を実行するブロックに分けられる。
放送番組に対する処理を実行するブロックには、番組受信部４１と、映像／音声解析部４２と、字幕情報解析部４３と、字幕処理部４４が含まれる。
一方、つぶやき情報に対する処理を実行するブロックには、ネットワーク通信部４７（通信部の一例）と、指定情報生成部４８と、指定情報メモリ４９と、つぶやき情報解析部５０と、つぶやき処理部５１がある。
画像処理装置３は、さらに制御部４５と、リモコンインタフェース４６と、設定情報メモリ５３と、画像生成部５２を有する。
【００３７】
番組受信部４１は、番組受信部の一例であり、いわゆるチューナとしての機能を有する。アンテナを介してテレビジョン放送波（放送番組）を受信し、受信した放送番組を映像／音声解析部４２と字幕情報解析部４３へ供給する。
【００３８】
映像／音声解析部４２は、映像抽出部の一例であり、番組受信部４１により受信された放送番組を解析して映像・音声データを抽出し、画像生成部５２へ出力する。
【００３９】
字幕情報解析部４３及び字幕処理部４４は、字幕抽出部の構成要素の一例である。
字幕情報解析部４３は、番組受信部４１により受信された放送番組を解析して字幕情報を抽出し、字幕処理部４４へ出力する。字幕処理部４４は、字幕情報解析部４３で抽出された字幕情報から字幕の文字情報（文字列）と属性情報を抽出し、画像生成部５２へ出力する。
【００４０】
字幕の文字情報は、一例としてＡＲＩＢ（Association of Radio Industries and Businesses：社団法人電波産業会）標準規格の第１言語字幕文、及び／又は第２言語字幕文に相当する。また字幕の属性情報は、ＡＲＩＢ標準規格の字幕管理データに相当する。以降、第１言語字幕文を「第１字幕（字幕１）」、第２言語字幕文を「第２字幕（字幕２）」と称し、対応する字幕管理データを「第１属性情報（属性１）」、「第２属性情報（属性２）」と称す。
【００４１】
ネットワーク通信部４７は、通信部の一例であり、インターネット等の外部のネットワーク４（図１参照）と通信を行う。
【００４２】
指定情報生成部４８は、複数の指定情報（例えばハッシュタグ）が登録される指定情報サーバ２等から取得した指定情報テーブルの内容を解析する。そして、放送番組に関する情報に含まれる放送局情報と紐付けられた文字情報を指定して取得するための指定情報を抽出する。また、ハッシュタグなどの指定情報から取得したいつぶやき情報に対するＵＲＬを作成する。
【００４３】
指定情報メモリ４９は、表１に示した指定情報テーブルを記憶している。指定情報生成部４８では、この指定情報テーブルの放送局と指定情報（例えばハッシュタグ）を参照して、指定情報を作成している。また指定情報メモリ４９は、ユーザが設定した任意の登場人物やジャンル等の指定情報（以下、「ユーザ設定情報」という）を記憶している。
【００４４】
つぶやき情報解析部５０及びつぶやき処理部５１は、文字情報取得部の構成要素の一例である。ネットワーク通信部４７を介し、複数のつぶやき（文字情報）が登録されるつぶやき情報サーバ１から、放送番組に関連して作成されたつぶやき（文字情報）を取得する。
【００４５】
制御部４５は、図示しないリモコン（操作部の一例）から送出される赤外線等のリモコン信号をリモコンインタフェース４６を介して受信し、該リモコン信号に基づいて画像処理装置３内の各ブロックを制御する。一例として、ネットワーク通信部４７によるデータ通信を制御したり、指定情報生成部４８及び指定情報メモリ４９による指定情報の生成を制御したりする。また、ユーザ操作に応じて設定情報を設定情報メモリ５３に保存したり、画像生成部５２に直接操作信号の内容を通知したりする。制御部４５は、一例としてはＭＰＵ（Micro-Processing Unit）から構成される。
【００４６】
リモコンインタフェース４６は、不図示のリモート・コントローラから出力されるリモコン信号（例えば赤外線）を受光して電気信号に変換し、制御部４５へ出力する。
【００４７】
設定情報メモリ５３は、字幕／つぶやき表示の切り替えの設定情報や、放送番組に対して２つの字幕（第１字幕、第２字幕）が設定されている場合に、字幕選択の設定情報などを記憶している。
【００４８】
画像生成部５２は、設定情報メモリ５３に保存されている字幕／つぶやき表示の切り替えの設定情報に応じて、字幕領域の所定位置に字幕の文字情報又はつぶやきの文字情報を挿入し、画像を生成する。そして、生成した画像を表示装置５へ出力する。
【００４９】
［画像生成部の構成］
図６は、第１の実施形態に係る画像生成部の内部構成例を示すブロック図である。
画像生成部５２は、文字情報選択部６１と、属性情報解析部６２と、画像合成部６３を有する。
【００５０】
文字情報選択部６１は、設定情報に基づいて、字幕処理部４４から入力される字幕の文字情報と、つぶやき処理部５１から入力されるつぶやきの文字情報のうち、いずれかを選択して画像合成部６３へ出力する。
【００５１】
属性情報解析部６２は、字幕処理部４４から入力される属性情報の内容を解析し、使用している字幕の数、字幕領域の大きさ及び字幕の位置等の情報を、画像合成部６３へ出力する。
【００５２】
画像合成部６３は、属性情報に含まれる字幕領域の字幕の位置情報に基づいて、入力される映像・音声データの字幕領域の文字情報の位置に、字幕又はつぶやきのいずれかの文字情報を挿入して画像を生成する。そして、字幕領域の所定位置にいずれかの文字情報を挿入した画像を、表示装置５へ出力する。
【００５３】
［画像生成部の処理］
図７は、第１の実施形態に係る画像生成部５２によるつぶやき表示処理例を示すフローチャートである。
まず、文字情報選択部６１が、設定情報に基づいて、字幕又はつぶやきのいずれかの文字情報を選択する（ステップＳ１）。この処理と並行して、属性情報解析部６２は、字幕の属性情報を解析する（ステップＳ２）。
【００５４】
そして、ステップＳ１においてつぶやきが選択されたかどうかを判定する（ステップＳ３）。つぶやきが選択されなかった場合には、画像合成部６３は、字幕の属性情報に基づいて字幕を挿入した画像を生成し、表示装置５へ出力する（ステップＳ４）。
【００５５】
続いて、ステップＳ３の判定処理においてつぶやきが選択された場合に、画像合成部６３は、属性情報から受信した放送番組が字幕ありの映像であるかどうかを判定する（ステップＳ５）。字幕なしの映像である場合、つぶやきの文字情報を画像の固定位置に挿入し、表示装置５へ出力する（ステップＳ６）。例えば字幕がない放送番組やＣＭ（commercial message）の間の場合は、つぶやきの文字情報を画像の固定の位置に表示する。
【００５６】
一方、ステップＳ５の判定処理において字幕ありの映像である場合、画像合成部６３は、属性情報に含まれる字幕領域の字幕の位置に基づいて、画像の字幕の位置につぶやきの文字情報を挿入する（ステップＳ７）。
【００５７】
ここで、画像合成部６３は、挿入するつぶやきの文字情報が字幕領域に収まるかどうかを判定する（ステップＳ８）。つぶやきの文字情報が字幕領域に収まらない場合、画像合成部６３は、つぶやきの文字情報を他の所定の方法で画像の字幕領域に挿入し、表示装置５へ出力する（ステップＳ９）。
【００５８】
例えばＴｗｉｔｔｅｒにおいて登録できる文字数は最大１４０文字なので、つぶやきの文字列が字幕領域に入りきらず一部表示できないことも考えられる。その場合、画像合成部６３は、つぶやきの文字サイズと字幕領域のサイズからつぶやきの文字列を何文字表示できるか計算し、先頭の文字から表示する。入りきれない文字は、表示できた最後の文字を”…”と表現して表示させる。これにより、ユーザにはまだつぶやきの文字列が続くことが視認できるので、ユーザがつぶやきの続きを見たいと思った場合には、つぶやき情報サーバ１に登録された当該つぶやきを直接閲覧するという対応が可能になる。
または、画像合成部６３は、字幕領域に表示する行数を字幕の行数より一行増やした行数でつぶやきの文字情報を表示するようにしてもよい。あるいは、字幕領域に表示するつぶやきの文字情報をロールアップ又はスクロールして表示するようにしてもよい。
【００５９】
一方、ステップＳ８の判定処理において挿入するつぶやきの文字情報が字幕領域に収まる場合、画像合成部６３は、つぶやきの文字情報を字幕の位置に挿入した画像を、表示装置５へ出力する（ステップＳ１０）。このステップＳ１０の処理を終了後、本フローチャートの処理を終了する。
【００６０】
［つぶやき取得方法］
次に、つぶやき情報サーバからつぶやきを取得する方法を説明する。
図８は、第１の実施形態に係る画像処理装置の、つぶやき情報サーバからつぶやきを取得するための内部構成例の要部を示すブロック図である。図５と対応する部分には同一符号を付している。
【００６１】
第１の取得方法は、放送番組に関する情報から放送局を特定し、その放送局に対応する指定情報を元につぶやきを取得する方法である。
番組配列情報解析部５４（図８参照）は、番組受信部４１が受信した放送番組に含まれる番組配列情報（例えばＳＩ情報）を解析し、番組配列情報から放送番組の放送局を特定し、指定情報生成部４８へ出力する。指定情報生成部４８（図８参照）は、指定情報メモリ４９に保存されている指定情報テーブルから上記の特定された放送局を検索し、当該放送局の指定情報（例えば、表１の♯ＡＡＡ）を取得する。指定情報生成部４８は、ネットワーク通信部４７を介して、その指定情報に基づくＵＲＬをつぶやき情報サーバ１へ送信する。つぶやき情報解析部５０は、指定情報に対してつぶやき情報サーバ１から返信されるデータを取得及び解析し、当該放送局と紐付けられたつぶやきの文字情報を抽出して記録装置５５へ保存する。
【００６２】
この取得方法によれば、視聴している放送番組に関する情報から放送局を特定して、その放送局に対応する指定情報を元に、放送局と紐付けられたつぶやきをリアルタイムで取得できる。
【００６３】
第２の取得方法は、ユーザ設定情報を元に指定情報を生成し、つぶやきを取得する方法は以下のとおりである。
ユーザ操作に応じたユーザ設定情報（例えば、jishin(地震)）が指定情報生成部４８に入力される。もしくは、指定情報メモリ４９に予め保存しておいたユーザ設定情報を用いてもよい。ユーザ設定情報は、記述したようにユーザが設定した放送番組の登場人物やジャンル等の任意の情報である。指定情報生成部４８は、ユーザ設定情報に対応する指定情報（例えば、♯jishin）を生成し、その指定情報に基づくＵＲＬをつぶやき情報サーバ１へ送信する。そして、つぶやき情報解析部５０は、指定情報に対してつぶやき情報サーバ１から返信されるデータを取得及び解析し、当該ユーザ設定情報と紐付けられたつぶやきの文字情報を抽出して記録装置５５へ保存する。
【００６４】
この取得方法によれば、視聴している放送番組に関する情報とは必ずしも関係なく、ユーザが設定した情報（指定情報）と紐付けられたつぶやきをリアルタイムで取得できる。
【００６５】
さらに、第１の取得方法と第２の取得方法を組み合わせて、つぶやきを取得してもよい。その場合、第１の取得方法と第２の取得方法にて作成される指定情報の和をとるか、積をとるか選択できるようにすると、きめ細かい条件でつぶやきを取得することが可能になる。
【００６６】
なお記録装置５５は、ハードディスクや半導体メモリ、リムーバブルメディア等が適用され、不揮発性の大容量の外部記録装置である。
【００６７】
図９は、第１の実施形態に係る画像処理装置３によるつぶやき取得処理例を示すフローチャートである。
まず画像処理装置３の制御部４５は、ユーザが画像処理装置３を操作して放送番組の視聴を開始したことを検出する（ステップＳ１１）。
【００６８】
視聴開始を検出後、制御部４５は、視聴している放送番組に関連するつぶやきをつぶやき情報サーバ１から取得すべく制御を行い、取得したつぶやきデータをその取得時間とともに記録装置５５へ保存させる（ステップＳ１２）。
【００６９】
ここで、つぶやきデータを取得できなかったときは、ステップＳ１２の処理へ戻り、制御部４５は、再度つぶやき情報サーバ１からつぶやきを取得すべく制御を行う（ステップＳ１３）。つぶやきデータがないときは例えば３０秒待ち、前回取得した時間からの差分のつぶやきデータを再取得させる。
【００７０】
ステップＳ１３の判定処理においてつぶやきデータを取得できた場合、制御部４５は、画像生成部５２を制御し、表示装置５へ画像を出力させて１つのつぶやきを５秒間表示させる（ステップＳ１４）。なお、５秒という表示時間は一例であり、この値に限られない。
【００７１】
その後、制御部４５は、つぶやきデータを取得してから５分経過したかどうかを判定する（ステップＳ１５）。つぶやきデータを取得後５分が経過している場合は、ステップＳ１７の処理へ進む。５分を設定するのは、つぶやきが多数のとき全てのつぶやきの表示が完了するまでに５分以上掛かってしまい、古い情報を表示することになる。そこで、５分ごとに未表示の古いつぶやきが残っていないかどうかを監視するようにしている。これにより、常に新しいつぶやきを取得できる。なお、５分という設定は一例であり、この値に限られない。
【００７２】
ステップＳ１５の判定処理においてつぶやきデータを取得後５分が経過していない場合、制御部４５は、取得したつぶやきデータを画像生成部５２から表示装置５へ出力して全部表示したかどうかを判定する（ステップＳ１６）。つぶやきデータを全部表示していない場合は、制御部４５は、ステップＳ１４の処理へ進んで残りのつぶやきデータを表示させる。
【００７３】
ステップＳ１６の判定処理においてつぶやきデータを全部表示した場合は、制御部４５は、前回取得した時間からの差分のつぶやきデータを再取得させる（ステップＳ１７）。そして、ステップＳ１２へ進み、制御部４５は、取得したつぶやきデータをその取得時間とともに記録装置５５へ保存させる。
【００７４】
つぶやき情報サーバ１が故障中である場合や、ネットワーク４に通信障害が発生した場合は、つぶやきデータの表示は行わない。これは、ステップＳ１３の判定処理でつぶやきデータの取得数が０だったときと同じ挙動である。
【００７５】
以上説明した第１の実施形態によれば、字幕の位置情報を利用してつぶやきの文字情報を字幕の位置に表示することにより、つぶやき表示用の別ウィンドウを用意する必要がない。
【００７６】
また、放送局が決めた字幕の位置につぶやきの文字情報を表示することによって、つぶやきの文字情報が字幕領域の背景にある番組画像の不適切な位置にかぶることなく表示することができる。
【００７７】
［１−１．変形例］
図１０は、第１の実施形態に係る画像処理装置の変形例の要部を示すブロック図である。
この変形例は、放送局から放送番組と一緒に放送されるＥＰＧ情報（ＳＩ情報）に含まれる文字を元に指定情報（本例ではハッシュタグ）を作成し、放送番組に関連するつぶやき情報を取得する構成とされたものである。以下、図１０の画像処理装置３Ａと、図５及び図８に示した画像処理装置３との相違点を中心に説明を行う。
【００７８】
画像処理装置３Ａは、画像処理装置３と比較して、文字抽出部７１と、文字辞書７２と、ローマ字変換部７３を新たに備えて構成される。
【００７９】
指定情報生成部４８は、番組配列情報解析部５４が番組配列情報から抽出した文字情報（漢字、平仮名）を取得し、文字抽出部７１へ出力する。
【００８０】
文字抽出部７１は、指定情報生成部４８から取得した文字情報と文字辞書７２に登録されている文字を比較する。指定情報生成部４８から取得した文字情報の中に、文字辞書７２に登録されている文字に該当するものがあれば、文字抽出部７１は、その文字をローマ字変換部７３へ出力する。文字辞書７２には、不揮発性の記録装置が適用され、記録装置５５を利用してもよい。
【００８１】
ローマ字変換部７３は、漢字もしくは平仮名の文字をカタカナに変換し、カタカナからローマ字（英字）に変換する。このローマ字を指定情報生成部４８へ出力する。
【００８２】
指定情報生成部４８は、ローマ字変換部７３から入力されるローマ字の先頭に“♯”をつけるなどして、指定情報（本例ではハッシュタグ）を作成する。そして、ネットワーク通信部４７を介して、この指定情報を元にしたＵＲＬからつぶやき情報サーバ１に接続し、放送番組に関するつぶやき情報を自動で取得することができる。
【００８３】
以上説明した第１の実施形態の変形例によれば、ＥＰＧ情報（ＳＩ情報）に含まれる文字を元に指定情報を作成し、その指定情報から放送番組に関するつぶやき情報を自動で取得できる。したがって、ユーザが指定情報を作成する必要がなく、また放送局以外の番組情報に関するつぶやき情報を容易に取得することができる。
【００８４】
＜２．第２の実施形態＞
第２の実施形態は、第１の実施形態に係る画像処理装置３（図５参照）の文字情報表示処理の原理を記録装置に応用した例である。
【００８５】
まず、第２の実施形態に係る録画装置８０の構成を説明する。
図１１は、第２の実施形態に係る録画装置の内部構成例を示すブロック図である。
図１１において、図５と対応する部分には同一符号を付し、詳細な説明は省略する。図１１に示す録画装置８０は、図５に示した画像処理装置３の画像生成部５２を録画処理部８１に置き換え、その出力先を表示装置５から記録装置５５に置き換えたものである。それ以外の部分は、録画装置８０と画像処理装置３とで共通の構成である。
【００８６】
次に、第２の実施形態に係る録画処理部８１の構成を説明する。
図１２は、録画処理部８１の内部構成例を示すブロック図である。録画処理部８１は主に、属性情報解析部８２と記録部８３から構成される。この例は、第１字幕及び第２字幕の各々に、つぶやきの文字情報と字幕の文字情報を挿入することを想定した例である。
【００８７】
属性情報解析部８２は、図６に示した属性情報解析部６２と同様の機能を有する。すなわち、字幕処理部４４から入力される属性情報の内容を解析し、使用している字幕の数、字幕領域の大きさ及び字幕の位置等の情報を、記録部８３へ出力する。
【００８８】
記録部８３は、属性情報に含まれる字幕領域の字幕の位置情報に基づいて、入力される映像・音声データの字幕領域の文字情報の位置に、字幕又はつぶやきのいずれかの文字情報を挿入して画像を生成する。そして、字幕領域の所定位置にいずれかの文字情報を挿入した画像を、記録装置５５へ出力する。
【００８９】
図１３は、第２の実施形態に係る録画処理部８１によるつぶやき記録処理例を示すフローチャートである。
まず、録画処理部８１の属性情報解析部８２は、受信した放送番組の字幕の属性情報を解析する（ステップＳ２１）。次に、属性情報解析部８２は、第１字幕と第２字幕のいずれかが未使用であるか否かを判定する（ステップＳ２２）。未使用の字幕がない場合、記録部８３は、第１字幕と第２字幕をそのまま映像とともに記録装置５５へ記録する（ステップＳ２３）。
【００９０】
ステップＳ２２において第１字幕と第２字幕のいずれかが未使用である場合、記録部８３は、未使用の字幕の文字情報をつぶやきの文字情報に置き換える（ステップＳ２４）。例えば、第２字幕だけが空いている場合、第１字幕には字幕をそのまま挿入し、第２字幕の字幕位置に、字幕の位置情報に基づいてつぶやきの文字情報を挿入する。
【００９１】
そして、記録部８３は、つぶやきの文字情報を空いている字幕領域の字幕位置に挿入した画像を、記録装置５５へ記録する（ステップＳ２５）。このステップＳ２５の処理を終了後、本フローチャートの処理を終了する。
【００９２】
以上説明した第２の実施形態によれば、放送局が決めた字幕の位置につぶやきの文字情報を配置して、映像を記録することができる。それゆえ、記録時に、つぶやきの文字情報が字幕領域の背景にある番組画像の不適切な位置にかぶることなく記録できる。
【００９３】
また、ＡＲＩＢでは、１つの放送番組に対して字幕を２つまで入れることができ、ユーザが任意でどちらかを選ぶことができる。放送局側が字幕を１つしか使っていなかったら、空いている２つ目の字幕情報の字幕の位置につぶやきの文字情報を挿入して、一緒に録画することもできる。そして、つぶやきの文字情報を字幕情報として保存すれば、従来の方法で録画した映像と同じ扱いにできるので、例えばＢＤ（ブルーレイディスク）の対応機器であれば、他社の機器でも、互換性がある。
【００９４】
なお、記録時に、属性情報から字幕の有無、字幕の空き状況を解析し、字幕が空いていなければいずれかの２つの字幕のいずれかを選択して、つぶやきの文字情報を字幕に上書きするようにしてもよい。
【００９５】
＜３．第３の実施形態＞
第３の実施形態は、第１の実施形態に係る画像処理装置３（図５参照）の文字情報表示処理の原理を再生装置に応用した例である。
【００９６】
まず、第３の実施形態に係る再生装置９０の構成を説明する。
図１４は、第３の実施形態に係る再生装置の内部構成例を示すブロック図である。
図１４において、図５と対応する部分には同一符号を付し、詳細な説明は省略する。図１４に示す再生装置９０は、字幕付き映像コンテンツの供給元を図５に示した番組受信部４１から記録装置５５に置き換えたものである。それ以外の部分は、再生装置９０と画像処理装置３とで共通の構成である。
【００９７】
次に、第３の実施形態に係る画像生成部の構成を説明する。
図１５は、第３の実施形態に係る画像生成部５２の内部構成例を示すブロック図である。
図１５に示す画像生成部５２は、図６の画像処理装置３の画像生成部５２と同じ構成である。この例では、記録装置５５から読み出した字幕付き映像コンテンツの第１字幕及び第２字幕の各々に、つぶやきの文字情報と字幕の文字情報が挿入されていることを想定した例である。
【００９８】
第３の実施形態によれば、放送局が決めた字幕の位置につぶやきの文字情報を配置して記録した映像コンテンツを記録装置から読み出して再生することになる。それゆえ、再生時に、つぶやきの文字情報が字幕領域の背景にある番組画像の不適切な位置にかぶることなく再生できる。
【００９９】
以上説明した各実施形態において、放送番組と一緒に画面に表示する文字情報の例として、所定の文字数以内に制限されたつぶやきの文字情報を説明したが、これに限られるものではない。例えば電子掲示板に掲載された書き込み等、比較的短文な文字情報であれば本開示の作用効果を発揮できる。
【０１００】
また、ＡＲＩＢ（日本のデジタル放送規格）以外にも、ＤＶＢ（欧州のデジタル放送規格）、ＡＴＳＣ（米国のデジタル放送規格）等においても、字幕情報に字幕の表示位置に関する情報が含まれていれば、本開示を適用することができる。
【０１０１】
なお、図１に示した例では、画像処理装置３と表示装置５を別体としたが、この例に限られることなく、これらの機能を内蔵するテレビジョン受像機などを用いてもよい。
【０１０２】
なお、上述した各実施の形態例における一連の処理は、ハードウェアにより実行することができるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが専用のハードウェアに組み込まれているコンピュータ、または、各種の機能を実行するためのプログラムをインストールしたコンピュータにより、実行可能である。
【０１０３】
また、上述した実施の形態の機能を実現するソフトウェアのプログラムコードを記録した記録媒体を、システムあるいは装置に供給してもよい。また、そのシステムあるいは装置のコンピュータ（またはＣＰＵ等の制御装置）が記録媒体に格納されたプログラムコードを読み出し実行することによっても、機能が実現されることは言うまでもない。
【０１０４】
また、コンピュータが読み出したプログラムコードを実行することにより、上述した実施の形態の機能が実現される。加えて、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているＯＳなどが実際の処理の一部又は全部を行う。その処理によって上述した実施の形態の機能が実現される場合も含まれる。
【０１０５】
また、本明細書において、時系列的な処理を記述する処理ステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理（例えば、並列処理あるいはオブジェクトによる処理）をも含むものである。
【０１０６】
なお、本技術は以下のような構成もとることができる。
（１）
放送番組を受信する番組受信部と、
前記番組受信部により受信された放送番組の字幕を構成する字幕文字情報と属性情報を抽出する字幕抽出部と、
前記番組受信部により受信された放送番組の映像を抽出する映像抽出部と、
外部と通信を行う通信部と、
前記通信部を介し、複数の文字情報が登録されるサーバから、前記放送番組に関連して作成された文字情報を取得する文字情報取得部と、
前記属性情報に含まれる前記字幕文字情報の位置情報に基づいて、前記映像における前記字幕文字情報の位置に前記文字情報を挿入した映像を表示装置へ出力する画像生成部と、を備える
画像処理装置。
（２）
前記番組受信部により前記放送番組とともに受信される、該放送番組に関する情報を取得する番組情報取得部と、
前記サーバから、前記放送番組に関する情報に含まれる放送局情報と紐付けられた文字情報を指定して取得するための指定情報を生成する指定情報生成部と、をさらに備え、
前記通信部より前記サーバへ前記指定情報を送信し、前記文字情報取得部は、前記指定情報に対して前記サーバから返信される、前記放送局情報と紐付けられた文字情報を取得する
前記（１）に記載の画像処理装置。
（３）
前記サーバから、ユーザにより設定される情報と紐付けられた文字情報を指定して取得するための指定情報を生成する指定情報生成部と、をさらに備え、
前記通信部より前記サーバへ前記指定情報を送信し、前記文字情報取得部は、前記指定情報に対して前記サーバから返信される、前記ユーザにより設定された情報と紐付けられた文字情報を取得する
前記（１）に記載の画像処理装置。
（４）
前記番組受信部により前記放送番組とともに受信される、該放送番組に関する情報を取得する番組情報取得部と、
複数の文字が登録された記録装置と、
該放送番組に関する情報から文字を抽出し、前記抽出した文字に該当する文字を文字辞書に登録された複数の文字の中から取得する文字抽出部と、
前記文字抽出部により取得された文字をローマ字に変換するローマ字変換部と、
前記サーバから、前記ローマ字と紐付けられた文字情報を指定して取得するための指定情報を生成する指定情報生成部と、をさらに備え、
前記通信部より前記サーバへ前記指定情報を送信し、前記文字情報取得部は、前記指定情報に対して前記サーバから返信される、前記ローマ字と紐付けられた文字情報を取得する
前記（１）に記載の画像処理装置。
（５）
前記画像生成部は、設定情報に従い、前記映像における前記字幕文字情報の位置に前記字幕文字情報又は前記文字情報のいずれを挿入するか選択する文字情報選択部、を有する
前記（２）〜（４）のいずれかに記載の画像処理装置。
（６）
前記画像生成部は、前記文字情報取得部により前記サーバから取得された前記文字情報を、取得した時間順に一定時間間隔で、前記映像における前記字幕文字情報の位置に挿入する
前記（２）〜（５）のいずれかに記載の画像処理装置。
（７）
前記文字情報は、文字数が所定数内に制限された文字列である
前記（２）〜（６）のいずれかに記載の画像処理装置。
（８）
放送番組を受信する番組受信部と、
前記番組受信部により受信された放送番組の字幕を構成する字幕文字情報と属性情報を抽出する字幕抽出部と、
前記番組受信部により受信された放送番組の映像を抽出する映像抽出部と、
外部と通信を行う通信部と、
前記通信部を介し、複数の文字情報が登録されるサーバから、前記放送番組に関連して作成された文字情報を取得する文字情報取得部と、
前記属性情報に含まれる前記字幕文字情報の位置情報に基づいて、前記映像における前記字幕文字情報の位置に前記文字情報を挿入した映像を記録装置へ出力する録画処理部と、を備える
録画装置。
【０１０７】
以上、本開示は上述した各実施の形態に限定されるものではなく、特許請求の範囲に記載された要旨を逸脱しない限りにおいて、その他種々の変形例、応用例を取り得ることは勿論である。
【符号の説明】
【０１０８】
１…つぶやき情報サーバ、２…指定情報サーバ、３…画像処理装置、４…ネットワーク、５…表示装置、２０…コンピュータ、１１，１３…画面、１２，１４…字幕領域、１５…メニュー画面、１６ａ…字幕／つぶやき表示切り替え項目、１６ｂ…検索ワード項目、４１…番組受信部、４２…映像／音声解析部、４３…字幕情報解析部、４４…字幕処理部、４５…制御部、４８…指定情報生成部、４９…指定情報メモリ、５０…つぶやき情報解析部、５１…つぶやき処理部、５２…画像生成部、５３…設定情報メモリ、５４…番組配列情報解析部、５５…記録装置、６１…文字情報選択部、６２…属性情報解析部、６３…画像合成部、７１…文字抽出部、７２…文字辞書、７３…ローマ字変換部、８０…録画装置、８１…録画処理部、８２…属性情報解析部、８３…記録部、９０…再生装置
【図４】
0005857449.tif 000003
【図５】
0005857449.tif 000004
【図６】
0005857449.tif 000005
【図７】
0005857449.tif 000006
【図８】
0005857449.tif 000007
【図９】
0005857449.tif 000008
【図１０】
0005857449.tif 000009
【図１１】
0005857449.tif 000010
【図１２】
0005857449.tif 000011
【図１３】
0005857449.tif 000012
【図１４】
0005857449.tif 000013
【図１５】
0005857449.tif 000014
【図１】
0005857449.tif 000015
【図２】
0005857449.tif 000016
【図３】
0005857449.tif 000017