(57)【要約】【課題】  表示エリアに表示されていないデータであっても、表示されているデータに連続するデータについても音声合成することで、表示データに連続するデータをもれなく音声合成することができる情報処理装置及びその方法、プログラムを提供する。【解決手段】  表示エリア内のコンテンツデータの表示範囲を示す表示範囲情報を保持しておき、その表示範囲情報に基づいて、表示エリアに表示されているコンテンツデータと、前記表示エリアに表示されていないコンテンツデータ中で、表示エリアに表示されているコンテンツデータと連続するコンテンツデータとを、音声合成の対象とするデータとして判定する。判定されたデータの音声合成を行う。【選択図】  図２
2005055920.tif 000002
【特許請求の範囲】
【請求項１】
コンテンツデータを表示エリアに表示するよう制御する表示制御手段と、
前記表示エリア内のコンテンツデータの表示範囲を変更する変更手段と、
前記表示範囲を示す表示範囲情報を保持する表示範囲保持手段と、
前記表示範囲情報に基づいて、前記表示エリアに表示されているコンテンツデータと、前記表示エリアに表示されていないコンテンツデータ中で、前記表示エリアに表示されているコンテンツデータと連続するコンテンツデータとを、音声合成の対象とするデータとして判定する判定手段と、
前記判定手段で判定されたデータの音声合成を行う音声合成手段と
を備えることを特徴とする情報処理装置。
【請求項２】
前記コンテンツデータは、テキスト情報を含み、
前記判定手段は、前記テキスト中の一文が途中で表示されていない場合に、該一文全てを音声合成の対象とするデータとして判定する
ことを特徴とする請求項１に記載の情報処理装置。
【請求項３】
コンテンツデータを表示エリアに表示するよう制御する表示制御工程と、
前記表示エリア内のコンテンツデータの表示範囲を変更する変更工程と、
前記表示範囲を示す表示範囲情報に基づいて、前記表示エリアに表示されているコンテンツデータと、前記表示エリアに表示されていないコンテンツデータ中で、前記表示エリアに表示されているコンテンツデータと連続するコンテンツデータとを、音声合成の対象とするデータとして判定する判定工程と、
前記判定工程で判定されたデータの音声合成を行う音声合成工程と
を備えることを特徴とする情報処理方法。
【請求項４】
前記コンテンツデータは、テキスト情報を含み、
前記判定工程は、前記テキスト中の一文が途中で表示されていない場合に、該一文全てを音声合成の対象とするデータとして判定する
ことを特徴とする請求項３に記載の情報処理方法。
【請求項５】
コンテンツデータを表示エリアに表示するよう制御する表示制御工程のプログラムコードと、
前記表示エリア内のコンテンツデータの表示範囲を変更する変更工程のプログラムコードと、
前記表示範囲を示す表示範囲情報に基づいて、前記表示エリアに表示されているコンテンツデータ及び前記表示エリアに表示されていないコンテンツデータ中で、前記表示エリアに表示されているコンテンツデータと連続するコンテンツデータを音声合成の対象とするデータとして判定する判定工程のプログラムコードと、
前記判定工程で判定されたデータの音声合成を行う音声合成工程のプログラムコードと
を備えることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、コンテンツデータに基づいて、情報表示及び音声入出力を制御するマルチモーダル入出力装置及びその方法、プログラムに関するものである。
【背景技術】
【０００２】
インターネットを用いたインフラストラクチャーの充実により、ニュースのような日々刻々として新たに発生する情報（フロー情報）を身近な情報機器によって入手可能な環境が整いつつある。こうした情報機器は、主にＧＵＩを用いて操作することが主流であった。
【０００３】
一方、音声認識技術、音声規則合成技術といった音声入出力技術の進歩により、電話等の音声のみのモダリティを用いて、ＧＵＩの操作を音声に置き換えるＣＴＩ（Computer Telephony Integration）といった技術も進歩してきている。
【０００４】
また、これを応用して、ユーザインタフェースとしてＧＵＩと音声入出力を併用するマルチモーダルインタフェースの需要が高まってきている。例えば、特許文献１では、ＧＵＩ上のメール表示画面内のメールを音声出力で読み上げ、かつその読み上げ箇所をカーソル表示し、更に、そのメールの音声出力の進行に伴って、メール表示画面をスクロールする技術を開示している。
【特許文献１】特開平９−１９０３２８号
【発明の開示】
【発明が解決しようとする課題】
【０００５】
しかしながら、こうした画像表示と音声入出力を併用可能なマルチモーダル入出力装置においては、ＧＵＩ上に表示されている表示範囲をユーザが変更した際には、その表示範囲の変更に伴う音声出力を適切に制御できないという課題があった。
【０００６】
本発明は上記の問題点に鑑みてなされたものであり、表示エリアに表示されていないデータであっても、表示されているデータに連続するデータについても音声合成することで、表示データに連続するデータをもれなく音声合成することができる情報処理装置及びその方法、プログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記の目的を達成するための本発明による情報処理装置は以下の構成を備える。即ち、  コンテンツデータを表示エリアに表示するよう制御する表示制御手段と、
前記表示エリア内のコンテンツデータの表示範囲を変更する変更手段と、
前記表示範囲を示す表示範囲情報を保持する表示範囲保持手段と、
前記表示範囲情報に基づいて、前記表示エリアに表示されているコンテンツデータと、前記表示エリアに表示されていないコンテンツデータ中で、前記表示エリアに表示されているコンテンツデータと連続するコンテンツデータとを、音声合成の対象とするデータとして判定する判定手段と、
前記判定手段で判定されたデータの音声合成を行う音声合成手段と
を備える。
【０００８】
また、好ましくは、前記コンテンツデータは、テキスト情報を含み、
前記判定手段は、前記テキスト中の一文が途中で表示されていない場合に、該一文全てを音声合成の対象とするデータとして判定する。
【０００９】
上記の目的を達成するための本発明による情報処理方法は以下の構成を備える。即ち、
コンテンツデータを表示エリアに表示するよう制御する表示制御工程と、
前記表示エリア内のコンテンツデータの表示範囲を変更する変更工程と、
前記表示範囲を示す表示範囲情報に基づいて、前記表示エリアに表示されているコンテンツデータと、前記表示エリアに表示されていないコンテンツデータ中で、前記表示エリアに表示されているコンテンツデータと連続するコンテンツデータとを、音声合成の対象とするデータとして判定する判定工程と、
前記判定工程で判定されたデータの音声合成を行う音声合成工程と
を備える。
【００１０】
上記の目的を達成するための本発明によるプログラムは以下の構成を備える。即ち、
コンテンツデータを表示エリアに表示するよう制御する表示制御工程のプログラムコードと、
前記表示エリア内のコンテンツデータの表示範囲を変更する変更工程のプログラムコードと、
前記表示範囲を示す表示範囲情報に基づいて、前記表示エリアに表示されているコンテンツデータ及び前記表示エリアに表示されていないコンテンツデータ中で、前記表示エリアに表示されているコンテンツデータと連続するコンテンツデータを音声合成の対象とするデータとして判定する判定工程のプログラムコードと、
前記判定工程で判定されたデータの音声合成を行う音声合成工程のプログラムコードと
を備える。
【発明の効果】
【００１１】
本発明によれば、表示エリアに表示されていないデータであっても、表示されているデータに連続するデータについても音声合成することで、表示データに連続するデータをもれなく音声合成することができる情報処理装置及びその方法、プログラムを提供することができる。
【発明を実施するための最良の形態】
【００１２】
以下、図面を参照して本発明の好適な実施形態を詳細に説明する。
＜実施形態１＞
図１は本発明の実施形態１のマルチモーダル入出力装置のハードウェアの構成例を示すブロック図である。
【００１３】
マルチモーダル入出力装置において、１０１は、ＧＵＩを表示するためのディスプレイ装置である。１０２は、数値演算・制御等の処理を行うＣＰＵ等のＣＰＵである。１０３は、後述する各実施形態の処理手順や処理に必要な一時的なデータおよびプログラム、若しくは、音声認識用文法データや音声モデル等の各種データを格納するメモリである。このメモリ１０３は、ディスク装置等の外部メモリ装置若しくはＲＡＭ・ＲＯＭ等の内部メモリ装置からなる。
【００１４】
１０４は、デジタル音声信号からアナログ音声信号へ変換するＤ／Ａ変換器である。１０５は、Ｄ／Ａ変換器１０４で変換されたアナログ音声信号を出力するスピーカである。１０６は、マウスやスタイラス等のポインティングデバイス及びキーボードの各種キー（アルファベットキー、テンキー、それに付与されている矢印ボタン等）、あるいは音声入力可能なマイクを用いて各種データの入力を行う指示入力部である。１０７は、ネットワークを介して、Ｗｅｂサーバ等の外部装置とデータの送受信を行う通信部である。１０８は、バスであり、マルチモーダル入出力装置の各種構成要素を相互に接続する。
【００１５】
また、後述するマルチモーダル入出力装置それぞれで実現される各種機能は、装置のメモリ１０３に記憶されるプログラムがＣＰＵ１０２によって実行されることによって実現されても良いし、専用のハードウェアで実現されても良い。
【００１６】
図２は本発明の実施形態１のマルチモーダル入出力装置の機能構成を示す図である。
【００１７】
図２において、２０１はディスプレイ１０１に表示するＧＵＩの内容（コンテンツ）を保持するコンテンツ保持部であり、メモリ１０３に格納される。コンテンツ保持部２０１に保持されるコンテンツは、プログラムによって記述されたものでも構わないし、ＸＭＬやＨＴＭＬなどのマークアップ言語で記述されたハイパーテキスト文書でも構わない。
【００１８】
２０２は、コンテンツ保持部２０１に保持されたコンテンツをディスプレイ１０１にＧＵＩとして表示するＧＵＩ表示部である。ＧＵＩ表示部２０２は、例えば、ブラウザ等で実現される。２０３は、ＧＵＩ表示部２０２に表示されているコンテンツの表示範囲を示す表示範囲情報を保持する表示範囲保持部である。
【００１９】
ここで、図３にコンテンツ保持部２０１に保持されるＨＴＭＬで記述されたコンテンツ例、図４にそのＧＵＩ表示部２０２におけるＧＵＩ表示例、図５にそのＧＵＩ表示例に対して表示範囲保持部２０３で保持される表示範囲情報例を示す。
【００２０】
図４では、ＧＵＩ表示部２０２がコンテンツを表示するための表示エリア（例えば、ブラウザ画面）４００において、４０１はコンテンツのヘッダ、４０２はコンテンツ本文、４０３はコンテンツの表示範囲を縦方向にスクロールするスクロールバー、４０４はコンテンツ中のカーソルを示す。
【００２１】
また、図５においては、表示範囲保持部２０３に保持される表示範囲情報として、その先頭位置（図３における１０行目の２４バイト目）を示している。
【００２２】
尚、表示範囲情報としては、他の例えば、コンテンツの先頭からの総バイト目で保持しても構わないし、先頭からの何文目や、何文目の何文節目、あるいは何文目の何文字目等の表示範囲を特定できる情報であれば、どのような構成の情報で保持しても構わない。また、先頭位置の情報に限らず、表示範囲中の音声合成対象のテキストデータをそのまま保持する構成でもかまわない。コンテンツがハイパーテキスト文書のようにいくつかのフレームにわかれている場合は、デフォルトのフレーム、もしくは、ユーザが明示的に選択したフレームの先頭位置を表示範囲情報とする。
【００２３】
図２の説明に戻る。
【００２４】
２０４は、指示入力部１０６から表示範囲の切替を入力する表示範囲切替入力部である。２０５は、表示範囲切替入力部２０４により入力された表示範囲の切替に基づき、表示範囲保持部２０３に保持される表示範囲情報を切り替える表示範囲切替部である。そして、この表示範囲情報に基づいて、ＧＵＩ表示部２０２は、表示エリア４００内の表示対象のコンテンツの表示範囲を更新する。
【００２５】
２０６は、表示範囲保持部２０３に保持された表示範囲情報から、コンテンツ中の音声合成対象の合成文（テキストデータ）を判定する合成文判定部である。つまり、表示範囲情報で特定される表示範囲内に含まれるコンテンツ中のテキストデータを音声合成対象の合成文として判定する。
【００２６】
２０７は、合成文判定部２０６で判定された合成文の音声合成を行う音声合成部である。２０８は、音声合成部２０７で合成されたデジタル音声信号をＤ／Ａ変換器１０４を通してアナログ音声信号に変換し、スピーカ１０５から合成音声（アナログ音声信号）を出力する音声出力部である。２０９は、図２の各種構成要素を相互に接続するバスである。
【００２７】
次に、実施形態１のマルチモーダル入出力装置が実行する処理について、図６を用いて説明する。
【００２８】
図６は本発明の実施形態１のマルチモーダル入出力装置が実行する処理を示すフローチャートである。
【００２９】
まず、ステップＳ６０１で、コンテンツ保持部２０１に保持されたコンテンツを、ＧＵＩ表示部２０２に表示する。ステップＳ６０２で、ＧＵＩ表示部２０２に表示されたコンテンツの表示範囲（例えば、左上の位置）を計測し、表示範囲保持部２０３に表示範囲情報を保持する。ステップＳ６０３で、合成文書判定部２０６において、コンテンツ中の音声合成対象の合成文を判定し、音声合成部２０７に送信する。
【００３０】
ステップＳ６０４で、音声合成部２０７において、合成文判定部２０６から受信した音声合成対象の合成文の音声合成を行う。ステップＳ６０５で、音声出力部２０８において、スピーカ１０５より合成された音声を出力し、終了する。
【００３１】
尚、ステップＳ６０４〜エンドの間においては、指示入力部１０６による表示範囲の変更が随時可能であり、その変更の有無を判定する処理を、ステップＳ６０６で実行する。
【００３２】
ステップＳ６０６では、スクロールバー４０３に対して、例えば、ポインティングデバイスによるドラッグ操作や、カーソル４０４に対するキーボード上の矢印キーの押下によって、表示範囲の変更がある場合（ステップＳ６０６でＹＥＳ）、ステップＳ６０７に進む。ステップＳ６０７では、表示範囲の変更が発生した時点で実行していたステップＳ６０４あるいはステップＳ６０５の処理を中断した後、表示範囲の変更を実行し、ステップＳ６０１に戻る。
【００３３】
尚、この表示範囲の変更中に、その変更中である旨をユーザに報知するために、例えば、カセットテープレコーダの早送り、巻き戻し時に発生する音に似た効果音（「キュルキュル」等）を音声出力する構成としても構わない。
【００３４】
また、実施形態１では、スクロールバー４０３は、表示エリア４００内のコンテンツを縦方向にスクロールするものであるが、横方向にスクロールする横スクロールバーを構成して、コンテンツの横方向の一部のみを表示する場合も考えられる。しかしながら、横方向で表示されない部分のコンテンツは、通常、表示されている部分のコンテンツとテキストとしてつながっているので、そういう場合には、横スクロールバー表示により表示されていない範囲のテキスト部分も音声合成を行うものとする。但し、例えば、表形式で表されているものなど、オブジェクトとして表示部分と独立した箇所と考えられるものについては、この横スクロールバーによってコンテンツの表示範囲が変更された場合にも、上記実施形態１で説明した処理を、同様に適用するようにしても構わない。
【００３５】
更に、表示エリア４００のサイズは固定のものとして説明しているが、表示エリア４００のサイズは、ポインティングデバイスによるドラッグ操作や、カーソル４０４に対するキーボードのキー操作によって変更することが可能である。このような表示エリア４００のサイズ自体が変更されて、コンテンツの表示範囲が変更された場合にも、上記実施形態１で説明した処理を、同様に適用することができる。
【００３６】
以上説明したように、実施形態１によれば、表示範囲内で表示される音声合成対象の合成文に対する音声合成／出力中に、表示範囲の変更がある場合でも、表示範囲の変更による表示範囲内で表示される音声合成対象の合成文の変更に応じて、音声出力内容を連動して変更することができる。これにより、ユーザに違和感のない音声出力とＧＵＩ表示を提供することができる。
＜実施形態２＞
音声出力機能を有するｉモード端末（ＮＴＴドコモ社が提供するｉモードサービスを利用可能な端末）やＰＤＡ（Personal Digital Assistant）等の比較的表示画面が小さい携帯端末でコンテンツを出力する場合には、その出力方法として、表示対象のコンテンツ中の概要部分のみをＧＵＩ表示し、詳細部分については、ＧＵＩ表示せず、音声合成により出力する構成が想定される。
【００３７】
例えば、図３のコンテンツ例をＰＤＡ及びｉモード端末それぞれで出力する場合について、図７及び図８用いて説明する。
【００３８】
図７は、ｉモード端末よりは表示画面が大きいＰＤＡの表示画面における図３のコンテンツのＧＵＩ表示例である。特に、ＰＤＡを想定したマルチモーダル入出力装置においては、図３のコンテンツ中の「見出し」に相当する見出し部分(＜h1＞〜＜/h1＞タグで囲まれるテキストデータ)及び「概要」に相当する概要部分(＜h2＞〜＜/h2＞タグで囲まれるテキストデータ)をＧＵＩ表示する。また、コンテンツ中の「詳細内容」に相当する詳細内容部分(＜h3＞〜＜/h3＞タグで囲まれるテキストデータ)をＧＵＩ表示せず、音声合成のみで出力する。
【００３９】
また、図８は、ＰＤＡよりは表示画面が小さいｉモード端末の表示画面における図３のコンテンツのＧＵＩ表示例である。特に、ｉモード端末を想定したマルチモーダル入出力装置においては、図３のコンテンツ中の見出し部分(＜h1＞〜＜/h１＞タグで囲まれるテキストデータ)をＧＵＩ表示する。また、概要部分(＜h2＞〜＜/h2＞タグで囲まれるテキストデータ)及び詳細内容部分(＜h3＞〜＜/h3＞タグで囲まれるテキストデータ)は、ＧＵＩ表示せず、音声合成のみで出力する。更に、図８のＧＵＩ表示例では、コンテンツ全体に対する表示部分をスクロールバーで表現せずに、表示部分内の選択箇所は非選択箇所と区別するために、その表示形態を非選択箇所の表示形態とは異ならせて表示する。例えば、選択箇所を下線で表現し、図８のＧＵＩ表示例では、「見出し」に相当する見出し部分が選択状態であることを示している。
【００４０】
尚、この選択箇所の表示形態は、下線に限定されず、色付き表示、ブリンク表示、別フォント表示、別スタイル表示等の非選択箇所と区別がつくような表示形態であればどのようなものでも良い。
【００４１】
このような携帯端末において、実施形態１の図６のフローチャートで説明される処理を応用すれば、音声合成対象の合成文がＧＵＩ上に表示されていない場合に、指示入力部１０６からスクロールバーに対するポインティングデバイスによる表示範囲の移動や、矢印キーによる選択部分の表示画面の切替入力により、その移動や切替入力に応じて音声合成対象の合成文を変更することができる。
【００４２】
このような構成の場合は、図２の表示範囲保持部２０３で保持する表示範囲情報は、現在表示されているコンテンツの先頭位置、もしくは、見出し部分や概要部分のテキストデータを保持しておく。そして、合成文判定部２０６は、この表示範囲情報から得られるテキストデータを音声合成対象の合成文として判定する。
【００４３】
以上説明したように、実施形態２によれば、比較的表示画面が小さい携帯端末のような、音声合成出力される音声に対応するテキストデータが表示画面に表示されない場合においても、表示画面の移動や表示画面の切替に応じて、音声出力内容を連動して変更することができる。これにより、ユーザに違和感のない音声出力とＧＵＩ表示を提供することができる。
＜実施形態３＞
実施形態３では、実施形態１の図２のマルチモーダル入出力装置の機能構成に加えて、図９に示すように、コンテンツ中の既に音声出力した範囲を保持する既出力範囲保持部９０１を構成する。このような構成にすることで、既出力範囲保持部９０１に保持された範囲は音声出力を禁止することができ、既に音声出力した範囲を再度音声出力しないようにして、無駄な音声出力を排除することができる。
【００４４】
次に、実施形態３のマルチモーダル入出力装置が実行する処理について、図１０を用いて説明する。
【００４５】
図１０は本発明の実施形態３のマルチモーダル入出力装置が実行する処理を示すフローチャートである。
【００４６】
尚、図１０のフローチャートは、実施形態１の図６のフローチャートのステップＳ６０３とステップＳ６０４の間に、ステップＳ１００１を追加した構成である。
【００４７】
ステップＳ１００１では、既に音声出力した範囲を示す既出力範囲情報を既出力範囲保持部９０１に保持する。その後、表示範囲の変更が発生し、再度、ステップＳ６０３の処理を行う場合は、合成文判定部２０６は、既出力範囲保持部９０１に保持されている既出力範囲情報を参照して、既に音声出力した合成文以外から音声合成対象の合成文を判定する。
【００４８】
これに加えて、ステップＳ６０１の処理において、既出力範囲保持部９０１に保持されている既出力範囲情報を参照して、既に音声出力した範囲の色やフォントを、まだ音声出力していない範囲の色やフォントと変えることにより、音声出力の範囲の有無をユーザにわかりやすく提示するような構成にすることもできる。
【００４９】
尚、既出力範囲保持部９０１に保持する既出力範囲情報は、表示範囲保持部２０３に保持する表示範囲情報と、同様の概念で、既に音声出力した範囲を特定できる情報であればどのようなものでも構わない。
【００５０】
以上説明したように、実施形態３によれば、コンテンツ中の既に音声出力した範囲を保持しておくことで、表示範囲の変更に応じて、音声出力内容を変更する場合に、その音声出力した範囲を除外して音声出力内容を判定することができる。これにより、無駄な音声出力を排除することができ、ユーザに適切でかつ効率的なコンテンツ出力を提供することができる。
＜実施形態４＞
実施形態３では、既に音声出力した範囲は、音声合成出力を禁止する構成としたが、この既に音声出力した範囲は再度音声合成するか否かをユーザが動的に変更する構成にすることもできる。実施形態４では、この構成を実現するために、図１１に示すように、実施形態３の図９のマルチモーダル入出力装置の機能構成に加えて、既に音声出力した範囲の再音声出力の可否を示す再々生可否情報を保持する再々生可否保持部１１０１を構成する。
【００５１】
この再々生可否情報の入力は、図４の表示エリア４００上に構成されるボタンやメニュー等から切り替える構成にしても構わない。
【００５２】
あるいは、図１２に示すように、既に音声出力した範囲が再度、指示入力部１０６から指示入力された場合に、既出力範囲保持部９０１に保持されている既出力範囲情報を削除する既出力範囲変更部１２０１を構成しても構わない。
【００５３】
以上説明したように、実施形態４によれば、実施形態３で説明した効果に加えて、ユーザの要求に応じて、コンテンツ中の既に音声出力した範囲を再度音声出力することができる。
＜実施形態５＞
上記実施形態１〜４で説明した処理を、コンテンツ中のマークアップ言語のタグで設定して実現する構成にしても構わない。このような構成を実現するためのマークアップ言語を用いて記述したコンテンツ例を図１３及び図１４に、また、図３、図１３及び図１４のコンテンツによるＧＵＩ表示例を図１５に示す。
【００５４】
図１３中の「＜TextToSpeech」〜「＞」で囲まれた部分が音声合成に係る制御を記述する音声合成制御タグである。また、この音声合成制御タグで囲まれる部分中のinterlock_mode属性およびrepeat属性のon／offにより、音声合成対象の合成文の音声出力と表示とを連動させるか否か、また、既に音声出力した範囲を再度音声合成するか否かを定義する。つまり、interlock_mode属性が「on」である場合には、音声合成対象の合成文の音声出力と表示とを連動させ、「off」である場合には、音声合成対象の合成文の音声出力と表示とを連像させない。また、repeat属性が「on」である場合には、既に音声出力した範囲を再度音声合成し、「off」である場合には、既に音声出力した範囲を再度音声合成する。
【００５５】
また、この音声合成制御タグで定義される属性のon／offの設定は、例えば、図１４のコンテンツによって実現される図１５のフレーム１５０１内のトグルボタン１５０２及び１５０３で実行する。
【００５６】
フレーム１５０１において、トグルボタン１５０２は、音声合成対象の合成文の音声出力とを表示とを連動させるか否かを切替指示するトグルボタンである。また、トグルボタン１５０３は、既に音声出力した範囲を再度音声合成するか否かを切替指示するトグルボタンである。そして、それぞれのトグルボタンの操作状態に応じて、図１３中の制御スクリプトが、音声合成対象の合成文の音声出力と表示とを連動させるか否か、また、既に音声出力した範囲を再度音声合成するか否かの切替を制御する。
【００５７】
以上説明したように、実施形態５によれば、実施形態１〜４で説明した処理を汎用性の高いマークアップ言語を用いて記述したコンテンツで実現することで、ユーザは、そのコンテンツを表示可能なブラウザを用いるだけで実施形態１〜４で説明した処理と同等の処理を実現することができる。また、実施形態１〜４で説明した処理を実現するための機器依存性を低減し、開発効率を向上することができる。
【００５８】
尚、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラム（実施形態では図に示すフローチャートに対応したプログラム）を、システム或いは装置に直接或いは遠隔から供給し、そのシステム或いは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによっても達成される場合を含む。その場合、プログラムの機能を有していれば、形態は、プログラムである必要はない。
【００５９】
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
【００６０】
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、ＯＳに供給するスクリプトデータ等、プログラムの形態を問わない。
【００６１】
プログラムを供給するための記録媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、ＭＯ、ＣＤ−ＲＯＭ、ＣＤ−Ｒ、ＣＤ−ＲＷ、磁気テープ、不揮発性のメモリカード、ＲＯＭ、ＤＶＤ（ＤＶＤ−ＲＯＭ，ＤＶＤ−Ｒ）などがある。
【００６２】
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページから本発明のコンピュータプログラムそのもの、もしくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるＷＷＷサーバも、本発明に含まれるものである。
【００６３】
また、本発明のプログラムを暗号化してＣＤ−ＲＯＭ等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせ、その鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。
【００６４】
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているＯＳなどが、実際の処理の一部または全部を行い、その処理によっても前述した実施形態の機能が実現され得る。
【００６５】
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるＣＰＵなどが実際の処理の一部または全部を行い、その処理によっても前述した実施形態の機能が実現される。
【図面の簡単な説明】
【００６６】
【図１】本発明の実施形態１のマルチモーダル入出力装置のハードウェアの構成例を示すブロック図である。
【図２】本発明の実施形態１のマルチモーダル入出力装置の機能構成を示す図である。
【図３】本発明の実施形態１のコンテンツ例を示す図である。
【図４】本発明の実施形態１のＧＵＩ表示例を示す図である。
【図５】本発明の実施形態１の表示範囲情報例を示す図である。
【図６】本発明の実施形態１のマルチモーダル入出力装置が実行する処理を示すフローチャートである。
【図７】本発明の実施形態２のＧＵＩ表示例を示す図である。
【図８】本発明の実施形態２の別のＧＵＩ表示例を示す図である。
【図９】本発明の実施形態３のマルチモーダル入出力装置の機能構成を示す図である。
【図１０】本発明の実施形態３のマルチモーダル入出力装置が実行する処理を示すフローチャートである。
【図１１】本発明の実施形態４のマルチモーダル入出力装置の機能構成を示す図である。
【図１２】本発明の実施形態４の別のマルチモーダル入出力装置の機能構成を示す図である。
【図１３】本発明の実施形態５のコンテンツ例を示す図である。
【図１４】本発明の実施形態５の別のコンテンツ例を示す図である。
【図１５】本発明の実施形態５のＧＵＩ表示例を示す図である。
【符号の説明】
【００６７】
１０１  ディスプレイ
１０２  ＣＰＵ
１０３  メモリ
１０４  Ｄ／Ａ変換器
１０５  スピーカ
１０６  指示入力部
２０１  コンテンツ保持部
２０２  ＧＵＩ表示部
２０３  表示範囲保持部
２０４  表示範囲切替入力部
２０５  表示範囲切替部
２０６  合成文判定部
２０７  音声合成部
２０８  音声出力部
２０９  バス
９０１  既出力範囲保持部
１１０１  再々生可否保持部
１２０１  既出力範囲変更部
【図１】
2005055920.tif 000003
【図２】
2005055920.tif 000004
【図３】
2005055920.tif 000005
【図４】
2005055920.tif 000006
【図５】
2005055920.tif 000007
【図６】
2005055920.tif 000008
【図７】
2005055920.tif 000009
【図８】
2005055920.tif 000010
【図９】
2005055920.tif 000011
【図１０】
2005055920.tif 000012
【図１１】
2005055920.tif 000013
【図１２】
2005055920.tif 000014
【図１３】
2005055920.tif 000015
【図１４】
2005055920.tif 000016
【図１５】
2005055920.tif 000017