(57)【特許請求の範囲】
【請求項１】
入力の音声を音声認識し、音声認識結果を未確定のかな漢字混じり文字列として表示し、当該表示された文字列を文字処理した後、確定文字列を出力する文字処理装置において、
前記文字処理装置に文字入力を行うキーボードと、
当該キーボードから入力された文字列と前記音声認識結果の文字列とを一括して文字処理可能な文字処理手段と、
前記キーボードから文字入力が行われている間は、前記音声の入力を禁止する制御手段と
を具え、前記制御手段はタイマーを有し、前記制御手段は、前記キーボードでキー信号が生成された時にタイマーをスタートし、音声の入力を禁止するステップと、前記タイマーがカウントアップした時、または表示されている未確定の文字列が前記文字処理手段により確定された時に前記タイマーをリセットして音声の入力を許可するステップとを繰り返し実行し、前記タイマーのカウントアップ時間は前記キーボードの１回の押下時間より大きいことを特徴とする文字処理装置。
【請求項２】
文字処理装置において入力の音声を音声認識し、音声認識結果を未確定のかな漢字混じり文字列として表示し、当該表示された文字列を文字処理した後、確定文字列を出力する文字処理方法において、
前記文字処理装置はキーボード、文字処理手段および制御手段を有し、
キーボードから前記文字処理装置に文字列を入力し、
当該キーボードから入力された文字列と前記音声認識結果の文字列とを一括して前記文字処理手段により文字処理可能となし、
前記キーボードから文字入力が行われている間は、前記音声の入力を前記制御手段により禁止し、
前記制御手段はタイマーを有し、前記制御手段は、前記キーボードでキー信号が生成された時にタイマーをスタートし、音声の入力を禁止するステップと、前記タイマーがカウントアップした時、または表示されている未確定の文字列が前記文字処理手段により確定された時に前記タイマーをリセットして音声の入力を許可するステップとを繰り返し実行し、前記タイマーのカウントアップ時間は前記キーボードキーの１回の押下時間より大きいことを特徴とする文字処理方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、入力した文字を処理する文字処理装置および方法に関し、より詳しくは、音声認識により得られる文字列を処理する文字処理装置および方法に関する。
【０００２】
【従来の技術】
従来この種の代表的な文字処理装置の処理例を図１〜図３を参照して説明する。図１〜図３は音声入力および入力音声の認識結果を文字処理するための表示内容を示す。図１（Ａ）において、文書処理画面１においてユーザはアイコン１Ａをマウスにより指定して文字処理装置を起動する。文字入力装置はパーソナルコンピュータが文字処理プログラムを実行することにより実現される。
【０００３】
文字処理装置の起動により表示画面には図１（Ｂ）のように文字入力用画面２が現れる。ユーザがメニュー項目２Ａを操作して音声入力モードに切り替えると、第１図（Ｃ）に示すように音声入力用のウィンドウ（アプレット）３が表示される。ここで、ボタン３Ａをユーザがマウスにより操作するとマイクロフォンからの音声入力が可能となる。たとえば、ユーザがマイクロホンから「これはマイクのテストですと」と音声で入力すると、コンピュータ内に搭載された音声認識プログラムにより入力音声が音声認識される。最近では連続の音声を認識することが可能となってきている。
【０００４】
入力音声信号は音素と呼ばれる音韻よりも短い非常に短い時間長さに区切られ、信号の特徴成分が抽出される。この特徴成分と、あらかじめコンピュータに用意してある特徴成分（音素の内容が判明している）とを比較し、特徴成分が類似するものの音素内容を検出することで、音素の音声認識を行う。認識の結果として、得られた音素を時系列的に結合すると、音韻（母音，子音）の文字が得られる。この文字を結合し、文法的に区切られた文字列は音声認識用の辞書、すなわち、音韻（読みを表す文字列）と、その読みに対応するかな漢字混じり文字列（漢字のみを含む）を記載した辞書に基づき、かな漢字混じり単語に変換され、図２（Ｄ）の表示画面１内に表示される。
【０００５】
なお、音声認識用の辞書に上記音声信号の特徴成分を単語単位で含め、単語単位で音声認識するような音声認識方法も提案されている。
【０００６】
音声認識では誤認識が生じることがあるので、通常、文字処理装置は、音声認識結果４内の文字を削除したり、新しい文字をキーボード入力したり、他の同音異義語を選択するなどの文字処理を行うことができる。
【０００７】
図２（Ｄ）の表示画面１中で、ユーザが文字カールを文字「を」に合わせ、削除（Ｄｅｌ）ボタンを操作すると、文字カーソルで指示した文字（「を」）を表示画面１上から削除することができる（図２の（Ｆ）参照）。
【０００８】
さらに認識結果４の中の文字列「マイク」を文字カーソルにより指定し、変換ボタンを操作すると、図２（Ｅ）に示すように、指定された文字列と発音が類似する単語、すなわち、音声認識で、類似度が高かった１以上の音声認識候補がプルダウンメニュー５の形態で表示される。ユーザはプルダウンメニュー５の中の所望の単語を選択すると、これまでに表示されていた単語が選択された単語と置換される。
【０００９】
このようにして、不要な文字を削除したり（文字の挿入もある）、単語の置換を行った上で、図３（Ｇ）のＥｎｔｅｒボタン８をユーザが操作すると、音声入力された文字列が確定し、ワードプロソフト等入力された文字列を使用して情報処理を行うアプリケーションに確定した文字列が引き渡される。
【００１０】
一般的に文字処理される文字列にはアンダーライン等が付されて表示され、確定後の文字列はアンダーラインが取り除かれる（図３（Ｈ）参照）。
【００１１】
【発明が解決しようとする課題】
音声入力による文字入力方法は、ユーザがキーボードで文字入力を行わなくてもよいという利点あある反面、誤認識結果を修正するためにはキーボード、あるいはマウスによるユーザの操作が不可欠である。このため、キーボードあるいはマウスの操作をできるだけ、なくすことが望まれている。
【００１２】
また、音声入力した文字列を音声合成し、出力することで、合成音声と表示の文字列とを比較することで、音声認識結果の誤りを検出する装置が提案されているが、この装置は音だけでは、誤認識部分を検出することができないという解決すべき課題もあった。
【００１３】
さらに本願出願は本願に先立って、キーボードから入力した文字列と音声で入力した文字列とを一括して文字処理できるようにした文字処理装置を提案しているが、キーボード入力と、音声入力を併用する場合には、打鍵の音がマイクロホンから混入し、音声の入力と誤認識されてしまうという改善すべき課題があった。
【００１４】
そこで、本発明の目的は、キーの打鍵による音声の誤認識を阻止することが可能な文字処理装置を提供することにある。
【００１５】
【課題を解決するための手段】
このような目的を達成するために、請求項１の発明は、入力の音声を音声認識し、音声認識結果を未確定のかな漢字混じり文字列として表示し、当該表示された文字列を文字処理した後、確定文字列を出力する文字処理装置において、前記文字処理装置に文字入力を行うキーボードと、当該キーボードから入力された文字列と前記音声認識結果の文字列とを一括して文字処理可能な文字処理手段と、前記キーボードから文字入力が行われている間は、前記音声の入力を禁止する制御手段とを具え、前記制御手段はタイマーを有し、前記制御手段は、前記キーボードでキー信号が生成された時にタイマーをスタートし、音声の入力を禁止するステップと、前記タイマーがカウントアップした時、または表示されている未確定の文字列が前記文字処理手段により確定された時に前記タイマーをリセットして音声の入力を許可するステップとを繰り返し実行し、前記タイマーのカウントアップ時間は前記キーボードのキーの１回の押下時間より大きいことを特徴とする。
【００１６】
請求項２の発明は、文字処理装置において入力の音声を音声認識し、音声認識結果を未確定のかな漢字混じり文字列として表示し、当該表示された文字列を文字処理した後、確定文字列を出力する文字処理方法において、前記文字処理装置はキーボード、文字処理手段および制御手段を有し、キーボードから前記文字処理装置に文字列を入力し、当該キーボードから入力された文字列と前記音声認識結果の文字列とを一括して前記文字処理手段により文字処理可能となし、前記キーボードから文字入力が行われている間は、前記音声の入力を前記制御手段により禁止し、前記制御手段はタイマーを有し、前記制御手段は、前記キーボードでキー信号が生成された時にタイマーをスタートし、音声の入力を禁止するステップと、前記タイマーがカウントアップした時、または表示されている未確定の文字列が前記文字処理手段により確定された時に前記タイマーをリセットして音声の入力を許可するステップとを繰り返し実行し、前記タイマーのカウントアップ時間は前記キーボードのキーの１回の押下時間より大きいことを特徴とする。
【００１７】
【発明の実施の形態】
以下、図面を参照して本発明の実施形態を詳細に説明する。
【００１８】
最初に本発明に係わる文字処理方法を説明する。本実施形態の文字処理方法には以下の新規機能を有するので、各機能について順に説明していく。
（１）必要に応じて文字処理および確定処理を行えばよい音声連続入力機能
（２）単語指定するだけで、置換候補を自動表示する機能
（３）置換候補に対する読みの表示および読みからかな漢字への逆変換機能
（４）文字列を確定した後、再変換のために読みの類似候補（音声認識候補）を表示する機能
（５）確定された文章を合成音声で再生出力（読み上げと称する）するとともに、合成音声と、入力音声とを一緒に出力する読み上げ・プレイバック同時機能
（６）音声入力についての許可／禁止処理
（Ａ）音声連続入力機能
従来では、音声認識結果として得られるかな漢字混じり文については、その音声認識結果が正しいものであってもユーザは確定の操作を行わなければならない。この操作を改善したものが音声連続入力機能である。
【００１９】
ユーザが連続的に音声入力を行っていくと、表示画面には、音声認識結果が図４（Ａ）のように表示されていく。本実施形態の特徴は、認識結果が所定長さを超えようとすると、先に入力された音声の認識結果、図４の例では、「日本××新聞社は臨時国会閉幕に」が自動的に確定される。残りの文字列は確定前の文字処理可能な状態のままとなる（図４（Ｂ）参照）。したがって、音声認識が正しい限り、ユーザは連続的に音声入力を続ければよく、最後に、１回だけ、確定操作を行えばよい。従来では、連続的に音声入力を行うと、その長さ（たとえば、３文節）に制限があるので、たとえば、３文節ごとに確定操作を行わなければならないの対し、本実施形態では、最後の１回だけとなる。
【００２０】
また、入力音声をすべて自動確定せず、後の音声認識結果は未確定としているので、誤認識結果を修正することも可能となる。
（Ｂ）置換候補自動表示機能
従来では、確定前に音声認識結果の文字列を部分的に置換する場合には、置換すべき文字列を指定し、置換候補（いわゆる変換候補）の表示を特定のボタンで指示しなければならなかったのに対し、本実施形態では、置換すべき文字列を図５（Ｃ）のように文字カーソル（図中の｜記号）で指定するだけで、自動的に置換候補が表示される。ユーザが図５（Ｄ）のように置換候補を選択し、置換処理を行うことができる。また、ユーザが、この後、文字カーソルを図６（Ｅ）に示すように認識結果の最後尾に合わせると、文字処理可能状態から音声入力可能状態となる。なお、表示画面に表示される文字列は音声認識において、類似度が高い１以上の音声認識候補の中のもっとも類似する文字列が使用されるが、類似度が高い１以上の音声認識候補は保存され、この置換候補表示機能における表示に使用される。
（Ｃ）読み候補の表示および逆読み機能（上述の（３）の機能）
本実施形態では、音声認識結果を未確定状態としたまま、キーボードから入力した読みをも上記音声認識結果とともに確定対象の文字列として扱うことができる。このために、本実施形態では、音声入力され、表示されていて未確定の状態の文字列と、キーボードから入力した読みの文字列とを一括して文字処理することができる。このように２種の文字列が混在する状態で、かつ、未確定の状態で任意の文字列を範囲指定し、変換の指示をユーザが与えると、範囲指定された文字列について、漢字変換用辞書が参照され、範囲指定された文字列と対応する１以上の文字列が漢字変換用辞書から抽出され、漢字変換候補として図７の（Ａ−１）の符号５のように表示される。
【００２１】
なお、ここで、表示される変換候補は上記（Ｂ）の機能で表示される候補（音声認識の類似度の高い音声認識候補）とは異なる点に注意されたい。上記漢字変換用辞書は、よみ、かな漢字混じり文字列についての変換前の文字列と、この文字列に対応する変換後のかな漢字文字列を複数組記載した辞書である。変換前の文字列としては上述のよみを表す文字列、文法的、意味的にまちがった誤記の文字列が含まれる。また、変換後の文字列にはその１以上の読みが付加されている。
【００２２】
文字カーソル指定により表示された図７の（Ａ−１）のプルダウンメニューの中から図７の音声認識候補の変換候補「失わ」をユーザが選択すると、表示画面中の指定文字列がこの文字列と置換されることは述べたが、本実施形態では確定操作を行わない限り、漢字変換辞書から得られる他の文字列候補に置換できる。
【００２３】
確定のためにユーザが未確定の文字列を従来と同様、文節単位で区切る。区切られた文字列の任意の文字列を指定して変換キーを操作すると、図７（Ｂ）のようにプルダウンメニュー５−１の形態で、漢字変換用辞書から得られる置換候補が（この場合には１つ）表示される。
【００２４】
ユーザが置換候補を選択した上で、読みの表示を指示するとこの文字列のすべての文字列と読みとが図７のプルダウンメニュー５−２に表示される。このプルダウンメニュー５−２は、ユーザにより選択された変換候補「失わせて」に対応し、漢字変換用辞書に記載されている１以上の読みの候補を選択目的で表示する。なお、このプルダウンメニュー５−２の中に、選択された置換候補「失わせて」も含まれていることに注意されたい。
【００２５】
プルダウンメニュー５−２は読み（あるいは置換候補）から、かな混じり漢字文字列を表示させることができる。ユーザがプルダウンメニューの中の所望の文字列、たとえば、「ひろうせて」を選択すると図７の（Ａ−２）のようにこの読みを持つかな混じり漢字文字列が漢字変換用辞書から抽出され、その置換候補も表示される（図７（Ａ−２）参照、また、プルダウンメニュー５−２の候補「いやおうせて」をユーザが選択するとその文字列に対応した、読み候補を表示するためのプルダウンメニューが図８の（Ｃ）のように表示される。
【００２６】
以上、説明したように、（Ｃ）の機能では、表示画面で範囲指定した文字列に対応し、かな漢字変換用辞書に記載されている文字列をプルダウンメニュー５に表示する。これにより、キーボードがら入力された文字列を漢字等に変換して、文字列を確定することができる。また、プルダウンメニュー５に所望の文字列がない場合は読みについてのプルダウンメニュー５−２を介して、確定すべき文字列を検索することができる。
（Ｄ）確定後の読みの類似候補の表示機能
確定処理を行うと、確定された文字列は、通常、アプリケーションに引き渡される。なお、音声認識機能を有しない従来例においては、確定後の文字列を選択するとかな漢字変換時に表示された変換候補を再表示して、他の変換候補と置換する機能を有する文字処理装置が提案されている。
【００２７】
しかしながら、音声認識機能を有する従来例では、文字列確定後に変換候補を再表示する機能は有していない。そこで、本実施形態では、文字変換（置換）処理に使用された類似単語候補、すなわち、図７の（Ａ−２）で表示される読みの類似文字列候補で、音声認識時に音声認識候補として使用された文字列を確定後の再変換処理においても表示する。図９の表示がこの処理内容を示す。ユーザにより確定された文字列「失わせて」を選択し、再変換を不図示のメニューで指示すると、文字カーソルの位置指定において表示されたものと同じプルダウンメニュー６が表示される。
【００２８】
なお、図９の例では、選択候補は１つであるが、複数ある場合には、その複数の文字列が選択のために表示される。このメニュー６においても読みが表示され、読みの項目を選択すると読みを記載したプルダウンメニューが表示される。
（Ｅ）プレイバック・読み上げ機能
音声認識された文字列を音声合成し、合成音声を出力する読み上げ機能を有する装置や、入力音声をそのまま再生（プレイバック）するプレイバック機能を有する装置は従来から知られているが、上記双方の機能を有する装置はいまだない。本実施形態では音声認識された未確定文字列について読み上げと、プレイバック機能を同時に起動することができる。この２つの機能により、ユーザは目視に頼らず音だけで、音声認識結果の誤り部分を検出することができる。
（Ｆ）音声入力についての許可／禁止処理
本実施形態では、キーボード１２から入力が行われている場合には、マイクロホン１０から音声の入力があっても、その入力を文字認識プログラムでは受け付けない。これによりキーボード１２の打鍵の音をマイクロホン１０が拾って、音声認識において誤認識を生じるトラブルを回避する。
【００２９】
以上の機能を実現するためのシステム構成を図１０および図１１を参照して説明する。図１０は文字処理装置を搭載した情報処理処理装置、たとえば、パーソナルコンピュータの外観を示す。
【００３０】
図１０において、１０は音声を入力するためのマイクロホン、１１は音声入力され、音声認識された文字列、文字処理された後の確定文字列を表示するためのディスプレイである。１２は文字処理対象の文字列を入力するとともに、ディスプレイ１１に表示された文字カーソルを移動し、文字位置を指定するためのカーソルキー（矢印キーとも呼ばれる）を有するキーボードである。
【００３１】
１３は表示画面の位置指定を行うためのポインティングデバイスであり、本実施形態ではマウスを使用する。
【００３２】
図１１は情報処理装置の代表的な内部構成を示す。図１１において、ＣＰＵ２０１はＨＤＤ（ハードディスク）２０３に保存されている文字処理プログラムを実行することにより文字処理装置として機能する。なお、ＣＰＵ２０１は装置全体をもオペレーティングシステムにしたがって制御する。
【００３３】
システムメモリ２０２はＣＰＵ２０１の演算処理で使用するデータ、ディスプレイ１１に表示するデータ、文字処理に関わるデータの記憶に使用される。さらに、システム制御に必要なデータをもシステムメモリ２０２に記憶される。
【００３４】
ＨＤＤ２０３には上述のオペレーティングシステム、文字処理プログラムの他、音声認識に使用する音声認識用辞書、音声認識プログラム、漢字変換用辞書を保存する。
【００３５】
なお、ＨＤＤ２０３に保存される上述のデータは不図示のＣＤＲＯＭドライブを介してＣＤＲＯＭから実装することができる。また、フロッピー（登録商標）ディスクから上記データを実装する場合にはフロッピー（登録商標）ディスクドライブが使用される。
【００３６】
２０４、２０６、２０８〜２１０は後述の回路とバス２１１を接続する入出力インターフェース（Ｉ／Ｏ）である。Ｉ／Ｏ２０４はＣＰＵ２０１から出力される合成音声信号および音声信号をデジタル／アナログ変換器２０５に転送する。デジタル信号からアナログ信号に変換された合成音声信号および音声信号が左および右のスピーカから再生される。
【００３７】
マイクロホン１０から入力された音声はアナログ音声信号に変換され、アナログデジタル変換器２０７によりデジタル形態の音声信号に変換され、Ｉ／Ｏ２０６を介してＣＰＵ２０１に引き渡される。
【００３８】
Ｉ／Ｏ２０８はキーボード１２からの入力情報をＣＰＵ２０１に転送する。Ｉ／Ｏ２０９はディスプレイ１１で表示するイメージデータを転送する。
【００３９】
以上の回路を有する文字処理システムの動作説明に先立って、本実施形態の処理データの流れを図１２を参照して説明しておく。
【００４０】
マイクロホン１０から入力された音声は音声認識プログラム１００により音声認識される。また、入力音声は記憶装置（システムメモリ２０２）１０５に記憶される。本実施形態の音声認識プログラムは隠れマルコフモデルとよばれる音声の特徴を使用して音声認識を行う。音声認識の結果としては入力音声（たとえば、文節）に対して類似度が高い１以上のかな漢字混じり文字列が得られる。この中のもっとも類似度が高い文字列が文字処理プログラム１０２を介して表示される。類似度の高い文字列は音声認識用辞書から従来と同様の音声認識処理において抽出された後、文字処理プログラム１０２に引き渡される。
【００４１】
キーボード１２から入力された読みの文字列は文字処理プログラム１０２に引き渡され、かな混じり漢字（漢字のみの文字列、カタカナの文字列をも含む）に変換される。なお、音声で入力された文字列と、キー入力された文字列とを結合した文字列をも１つの文字列としてかな混じり漢字の変換の対象とすることができる。
【００４２】
文字処理プログラムはユーザの文字カーソル操作、マウス操作、その他、挿入、削除等のキー操作を受け付け、操作に応じて上述した文字処理方法にしたがって、文字処理を行う。読み上げ・プレイバック機能が指示された場合には、記憶装置１０５に記憶された原音声データ（入力の音声信号）と文字処理プログラムにより音声合成された合成音声データは左右のスピーカ１０６から別個に同時に再生される。
【００４３】
文字処理プログラム１０２により文字処理（漢字変換、挿入、削除）されて確定された文字列は文書処理プログラム（ワープロソフト）１０４等文字列を入力とするアプリケーションに引き渡される。なお、文書処理プログラムによる処理中で範囲指定された確定文字列について再変換の指示がユーザにより行われた場合には、文字処理プログラム１０２に再変換の対象の文字列が引き渡され、変換候補が表示画面に表示される。ユーザの候補選択の後、確定された文字列は文書処理プログラム１０４に引き渡されて、表示画面に表示される。
【００４４】
図１２の回路の動作、主にＣＰＵ２０１の処理内容を図１３〜図１８のフローチャートを参照して説明する。これらのフローチャートに示す処理手順は文字処理プログラムとして、ＣＰＵ２０１の実行可能なプログラム言語の形態でＨＤＤ２０３にあらかじめ保存されている。ＣＰＵ２０１の実行時にはＨＤＤ２０３からシステムメモリ２０２にロードされる。
【００４５】
図１３は文字処理プログラムのメイン処理手順を示す。図１３の処理手順は入力イベント、すなわち、マイクロホン１０からの音声入力、キーボード１２からのキー入力、あるいはマウス１３のいずれからか情報入力があった場合に実行される。
【００４６】
以下に述べる音声許可フラグは音声の入力が許可されているときにオン、音声の入力が許可されていない（禁止）場合にオフとなる。
【００４７】
マイクロホン１０から音声入力があると、ＣＰＵ２０１は音声許可フラグがオンであることを確認した上で、音声認識プログラムを起動し、入力の音声データを引き渡す。これにより、従来と同様の音声認識用辞書を使用した音声認識処理が行われる（ステップＳ１１）。音声の認識結果、この場合、文節単位での発声、すなわち、読みの類似度の高い１以上のかな混じり漢字文字列が後述の選択候補の表示のためにシステムメモリ２０２に記憶され、もっとも類似度の高いかな混じり漢字文字列がディスプレイ１１に表示される（ステップＳ１２）。なお、このとき、従来と同様、未確定を表す点線が表示の文字列に付される。
【００４８】
一方、キーボード１２からの入力があることがステップＳ２０で検出されると、システムメモリ２０２内の文字処理用の専用領域に入力情報が記憶されるとともに、ディスプレイ１１にも表示される（ステップＳ２１）。マウス１３の操作により、文字処理関連の指示が行われた場合には、その指示に応じた文字処理が行われる（ステップＳ３１）。種類ごとの文字処理については後述する。
【００４９】
図１４は音声連続機能を実現するための処理手順を示す。音声認識結果をシステムメモリ２０２に記憶し、ディスプレイ１１に表示する際に（図１３のステップＳ１１）、図１４の処理手順が実行される。ＣＰＵ２０１はシステムメモリ２０２内の文字処理用専用領域（以下、ワークエリアと略称する）に記憶されており、未確定の文字数を計数する。
【００５０】
計数した文字数（あるいは文節数）、（ただし、音声認識されたばかりの文字列でワークエリアに記憶されていない文字列を含む）があらかじめ定めた文字数（あるいは文節数）を超えている場合には、時間的に早く記憶されている１文節の文字列（あるいは所定文字数の文字列）、すなわち、先頭部の文字列を未確定から確定に変更する（ステップＳ１００→Ｓ１０１）。本実施例では上記ワークエリアから表示用の文字記憶領域に自動確定の文字列を削除する。次にワークエリア内の未確定の文字数と文字認識された文字列の文字数の合計を計算し（ステップＳ１０２）、再び、あらかじめ定めた文字数との比較を行う（ステップＳ１００）。以下、ステップＳ１００〜Ｓ１０２のループ処理を繰り返す。これにより、今、音声認識された文字列をワークエリアに記憶しても、オーバーフロー（記憶容量を越えること）を避けることができる。
【００５１】
ステップＳ１００の判定がＮＯとなったときに、ＣＰＵ２０１は音声認識された文字列をワークエリアに記憶するとともに、新たに記憶された文字列をこれまでに記憶されている文字列（未確定文字列と確定文字列）とともに表示する（ステップＳ１１０→Ｓ１２０）。
【００５２】
以上の処理をＣＰＵ２０１が実行することにより、ワークエリア内に記憶される未確定び文字数は一定の値を超えることはなく、また、図４に示すように先に音声で入力された文字列は文節単位で確定される。以上が音声入力の場合の処理であるが、キーボード１２から連続的に文字列が入力された場合にも同様の処理を行うことができる。
【００５３】
なお、音声認識結果として得られた１以上の類似文字列のうち、もっとも類似する文字列がワークエリアに記憶され、１以上の類似文字列全体は、ワークエリアに記憶されたもっとも類似する文字列と関連付けられてシステムメモリ２０２の別領域に記憶される。後述するが、別領域に記憶された類似文字列は文字カーソルの位置指定に応じた置換候補の表示に使用される。
【００５４】
図１５は文字カーソルにより未確定文字列の中の特定文字が指定された場合の処理内容を示す。この処理手順は、文字カーソルがキーボード１２のカーソルキーもしくはマウス１３により移動されたことをＣＰＵ２０１が検出したときに、ＣＰＵ２０１は文字処理関連の指示ありと判断し、図１３の処理手順をステップＳ１０〜Ｓ３０→Ｓ３１へと進め、図１５の処理手順を実行する。図１５において、ＣＰＵ２０１はカーソルキーの位置が未確定文字列中に位置したことを検出すると、指定された文字位置を含む文字列と対応する置換候補をシステムメモリ２０２から読み出して、図５の（Ｃ）のようにプルダウンメニューの形態で表示する（ステップＳ２００→Ｓ２１０→Ｓ２２０→Ｓ２３０）。ユーザが置換候補を選択すると、ＣＰＵ２０１は選択された候補と、現在、未確定文字列として表示されている文字列とを置換する（ステップＳ２５０）。
【００５５】
本実施形態では、文字カーソルキーの位置指定による置換候補の自動表示と関連させて、次のような機能を用意している。ユーザが、文字カーソルにより未確定文字列を指定した状態で、キーボード１２の特定のキー（たとえば、ＥＮＴＥＲキー）を操作すると、その操作が、ステップＳ２２０で検出され、文字カーソルは未確定文字列の最後尾に移動し、以後、音声を使用した文字入力が許可された状態（音声許可フラグオン）となる。
【００５６】
次に、置換候補の読みの表示についての処理を図１６を参照して説明する。
図１６の処理手順は未確定の文字列を確定するために、未確定の文字列を文節単位に区切り、区切られた文字列の中の特定の文節をユーザが指定して変換の指示を行ったときに実行される。図１６において、ＣＰＵ２０１はユーザが変換対象の区切り文字列の指定を受付け、キーボード１２の変換キーを操作すると、ＣＰＵ２０１は指定された文字列について関連する１以上の文字列、すなわち、同音異義語や、カタカナだけの文字列、文法的に正しい文字列を漢字変換用辞書から取得する。このとき、１以上の読みも共に取得される（ステップＳ３００→Ｓ３１０→Ｓ３２０）。
【００５７】
取得された文字列（置換候補）は図７の（Ｂ）のように表示される（ステップＳ３３０）。ユーザが候補選択を行った上で読みの表示の指示をマウス１３により行うと、ＣＰＵ２０１は選択された文字列についての読み候補（漢字変換用辞書から取得済み）を図７（Ｂ）の符号５−２のように表示する（ステップＳ３４０→Ｓ３５０→Ｓ３７０、なお、選択されたかな混じり漢字を含む）。
【００５８】
この読み候補をユーザが選択すると、ＣＰＵ２０１は同じ読みを持つ文字列（読みから逆引きの文字列）を漢字変換用辞書から抽出し、表示する（ステップＳ３７４、図７（Ａ−２）参照）。ユーザが表示された文字列候補の中から所望の文字列を選択すると選択された文字列による置換が行われる（ステップＳ３７６→Ｓ７８）。以上説明したようにこの処理手順では、読みからかな漢字混じり文字列を選択することも可能となる。
【００５９】
確定後の再変換処理において、漢字変換用辞書のかわりに、システムメモリ２０２に記憶しておいた類似文字列候補（音声認識候補）を使用する点は表示する候補が異なるだけであり、詳細な処理手順の説明を要しないであろう。
【００６０】
次に、プレイバック・読み上げ処理を図１７を参照して説明する。図１７の処理手順は、図１（Ｃ）の音声アプレット３中に新たに設けられたプレイバック・読み上げ指示ボタンあるいは従来からあるプレイバックまたは読み上げボタンが操作されたときに実行される。図１７において、ＣＰＵ２０１は操作ボタンの種類をステップＳ４００〜Ｓ４２０で判別する。プレイバックボタンが操作された場合には手順はステップＳ４００→Ｓ４０１へと進み、従来と同様のプレイバック処理（システムメモリ２０２に保存されている入力の音声を再生する処理）。
【００６１】
また、読み上げボタンが操作された場合には、手順はステップＳ４１０→Ｓ４１１→Ｓ４１２と進み、従来と同様、現在、表示されている未確定文字列について、ＣＰＵ２０１は音声合成を行って、合成音声をスピーカ１０６から再生出力する。
【００６２】
一方、プレイバック・再生ボタンが操作された場合には、読み上げのための音声合成データをたとえば、左のスピーカ、入力の原音声を右のスピーカからというように再生出力のスピーカを分けて原音声と、合成音声を出力する（ステップＳ４２０→Ｓ４３０→Ｓ４４）。
【００６３】
次に音声入力とキーボード入力の制御について図１８を参照して説明する。
【００６４】
図１８の処理手順は一定周期割り込みで実行される。ＣＰＵ２０１はキーボード１２用のＩ／Ｏ２０８に保持されているキーコード信号を読み出し、キー入力の有無を判定する。キー入力がある場合には、キーコード信号が保持されていないので、これによりステップＳ５００の判定結果はＹＥＳとなり、手順はステップＳ５０１へと進む。
【００６５】
このステップで、ＣＰＵ５０１はタイマーの計数値をゼロにリセットして、音声許可フラグをオフし、音声の入力を禁止する。タイマーは１回のキーの押下時間よりやや大きい時間でカウントアップするものを使用する。連続的にキー入力がある場合には、ステップＳ５００→Ｓ５０１→Ｓ５０２の手順が繰り返し実行され、タイマーはカウントアップする前に再起動される。
【００６６】
一方、キー入力がなくなると、ステップＳ１００の判定結果がＹＥＳ判定のとなる。したがって、最後のキー入力で計時を開始したタイマーがカウントアップするまでは、音声許可フラグはオフ状態を続け、最後のキー入力処理が終了するまでは音声入力処理が禁止される。キー入力がなく、かつ、タイマーがカウントアップすると、手順は、ステップＳ５００→Ｓ５１０→Ｓ５１１へと進み、このステップで、音声許可フラグがオンとなり音声の入力が許可される。この音声許可フラグのオンオフにしたがって。ＣＰＵ２０１は図１３のでの音声入力、認識処理（ステップＳ１１）を行う。
【００６７】
上述の実施形態の他に次の形態を実施できる。
１）上述の実施形態では文字カーソルの文字列指定では、音声認識で得られた１以上の認識候補を置換候補として表示し、確定のための変換の指示があったときには漢字変換用辞書に記載された変換候補を表示している。しかしながら、文字カーソルの指定や変換の指示で表示する候補については、音声認識で得られた認識候補と、漢字変換用辞書から得られる変換候補を混在されて表示し、ユーザが選択することも可能である。
２）上述の実施形態では図９に示すように読みを表示しているが、この読みは漢字変換用変換辞書から取得してもよいし、音声認識用辞書から取得するようにしてもよい。さらには双方の辞書から取得するようにしてもよいこと勿論である。
３）本実施形態の漢字変換用辞書は、ワープロなどで使用される漢字変換用辞書と異なり、読みに加えて誤記のかな漢字文字列をも変換前の文字列としている。このため、本実施形態の漢字変換用辞書は置換用辞書と考えることができる。置換の対象の文字列としては、上述の読み、文法的に間違った文字列（誤記、仮名遣いの異なる文字列、スペルの誤りのある英文字列をいわゆる置換辞書に記載しておくことができる。
４）上述の実施形態では、パーソナルコンピュータに文字処理装置を搭載する例を説明したが、音声で文字を入力する各種の装置に対して本発明を適用することができる。
【００６８】
【発明の効果】
以上、説明したように、請求項１，２の発明では、キーボードの操作が行われている間は音声入力が禁止されるので、打鍵による音が、音声認識されず、誤認識が発生することはない。また、連続的にキー入力がある場合に、その間の音声入力が禁止される。
【図面の簡単な説明】
【図１】（Ａ）〜（Ｃ）は音声入力のための操作の推移を示す説明図である。
【図２】（Ｄ）〜（Ｆ）は音声入力のための操作の推移を示す説明図である。
【図３】（Ｇ）および（Ｈ）は音声入力のための操作の推移を示す説明図である。
【図４】（Ａ）および（Ｂ）は連続音声についての音声認識結果の処理の変化を示す説明図である。
【図５】（Ｃ）および（Ｄ）は置換候補の表示の一例を示す説明図である。
【図６】（Ｅ）は文字カールの移動結果を示す説明図である。
【図７】（Ａ−１）、（Ａ−２）、（Ｂ）は置換候補の表示例を示す説明図である。
【図８】（Ｃ）は読みから逆引きした置換候補の表示例を示す説明図である。
【図９】再変換時の置換候補の表示例を示す説明図である。
【図１０】音声処理装置を有する情報処理装置の外観を示す構成図である。
【図１１】図１０の情報処理装置の内部構成を示すブロック図である。
【図１２】本発明実施例のデータの流れを示すブロック図である。
【図１３】本発明実施形態のメイン処理手順を示すフローチャートである。
【図１４】入力文字の記憶、表示のための処理内容を示すフローチャートである。
【図１５】文字カーソルの指定に伴う置換候補の表示処理を示すフローチャートである。
【図１６】本発明実施形態の文字列置換、読み候補の表示、読みからの逆引きのための処理を示すフローチャートである。
【図１７】プレイバック・読み上げの処理内容を示すフローチャートである。
【図１８】キー入力に関連した音声入力制御の内容を示すフローチャートである。
【符号の説明】
１１  ディスプレイ
１２  キーボード
１３  マウス
２０１  ＣＰＵ
２０２  システムメモリ
２０３  ＨＤＤ
【図１】
0003723518.tif 000002
【図２】
0003723518.tif 000003
【図３】
0003723518.tif 000004
【図４】
0003723518.tif 000005
【図５】
0003723518.tif 000006
【図６】
0003723518.tif 000007
【図７】
0003723518.tif 000008
【図８】
0003723518.tif 000009
【図９】
0003723518.tif 000010
【図１０】
0003723518.tif 000011
【図１１】
0003723518.tif 000012
【図１２】
0003723518.tif 000013
【図１３】
0003723518.tif 000014
【図１４】
0003723518.tif 000015
【図１５】
0003723518.tif 000016
【図１６】
0003723518.tif 000017
【図１７】
0003723518.tif 000018
【図１８】
0003723518.tif 000019