(57)【特許請求の範囲】
【請求項１】
入力される音声を発話音声データとして出力する音声入力手段と、
複数の単語の音声を示す模範音声データであって、前記単語の各々の音声の発話時間を示す第１単語区切り情報を含む模範音声データから音声のピッチの時間的変化を示す第１ピッチ曲線を生成する第１ピッチ曲線生成手段と、
前記発話音声データのピッチの時間的変化を表す第２ピッチ曲線を生成する第２ピッチ曲線生成手段と、
前記模範音声データと前記発話音声データを所定のフレーム単位で解析し、両者の対応するフレームを特定するフレーム特定手段と、
前記第１ピッチ曲線の平均値を第１平均値として特定する第１ピッチ平均値特定手段と、
前記第２ピッチ曲線の平均値を第２平均値として特定する第２ピッチ平均値特定手段と、
ピッチの高低を上下方向に示し、時間的変化を左右方向に示すように前記第１ピッチ曲線と前記第２ピッチ曲線とを表示し、前記フレーム特定手段によって特定された各フレームについて、前記模範音声データと前記発話音声データの対応するフレームのピッチが同じ左右方向位置になるように、前記第１ピッチ曲線と前記第２ピッチ曲線とを表示するとともに、前記第１ピッチ曲線と前記第２ピッチ曲線とを、前記第１ピッチ曲線における前記第１平均値の上下方向の表示位置と、前記第２ピッチ曲線における前記第２平均値の上下方向の表示位置とが一致する位置関係で表示する表示手段と、
前記第１単語区切り情報と、前記フレーム特定手段によって特定されたフレームとに基づいて、前記発話音声データ中の各単語に対応する音声の発話時間を第２単語区切り情報として特定する特定手段と、
前記第１ピッチ曲線について、前記第１単語区切り情報に基づく区間毎に一つの代表値を特定し、前記第２ピッチ曲線について、前記第２単語区切り情報に基づく区間毎に一つの代表値を特定する単語ピッチ特定手段と、
前記模範音声データ中の各単語に対応する図形を、前記単語ピッチ特定手段によって特定された各単語のピッチの高低に応じた位置に表示するとともに、前記発話音声データ中の各単語に対応する図形を、前記単語ピッチ特定手段によって特定された各単語のピッチの高低に応じた位置に表示する図形表示手段と、
前記第１ピッチ曲線と前記第２ピッチ曲線のピッチの差分値が所定値以上である単語を検出し、当該単語を特定する情報を表示する相違点表示手段と、
操作者によって操作される操作手段と、
前記相違点表示手段によって表示された１または複数の情報のうち、前記操作手段の操作に応じていずれか一つを選択する選択手段と、
前記模範音声データおよび前記発話音声データを記憶する記憶手段と、
前記選択手段によって選択された情報が示す単語に対応する前記模範音声データまたは前記発話音声データを前記記憶手段から読み出して出力する出力手段であって、前記模範音声データを出力する場合には、前記発話音声データの発話時間と同じ発話時間となるように前記模範音声データにタイムストレッチ処理を施して出力する出力手段と
を備えることを特徴とする語学学習装置。
【請求項２】
前記第１ピッチ曲線と前記第２ピッチ曲線の相違部分を検出する検出手段を備え、
前記表示手段は、前記検出手段が検出した相違部分を識別表示する
ことを特徴とする請求項１に記載の語学学習装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、手本となる音と学習者が発する音との違いを学習者に示す技術に関する。
【背景技術】
【０００２】
従来より、語学学習を支援する種々のシステムが提案されている。例えば、特許文献１には、学習者の発音内容を示す音声信号とネイティブスピーカの発音内容を示す音声信号とを比較することによって発音の良否を評価する発音学習方法が開示されている。この方法によれば、学習者は、自身の発音能力に対する客観的な評価数値を得ることができる。
【特許文献１】特開２００２−４０９２６号公報
【発明の開示】
【発明が解決しようとする課題】
【０００３】
しかしながら、特許文献１に記載の技術においては、学習者に発音の評価数値を示すのみであったため、学習者は、自身の発音能力に対する客観的な評価数値を得ることができるものの、具体的にお手本の発音と自分の発音がどのように違っているのかを知ることはできない。このため、お手本の発音に一致した発音ができるようになるまでには、試行錯誤して発音の改善と評価を繰り返すという、根気のいる学習を行うこととなる。
【０００４】
本発明は上述した背景の下になされたものであり、語学学習において、学習者の音声と、お手本の音声との違いを学習者が把握できる技術を提供することを目的とする。
【課題を解決するための手段】
【０００５】
上記課題を解決するため、本発明は、入力される音声を発話音声データとして出力する音声入力手段と、複数の単語の音声を示す模範音声データであって、前記単語の各々の音声の発話時間を示す第１単語区切り情報を含む模範音声データから音声のピッチの時間的変化を示す第１ピッチ曲線を生成する第１ピッチ曲線生成手段と、前記発話音声データのピッチの時間的変化を表す第２ピッチ曲線を生成する第２ピッチ曲線生成手段と、前記模範音声データと前記発話音声データを所定のフレーム単位で解析し、両者の対応するフレームを特定するフレーム特定手段と、前記第１ピッチ曲線の平均値を第１平均値として特定する第１ピッチ平均値特定手段と、前記第２ピッチ曲線の平均値を第２平均値として特定する第２ピッチ平均値特定手段と、ピッチの高低を上下方向に示し、時間的変化を左右方向に示すように前記第１ピッチ曲線と前記第２ピッチ曲線とを表示し、前記フレーム特定手段によって特定された各フレームについて、前記模範音声データと前記発話音声データの対応するフレームのピッチが同じ左右方向位置になるように、前記第１ピッチ曲線と前記第２ピッチ曲線とを表示するとともに、前記第１ピッチ曲線と前記第２ピッチ曲線とを、前記第１ピッチ曲線における前記第１平均値の上下方向の表示位置と、前記第２ピッチ曲線における前記第２平均値の上下方向の表示位置とが一致する位置関係で表示する表示手段と、前記第１単語区切り情報と、前記フレーム特定手段によって特定されたフレームとに基づいて、前記発話音声データ中の各単語に対応する音声の発話時間を第２単語区切り情報として特定する特定手段と、前記第１ピッチ曲線について、前記第１単語区切り情報に基づく区間毎に一つの代表値を特定し、前記第２ピッチ曲線について、前記第２単語区切り情報に基づく区間毎に一つの代表値を特定する単語ピッチ特定手段と、前記模範音声データ中の各単語に対応する図形を、前記単語ピッチ特定手段によって特定された各単語のピッチの高低に応じた位置に表示するとともに、前記発話音声データ中の各単語に対応する図形を、前記単語ピッチ特定手段によって特定された各単語のピッチの高低に応じた位置に表示する図形表示手段と前記第１ピッチ曲線と前記第２ピッチ曲線のピッチの差分値が所定値以上である単語を検出し、当該単語を特定する情報を表示する相違点表示手段と、操作者によって操作される操作手段と、前記相違点表示手段によって表示された１または複数の情報のうち、前記操作手段の操作に応じていずれか一つを選択する選択手段と、前記模範音声データおよび前記発話音声データを記憶する記憶手段と、前記選択手段によって選択された情報が示す単語に対応する前記模範音声データまたは前記発話音声データを前記記憶手段から読み出して出力する出力手段であって、前記模範音声データを出力する場合には、前記発話音声データの発話時間と同じ発話時間となるように前記模範音声データにタイムストレッチ処理を施して出力する出力手段とを備えることを特徴とする語学学習装置を提供する。
【０００６】
本発明の好ましい態様においては、前記第１ピッチ曲線と前記第２ピッチ曲線の相違部分を検出する検出手段を備え、前記表示手段は、前記検出手段が検出した相違部分を識別表示することを特徴とする。
【発明の効果】
【０００９】
本発明によれば、語学学習において、学習者の音声とお手本の音声との違いを学習者が把握することができる。
【発明を実施するための最良の形態】
【００１０】
＜Ａ：構成＞
図１は、この発明の一実施形態である語学学習装置１のハードウェア構成を例示したブロック図である。図において、１１は、例えばＣＰＵ（Central Processing Unit）等の演算装置や、ＲＯＭ（Read Only Memory）やＲＡＭ（Random Access Memory）などの各種メモリを備えた制御部である。１２は、例えばハードディスクなどの大容量記憶装置で構成された記憶部である。制御部１１の演算装置は、ＲＯＭ等のメモリや記憶部１２に記憶されているコンピュータプログラムを読み出して実行することにより、バス１３を介して語学学習装置１の各部を制御する。
【００１１】
１４は例えば液晶ディスプレイ等で構成される表示部であり、制御部１１の制御の下、文字列や各種メッセージ、語学学習装置１を操作するためのメニュー画面等を表示する。１５はキーボードやマウス等の入力装置を備える入力部であり、キーの押下やマウスの操作等に応じて操作内容に対応した信号を制御部１１へ出力する。１６は音声を収音するマイクロフォンであり、１７は音声処理部である。マイクロフォン１６は音声処理部１７に接続されており、音声処理部１７は、マイクロフォン１６から入力される音声（以下、学習者音声と称する）をデジタルデータ（以下、学習者データと称する）に変換して制御部１１に供給する。１８は、音声処理部１７に接続されたスピーカであり、音声処理部１７から出力される信号に対応した音を出力する。
【００１２】
語学学習装置１の記憶部１２には、テーブルＴＢＬ１が記憶されている。図２は、テーブルＴＢＬ１の構造の一例を示す図である。このテーブルには、図示のように、「例文テキストデータ」と「模範音声データ」と「単語区切り情報」との各項目が互いに関連付けて記憶されている。これらの項目のうち、「例文テキストデータ」の項目には、語学学習に用いられる例文を表すテキストデータが記憶される。「模範音声データ」の項目には、ネイティブスピーカが例文を読み上げたときの音声（以下、模範音声と称する）を表すＷＡＶＥ形式のデジタルデータ（以下、模範音声データと称する）が記憶される。「単語区切り情報」の項目には、模範音声中における各単語の発話時間を示す情報（以下、第１単語区切り情報と称する）が記憶される。
【００１３】
次に、語学学習装置１の制御部１１が表示部１４に表示する画面について説明する。図３は、語学学習装置１の表示部１４に表示される画面の一例を示す図である。図示のように、この画面は、画面上段のピッチ表示部分１００と、画面中段のリズム表示部分２００と、画面下段の操作ボタン表示部分３００とに分けられている。
【００１４】
ピッチ表示部分１００は、模範音声と学習者音声のピッチ（音高）の時間的変化を対応付けて表示する部分である。このピッチ表示部分１００は、更に、ラジオボタン表示部分１１０と、ピッチグラフ表示部分１２０とに分けられている。
ラジオボタン表示部分１１０には、ピッチグラフ表示部分１２０に表示される内容を切り替えるためのラジオボタン１１１が表示される。このラジオボタン１１１は、「グラフ表示」と「単語表示」のいずれか一方を選択できるようになっている。このラジオボタン１１１が表示されている領域にマウスポインタを移動し左クリックする等の操作が学習者によって行われると、制御部１１は、ピッチグラフ表示部分１２０に表示する内容を切り替える。
ラジオボタン１１１において「グラフ表示」が選択されている場合は、ピッチグラフ表示部分１２０には、図３に示すような、模範音声と学習者音声のピッチの時間的変化を示すグラフ（ピッチ曲線）が表示される。逆に、ラジオボタン１１１において「単語表示」が選択されている場合は、ピッチグラフ表示部分１２０には、図４に示すような、模範音声と学習者音声のピッチの時間的変化を単語毎に示す帯状の図形が表示される。
【００１５】
次に、リズム表示部分２００は、模範音声と学習者音声の発音のリズム（発話時間）を対応付けて表示する部分である。このリズム表示部分２００は、更に、ラジオボタン表示部分２１０と、リズムグラフ表示部分２２０とに分けられている。
ラジオボタン表示部分２１０には、リズムグラフ表示部分２２０に表示される図形を切り替えるためのラジオボタン２１１が表示される。このラジオボタン２１１は、「単語比較」と「等倍比較」と「全文比較」とのいずれか一つを選択できるようになっている。
ラジオボタン２１１において「単語比較」が選択されている場合は、リズムグラフ表示部分２２０には、図３に示すような、模範音声と学習者音声の例文全体の発話時間における各単語の発話時間の比率を比較するための帯状の図形が表示される。
また、「等倍比較」が選択されている場合は、リズムグラフ表示部分２２０には、各単語の発音時間の絶対的な長さを比較するための図形が表示される。具体的には、図５に示すような、模範音声と学習者音声における各単語の発話時間を示す帯状の図形が表示される。
また、「全文比較」が選択されている場合は、図４に示すような、模範音声と学習者音声の例文全体の発話時間を示す帯状の図形が表示される。
【００１６】
このように、ピッチグラフ表示部分１２０とリズムグラフ表示部分２２０は、ラジオボタン１１１，２１１によって適宜その表示内容を変更することが可能となっており、これらの表示内容は任意のものを組み合わせて表示させることが可能である。
【００１７】
次に、図３における操作ボタン表示部分３００には、録音操作や再生操作等の各種操作を学習者に行わせるための各種のボタンが表示される。図３に示す操作ボタン表示部分３００において、３０１は、音声入力の開始指示または終了指示を入力するためのボタンである。３０２は、模範音声の再生指示を入力するためのボタンである。３０３は、模範音声の再生における再生スピードを選択するためのラジオボタンであり、「通常再生」と「スロー再生」と「録音に合わせる」のいずれかを選択できるようになっている。「録音に合わせる」が選択されている場合は、録音された学習者音声の例文の発話時間と同じ発話時間となるようにタイムストレッチ処理が施された模範音声が再生される。「スロー再生」が選択されている場合は、所定の比率でタイムストレッチ処理が施された模範音声が再生される。
３０４は、録音した学習者音声の再生指示を入力するためのボタンである。３０５は、学習者音声の採点指示を入力するためのボタンであり、３０６は、学習者の発音音声に対する評価結果を表示する評価結果表示部分である。ボタン３０５がクリックされたことを検知すると、制御部１１は、模範音声データと学習者データとを比較してその一致度に基づいて所定のアルゴリズムにより点数を算出し、算出された点数を評価結果表示部分３０６に表示させる。
３０７は、採点詳細の表示指示を入力するためのボタンである。このボタンがクリックされたことを検知すると、制御部１１は、採点結果の詳細を表示する。これは例えば、「ピッチ」や「リズム」といった複数の項目の採点結果を項目毎に表示するようにしてもよく、例文に含まれる単語毎の採点結果を単語毎に表示するようにしてもよい。
【００１８】
３０８は、模範音声と学習者音声との相違点において、その差異が顕著である単語の音声出力を指示するためのボタンである。このボタンがクリックされたことを検知すると、語学学習装置１の制御部１１は、模範音声と学習者音声において、ピッチ比較においてその差異が最も顕著であった単語をそれぞれ再生する。更に、リズム比較においてその差異が最も顕著であって単語についてもそれぞれ再生する。
以上が表示部１４に表示される画面の説明である。
【００１９】
＜Ｂ：動作＞
次に、本実施形態の動作について、図６を参照しつつ説明する。
＜Ｂ−１：ピッチグラフ表示処理＞
図６は、語学学習装置１の制御部１１が行う処理の流れを示すフローチャートである。まず、学習者は、語学学習装置１の入力部１５を操作して例文の一覧の表示指示を入力する。語学学習装置１の制御部１１は、例文の一覧の表示指示が入力されたことを検知すると、テーブルＴＢＬ１に格納されている例文テキストデータを読出し（ステップＳＡ１）、読み出したデータが表す例文の一覧を表示部１４に表示する（ステップＳＡ２）。この後、学習者が入力部１５を操作し、表示された例文の一つを選択する操作を行うと（ステップＳＡ３；ＹＥＳ）、制御部１１は、表示部１４に表示されている画面と、入力部１５から送られる信号に基づいて、選択された例文を特定する（ステップＳＡ４）。制御部１１は、選択された例文を特定すると、テーブルＴＢＬ１において、選択された例文に対応付けて格納されている模範音声データを読み出す（ステップＳＡ５）。
【００２０】
次に、制御部１１は、読み出した模範音声データが示す音声のピッチを抽出し、ピッチの時間的変化を示すピッチ曲線を生成する（ステップＳＡ６）。ピッチ曲線の生成は具体的には以下のようにして行う。まず、制御部１１は、読み出した模範音声データが示す音声を、その再生時間軸上において所定の時間間隔（例えば、１００ｍｓｅｃ）で分割する（以下、各分割された区間をフレームと称する）。次に制御部１１は、分割された区間毎に、各区間の音声のピッチを抽出する。分割されたフレーム毎にピッチを抽出すると、フレーム毎に求められたピッチを結んだピッチ曲線を生成し（以下、このピッチ曲線を第１ピッチ曲線と称する）、生成した第１ピッチ曲線を示す曲線データを記憶部１２に記憶する。
【００２１】
続けて、制御部１１は、表示部１４を制御し、例えば、「キーを押してから発音し、発音が終わったら再度キーを押してください」という、例文の発音を促すメッセージを表示する（ステップＳＡ８）。
【００２２】
学習者は、表示部１４に表示されたメッセージに従って入力部１５を操作し、例文を読み上げる。学習者が発音すると、学習者の音声がマイクロフォン１６によって音声信号に変換され、変換された信号が音声処理部１７へ出力される。音声処理部１７は、マイクロフォン１６から出力された音声信号をデジタルデータに変換して、学習者データとする。この学習者データは、音声処理部１７から出力されて記憶部１２に記憶される。
【００２３】
次に、制御部１１は、入力部１５から送られる信号を監視し、学習者が発音を終了したか否かを判断する。学習者が発音を終了して入力部１５を操作したことを検知すると（ステップＳＡ９；ＹＥＳ）、制御部１１は、模範音声データと学習者データとの両者の波形同士を直接対比して、例えばＤＴＷ（Ｄｙｎａｍｉｃ  Ｔｉｍｅ  Ｗａｒｐｉｎｇ）等により、模範音声データと、学習者音声データとの時間的な対応付けをフレーム毎に行い、この対応付けの結果と第１単語区切り情報に基づき学習者データ中における各単語の発話時間を示す情報（以下、第２単語区切り情報と称する）を特定する（ステップＳＡ１０）。例えば、図７に示すように、模範音声と学習者音声の２つの波形の対応付けを行う。
【００２４】
続けて、語学学習装置１の制御部１１は、学習者データに対してステップＳＡ６と同様の処理を行って、学習者データのピッチを抽出してピッチ曲線（以下、第２ピッチ曲線と称する）を生成し、生成した第２ピッチ曲線を示すデータを記憶部１２に記憶する（ステップＳＡ１１）。
【００２５】
次に、制御部１１は、記憶部１２に記憶された模範音声データのピッチの平均値を算出する（ステップＳＡ１２）。具体的には、例えばステップＳＡ６において分割されたフレーム毎のピッチの値の平均値を算出する。また、制御部１１は、記憶部１２に記憶された学習者データについても同様の処理を行って、学習者データのピッチの平均値を算出する（ステップＳＡ１３）。
【００２６】
次に、制御部１１は、表示部１４を制御して、図３に例示するように、選択された例文と第１ピッチ曲線と第２ピッチ曲線とをピッチグラフ表示部分１２０に表示させる（ステップＳＡ１４）。このとき、制御部１１は、学習者データにおける各フレームの発話時間が、第１ピッチ曲線において対応するフレームの発話時間と一致するように、第２ピッチ曲線をフレーム毎に時間軸方向に伸縮または伸張して表示させる。また、制御部１１は、第１ピッチ曲線におけるピッチの平均値の表示位置と、第２ピッチ曲線におけるピッチの平均値の表示位置とが一致する位置関係で、第１ピッチ曲線と第２ピッチ曲線とを表示する。
【００２７】
図３に示すピッチグラフ表示部分１２０において、鎖線で示す曲線は第１ピッチ曲線を表し、実線で示す曲線は第２ピッチ曲線を表している。図示のように、第１ピッチ曲線と第２ピッチ曲線とは、双方のピッチの平均値が縦軸のゼロ点（例えば横軸の位置）に一致するように上下方向の表示位置が調節される。これにより、学習者は、模範音声と自身の発音におけるピッチの時間的変化（イントネーション）の差異を視覚的に把握することができる。
【００２８】
また、制御部１１は、模範音声と学習者音声においてピッチが異なる箇所を抽出し、抽出した箇所を示すアイコンを表示させる。この抽出処理は、例えば、第１ピッチ曲線と第２ピッチ曲線との対応箇所におけるピッチの値の差分値を算出し、算出した差分値が所定値以上である箇所を特定することによって行われる。そして、制御部１１は、図３に示すように、模範音声とは発音のピッチが異なることを報知するアイコンＩ１，Ｉ２を、両者のピッチ差が所定値以上の部分に表示するとともに、第２ピッチ曲線におけるその部分を、色を変えたり、太さを変えたりして表示する。なお、図３においては、第２ピッチ曲線における該当箇所を太い実線で示している。
【００２９】
このとき、学習者は、入力部１５を操作して、相違箇所を音声出力する旨の操作を行うことができる。これは例えば、表示されたアイコンＩ１，Ｉ２が表示されている領域にマウスポインタを移動し左クリックする等の操作によって行われる。語学学習装置１の制御部１１は、音声出力する旨の操作が行われたことを検知すると、選択された相違箇所を含む単語について、模範音声におけるその単語部分の音声データと、学習者音声におけるその単語部分の音声データとを記憶部１２から順次読み出して音声処理部１７に供給する。これにより、両者の音声がスピーカ１８を介して順次出力される。
例えば、図３において、アイコンＩ１が左クリックされた場合は、制御部１１は、模範音声における「One」という音声と、学習者の発話音声中の「One」という音声を、順次スピーカ１８を介して出力する。なお、音声を出力する単位は、単語毎でなくてもよく、例えば、問題のある単語の前後の単語を含む区間の音声を出力するようにしてもよい。このようにすると、一連の単語の流れの中で発音の違いを理解することができる。
【００３０】
ところで、学習者音声のピッチ曲線と模範音声のピッチ曲線とを表示する場合において、学習者の発話時間と模範音声の発話時間との差異が大きい場合等は、図９に示すように、それぞれのピッチ曲線を上下または左右に並べて表示すると、ピッチ曲線のどの箇所が対応しているのか、自身の発音と模範音声とのどの部分が異なっているのかを、学習者が視覚的に把握することは困難であった。
更に、これらのピッチ曲線を同じスケール上に重ね合わせて表示しても、一般的に模範音声と学習者音声の平均ピッチは異なっているから、両者には上下方向のずれが生じ、修正すべき部分を把握することは難しい。特に、模範音声と学習者との性別が異なる場合等は、模範音声の平均ピッチと学習者音声の平均ピッチとが大きく異なり、２つのピッチ曲線を重ね合わせても、具体的にどのように修正すればいいのかを学習者が把握することは困難であった。
【００３１】
これに対し本実施形態においては、図３に示すように、第１ピッチ曲線と第２ピッチ曲線とが、双方のピッチの平均値の表示位置が一致する位置関係で表示されることから、学習者の発音と模範音声の発音におけるイントネーションの差異が視覚的に把握しやすい。
【００３２】
また、学習者データにおける各フレームの発話時間が、第１ピッチ曲線の対応するフレームの発話時間と一致するように、第２ピッチ曲線をフレーム毎に伸縮または伸張して表示させることにより、学習者の発話時間と模範音声の発話時間との時間長の差異が大きい場合であっても、グラフのどの箇所とどの箇所とが対応しているのかを視覚的に把握することができ、どの部分（どの単語）のピッチ（イントネーション）を修正すべきかを容易に知ることが可能となる。
【００３３】
また、模範音声と異なるピッチの箇所がアイコンで表示されることにより、学習者は、お手本と自身の発音の相違点を視覚的に把握することが可能となり、どの箇所の発音を修正すべきかを容易に把握することができる。更に、その相違箇所の単語が、模範音声と学習者音声のそれぞれについて音声出力されることにより、学習者は、修正すべき単語とその修正内容を容易に把握することが可能となる。
【００３４】
＜Ｂ−２：リズム単語比率表示処理＞
図６の説明に戻る。語学学習装置１の制御部１１は、ピッチグラフの表示と併せて、図３に示すような、リズムを示す帯状の図形をリズムグラフ表示部分２２０に表示させる（ステップＳＡ１５）。具体的には、模範音声の例文全体の発話時間における各単語の発話時間の比率を示す帯状の図形と、学習者音声の例文全体の発話時間における各単語の発話時間の比率を示す帯状の図形とを、リズムグラフ表示部分２２０に表示させる。
図３に示すリズムグラフ表示部２２０において、単語が内部に表示されている帯は、模範音声の例文全体の発話時間における各単語の発音時間の比率を表し、網掛けで示す帯は学習者の例文全体の発話時間における各単語の発音時間の比率を表している。
単語が内部に表示されている帯の長さは、テーブルＴＢＬ１に記憶されている単語毎の発話時間（第１単語区切り情報）に応じて決定され、内部が塗りつぶされている帯の長さは、ステップＳＡ１０で求めた発話時間（第２単語区切り情報）に応じて決定される。具体的には、各帯の長さは単語の発話時間の比率に対応しており、発話時間の比率が大きいと帯は長く表示され、発話時間の比率が小さいと帯は短く表示される。
更に、制御部１１は、模範音声と学習者音声においてリズム（単語の発話時間）が異なる箇所を抽出し、図３に示すように、抽出した箇所の近傍にアイコンＩ３を表示させる。
【００３５】
このように、模範音声と学習者音声のそれぞれについて、各単語の発話時間の比率を表示させることにより、学習者音声と模範音声のリズム（単語の発話時間）の差異が視覚的に把握しやすくなり、学習者は、どの単語の発話時間（発音スピード）を修正すべきかを視覚的に知ることが容易となる。
【００３６】
＜Ｂ−３：ピッチ単語グラフ表示処理＞
次に、ピッチグラフ表示部分１２０におけるピッチ単語グラフの表示処理について、以下に説明する。
図３に示す画面が表示部１４に表示されている状態において、学習者が入力部１５を操作してラジオボタン１１１の「単語表示」を選択する操作を行うと、語学学習装置１の制御部１１は、操作された内容を検知して、ピッチグラフ表示部分１２０の表示を、ピッチ単語グラフ表示に切り替える。具体的には、まず、制御部１１は、模範音声データの各単語について、その単語におけるピッチの最高値を特定する。次に、学習者データの各単語について、その単語におけるピッチの最高値を特定する。そして、制御部１１は、ピッチグラフ表示部分１２０に、図４に示すような、各単語の発話時間を示す帯を表示させる。
【００３７】
図４のピッチグラフ表示部分１２０において、単語が内部に表示されている帯は、模範音声の発音を表し、網掛けされた帯は学習者の発音を表している。単語が内部に表示されている帯の上下方向の配置位置は、単語毎のピッチの最高値に応じて決定される。具体的には、各帯は、画面の所定の表示位置を基準にして発音のピッチの高低に応じて画面上に配置され、ピッチが高いと帯は上方向に表示され、ピッチが低いと帯は下方向に表示される。また、この場合、各帯は、模範音声データのピッチの平均値の表示位置と学習者データのピッチの平均値の表示位置とが一致する位置関係で表示される。
【００３８】
このように、各単語のそれぞれについて、その単語のピッチの高低に応じた位置に帯状の図形を表示することにより、学習者にどの単語のピッチがお手本の発音のピッチとずれているのかを視覚的に提示することが可能となる。
【００３９】
＜Ｂ−４：リズム等倍比較表示処理＞
続けて、リズム等倍比較表示処理について説明する。図３に示す画面が表示部１４に表示されている状態において、学習者が入力部１５を操作してラジオボタン２１１の「等倍比較」を選択する操作を行うと、語学学習装置１の制御部１１は、リズムグラフ表示部分２２０の表示をリズム等倍比較表示に切り替える。具体的には、制御部１１は、図５に示すような、模範音声データと学習者データにおける各単語の発話時間を示す帯状の図形をリズムグラフ表示部分２２０に表示する。図５に示すリズムグラフ表示部分２２０において、単語が内部に表示されている帯は、模範音声における各単語の発話時間を表し、網掛けで示す帯は学習者の発話音声における各単語の発話時間を表す。
【００４０】
このとき、学習者は、表示部１４に表示される画面を確認しながら、入力部１５を操作して、リズムグラフ表示部分２２０に表示された、学習者音声中の単語の発話時間を示す帯を選択することができる。これは例えばその帯が表示されている領域にマウスポインタを移動し左クリックする等の操作によって行われる。語学学習装置１の制御部１１は、選択された帯について、図６のステップＳＡ２０，ＳＡ２１に示す処理を行ってその帯の表示位置を変更する。この表示位置の変更処理について図６を参照しつつ以下に説明する。
【００４１】
まず、制御部１１は、帯を選択する旨の操作が行われたことを検知すると（ステップＳＡ２０；ＹＥＳ）、選択された帯が表す単語と同一の単語であって、模範音声に含まれる単語の発話時間を表す帯の左端の描画位置（以下、左端座標と称する）を取得する。例えば、図５に示す例において帯Ｂ１が選択された場合は、帯Ｂ２の左端座標を取得する。そして、制御部１１は、選択された帯の左端座標を、取得した左端座標に変更して帯を描き直す（ステップＳＡ２１）。図８に示す例においては、「ten」という単語と対応する帯が選択された場合に表示される画面を示している。
【００４２】
図５に示す画面おいては、模範音声による「ten」という単語の発話時間と、学習者の発音による「ten」という単語の発話時間との、どちらの発話時間の方が長いかを、一見して把握することは困難であった。これに対し、図８に示す例においては、「ten」という単語と対応する帯の左端の描画位置が同じになっているため、どちらの単語の発話時間が長いかを一目で容易に把握することが可能となる。これにより、学習者は、単語の発音を長くすべきか短くすべきかを視覚的に把握することが可能となる。
【００４３】
＜Ｂ−５：リズム全文比較表示処理＞
続けて、リズム全文比較表示処理について説明する。図３に示す画面において、ラジオボタン２１１の「全文比較」を選択する操作を行うと、語学学習装置１の制御部１１は、図４に示すような、模範音声の例文全体の発話時間を示す帯状の図形と、学習者音声の例文全体の発話時間を示す帯状の図形とを、リズムグラフ表示部分２２０に表示させる。これにより、学習者は、模範音声と自身の音声とにおける文章全体の発音時間の差異を視覚的に把握することが可能となる。
【００４４】
以上説明したように本実施形態においては、語学学習において、学習者の発音におけるイントネーション（ピッチの時間的変化）やリズムを、お手本のイントネーションやリズムと比較しやすい形に視覚化して表示することにより、学習者に自分の発音をお手本の発音に近づけるために何をすればよいかを認識させることが可能となる。
【００４５】
＜Ｃ：変形例＞
以上、本発明の実施形態について説明したが、本発明は上述した実施形態に限定されることなく、他の様々な形態で実施可能である。以下にその一例を示す。
（１）上述した実施形態においては、一つの画面にピッチとリズムとの両方を表示しているが、ピッチのみ、またはリズムのみを表示するようにしてもよく、また、ピッチとリズムのどちらを表示するか、学習者の操作により選択できるようにしてもよい。
【００４６】
（２）上述した実施形態においては、例文を発音したときの模範音声を示す模範音声データと、模範音声中における各単語の発話時間を示す単語区切り情報と、例文を示すテキストデータとを、語学学習装置の記憶部に記憶させておくようにしたが、これらのデータを予め記憶部に記憶させておくようにせず、学習者が入力部１５を操作して入力するようにしてもよい。
【００４７】
（３）上述した実施形態においては、ピッチ表示またはリズム表示において、各単語（または例文全体）に対応する帯状の図形を表示部に表示するようにした。単語（または例文全体）に対応する図形は、帯状の図形に限定されるものではなく、例えば、図１０に示すように、円状の図形を複数つなげて表示するようにしてもよい。または、各単語（または例文全体）の発話開始と終了とを示す図形（例えば、人の顔を文字で模した図形（顔文字）等）を該当箇所に表示するようにし、途中の区間にはつなぎ図形を表示して各単語（または例文全体）を表すようにしてもよい。要するに、各単語（または例文全体）と対応する図形であればどのようなものであってもよい。
【００４８】
（４）上述した実施形態においては、記憶部１２に記憶される模範音声データはＷＡＶＥ形式のデータとしたが、データの形式はこれに限定されるものではなく、音声を示すデータであればどのような形式のデータであってもよい。
なお、上述した実施形態においては、模範音声データと学習者データとをデジタルデータとしたが、アナログデータを用いるようにしてもよい。
【００４９】
（５）上述した実施形態では、語学学習装置１が、本発明に係るピッチ曲線生成処理や、ピッチ曲線表示処理等を行うようになっていた。これに対し、通信ネットワークで接続された２以上の装置が上記実施形態に係る機能を分担するようにし、それら複数の装置を備えるシステムが同実施形態の語学学習装置１を実現するようにしてもよい。
例えば、マイクロフォンや、スピーカ、表示装置および入力装置等を備えるコンピュータ装置と、模範音声データを記憶して模範音声データと音声データとの比較処理を行うサーバ装置とが通信ネットワークで接続されたシステムとして構成されていてもよい。この場合は、コンピュータ装置が、マイクロフォンから入力された音声を音声データに変換してサーバ装置に送信し、サーバ装置が受信した音声データと模範音声データとの比較処理を行い、ピッチ曲線等を生成して語学学習装置１に送信するようにすればよい。
【００５０】
（６）上述した実施形態における語学学習装置１の制御部１１によって実行されるプログラムは、磁気テープ、磁気ディスク、フロッピー（登録商標）ディスク、光記録媒体、光磁気記録媒体、ＣＤ（Compact Disk）−ＲＯＭ、ＤＶＤ（Digital Versatile Disk）、ＲＡＭなどの記録媒体に記憶した状態で提供し得る。
【図面の簡単な説明】
【００５１】
【図１】本発明の第１実施形態である語学学習装置のハードウェア構成の一例を示すブロック図である。
【図２】同実施形態の記憶部に記憶されるテーブルのデータ構造の一例を示す図である。
【図３】同実施形態の表示部に表示される画面の一例を示す図である。
【図４】本発明の第２実施形態である語学学習装置の表示部に表示される画面の一例を示す図である。
【図５】同実施形態の表示部に表示される画面の一例を示す図である。
【図６】同実施形態の制御部が行う処理の流れを示すフローチャートである。
【図７】模範音声の波形と学習者音声の波形との一例を示す図である。
【図８】同実施形態の表示部に表示される画面の一例を示す図である。
【図９】ピッチグラフの一例を示す図である。
【図１０】本発明の変形例に係る画面の一例を示す図である。
【符号の説明】
【００５２】
１…語学学習装置、１１…制御部、１２…記憶部、１３…バス、１４…表示部、１５…入力部、１６…マイクロフォン、１７…音声処理部、１８…スピーカ。
【図１】
0004797597.tif 000002
【図２】
0004797597.tif 000003
【図３】
0004797597.tif 000004
【図４】
0004797597.tif 000005
【図５】
0004797597.tif 000006
【図６】
0004797597.tif 000007
【図７】
0004797597.tif 000008
【図８】
0004797597.tif 000009
【図９】
0004797597.tif 000010
【図１０】
0004797597.tif 000011