(57)【特許請求の範囲】
【請求項１】
ユーザーが、ネットワークを介して、実在の人又はコンピュータ上の仮想のキャラクタを相手方として、略リアルタイムに又は所定の時間差を介して、文字、データ又は音声により、メール、メッセージ、又は発言などの会話をやり取りするための会話のための装置において、
「ユーザーからの文字、データ又は音声により構成される、ユーザーの会話」に関連付けられて表示される「ユーザーである話者を象徴的に示す話者画像」を生成するための話者画像生成手段と、
前記話者画像の一部を構成する「服装又は姿態のデータ」を生成するための服装・姿態データ生成手段と、
を備え、
前記服装・姿態データ生成手段は、少なくとも会話のやり取りを新たに行うとき、「話者の居る場所のそのときの天候、話者の居る場所の現在位置情報、話者が居る場所の周囲状況（自宅内か会社内かホテル内か街中か田舎か友人と一緒かなどの話者の居る周囲の状況）、及び、話者の現在の行為状況（話者が何をしているかを示す状況）」の中の少なくとも一つに基づいて、一つの話者画像についての前記「服装又は姿態のデータ」を、生成するものである、ことを特徴とする会話のための装置。
【請求項２】
ユーザーが、ネットワークを介して、実在の人又はコンピュータ上の仮想のキャラクタを相手方として、略リアルタイムに又は所定の時間差を介して、文字、データ又は音声により、メール、メッセージ、又は発言などの会話をやり取りするための会話のための装置において、
「ユーザーからの文字、データ又は音声により構成される、ユーザーの会話」に関連付けられて表示される「ユーザーである話者を象徴的に示す話者画像」を生成するための話者画像生成手段と、
前記話者画像の一部を構成する「背景画像データ」を生成するための背景画像データ生成手段と、
を備え、
前記背景画像データ生成手段は、少なくとも会話のやり取りを新たに行うとき、「話者の居る場所のそのときの天候、話者の居る場所の現在位置情報、話者が居る場所の周囲状況（自宅内か会社内かホテル内か街中か田舎か友人と一緒かなどの話者の居る周囲の状況）、及び、話者の現在の行為状況（話者が何をしているかを示す状況）」の中の少なくとも一つに基づいて、一つの話者画像についての前記背景画像データを、生成するものである、ことを特徴とする会話のための装置。
【請求項３】
請求項１又は２において、
話者の現在の周囲状況を取得するための話者周囲状況取得手段を備えている、ことを特徴とする会話のための装置。
【請求項４】
請求項１又は２において、
話者の現在の行為状況を取得するための話者行為状況取得手段を備えている、ことを特徴とする会話のための装置。
【請求項５】
請求項１から４までのいずれか一つにおいて、さらに、
前記会話に関連付けて送信するための「背景の音響又は音声」であって、「話者の居る場所のそのときの天候、話者の居る場所の現在位置情報、話者が居る場所の周囲状況（自宅内か会社内かホテル内か街中か田舎か友人と一緒かなどの話者の居る周囲の状況）、及び、話者の現在の行為状況（話者が何をしているかを示す状況）」の中の少なくとも一つに基づいて、「会話のやり取りの背景の音響又は音声」を生成するための音響・音声データ生成手段、を備えたことを特徴とする会話のための装置。
【０００１】
【発明の詳細な説明】
【発明の属する技術分野】
本発明は、遠隔の地に居る実在の人又はコンピュータ上の仮想のキャラクタとの間で、リアルタイムに又は時間差を介して、文字又は音声により、「会話」（電子メール、メッセージ送信、リアルタイムのチャット、メーリングリストなどを含む）を行うための会話システムに関する。
【０００２】
【従来の技術】
従来より、遠隔の地に居る人とインターネットやパソコン通信などのネットワークを介して会話を行うことが行われている。それは、「チャット」と呼ばれるリアルタイムの会話を行うシステムであったり、「電子メール」「メーリングリスト」と呼ばれる電子的なメッセージ（手紙、発言）を遠隔の相手に送るシステムであったりする。また、その会話も、電子メール、メーリングリスト、チャットのいずれにおいても、相手方が一人である「一対一」の場合だけではなく、一度に多数人に同報メールを送信することによる「一対多」とか「多対多」の会話も可能である。
【０００３】
また、以上のチャット、電子メール、メーリングリストなどは、いずれも、遠隔の地に居る「実在の人（人間）」と会話を行うものであるが、それ以外に、例えば、「電子秘書」とか「電子案内嬢（電子コンパニオン）」とか「電子アドバイザー」などの「仮想の人（キャラクター）」との間でユーザーが会話を行う場合がある。例えば、ある大手企業のイギリスの証券市場を担当している電子秘書に対して日本在住の役員（ユーザー）がコンピュータ上で問い合わせする場合とか、日本在住のユーザーがフランスのルーブル美術館（インターネット上の電子的なバーチャル美術館）にインターネット上でアクセスして、最初に画面に現れた電子案内嬢に質問を行うなどの場合である。このような場合は、実在の人ではなく「コンピュータ上の仮想のキャラクタ」（電子秘書や電子案内嬢）とユーザーが会話を行うことになる。
【０００４】
さらに、最近は、「インターネットを使用した仮想空間の中でチャットなどの会話をユーザーが楽しむとき、ユーザーが自分の「分身」を画面の中に作り出して、その分身を通して、仮想の町や店舗の中を歩き回ったり、インターネットを通じて世界中からこの仮想の町を訪れる人々と画面の中で出会い、あたかも実際に会っているかのように会話ができる」システムも、「インタースペース」というソフトウェアの名前で、ＮＴＴソフトウェアカリフォルニア技術センターにより、１９９８年６月から米国で実用化されている（以上、１９９８年４月２０日付け日経産業新聞の記事「日本企業  世界に生きる  日本発ソフト発信  ネット用、仮想体験売り物」より引用。なお、この記事には、ユーザーの「分身」として、ユーザーの顔写真とコンピュータグラフィックスによる胴体とを合成したキャラクタが使用された画面の写真が掲載されている）。
さらに又、最近は、前記と同様の「自分の分身が仮想世界を活動するシステム」が様々な企業から実用化されている。次は、１９９８年１０月１４日付け日経産業新聞の記事「ネットで会話に新サービス  顔写真付きも登場」からの引用である。「インターネットを使って見知らぬ人は文字のメッセージを同時に交わし合うチャット（おしゃべり）で、ネット関連会社が相次ぎ新サービスを開始している。ソニーはこのほど、チャット参加者の顔写真をパソコン画面上に表示する新サービス「Ｃｈａｔ  Ｖｉｓｉｏｎ」を始めた。通常のチャットは文字だけのやりとりだが、新サービスではデシタルカメラなどで撮影した顔写真付きの画像が自分の分身となってネット上の三次元の仮想空間を自由に歩き回り、出会った相手と顔を見合わせながら会話を楽しむことができる。三洋電機ソフトウェア（大阪府守口市）が行うインターネット接続業者の「ＳＡＮＮＥＴ」も、赤ちゃんロボットなど５種類のキャラクターの姿を借りて三次元空間でチャットできる「ＴＵＬＩＥ  ＷＯＲＬＤ」というサービスを始めた。」
【０００５】
【発明が解決しようとする課題】
ところで、以上のような会話システムにおいては、文章や音声で会話がやりとりされる（電子メールを音声で送ることも実用化されている）。また、電子メールに、音声や画像を含むファイルを添付又は合成すると共に、話者を示すキャラクタを添付又は合成することも行われている。しかしながら、従来の電子メールなどに添付又は合成している話者を示すキャラクタは、話者の居る時間帯やその周囲の状況が分かるようなものではない。また、従来のキャラクタは、話者がどのような場所にいても、また話者が発言している時間帯がどのような時間帯であっても、キャラクタの内容は同一の画一的なもので面白味の無いものであった。他方、従来からも、パソコンのディスプレイなどの上にＣＣＤカメラなどを取り付けて、音声又は文字から成る会話に、カメラ記で撮像した話者及びその周囲の実写映像を添付又は合成して送信する「テレビ電話システム」「テレビ会議システム」も実用化されている（これらは、リアルタイムの音声による会話であるが、リアルタイムの又は時間差のある文字による会話にも、応用が可能である）。しかしながら、このようなカメラからの撮像画像を会話に添付又は合成する方法は、カメラを取り付けていない情報機器を使用して行う会話には使用できないし、また、自宅の中などのプライバシー保護が必要な場所から会話を発信する場合はカメラからの実写映像をそのまま送るのはプライバシー保護上適切ではない、などの問題がある。
また、上記のように、ＮＴＴソフトウェアカリフォルニア技術センターやソニーにより最近実用化された「ユーザーがチャットを行うとき、自分の顔写真を含む画像を、自分の分身として、仮想空間の中を歩き回ったり、仮想の町で人と出会って会話をする」というサービスは、仮想空間の中でも、「現実の自分の顔写真付きのキャラクタ」を使用して会話する点で、会話の「臨場感」をある程度は高めるものと言える。しかし、上記の技術では、「顔写真」を「自分の分身」として使用するだけで、「顔写真」以外の胴体や服装や背景の画像などは常に一定のものを使用している（あるいは背景の画像などは存在しない。つまり、ユーザーが現在どのような状況に居るのか、ユーザーは現在何をしているのか、ユーザーは現在どのような地域・場所に居るのか、などの具体的な詳細情報は全く捨象している）ので、会話の「臨場感」を十分に高めることは到底できない。
また、上記の三洋電機ソフトウェアが開始したサービスでは「赤ちゃんロボット」などのキャラクタを「自分の分身」として会話をするようにしているが、このような「ユーザーが現在どのような状況に居るのか、ユーザーは現在何をしているのか、ユーザーは現在どのような地域・場所に居るのか、などの具体的な状況」とは全く関係の無い架空のキャラクタを「分身」として使用しても、会話に「臨場感」や「印象深さ」を与えることは全く期待できない。
【０００６】
本発明はこのような従来技術の問題点に着目してなされたものであって、話者のプライバシー保護を図りながら、話者が今いる状況を会話相手に知らせることを可能にして、会話に臨場感や印象深さを与えることができる、会話のための装置を提供することを目的とする。
【０００７】
【課題を解決するための手段】
１．ユーザーが、ネットワークを介して、実在の人又はコンピュータ上の仮想のキャラクタを相手方として、略リアルタイムに又は所定の時間差を介して、文字、データ又は音声により、メール、メッセージ、又は発言などの会話をやり取りするための会話のための装置において、「ユーザーからの文字、データ又は音声により構成される、ユーザーの会話」に関連付けられて表示される「ユーザーである話者を象徴的に示す話者画像」を生成するための話者画像生成手段と、前記話者画像の一部を構成する「服装又は姿態のデータ」を生成するための服装・姿態データ生成手段と、を含むことを特徴とする会話のための装置。
２．ユーザーが、ネットワークを介して、実在の人又はコンピュータ上の仮想のキャラクタを相手方として、略リアルタイムに又は所定の時間差を介して、文字、データ又は音声により、メール、メッセージ、又は発言などの会話をやり取りするための会話のための装置において、「ユーザーからの文字、データ又は音声により構成される、ユーザーの会話」に関連付けられて表示される「ユーザーである話者を象徴的に示す話者画像」を生成するための話者画像生成手段と、前記話者画像の一部を構成する「背景画像データ」を生成するための背景画像データ生成手段と、を含むことを特徴とする会話のための装置。
３．上記１において、前記服装・姿態データ生成手段は、「話者の居る場所の気候や天候、話者が会話をしている季節、話者が会話をしている時間帯、話者が居る場所の周囲状況、及び、話者の現在の行為状況、の中の少なくとも一つを含む話者に関する環境情報」を提供するための環境情報提供手段からの情報に基づいて、前記「服装又は姿態のデータ」を生成するものである、ことを特徴とする会話のための装置。
４．上記２において、前記背景データ生成手段は、「話者の居る場所の気候や天候、話者が会話をしている季節、話者が会話をしている時間帯、話者が居る場所の周囲状況、及び、話者の現在の行為状況、の中の少なくとも一つを含む話者に関する環境情報」を提供するための環境情報提供手段からの情報に基づいて、前記背景画像を生成するものである、ことを特徴とする会話のための装置。
５．上記３又は４において、前記環境情報提供手段は、「話者の現在位置を取得するための現在位置取得手段からの情報、話者が会話をしているときの時間帯を取得するための時間帯取得手段からの情報、話者が会話をしている日の日付又は曜日を取得するための曜日等取得手段からの情報、話者の現在位置の天候情報を取得するための天候情報取得手段からの情報、話者の現在の周囲状況を取得するための話者周囲状況取得手段からの情報、及び、話者の現在の行為状況を取得するための話者行為状況取得手段からの情報、の中の少なくとも一つ」に基づいて、「話者に関する環境情報」を取得するものである、会話のための装置。
６．上記１から５までのいずれか一つにおいて、前記会話に関連付けて送信するための「背景の音響又は音声」であって、「話者の居る場所の気候や天候、話者が会話をしている季節、話者が会話をしている時間帯、話者が居る場所の周囲状況、及び、話者の現在の行為状況、の中の少なくとも一つを含む話者に関する環境情報」と関連する「背景の音響又は音声」を生成するための音響・音声データ生成手段、を備えたことを特徴とする会話のための装置。
【０００８】
なお、本明細書において、前記の「背景音響・音声」とは、例えば、話者が会話をしている場所が「ピアノ演奏を実演しているレストラン」なら、「ピアノ演奏を示す音楽データ」がそれに該当する。また、話者が会話をしている場所が海岸なら、「海岸で聞こえる海の波の音」が前記音響・音声データに該当する。また、話者が会話をしている場所が街頭ならば、「街頭のざわめき（多数の人の話し声や車の通行の騒音など）」が前記「背景音響・音声」のデータに該当する。
また、本明細書において、上記「話者の周囲状況」とは、話者が会話をしているときの周囲の状況のことで、例えば、周囲は職場の会社内であるとか、自宅内であるとか、海外旅行先のホテルであるとかの情報である。また、上記「話者の行為状況」とは、話者が会話をしているときに話者は何をしているのかを示す状況であって、例えば、話者は現在電車に乗っているとか、話者は現在会社内で仕事をしているとか、話者は現在自宅内のリビングルームでテレビを見ているとかの情報である。
また、本明細書において、「会話」という用語は、通信ネットワークを介して行われる会話であって、例えば、時間差をもって文字又は音声により行われる電子メール（最近は音声で送れる電子メールも実用化されている。また、文字で送られた電子メールを受信側では音声で聞けるシステムや、音声で送られた電子メールを受信側が文字で見れるシステムもある）、リアルタイムで行われるチャット、メーリングリスト、パソコン通信の電子会議室などでの発言、テレビ電話、テレビ会議などの様々な種類・内容のものを含むものである。また、「会話」の内容も、発言、メッセージ、手紙などの様々な種類・内容のものを含むものである。
【０００９】
【発明の実施の形態】
図１は本発明の実施形態を示すものである。以下で説明する本実施形態は、インターネットを利用した電子メールのシステムに、メール発信者（会話の話者）及びその発信している周囲の環境を示す「話者画像」を添付又は合成する技術（電子メールの文字列の表示と同時に、話者画像をも表示させる技術）を適用した場合の、会話システムである。
図１において、１はグローバルな通信網であるインターネット、２はこのインターネット１に接続され、電子メールなどの会話（文字又は音声による）を送受信できる会話送受信部である。また、３は、この会話送受信部２により送信される、会話とそれに添付又は合成される話者画像（後述する）とを合成するための会話合成部である。また、４は文字又は音声による会話文（話、メール、又は、メッセージ）を生成するための会話文生成部、５はユーザーが文章による会話文を入力するためのキーボード、６はユーザーが音声による会話を入力するためのマイク、である。
【００１０】
また、図１において、７は前記会話文生成部４により生成された会話文に添付又は合成される話者画像を生成するための話者画像生成部である。ここで、「話者画像」とは、話者（本実施形態では、電子メールを発信しようとするユーザー）及び話者の周囲の環境を示す画像、のことである。
この話者画像は、例えば、ユーザー（話者）の顔を示すデータ（アニメーション、コンピュータグラフィックス（ＣＧ）、似顔絵などのイラスト、顔写真などの実写映像など）（以下、この話者の顔を示すデータを、「キャラクタ要部」という）に、このキャラクタ要部の下方の身体部分の服装などの姿態を示すデータ（アニメーション、ＣＧ、イラスト、実写映像など）と、このキャラクタ要部の背景を示すデータ（アニメーション、ＣＧ、イラスト、実写映像など）とを、付加・合成することにより、生成される。
【００１１】
すなわち、図１において、８は話者であるユーザーの顔を示すデータ（キャラクタ要部）をコーディネートするためのキャラクタ要部コーディネート部、９はこのキャラクタ要部の下方の身体部分の服装・姿態のデータをコーディネートするための服装・姿態コーディネート部、１０はキャラクタ要部の背景画像をコーディネートするための背景画像コーディネート部、である。
【００１２】
前記のキャラクタ要部コーディネート部８には、複数種類のキャラクタ要部を示すデータ（アニメーション、ＣＧ、イラスト、実写映像など）を記録したキャラクタ要部データベース８ａが接続されている。また、前記服装・姿態コーディネート部９には、夏用、冬用、晴天用、雨天用、外出用、室内用などの複数種類の服装・姿態を示すデータ（アニメーション、ＣＧ、イラスト、実写映像など）を記録した服装・姿態データベース９ａが接続されている。また、前記背景画像コーディネート部１０には、夏、冬、晴天、雨天、街頭（街角）、会社内、自宅内、観光地、海岸、山岳、などの複数種類の背景画像を示すデータ（アニメーション、ＣＧ、イラスト、実写映像など）を記録した背景画像データベース１０ａが接続されている。なお、前記の各データベース８ａ，９ａ，１０ａは、ユーザーが保有するパソコン（パーソナルコンピュータ）のハードディスク装置やＣＤ−ＲＯＭ装置などの記録装置に記録されているデータベースでもよいし、また、インターネット上のサーバー（ネットワーク管理用コンピュータ）に蓄積されており、随時内容が更新され、ユーザーがオンラインでアクセスできるデータベースであってもよい。
【００１３】
次に、前記各コーディネート部８，９，１０は、前記各データベース８ａ，９ａ，１０ａに蓄積された各データを、話者であるユーザーの現在居る場所や現在の時間帯（ユーザーがメールを発信しようとしている場所や時間帯）に関する「周辺環境の情報」に基づいて、最も適切なものを選択し、前記話者画像生成部７に送る。
【００１４】
前記各コーディネート部８，９，１０は、前記の選択に必要な「周辺環境の情報」を、環境情報提供部１１から得るようにしている。この環境情報提供部１１は、話者（ゆーざー）がメール発信時に居る場所の季節・気候・風土などのデータを収集する季節・気候・風土データ収集部１２と、ユーザーがメール発信時に居る場所の天候データを収集する天候データ収集部１３と、ユーザーがメールを発信する時の時間帯（朝、昼、夕方、夜、深夜など）のデータを収集するための時間帯データ収集部１４と、ユーザーがメール発信時に居る場所の周囲状況（会社内か、自宅内か、公園内か、海岸か、湖の前か、街角か、田舎道か、友人と一緒か一人か、など）を収集するための周囲状況データ収集部１５とから、前記の話者の「周辺環境情報」を得て、これを前記各コーディネート部８，９，１０に、提供する。
【００１５】
次に、前記季節・気候・風土データ収集部１２は、例えばインターネット上のオンライン・データベース１６にアクセスして、ユーザーが居る場所の季節・気候・風土のデータを収集する。すなわち、ユーザーがインターネットのプロバイター（インターネット接続サービス業者）のサーバーにアクセスしたとき、前記季節・気候・風土データ収集部１２は、インターネット上のサーバーに記録されたデータベースにアクセスして、ユーザーの情報端末のある場所に関する季節・気候・風土のデータを自動的に引き出してきて、データ収集を行う。また、データベースは、前記のようにインターネット上のオンラインデータベースでなくてもよく、例えば、ＣＤ−ＲＯＭなどに記録されたデータベースでもよい。また、季節・気候・風土データ収集部１２は、ユーザーがユーザー入力部１７から入力したデータ（例えば、「熱帯雨林気候」「寒冷気候」などのデータ）によって、話者の居る場所の季節・気候・風土を収集することもできる。
【００１６】
例えば、ユーザーが、今、アフリカのエジプトから電子メールを発信しようとしているときは、前記季節・気候・風土データ収集部１２は、ＧＰＳ受信機１６ａからの現在位置座標データに基づいて、そのエジブトの季節・気候・風土のデータを、ＣＤ−ＲＯＭのデータベース１６やオンライン・データベース１６などから収集する。そして、これらのデータは、前記環境情報提供部１１を介して、前記各コーディネート部８，９，１０に送られる。各コーディネート部８，９，１０は、これらの季節・気候・風土のデータに基づいて、それに適したキャラクタ要部、服装・姿態、背景画像を選択し、前記話者画像生成部７に送る。
【００１７】
次に、前記天候データ収集部１３は、例えば、ユーザーの情報機器（パソコン）に接続された気圧センサ１８や温度センサ１８などからのデータに基づいて、ユーザーが今いる場所の天候のデータを収集する。例えば、ユーザーの居る場所の気圧が低いときは、気圧センサ１８からのデータに基づいて、天候データ収集部１３（コンピュータ）が「雨天」と推論し、「雨天」という天候データを環境情報提供部１１に送信する。また、ユーザーの居る場所の気圧が低く且つその場所の気温が零下と極めて低いときは「雪」の天候と推論し、「雪」という天候データを環境情報提供部１１に送信する。また、前記天候データ収集部１３は、例えば、インターネット上のオンラインの天候情報データベース１９にアクセスして、ユーザーが今居る場所の天候・天気のデータを収集する。また、前記天候データ収集部１３は、ユーザー入力部２０によりユーザーが入力したデータ（例えば、「今は雨」とか「今は晴天」などのデータ）に基づいて、ユーザーの居場所の天候データを収集する。
【００１８】
例えば、ユーザーが、今、イギリスのロンドンから電子メールを発信しようとして、ロンドンがそのとき「雨天」である場合は、前記天候データ収集部１３は、「雨天」のデータを環境情報提供部１１に送る。環境情報提供部１１は、この「雨天」というデータを前記各コーディネート部８，９，１０に送る。すると、例えば、前記服装・姿態コーディネート部９は、この「雨天」というデータに基づいて、それに適した服装・姿態画像（レインコート、傘、長靴を用意している画像など。アニメーションやＣＧのデータでもよいが、写真などの実写画像でもよい）を選択して、前記話者画像生成部７に送る。また、例えば、前記背景画像コーディネート部１０は、前記の送られてきた「雨天」というデータに基づいて、「雨の降るロンドンの街角の風景画像」のデータ（アニメーションなどの架空のデータでもよいが、実写画像でもよい）を、背景画像として前記話者画像生成部７に送る。
【００１９】
次に、前記時間帯データ収集部１４は、例えば、計時部（時計手段）２１からの時刻データに基づいて、ユーザーがメールを発信しようとするときの時間帯データ（今は、朝か、昼か、夕方か、夜か、など）を収集する。また、前記時間帯データ収集部１４は、ユーザー入力部２２によりユーザーが入力したデータ（例えば、「今は夜」とか「今は朝」などのデータ）に基づいて、時間帯データを収集するようにしてもよい。
【００２０】
例えば、ユーザーが、今、自宅から深夜にメールを発信しようとしている場合、前記時間帯データ収集部１４は、「深夜である」というデータを、環境情報提供部１１に送り、環境情報提供部１１はこの「深夜である」というデータを、前記各コーディネート部８，９，１０に送る。前記服装・姿態コーデイネート部９は、この「深夜である」という時間帯データを受け取ると、それに適した服装・姿態データ（例えば、パジャマ姿など）を、前記話者画像生成部７に送る。また、前記背景画像コーディネート部１０は、前記の「深夜である」というデータを受け取ると、それに適した背景画像データ（例えば、「深夜に天空に見える星空」の画像。ＣＧなどの架空データでもよいし、実写画像でもよい）を、前記話者画像生成部７に送る。
【００２１】
次に、前記周囲状況データ収集部１４は、例えば、ユーザーの情報端末に接続されたカメラ２３からの画像データに基づいて、ユーザーがメールを発信しようとしている時のユーザーの周囲の状況（例えば、この場所は会社内か、自宅内か、観光地か、海岸か、街角か、など）のデータを収集する。また、前記周囲状況データ収集部２４は、例えば、ユーザー入力部２４によりユーザーが入力したデータ（今居る場所は、海岸である、山である、街角である、会社である、など）に基づいて、前記周囲状況データを収集するようにしてもよい。
【００２２】
例えば、ユーザーが、今、真夏の海岸で電子メールを発信しようとしている場合、前記周囲状況データ収集部２４から「海岸である」というデータが環境情報提供部１１に送られ、環境情報提供部１１から前記各コーディネート部８，９，１０に、それぞれ「海岸である」という周囲状況データが送られる。前記服装・姿態コーディネート部９は、この「海岸である」というデータを受け取ると、その海岸に適した服装・姿態の画像（例えば、水着姿）を、前記話者画像生成部７に送る。また、前記背景画像コーディネート部１０は、前記の「海岸である」というデータを受け取ると、それに適した背景画像（例えば、海水浴の風景）を選択して、それを前記話者画像生成部７に送る。
【００２３】
なお、前記各コーディネート部８，９，１０には、ユーザーが発信するメールに添付又は合成する「話者画像」を構成するキャラクタ要部、服装・姿態、及び、背景を、直接に選択するか又は選択の方向性を指示することもできる。すなわち、前記各コーディネート部８，９，１０には、それぞれ、ユーザーが直接に指示データを入力できるユーザー入力部８ｂ，９ｂ，１０ｂが備えられている。したがって、ユーザーは、直接に、キャラクタ要部コーディネート部８に指示データを入力して、自分の好きなキャラクタ要部（例えば、似顔絵のイラスト、実写の顔写真など）を選択してこれを前記話者画像生成部７に送るようにすることができる。また、ユーザーは、直接に、前記服装・姿態コーデイネート部９に指示データを入力して、自分の好きな服装・姿態を選択したり、自分の好きな服装・姿態の方向性を示すデータ（例えば、「カジュアル系で色は赤色系統の服装」、「色は黒色でシックな感じの服装」など）を入力し、それに適した服装・姿態を、前記話者画像生成部７に送ることができる。また、ユーザーは、直接に、前記背景画像コーディネート部１０に指示データを入力して、自分の好きな背景（山、湖、街角など）を指示して、それに適した背景画像を前記話者画像生成部７に送らせることができる。
【００２４】
また、図１において、５１は話者の周囲状況及び話者の行為状況を特定・推論するための「話者周囲状況及び話者行為状況特定部」（以下「話者状況特定部」と略す）である。この話者状況特定部５１には、話者の現在位置座標データを求めるためのＧＰＳ（グローバル・ポジショニング・システム）受信機が接続され、話者の現在位置データが随時入力されるようになっている（なお、話者の現在位置を特定するためのシステムとしては、ＧＰＳの他に、ＰＨＳ（簡易型携帯電話システム）を利用したシステムなども存在する）。また、前記話者状況特定部５１には、暦データを記録したカレンダー記録部５３、及び、計時データを出力する計時部（時計）５４が接続され、随時、会話をしているときの曜日と時間帯データが入力されるようになっている。また、前記話者状況特定部５１には、位置座標データと各地の気候風土との関係を記録した位置・気候データベース５５と、話者の日常の行動パターンを示す行動パターンデータベース５６とが接続されている。前記位置・気候データベースには、各地域の位置データと気候風土・季節情報が互いに関連付けられて記録されている。また、前記行動パターンデータベース５６には、例えば、平日の昼間の時間帯は会社内、平日の朝８時から９時までの時間帯は通勤電車の中、日曜日の夜は自宅のリビングルームでテレビを見ている、などのような、話者の日常生活の行動パターンが曜日と時間帯と関連付けられて記録されてている。
【００２５】
したがって、前記話者状況特定部５１は、前記ＧＰＳ受信機５２からの会話時の現在位置データ、前記カレンダー記憶部からの暦データ（主として、季節を推論するための月のデータ）、及び、前記計時部５４からの時間帯データ（主として、各国の時差を考慮して、会話時が朝か昼か夜かを推論するための時間帯データ）から、前記位置・気候データベース５５を検索することにより、会話時の話者の周囲の土地・場所の気候・風土及び現在の季節を特定・推論する。また、前記話者状況特定部５１は、前記ＧＰＳ５２からの現在位置データ、前記カレンダー記録部５３からの会話時の暦データ（主として行動パターンを推論するための曜日データ）、及び、前記計時部５４からの会話時の時間帯データから、前記行動パターンデータベース５６を検索することにより、話者の現在の行動状況（行為状況。現在、会社内で仕事中か、通勤電車で通勤中か、自宅でくつろいでいる最中か、など）を特定又は推論する。
【００２６】
本実施形態では、前記話者状況特定部５１などで特定・推論した「話者状況」のデータを環境情報提供部１１に送信し、環境情報提供部１１はこの「話者状況」データを前記各コーディネート部９，１０に送る。この「話者状況」データを受信した前記各コーディネート部９，１０は、この送られたデータに基づいて、話者の「服装・姿態」（仕事用の服装かホームウェアか遊び着か）や「背景画像」（季節、場所など）をコーディネートするためのデータを得る。
【００２７】
以上は、前記会話生成部４で作成される「会話」に添付又は合成するための「話者画像」の生成について説明した。本実施形態では、この「話者画像」に加えて、「背景音響」をも、前記「会話」に添付又は合成することができる。すなわち、本実施形態では、図１に示すように、会話合成部３に「背景音響」を送るための背景音響生成部４０が備えられている。この背景音響生成部４０は、背景音響コーディネート部４１からのデータに基づいて生成される。背景音響コーディネート部４１は、背景音響データベース４２とユーザー入力部４３と環境情報提供部１１からのデータに基づいて、背景音響をコーディネートする。
【００２８】
前記背景音響データベース４２は、海の音、街角の音（ざわめき）、駅の音（列車や駅のホームの騒音など）、ピアノ演奏の音などの様々な音響・音声のデータを蓄積している。また、この背景音響データベースは、ＣＤ−ＲＯＭなどに記録されているものでもよいし、オンライン型のデータベースでもよい。
【００２９】
また、環境情報提供部１１には、ユーザーの周囲の音響データを収集するための周囲音響データ収集部４４が備えられている。この周囲音響データ収集部４４は、ユーザーの周囲の音響を収集するためのマイク４５からのデータや、ユーザーがユーザー入力部４６から入力したデータ（例えば、「夏祭り」「東京都渋谷の街中」「ジャズ演奏会」などのデータ）に基づいて、周囲音響データ（例えば、「夏祭りのざわめき」「東京都渋谷の街中のざわめき」「ジャズ演奏会の音」などのデータ）を収集して、前記環境情報提供部１１に送り、この周囲音響データは、さらに、前記背景音響コーディネート部４１に送られる。背景音響コーディネート部４１は、この送られてきたデータに基づいて、背景音響生成部４０に「背景音響」の生成に必要なデータを送信する。
【００３０】
以上のようにして生成される「背景音響」とは、例えば、前記会話に添付又は合成するための音響・音声データであって、話者の居る場所の気候や天候、話者が会話をしている季節、話者が会話をしている時間帯、話者が居る場所の周囲状況などの「話者に関する環境情報」と関連する音響・音声データ、である。また、ここで、前記の「音響・音声データ」とは、例えば、話者が会話をしている場所が「ピアノ演奏を実演しているレストラン」なら、「ピアノ演奏を示す音楽データ」がそれに該当する。また、話者が会話をしている場所が海岸なら、「海岸で聞こえる海の波の音」が前記音響・音声データに該当する。また、話者が会話をしている場所が街頭ならば、「街頭のざわめき（多数の人の話し声や車の通行の騒音など）」が前記音響・音声データに該当する。これらの「背景音響」が「会話」に添付又は合成されると、その会話を送られた相手方は、その「会話」（文字又は音声）を見る又は聞くときに、同時に、その「環境音響」を聞くことになるので、会話に臨場感が生まれて、印象深い会話のやり取りが可能になる。
【００３１】
なお、以上に説明した環境情報提供部１１には、エージェント（電子代理人又は電子秘書）機能が備えられており、ユーザーが電子ルールなどの会話を行おうとしたときは、自動的に、インターネット上の様々なオンライン・データベースにアクセスすることにより、また、前記のセンサ（気圧センサ）１８，計時部２１，カメラ２３，マイク４５などからデータを取り込むことにより、前記の季節・気候・風土、天候、時間帯、周囲状況、周囲音響などのデータを収集するようにすることができる。前記のエージェント機能は、例えば、ユーザーが使用する電子メール用ソフトウェアに付属するソフトウェアとして実現できる。
【００３２】
以上に説明したように、本実施形態によれば、ユーザーは、自分が文字又は音声で作成した電子メール（音声データとして送信する音声メールも含む）に、自分がこれからメールを発信しようとするときの場所の季節・気候・風土、天気、時間帯、周囲の状況などに適した「話者画像」を添付又は合成して送信することができるので、電子メールのやり取りがより臨場感のある印象深いものになる。
【００３３】
なお、図２は、本実施形態で作成した電子メール（会話の一種）の一例を示すものである。図２において、３０は会話（電子メール）の全体、３１は「会話」を構成する一要素である「会話文」、３５は「会話３１」を構成する一要素である「話者画像」、３６は「会話３１」を構成する一要素である「背景音響」である。前記「話者画像」３５は、キャラクタ要部３３（例えば、話者の顔を実写した顔写真、話者の顔のイラスト、話者の顔のコンピュータグラフィック画像などにより構成される）と服装・姿態３４（例えば、イラストやコンピュータグラフィック画像などにより構成される）と背景画像３２（例えば、イラストやコンピュータグラフィック画像などにより構成される）と、により構成される。また、前記「背景音響」３６は、例えば、この「会話」３１を受け取った相手方がマウス等のポインティングデバイスでこの３６で示す部分をクリックすると、背景音響又は背景音声がスピーカから流れるようになっている。或いは、前記の話者画像３５と背景音響３６は、互いに連動して出力されるように予め設定され、話者画像３５が表示されるときには、ほぼ同時に、自動的に、前記背景音響３６もスピーカから出力されるようにしてもよい。前述のように、本実施形態では、話者画像３５の中の「話者の顔」（キャラクタ要部）３２だけは実写画像を使用したとしても、それ以外の服装・姿態３４や背景画像３２はイラストやコンピュータグラフィック画像なので、話者のプライバシーが侵害される恐れは無い。他方、本実施形態では、前記のイラストやコンピュータグラフィック画像で構成される服装・姿態３４や背景画像３２が、話者が会話をしている現在の場所や時間帯や季節などと対応した内容となっているので、話者画像３５や会話３１に臨場感を持たせることができる（これに対して、話者が会話をしている場所・時間帯・季節などがどのようなものであろうと、常に一定の服装・姿態や背景を使用した話者画像を会話に添付・合成して送信する場合は、話者画像や会話に臨場感を持たせることができない）。
【００３４】
なお、以上の本実施形態では、「話者画像」を電子メールに添付又は合成する場合について説明したが、本発明においては、これに限られるものではなく、例えば、前記「話者画像」を、リアルタイムの会話を行う「チャット」の会話の文章に、話者を示す画像として添付又は合成することができる。また、コンピュータ上の仮想的な人である「電子秘書」や「電子案内嬢」からの会話に、その電子秘書や電子案内嬢（話者）を示す画像（話者画像）を添付又は合成することもできる。
【００３５】
本発明では、例えば、前記「話者画像」を、大手企業のイギリスの証券市場の分析を担当する電子秘書からの会話（音声又は文字による話の内容）に添付又は合成することもできる。
【００３６】
すなわち、今、日本在住の会社員（ユーザー）がこの電子秘書にアクセスしてある質問をしたとする。そのとき、イギリスのロンドンは、「冬で雨天」であるとする。また、そのとき、日本は午後だが、イギリスは朝の時間帯である（時差のため）とする。すると、その会社員（ユーザー）の質問に対して回答するためにコンピュータ画面上に現れた電子秘書は、電子秘書の顔（アニメーションやコンピュータグラフィックス（ＣＧ）などで作成される）に、「コートを着て、傘をさしている」という服装・姿態の画像と、「ロンドンの証券市場の有る街路であって、雨が降っている朝の風景を示し、証券市場のある建物をバックにした光景」という背景画像とを付加した「話者画像」として、表示される。ユーザーは、そのような「話者画像」の電子秘書を画面上に見ながら、電子秘書からの回答（音声、文字、表・グラフなどのデータを含む）を聞くことになる。よって、ユーザーは、その電子秘書と会話をしながら、その「話者画像」を見ることによって、自然に、「イギリスのロンドンは、今、冬で雨天なのだな。また、今はイギリスは朝の時間帯なのだな」と理解できるので、電子秘書との会話に臨場感が得られ、印象深い会話を行えるようになる。
【００３７】
また、例えば、前記「話者画像」を、フランスのパリのルーブル美術館のインターネット上の「仮想ルーブル美術館」の電子案内嬢からの会話（音声又は文字による会話）に、その「電子案内嬢」を示す画像（話者画像）を添付又は合成することもできる。すなわち、例えば日本在住のユーザーが、インターネットを介して、前記の仮想ルーブル美術館にアクセスしたとする。そのとき、フランスのパリは、真夏の晴天だったとする。また、そのとき、日本は夜間だがフランスは真昼だったとする。すると、前記仮想美術館にアクセスしたとき、画面に最初に出てくる電子案内嬢が例えば「こちらは、仮想のルーブル美術館です。どのようなジャンルの所蔵品の鑑賞をご希望ですか？」という会話（発言、問いかけ、質問、メッセージ）が音声又は文字で、ユーザー側に送られてくる。そのときの電子案内嬢からの会話（発言、問いかけ、質問、メッセージ）には、電子案内嬢を示す「話者画像」が前記会話と同時に画面表示される（会話に添付又は合成される）が、その表示される話者画像は、電子案内嬢のキャラクタの顔（アニメーションやＣＧで作成される）に、「夏用の半袖の服装で、真昼の強い日差しを避けるための帽子をかぶっている」という服装・姿態の画像と、「フランスのパリのルーブル美術館をバックにした画像で、太陽がカンカン照りの、真夏の真昼の状況」を示す背景画像とを付加した「話者画像」として、表示される。したがって、ユーザーは、その電子案内嬢との会話を行いながら、その「話者画像」を見ることによって、自然に、「フランスのパリは、今、真夏の真昼で、太陽がカンカン照りの状態なのだな。また、今、パリは真昼なのだな」と理解できるので、電子案内嬢との会話に臨場感が得られ、印象深い会話を行えるようになる。
【００３８】
（本発明の他の実施形態など）以上、本発明の実施形態について説明したが、本発明はこれに限らず様々な変更が可能である。例えば、本実施形態では、話者画像や背景音響の生成をユーザーの手元のパソコンなどで行うようにしているが、本発明は、これに限らず、例えば、ユーザーが手元のパソコンで「会話」（手紙文など）を生成し、この生成した「会話」をパソコン通信会社のセンターに送信すると、センターのコンピュータが、この「会話」に「話者画像及び背景音響・背景音声」を添付又は合成して、相手方に送信するようにしてもよい。
すなわち、上記の実施形態では、図３（ａ）の一点鎖線Ａの枠内に示すように、「話者が会話を生成するための会話生成部５１、話者画像及び背景音響生成部５２、話者の居る場所の気圧や気温を測定するための気圧・気温センサ５３、ＧＰＳ受信機５４、話者画像などのデータをユーザーが入力するためのデータ入力部５５、話者が居る地域の天候や気候などのデータベース５６、さらに、前記会話と話者画像及び背景音響を合成し送信するための合成送信部５７」が、ユーザーの手元のパソコンの中に備えられている（なお、前記のデータベース５７は、インターネットなどを介してアクセスできるオンランイ・データベースでもよく、その場合は、オンラインなので常に更新された最新の天候情報などを得ることができる）。
しかしながら、本発明では、ユーザー（話者）の手元のパソコンには、図３（ｂ）の一点鎖線Ｂの枠内に示すように、「話者が会話（電子メールやチャットなどのメッセージなど）を生成するための会話生成部５１、話者の居る場所の気圧や気温を測定するためのセンサ５３、ＧＰＳ受信機５４、話者画像などのデータをユーザーが入力するためのデータ入力部５５」だけを備えるようにしてもよい。そして、この場合は、図３（ｂ）の一点鎖線Ｃの枠内に示す「話者画像及び背景音響生成部６３、話者が居る地域の天候や気候などのデータベース６４、さらに、前記会話と話者画像及び背景音響を合成し送信するための合成送信部６５」は、インターネットなどの通信網に接続されたサーバー（パソコン通信などを管理するコンピュータ）の中に備えるようにしてもよい（なお、前記のデータベース５７は、インターネットなどを介してアクセスできるオンランイ・データベースでもよい）。この場合は、ユーザー（話者）は、手元のパソコンで会話を生成して、この会話を、センサ５３やＧＰＳ受信機５４などからのデータなどと共にパソコン通信会社のコンピュータを介して相手先に送信すると、その送信の途中で、パソコン通信会社のコンピュータが、自動的に、話者画像及び背景音響を生成して、それらを会話と合成して、相手方に送信してくれる。すなわち、この場合、前記のパソコン通信会社のコンピュータは、予め、ユーザー（話者）の行動パターンのデータ（ユーザーの職業、趣味、家族構成、生活パターンなど）をデータベースとして保有しているので、ユーザーの手元のパソコンに接続された気圧・気温センサ５３、ＧＰＳ受信機５４などからのデータが送られてくると、それらのデータに基づいて、「話者画像及び背景音響」を自動生成し、それらをユーザーから送信された会話に添付又は合成することができる。
【００３９】
【発明の効果】
本発明によれば、ユーザーは、自分が文字又は音声で作成した会話（電子メールやチャットなど）と、自分がこれから会話を発信しようとするときの場所の季節・気候・風土、天気、時間帯、周囲の状況などに適した「話者画像」とを、一緒に且つ同時に、会話の相手方に送信することができるので、電子的な会話のやり取りをより臨場感のある印象深いものとすることができる。しかも、本発明では、前記の「話者画像」は、その全体がカメラで撮像した実写映像そのものではない（前記の「話者画像」の一部に実写映像を使用することはもちろん可能だが）ので、会話の発信者（ユーザー）のプライバシーをさらしてしまう危険や心配がない（この点で、従来のようなカメラからの実写映像をそのまま会話の相手方に送信するためプライバシー侵害の可能性があるテレビ会議システムやテレビ電話システムなどとは異なる）。
また、本発明において、前記「背景音響」をも「会話」に添付又は合成するようにすれば、その会話を送られた相手方は、その「会話」（文字又は音声）を見る又は聞くときに、同時に、その「環境音響」を聞くことになるので、会話に臨場感が生まれて、印象深い会話のやり取りが可能になる。
また、本発明においては、話者の現在位置を特定するための現在位置特定手段からの出力と、話者が会話をしているときの時間帯を特定するための時間帯特定手段からの出力と、話者が会話をしている日の曜日を特定するためのカレンダー記憶手段からの出力とに基づいて、「話者の現在の周囲状況又は行為状況」を自動的に特定・推論することができる（そして、この求めた「話者の現在の周囲状況又は行為状況」に基づいて「話者画像」や「背景音響・背景音声」のデータを作成する）ので、話者がいちいち自分の周囲状況や行為状況を入力する手間が省けるので、便利である。
【図面の簡単な説明】
【図１】  本発明の一実施形態を示す概略ブロック図である。
【図２】  本発明の一実施形態により生成される「会話」（この場合は、電子メール）の一例を示すものである。
【図３】  本発明の他の実施形態を示すものである。
【図１】
0004054897.tif 000002
【図２】
0004054897.tif 000003
【図３】
0004054897.tif 000004