(57)【要約】【課題】ＩＭでのコミュニケーションから文書上へのコミュニケーションへの移行が容易になるとともに、簡易的なミーティング記録アプリケーションとしても使用することができるコミュニケーションプログラムを提供する。【解決手段】表示再生機能１０は通信相手とのコミュニケーションの経過などを表示する部分であり、テキスト表示や、音声、動画再生などもここに含む。通信機能１１は他の端末上で起動しているＩＭプログラムとテキストや音声、映像、ファイル交換を行う機能を有する。また、自分が今応答できるかどうかなど、いわゆるプレゼンスを通知するためのデータの送受信もここで行う。変換機能１２は、ユーザにＩＭアプリ上にドラッグ＆ドロップなどして指定されたファイルを通信機能付きカプセル化文書としてコミュニケーションに使えるように変換し、カプセル化文書は通信機能１１によって通信相手に送信される。【選択図】図６
2008077164.tif 000002
【特許請求の範囲】
【請求項１】
少なくともテキスト、音声、及び映像データのメッセージを１又は複数のプログラム間でやりとりできるコミュニケーションプログラムであって、
情報の表現実体となる１又は複数のデジタル情報ファイルをコミュニケーション用のファイルに変換して通信相手に送信することを特徴とするコミュニケーションプログラム。
【請求項２】
前記コミュニケーション用ファイルは、
コミュニケーション用ファイル間でのイベントの同期を行う通信プログラムと、
前記デジタル情報ファイルを表示動作させるプログラムと、を含むカプセル化文書ファイルであることを特徴とする請求項１に記載のコミュニケーションプログラム。
【請求項３】
前記デジタル情報ファイルが文書ファイルの場合には、その内容をＸＭＬ形式に変換することを特徴とする請求項１又は２に記載のコミュニケーションプログラム。
【請求項４】
前記コミュニケーションプログラムにユーザ操作によるイベントを通知することを特徴とする請求項１、２又は３に記載のコミュニケーションプログラム。
【請求項５】
前記コミュニケーション用ファイルから通知されるイベント情報と、コミュニケーションプログラムによって交換されるテキストや音声、及び映像データのメッセージとを関連付けて記録再生する機能を有することを特徴とする請求項１、２又は３に記載のコミュニケーションプログラム。
【請求項６】
コミュニケーションプログラムによって交換されるテキスト、音声、及び映像データのメッセージを前記カプセル化文書ファイル内にカプセル化する機能を有することを特徴とする請求項２、３又は５に記載のコミュニケーションプログラム。
【請求項７】
情報の表現実体となる１又は複数のデジタル情報ファイルをコミュニケーション用ファイルに変換しない場合は、前記デジタル情報ファイルの表示コピーを送受信してコミュニケーションすることを特徴とする請求項１に記載のコミュニケーションプログラム。
【請求項８】
前記デジタル情報ファイルがカプセル化文書ファイルの場合には、カプセル化文書ファイル内のファイル群の改ざん検知を行うことを特徴とする請求項１に記載のコミュニケーションプログラム。
【請求項９】
請求項１乃至８の何れか一項に記載のコミュニケーションプログラムをコンピュータが読み取り可能な形式で記録したことを特徴とする記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、コミュニケーションプログラムに関し、さらに詳しくは、テキスト、音声、及び映像データ等のメッセージを１又は複数のプログラム間でやりとりする技術に関するものである。
【背景技術】
【０００２】
コミュニケーションの手段としてインスタントメッセージ（ＩＭ）アプリケーションが普及している。Ｙａｈｏｏメッセンジャーや、ＡＯＬメッセンジャー、Ｗｉｎｄｏｗｓ（登録商標）メッセンジャー、Ｓｋｙｐｅなどがその代表格であり、テキストメッセージ交換機能や、ヘッドセットを用いるなどして電話のように会話のできる音声対話機能、ファイル転送機能、相手がオンラインかどうかを確認できるプレゼンス機能など多彩な機能を持つ。ＩＭはＰＣを使ったリアルタイムコラボレーションツールの代表である。
しかし、簡単にリアルタイムで遠隔地とメッセージのやりとりができるということで便利なＩＭであるが、オフィスで使うアプリケーションとしては大きな問題がある。それは、ＩＭでのコミュニケーションでは文書を介したコミュニケーションが困難な点にある。
【０００３】
ＩＭは通常の固定や携帯の電話でのコミュニケーションを単にＰＣ上でのコミュニケーションに置き換えただけに過ぎない面がある。ＩＭはファイル転送が行える点などを見れば、通常の電話のコミュニケーションとは異なる機能を持ってはいるが、ファイル転送を行っても、単にファイルを転送しただけであり、同じファイルを見ることはできるものの、ファイルのどの部分に関して言及したいのかなど、細かい部分で相手に伝えることが難しく、実質的に文書を介したコミュニケーションは困難である。つまり、この点で考えると通常の固定電話や携帯電話でのコミュニケーションとなんら変わらない。このように、ＩＭはＰＣ上で動作し、同じＰＣ上では文書も閲覧できるにも関わらず、文書と連携する術がないためその利点を全く活かしていないと言える。
また、コミュニケーションに使われる文書に関しても通常のオフィス文書ではリアルタイムでのコミュニケーションは困難であり、通信機能付きのカプセル化文書のようなリアルタイムコミュニケーション用の文書を用いる必要がある。
【０００４】
従来技術として特許文献１には、Ｗｅｂページを使ったコラボレーションチャットを使って作業画面（Ｗｅｂページ）に対する操作指示を送り、チャットの内容からコマンドを解釈したり、文書中に吹き出しのようにチャット内容を表示することによって、文書（Ｗｅｂページ）とコミュニケーションの融合を図るコラボレーションサーバについて開示されている。
また、特許文献２として、オブジェクトに対して吹き出しでチャットできるようにすることで、オブジェクトとチャットの融合を図るチャットシステムについて開示されている。
また、特許文献３として、資料に対するメモ表示やチャットができるスペースを用意することで、コミュニケーションと文書の融合を図るオンラインコミュニケーションシステムについて開示されている。
【特許文献１】特開２００５−２４２８９９公報
【特許文献２】特開２００１−３４４１８４公報
【特許文献３】特開２００５−２２８１０７公報
【発明の開示】
【発明が解決しようとする課題】
【０００５】
しかし、特許文献１に開示されている従来技術は、Ｗｅｂページ限定であって様々なコンテンツを用いてコラボレーションは不可能である。
また、特許文献２に開示されている従来技術は、オブジェクトや文書の操作をキーとしたチャットや音声でのコミュニケーションの記録やそれらのコミュニケーションをオブジェクト、文書に取り込んだりすることはできない。
また、特許文献３に開示されている従来技術は、資料の操作をキーとしたチャットや音声でのコミュニケーションの記録やそれらを資料に取り込んだりすることはできない。
【０００６】
本発明は、かかる課題に鑑みてなされたものであり、通常のＩＭにあるような機能に加えて、コミュニケーションに用いる文書ファイルをコミュニケーション用に変換する機能と、変換された文書と連携動作するための機能を備えることにより、ＩＭでのコミュニケーションから文書上へのコミュニケーションへの移行が容易になるとともに、簡易的なミーティング記録アプリケーションとしても使用することができるコミュニケーションプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】
本発明はかかる課題を解決するために、請求項１は、少なくともテキスト、音声、及び映像データのメッセージを１又は複数のプログラム間でやりとりできるコミュニケーションプログラムであって、情報の表現実体となる１又は複数のデジタル情報ファイルをコミュニケーション用のファイルに変換して通信相手に送信することを特徴とする。
請求項２は、前記コミュニケーション用ファイルは、コミュニケーション用ファイル間でのイベントの同期を行う通信プログラムと、前記デジタル情報ファイルを表示動作させるプログラムと、を含むカプセル化文書ファイルであることを特徴とする。
請求項３は、前記デジタル情報ファイルが文書ファイルの場合には、その内容をＸＭＬ形式に変換することを特徴とする。
【０００８】
請求項４は、前記コミュニケーションプログラムにユーザ操作によるイベントを通知することを特徴とする。
請求項５は、前記コミュニケーション用ファイルから通知されるイベント情報と、コミュニケーションプログラムによって交換されるテキストや音声、及び映像データのメッセージとを関連付けて記録再生する機能を有することを特徴とする。
請求項６は、コミュニケーションプログラムによって交換されるテキスト、音声、及び映像データのメッセージを前記カプセル化文書ファイル内にカプセル化する機能を有することを特徴とする。
【０００９】
請求項７は、情報の表現実体となる１又は複数のデジタル情報ファイルをコミュニケーション用ファイルに変換しない場合は、前記デジタル情報ファイルの表示コピーを送受信してコミュニケーションすることを特徴とする。
請求項８は、前記デジタル情報ファイルがカプセル化文書ファイルの場合には、カプセル化文書ファイル内のファイル群の改ざん検知を行うことを特徴とする。
請求項９は、請求項１乃至８の何れか一項に記載のコミュニケーションプログラムをコンピュータが読み取り可能な形式で記録したことを特徴とする。
【発明の効果】
【００１０】
本発明によれば、少なくともテキスト、音声、及び映像データのメッセージを１又は複数のプログラム間でやりとりできるコミュニケーションプログラムであって、情報の表現実体となる１又は複数のデジタル情報ファイルをコミュニケーション用のファイルに変換して通信相手に送信する機能を有するので、ＩＭでのコミュニケーションから文書上へのコミュニケーションへの移行が容易になるとともに、簡易的なミーティング記録アプリケーションとしても使用することができる。
【発明を実施するための最良の形態】
【００１１】
以下、本発明を図に示した実施形態を用いて詳細に説明する。但し、この実施形態に記載される構成要素、種類、組み合わせ、形状、その相対配置などは特定的な記載がない限り、この発明の範囲をそれのみに限定する主旨ではなく単なる説明例に過ぎない。
ＩＭアプリでコミュニケーションを行うにはまず、コミュニケーション相手を決定する必要があり、またコミュニケーション中に関してもクライアント間でのデータの送受信に関してはいくつか方式がある。これに関しては一般的に普及している例を以下に３つ述べる。
【００１２】
１．クライアントサーバ型（図１参照）
常にサーバ１を介して通信する方法である。常にサーバ１に対して自分の状態を通知するため、他のクライアント２、３がサーバ１にアクセスすれば、コミュニケーションしたい相手が現在コミュニケーションできる状態であるかどうかすぐにわかる。またコミュニケーションにおけるデータのやりとりもサーバ１を介して行う。
２．ハイブリッド型（図２参照）
ハイブリッド型はコミュニケーション相手がいるかどうか確認などをサーバ１を介して行い、他のコミュニケーションはＰ２Ｐでサーバ１を介さず行うものである。
３．純粋Ｐ２Ｐ型（図３参照）
純粋Ｐ２Ｐ型は、サーバ１を介さずにコミュニケーションを行うものである。ブロードキャストが届く範囲であれば、通信相手を探すことが可能であるが、そうでない場合は、事前に相手のＩＰアドレスを何かしらの方法でしらなければ通信できない。これらの方法を取ることによって、コミュニケーション相手を見つけることが可能である。
【００１３】
次にＩＭの一般的なデータ送受信の仕組みについて述べる。図４に示したように、送信側４ではテキストや音声、映像、ファイルなどのデータが与えられると、それを送受信するのに最適なサイズにパケット化し送信する。受信側５では、パケット化されたデータを受信し、再生する。図５は入力データの一例として音声データのパケットについて示した。音声データはマイク入力などによってアナログデータとして与えられるので、それをＰＣＭ（Pulse Code Modulation）という方式で符号化することによってデジタル化する。これを一定の周期でパケット化していく。パケット化する際に音声データの場合はＲＴＰ（Real-Time Transport Protocol）６ヘッダをつける。これには、タイムスタンプとシーケンス番号の情報が入っており、受信側で利用する。このデータに対してさらにＵＤＰ（User Datagram Protocol）ヘッダ７、ＩＰ（Internet Protocol）ヘッダ８がつけられて送信される。受信側５は受信したパケットのタイムスタンプを見て、音声再生のタイミングを計ったり、シーケンス番号を見てパケットの到着順序が入れ替わっていないか、パケットが破棄されていないかを確認しながら音声の再生を行う。
【００１４】
音声データに限らず、その他のデータの形式に関しても、同様にパケット化される。音声データの場合はタイムスタンプなどを記録するためのＲＴＰが用いられるが、他のデータに関しては、それぞれのデータに特有のプロトコルを用いて、受信側でデータがきちんと受信できるようにすれば良い。また、例ではＵＤＰ７を用いたが、ＴＣＰ／ＩＰ（Transmission Control Protocol / Internet Protocol）を用いてももちろんよい。データの形式に応じたプロトコルを用いる。また、コミュニケーションの記録は、こうしたパケットを蓄積していき、ハードディスクなどに記録していくことで、容易にできる。送信元のＩＰアドレスなどを確認することにより、ユーザごとに分けて記録していくことも容易である。
【００１５】
図６には本発明におけるＩＭプログラムの最小構成を示した。表示再生機能１０は通信相手とのコミュニケーションの経過などを表示する部分であり、テキスト表示や、音声、動画再生などもここに含む。通信機能１１は他の端末上で起動しているＩＭプログラムとテキストや音声、映像、ファイル交換を行う機能を有する。また、自分のが今応答できるかどうかなど、いわゆるプレゼンスを通知するためのデータの送受信もここで行う。変換機能１２は、ユーザにＩＭアプリ上にドラッグ＆ドロップなどして指定されたファイルを通信機能付きカプセル化文書としてコミュニケーションに使えるように変換する機能である。変換機能１２によって生成されるカプセル化文書は通信機能１１によって通信相手に送信される。
【００１６】
図７には本発明におけるＩＭプログラム機能群の一例（最小構成とは別の例）を示した。表示再生機能１０は通信相手とのコミュニケーションの経過、記録などを表示する部分であり、テキスト表示や、音声、動画再生などもここに含む。記録機能１３はコミュニケーションの過程を記録する機能である。通信機能１１は他の端末上で起動しているＩＭプログラムとテキストや音声、映像、ファイル交換を行う機能を有する。また、自分が今応答できるかどうかなど、いわゆるプレゼンスを通知するためのデータの送受信もここで行う。変換機能１２は、ユーザにＩＭアプリ上にドラッグ＆ドロップなどして指定されたファイルを通信機能付きカプセル化文書としてコミュニケーションに使えるように変換する機能である。イベント取得機能１４は、変換機能１２によって生成したカプセル化文書のイベントを取得する。カプセル化文書のイベントとコミュニケーションを関連付けて記録したりする際に使用される。
【００１７】
本発明の典型的な使用例を図８に示した。ここでは、すでにＩＭアプリがユーザＡ、ユーザＢともインストールされ、お互いが通信可能な状態になっているとする。まず、ユーザＡがユーザＢに対してテキストメッセージを送信することによって、テキストベースでのコミュニケーションが始まる。ＢはＡのメッセージに対してやはりテキストで返答する。ＡはＢの返事を待った上で、自身が保持している文書ファイルを画面上にドラッグ＆ドロップする。この行為により、文書はコミュニケーション用（通信機能付きカプセル化文書）に変換され（詳細後述）、ユーザＢのアプリへ転送される。ユーザＡ、Ｂ両者は画面上のファイルアイコンをダブルクリックすることによって文書を起動する。ユーザＡは文書ファイルをドラッグ＆ドロップした時点でＩＭアプリが起動指示を出して起動しても良い。両者が文書を起動した時点で、文書上でのコミュニケーションに移行する。文書上で、位置を指定してテキスト送信することで、それが相手への文書へも通知される。両者が文書を閉じることで文書上でのコミュニケーションは終了し、ＩＭ画面上でのコミュニケーションに移行する。
【００１８】
図９はドラッグ＆ドロップしたファイルをコミュニケーション用に変換せずに、そのまま相手に送信する場合である。この場合、文書間の同期は取れないので、文書表示のスナップショット（画面コピー画像）を取得し、その上にコメントをつける。これを送信することによって、相手にどの部分かを指定することができる。相手はこの画像上で再度コメントをつけるか、新たにスナップショットを撮るなどして返答することでコミュニケーションを行う。
図１０は文書を使ったコミュニケーション後の振り返りの一例である。図１０では、テキストでのコミュニケーションの最中に文書を使ったコミュニケーションに移行している。図１０では、テキストのコミュニケーションの途中に文書アイコンを表示することでそれを示している。アイコンをクリックすると実際にコミュニケーションを行った文書が起動し、文書に記録されたコミュニケーションを再生することができる。
図１１は、図１０のアイコン表示に加えて、文書中でのコミュニケーションの経過をテキストで表したものである。文書中のコミュニケーションの経過をテキストで表示するには、文書中に記録されたテキストを、ＩＭが取得できるか、文書中にテキストが入力されるイベントをＩＭプログラムが取得できなければならない。
【００１９】
図１２は、コミュニケーションに使ったページ単位でサムネイルを作成し、テキストでのコミュニケーションに含めた例である。サムネイルをクリックするとそのページでの文書上でのコミュニケーションの結果が表示される。
図１３は図１１と同じように、文書上でのコミュニケーションの結果をテキストでのコミュニケーション上に反映した例である。
図１４は、図８の例の音声コミュニケーション版である。ユーザＡ、Ｂは音声コミュニケーションができる状態であるとする。ユーザＡが「今からファイルを送るのでちょっと見てもらえる？」という質問に、ユーザＢが「了解」と返答し、ユーザＡはＢの返答を聞いたところで、ファイルをＩＭプログラム上にドラッグ＆ドロップする。ＩＭプログラムはドロップイベントを取得して、ドロップされたファイルをコミュニケーション形式に変換し、ユーザＢへ送信する。両者で文書を開くことにより、文書上でのコミュニケーションに移行する。文書上で手書きしながら「ここなんだけど」とＡが言うと、「それはね、」とＢが応答する形でコミュニケーションを行う。この際、Ａが書いた手書きは、Ｂが開いている文書と同期し、Ｂが開いている文書上でもＡの手書きが反映される。
【００２０】
図１５、図１６には、コミュニケーション後の文書と音声もしくは録画データの提示方法に関しての図である。基本的に両図とも音声データを認識した結果をテキスト表示している。音声認識は、間違いも多いので、ここでは、テキスト化されたデータもしくは先頭の吹き出しをクリックすることにより、実際の音声や映像を再生し、確認することができる。図１５は文書アイコンがコミュニケーションの記録中に提示されており、これをクリックすることによって文書を起動することができる。図１６はページごとのスナップショットが提示されており、これをクリックすると文書中の該当ページが表示される。ここで、音声録音の際のユーザごとの区別および発話の区切り検知であるが、ユーザの区別は、音声データのＩＰアドレスを参照することで容易に区別することができる。発話の区切りは音声データの音量レベルを監視し、ある閾値で区切ることで、区切ることができる（図１７）。また、音声データと文書イベントの関連付けに関しては、図２９、図３０を用いて後述する。
【００２１】
ＩＭ上に画面をドラッグ＆ドロップするとコミュニケーション用のファイルに変換する動作について説明する（図１８、図１９、図２０）。
プログラムは、ファイルのドラッグ＆ドロップイベントを検知すると（Ｓ１１）、そのファイルタイプを確認する（Ｓ１２）。この確認はカプセル化文書であるか否かであるが、ドラッグ＆ドロップされたファイルがカプセル化文書である場合は、後述する。ファイルタイプを確認後、図１８に示したような変換ダイアログをユーザに提示する（Ｓ１３）。「いいえ」が選択された場合はなにもせずにそのまま転送する（Ｓ１７）。「はい」が選択された場合には変換処理を行い（Ｓ１５）、変換されたファイルを通信相手に送信する（Ｓ１６）。
変換処理は図２０に示したように、まず、ファイル（コンテンツ）のタイプを確認する（Ｓ２０）。ここでは、ファイルを扱うプログラムを決定するために確認する。ファイルタイプを確認後、必要なプログラムの取得を行う（Ｓ２１）。必要なプログラムは、予めＩＭプログラムが保持していればそれを用い、ない場合はＷｅｂから取得するなどする。コンテンツとプログラムをパッケージングし、カプセル化文書として通信相手に送信する（Ｓ２２）（カプセル化（公知）は後述）。
【００２２】
図２１、図２２、図２３、図２４がカプセル化された文書の例である。例えば、ＩＭプログラムにドロップされたファイルが画像の場合、その画像と、画像ビューワプログラムと、カプセル化文書同士でコミュニケーションするための通信プログラムを同梱しカプセル化する。こうすることによって、画像の拡大縮小やスクロールの際に同期がとれる。この辺りの技術はすでに公開になっている［特開２００３−０９９３０３（発明の名称：文書のデータ構造、記憶媒体及び情報処理装置）］にある。図中では、加筆プログラムも一緒に同梱されているが、これは、画像上に加筆することによって、「ここの部分」という指示がしやすいためである。これは加筆プログラムでなくて、矢印マークや付箋プログラムなどでももちろんよい。ＩＭにドロップされたファイルが動画の場合もほぼ同様である。
【００２３】
ドロップされた文書がオフィス文書の場合はコンテンツの変換が必要である。まず、オフィス文書の場合、通常のオフィス文書はワードやエクセルなど何らかのアプリケーションで閲覧できるようになっており、ふつうはそれらのプログラムがないと閲覧できない。そこで、ここでは、Ｗｉｎｄｏｗｓ（登録商標）のＧＤＩコマンドを解釈し、それを扱いやすいフォーマット（例えばＳＶＧ）に変換することによって、カプセル化文書とする。
また、複数のファイルを同時にドラッグ＆ドロップした場合は、その複数のファイルがオフィス文書の場合は変換し、まとめる、また、画像や動画などの場合は変換せずにパッケージングする、というように、ドロップされたコンテンツの形式に応じたカプセル化を行う。
【００２４】
カプセル化の処理の流れを以下に簡単に示しておく。以下はＪａｖａ（登録商標）のクラスファイルを用いたＪＡＲファイルという形式での実現方法である。
マニフェストファイルの記述例を以下に示す。
Manifest-Version: 1.0
Main-Class: jp.co.ricoh.project.AppMain
Created-By: 1.3.1 （サプライヤ）
２行目はｍａｉｎ関数のあるｃｌａｓｓファイル名である。これを指定しておくことによって起動時に最初にロードされるクラスファイルを決定することができる。３行目はＪａｖａ（登録商標）のバージョンおよびサプライヤである。
【００２５】
マニフェストファイルと、コンテンツ、およびプログラムファイル群（ｃｌａｓｓファイル群）をＺＩＰ化して一つにする。ファイル拡張子はｊａｒとする。ＺＩＰ化の流れを以下に示す。
ＺＩＰ化するファイルの読み込みおよびバイト配列への格納
↓
ファイル書き出しストリーム生成
↓
ＺＩＰの書き出しストリームを生成してファイル書き出しストリームを渡す
↓
ＺＩＰエントリを生成しＺＩＰの書き出しストリームに登録
↓
ＺＩＰの書き出しストリームに先のバイト配列を書き込み
↓
ＺＩＰエントリのクローズ
↓
終了処理
以上の流れでコンテンツおよびプログラムを一つのファイルにカプセル化できる。
【００２６】
図２５はＩＭプログラムにドロップされたファイルがカプセル化文書の場合の動作である。カプセル化文書の場合は、カプセル化文書中のＸＭＬを取得し（Ｓ１）、ＸＭＬを解析する（Ｓ２）。ＸＭＬにはセキュリティ情報が記述してある。この情報をもとにカプセル化文書内のファイルの改ざんチェックを行い（Ｓ３）、問題がなければ、通信相手に送信する（Ｓ５）。問題があれば、その旨ユーザにダイアログを表示するなどして通知し、転送は行わない（Ｓ６）。
【００２７】
次に音声によるコミュニケーションと文書の連携について述べる。振り返りについては先に少し述べたが、その他の部分や文書のイベントと音声や動画データの関連付けについて述べる。図２６に示したように、ＩＭアプリは文書起動イベントを取得して（Ｓ３０）、録画もしくは録音を開始する（Ｓ３１）。また録画、録音の終了は文書終了イベントを取得して行う（Ｓ３２）。文書起動中は、録音、録画をしているのであるが、その間、文書上でのページめくりや加筆などのイベントを取得し（Ｓ３４）、そのイベントとイベントが起きた時刻をテーブルとして記録する（Ｓ３６）（図２７、図２８）。イベントとイベント発生時刻を記録しておくことで、イベントと録画録音されているデータと関連付けることができる。例えば、図２９のように、文書上のイベントごとに記録のプロットをユーザに提示するとする。ユーザはプロットをクリックするとイベントないよと時刻のテーブルを参照し、所定のイベントの再生を文書上で行う。また、録音録画データを参照し、その時刻からの再生を行う。録画録音ファイル自体は録画録音された実際の時刻は普通含まれていないので、ｔｉｍｅ―起動時間で経過時間を割り出し、その時間からの再生を行う。こうすることにより、文書上での操作（イベント）をした時点で、どういうコミュニケーションがなされたかを確認することができる。
【００２８】
図３０は、録音録画データの再生をキーとして、文書上でイベントを再生する例である。録音録画ファイルの再生経過時刻＋文書起動時刻がイベント発生時刻を超えたら文書イベントを文書上で再生する。こうすることにより、音声でのやりとりを聞きながら文書の状態がどういうように変化していったのかを確認することができる。
【００２９】
記録データとのパッケージングについて説明する（図３１、図３２）。テキストや音声、録画データなどは、文書と一緒にパッケージング（カプセル化）することができる。それは先に述べたカプセル化の方法に従えばよい。例えば音声などは再生プログラムが必要になるので、再生プログラムも一緒にパッケージングする（図３２）。このとき、イベント発生のタイムテーブルも一緒にカプセル化し、タイムテーブルを参照するようにすることで、文書一つでコミュニケーションの再生を行ったり、録画録音を再生しながら文書イベントを再生したりといったことが可能になる。
【図面の簡単な説明】
【００３０】
【図１】クライアントサーバ型を説明する図である。
【図２】ハイブリッド型を説明する図である。
【図３】純粋Ｐ２Ｐ型を説明する図である。
【図４】ＩＭの一般的なデータ送受信の仕組みについて説明する図である。
【図５】入力データの一例として音声データのパケットについて示した図である。
【図６】本発明におけるＩＭプログラムの最小構成を示した図である。
【図７】本発明におけるＩＭプログラム機能群の一例（最小構成とは別の例）を示した図である。
【図８】本発明の典型的な使用例を示した図である。
【図９】ドラッグ＆ドロップしたファイルをコミュニケーション用に変換せずに、そのまま相手に送信する場合の図である。
【図１０】文書を使ったコミュニケーション後の振り返りの一例を示した図である。
【図１１】文書中の会話を表示した図である。
【図１２】コミュニケーションに使ったページ単位でサムネイルを作成し、テキストでのコミュニケーションに含めた例を示した図である。
【図１３】文書上でのコミュニケーションの結果をテキストでのコミュニケーション上に反映した例を示した図である。
【図１４】図８の例の音声コミュニケーション版の図である。
【図１５】文書アイコンがコミュニケーションの記録中に提示された図である。
【図１６】ページごとのスナップショットが提示された図である。
【図１７】音声の記録領域を閾値により生成する様子を説明する図である。
【図１８】変換ダイアログの図である。
【図１９】ＩＭ上に画面をドラッグ＆ドロップするとコミュニケーション用のファイルに変換する動作について説明するフローチャートである。
【図２０】変換処理のフローチャートである。
【図２１】カプセル化された文書の例を示す図である。
【図２２】カプセル化された文書の例を示す図である。
【図２３】カプセル化された文書の例を示す図である。
【図２４】カプセル化された文書の例を示す図である。
【図２５】ＩＭプログラムにドロップされたファイルがカプセル化文書の場合の動作について説明するフローチャートである。
【図２６】音声によるコミュニケーションと文書の連携について説明するフローチャートである。
【図２７】音声によるコミュニケーションと文書の連携について説明するフローチャートである。
【図２８】イベント内容と時刻のテーブルを示す図である。
【図２９】イベントと録画録音されているデータとの関連付けについて説明する図である。
【図３０】録音録画データの再生をキーとして、文書上でイベントを再生する例を示す図である。
【図３１】記録データとのパッケージングについて説明する図である。
【図３２】記録データとのパッケージングについて説明する図である。
【符号の説明】
【００３１】
１０  表示再生機能、１１  通信機能、１２  変換機能、１３  記録機能、１４  イベント取得機能
【図１】
2008077164.tif 000003
【図２】
2008077164.tif 000004
【図３】
2008077164.tif 000005
【図４】
2008077164.tif 000006
【図５】
2008077164.tif 000007
【図６】
2008077164.tif 000008
【図７】
2008077164.tif 000009
【図８】
2008077164.tif 000010
【図９】
2008077164.tif 000011
【図１０】
2008077164.tif 000012
【図１１】
2008077164.tif 000013
【図１２】
2008077164.tif 000014
【図１３】
2008077164.tif 000015
【図１４】
2008077164.tif 000016
【図１５】
2008077164.tif 000017
【図１６】
2008077164.tif 000018
【図１７】
2008077164.tif 000019
【図１８】
2008077164.tif 000020
【図１９】
2008077164.tif 000021
【図２０】
2008077164.tif 000022
【図２１】
2008077164.tif 000023
【図２２】
2008077164.tif 000024
【図２３】
2008077164.tif 000025
【図２４】
2008077164.tif 000026
【図２５】
2008077164.tif 000027
【図２６】
2008077164.tif 000028
【図２７】
2008077164.tif 000029
【図２８】
2008077164.tif 000030
【図２９】
2008077164.tif 000031
【図３０】
2008077164.tif 000032
【図３１】
2008077164.tif 000033
【図３２】
2008077164.tif 000034