(57)【特許請求の範囲】
【請求項１】
コンピュータ制御グラフィック編集システムでグラフィックオブジェクトのグループを作成し操作するための方法であって、
（ａ）  ユーザが第１のジェスチャーの実行において、１つ以上のグラフィックオブジェクトの第１セットをペンストロークで囲むことからなる第１囲いグラフィックオブジェクトを描くステップを有し、
（ｂ）  前記システムが前記第１のジェスチャーに応答して、１つ以上のグラフィックオブジェクトの第１セットが位置している領域の境界を定める可視的な、かつ視覚的に残存する境界でもって前記第１囲いグラフィックオブジェクトを画定するステップを有し、
前記第１セット内のグラフィックオブジェクトはユーザの所定の動作により選択されて前記第１囲いグラフィックオブジェクトの可視的境界によって画定された領域外へと移動可能であり、かつ、前記第１セット以外のグラフィックオブジェクトはユーザの所定の動作により選択されて前記第１囲いグラフィックオブジェクトの可視的境界によって画定された領域内へと移動可能であり、
（ｃ）  前記ユーザが前記第１のジェスチャーに続く第２のジェスチャーの実行において、前記第１のジェスチャーに応答するシステムによって作り出された前記第１囲いグラフィックオブジェクトの可視的境界に対し当該第１囲いグラフィックオブジェクトを選択する動作を加えるステップを有し、
（ｄ）  前記システムが、前記第２のジェスチャーの検出に応答して、前記第１囲いグラフィックオブジェクト及び前記第１囲いグラフィックオブジェクトにより囲まれる前記１つ以上のグラフィックオジェクトの第１セットを選択し及びグループ化するステップを有し、前記第１囲いグラフィックオブジェクトの可視的境界は前記ユーザの第１及び第２のジェスチャーの実行後においても持続する、
ことを特徴とする、グラフィックオブジェクトのグループを作成し操作するための方法。
【請求項２】
前記第２のジェスチャーの実行に先立って、
前記ユーザが、前記第１のジェスチャーに引き続いて実行され、前記第１囲いグラフィックオブジェクト上の２点にエンドポイントが接触するペンストロークからなる第３のジェスチャーの実行において前記第１囲いグラフィックオブジェクトの前記可視的境界を変更する変更動作を実行し、前記変更動作は変更ジェスチャーのセットの１つであり、
前記システムが、前記第３のジェスチャーに応答して前記変更ジェスチャーに基づいて前記第１囲いグラフィックオブジェクトの前記可視的境界を変更し、１以上のグラフィックオブジェクトの前記第１のセットは１以上のグラフィックオブジェクトの追加又は除去により変化してもよく、
前記第１囲いグラフィックオブジェクトの可視的境界は前記ユーザの第３のジェスチャーの実行後においても持続する、
ことを特徴とする、請求項１記載のグラフィックオブジェクトのグループを作成し操作するための方法。
【請求項３】
前記変更動作が、
前記第１囲いグラフィックオブジェクトの画定領域のサイズを増加する修正ジャスチャーであって、前記第１囲いグラフィックオブジェクトの可視的境界をその形状を変更することによって、１以上の新たなグラフィックオブジェクトが前記可視的境界の内側となり、１以上のグラフィックオブジェクトの第１セットに加えられるようにすること、及び
前記第１囲いグラフィックオブジェクトの画定領域のサイズを減少させる修正ジェスチャーであり、前記第１囲いグラフィックオブジェクトの可視的境界をその形状を変更することによって、１以上のグラフィックオブジェクトの前記セットの少なくとも１つのグラフィックオブジェクトが前記可視的境界の外側となり、１以上のグラフィックオブジェクトの前記第１のセットから除去されること、
のいずれか１つであることを特徴とする、請求項２記載のグラフィックオブジェクトのグループを作成し操作するための方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、グラフィックベースコンピュータシステムにおけるオペレーティングの分野に関し、更に詳細には、前記グラフィックベースコンピュータシステム中に表示されるグラフィックオブジェクトを集めて定義することに関する。
【０００２】
【従来技術及び発明が解決しようとする課題】
ペンベースシステム及び「電子ホワイトボード(electronic whiteboard) 」［例えば、ゼロックス社(Xerox Corporation) の部門、"Liveworks" から入手可能な"liveBoard" （商標）］のようなコンピュータベースシステムは、ペン、スタイラス又はカーソル制御デバイスのような入力デバイスの利用に基づいたグラフィカルユーザインターフェースを提供する。このようなシステムにおいて、「ディスプレイ」は、データを示すための手段及び入力媒体の両方として働く。グラフィックオブジェクトは、ディスプレイ上に、入力デバイスを用いて作成するペンストロークによって「描写」されてもよい。グラフィックオブジェクトは、ワード（語）、図、又は表示できるあらゆるものを表現してもよい。次に、様々なオペレーションを、ジェスチャーとして知られている入力技法を用いてグラフィックオブジェクトに対して実行することができる。ジェスチャーは、自身が命令として解釈される単にペンストロークである。ペンストロークが残存的（persistent, 持続的) グラフィックオブジェクトを作成するか、又はペンストロークがジェスチャーとして扱われると、このようなシステムは、識別するためにオペレーションの描写モード及びオペレーションのジェスチャーモードを有することになる。
【０００３】
LiveBoard のような電子ホワイトボードは、典型的には、ミーティングのような共同アクティビティと関連して使われる。それを使用して、リストや図等を表現するグラフィックオブジェクトが描写される。このようなシステムに対する共通オペレーションは、ユーザがグラフィックオブジェクトをグループ化することであり、オペレーションを、オブジェクトに一つのグループ化ユニット（単位）として適用することができる（例えば、オブジェクトをグループで移動して、そのグループのメンバ間に空間オリエンテーションを保持する）。そのようなオペレーションは、所望のグラフィックオブジェクトを取り囲んで、グループ化オペレーションを実行するような選択ジェスチャーによって実行されてもよい。ユーザは、例えば、オブジェクトをグループ化せずに、それらに個別にオペレート（動作）する、オブジェクトを加える又はオブジェクトをグループから引く等、後でグループを変更したいことがあるかもしれない。典型的なグラフィカルユーザインターフェースでは、このようなグループ化オペレーションは、ユーザがグループを選択して、「 Ungroup（グループ解消）」コマンドを与え、所望のオブジェクトを再選択して、次に所望のグラフィックオブジェクトに「Group （グループ化）」コマンドを与えることにより達成される。ミーティングのような動的（ダイナミック）設定で実行される場合、このようなステップは不便である。従って、このようなシステムでは、グラフィックオブジェクトのグループを簡単に変更できる技法に対する要求がある。
【０００４】
「Apparatus and Method For Altering Enclosure Selections In A Gesture Based Input System」と題され、本願と同じ譲受人に譲渡された米国特許第５，４７１，５７８号（以下、’５７８号と記す）は、ユーザが全ジェスチャーを書き直す必要なく、選択ジェスチャーを変更することが可能になるグラフィカル編集システムを説明する。変更できる、即ち、ユーザが囲いサイズを拡張又は縮小可能な一組の後続ジェスチャーにより再形状化できる、一次的な(ephemeral) グラフィックオブジェクトとして処理される囲いを用いて、システムは選択を画定する。これらの変更ジェスチャーは、囲いの指定したポイント（点）又は部分を始動させてその形状を制御する。選択囲いを描写する場合、選択囲いに変更ジェスチャーとして関係するそれのロケーション（位置）で検出されるラインセグメントを描写することにより追加データを含むか又は除外して、既存の囲いを再形状化してラインセグメントを含むことができる。
【０００５】
残念ながら、一度、選択が行われると、’５７８号の特許の発明を直接的に使用してグラフィックオブジェクトのグループを変更することはできない。これは、選択囲いが、選択が存在している間に存在するだけの一時的なグラフィックオブジェクトであるためである。
【０００６】
グループによるオペレーティングについての他の欠点は、選択不足、即ち、グラフィックオブジェクトをグループとして扱うことができるという視覚的な指示がないというとである。グラフィックオブジェクトのグループ化を示し、邪魔にならず直観的な手段を提供することは望ましい。
【０００７】
従って、視覚的に明白で残存性であるグラフィックオブジェクトのグループと対話するための手段に対する要求がある。
【０００８】
このようなグラフィカルユーザインターフェースの別の望ましい能力は、グループ間に残存的ビジュアルリンクを提供できることである。従って、例えば、フローチャート又は状態図のような図で作業する場合に、図を変更するか、又は移動することができる。リンクを残存性にすることで、図の更新処理及び編集を単純化できる。
【０００９】
グラフィカルユーザインターフェースの更に別の制約は、限られた表示領域である。幾つかのシステム、例えば、前述の「LiveBoard 」システムでは、より多くの「未記録(unwritten) 」領域を得るために、「スクロール可能(scrollable)」なこともあるが、既に書き込まれているある種の情報を単に「隠す」か又は崩壊する(collapse)ことがより望ましい場合もある。この隠された情報は、所望されると、後で呼び戻せてもよい。オブジェクトは、書き込みに使用可能なより多くの情報空間を有するべきである。例えば、リストをプライオライズする（順位を付けて並べる）場合、そのリストの一部分が固定されると、それを隠すことができ、リストに載っているより多くの項目（アイテム）をスクロール（画面移動）する必要なく表示できる。
【００１０】
情報を一時的に「隠す」ための様々な手段は、従来技術で既知である。テキスト編集システムでは、テキストの様々なラインは、隠されて、点線又はいくつかの他のシンボルによって表現されてもよい。グラフィカルユーザインターフェースを有するシステムでは、アイコンを使用して「ファイル」、ドキュメント又はアプリケーションを表現してもよい。他のシステムは、画像の詳細なレベルを修正できる「ズーミング(zooming) 」を備える。フローチャーティングアプリケーションにより、選択時にフローチャートの「オフ−ページ」部分が表示されるようになっている「オフ−ページ」指示子が可能になる。
【００１１】
しかしならが、前述のアプローチのどれも、自由形態のグラフィカルユーザインターフェースを有するコンピュータシステムにおける要求事項に、特に適用することはできない。従って、グラフィックオリエンテッドシステムに於ける表示情報を隠す又は崩壊することができ、次いで、拡張してそれが表現する全情報を表すことができる手段を有すことは望ましい。
【００１２】
【課題を解決するための手段】
本発明の第１の態様はコンピュータ制御グラフィック編集システムでグラフィックオブジェクトのグループを作成し操作するための方法であって、（ａ）  ユーザが第１のジェスチャーの実行において１つ以上のグラフィックオブジェクトの第１セットをグループ化する第１囲いグラフィックオブジェクトを描くステップを有し、（ｂ）  前記システムが前記第１のジェスチャーに応答して、１つ以上のグラフィックオブジェクトの第１セットが位置している領域の境界を定める可視的な境界でもって前記第１囲いグラフィックオブジェクトを画定するステップを有し、前記第１囲いグラフィックオブジェクトの前記可視的境界は視覚的に残存し、前記１つ以上のグラフィックオブジェクトの第１セットは選択可能であって、かつ、前記第１囲いグラフィックオブジェクトの可視的境界によって画定された領域内および領域外へと移動可能であり、（ｃ）  前記ユーザが前記第１のジェスチャーに続く第２のジェスチャーの実行において、前記第１のジェスチャーに応答するシステムによって作り出された前記第１囲いグラフィックオブジェクトの可視的境界に対し動作を加えるするステップを有し、（ｄ）  前記システムが、前記第２のジェスチャーの検出に応答して、前記第１囲いグラフィックオブジェクト及び前記１つ以上のグラフィックオジェクトの第１セットを選択及びグループ化するステップを有し、前記第１囲いグラフィックオブジェクトの可視的境界は前記ユーザの第１及び第２のジェスチャーの実行後においても持続する、ことを特徴とする。
【００１３】
本発明の第２の態様は、ディスプレイ及びグラフィックオブジェクトを生成するためのユーザ制御可能手段を含むコンピュータ制御グラフィックディスプレイシステムであって、ユーザによる第１のジェスチャーに応答し、グラフィックオブジェクトを囲いグラフィックオブジェクトとして識別するための囲い検出回路を有し、前記囲いグラフィックオブジェクトは前記第１のジェスチャーによって１つ以上のグラフィックオブジェクトのセットが位置している領域の可視的境界を画定する囲いとして描かれ、前記囲いグラフィックオブジェクトの可視的境界は視覚的に残存し、１つ以上のグラフィックオブジェクトの前記セットは選択され、かつ、前記囲いグラフィックオブジェクトの可視的領域によって画定される領域内及び領域外へと移動されることが可能であり、前記ユーザの前記囲いグラフィックオブジェクトの前記可視的境界に対し動作を加えるユーザによる第２のジェスチャーに応答して、前記囲いグラフィックオブジェクトと関連する１以上のグラフィックオブジェクトの前記セットを識別するためのグループ検出回路を有し、ジェスチャーの位置を検出するための位置検出回路を有し、前記第２のジェスチャーを複数の関連ジェスチャータイプの１つとして識別して、前記識別ジェスチャータイプに対応する前記囲いグラフィックオブジェクトの可視的境界にオペレーションを実行するためのジェスチャー解釈回路を有し、前記囲いグラフィックオブジェクトの可視的境界は前記ユーザの第１及び第２のジェスチャーの実行後においても持続する、ことを特徴とする。
【００１４】
本発明は、グラフィカルユーザインタフェースを有するコンピュータシステム中でグラフィックオブジェクトを編成するための方法及び装置を開示する。本発明は、グラフィックオブジェクトを編成するための対話技法を容易にし、これにより作成プロセスへの崩壊(disruption)が最小化される。グラフィックオブジェクトはディスプレイ上に作られるマーキングであり、これが、文字、ワード（語) 、図、画像、アイコン、又はグラフィカルユーザインタフェースを有するコンピュータシステム上に配することができるあらゆる他のオブジェクトを表現する。本発明は囲いに基づいてグラフィックオブジェクトを編成するという概念を前提として述べられている。囲いは、領域を画定するグラフィックオブジェクト自身である。囲いは、囲みループ、矩形、又はハイライト領域の境界線であってもよい。１つ以上のグラフィックオブジェクトが、囲いによる画定領域内に含まれてもよい。
【００１５】
囲いを、移動、グラフィックオブジェクトを追加又は除去するように変更、他の囲いとフューズ、若しくは複数の囲いを作成するように分割してもよい。囲いを選択することにより関連するグラフィックオブジェクトの各々も選択されるようになる。
【００１６】
囲いの変更は、２つのエンドポイントが囲いに「近接」する第１タイプのジェスチャーにより達成される。この種類のジェスチャーは、あらゆる形状を有することができるが、囲いに「近接」しているエンドポイントの要求を満足させなければならない。「近接」がディスプレイ解像度や描写される線の厚みのような様々なシステムファクタに依存する相対語であることに留意されたい。他のジェスチャーを使用して、選択囲いを拡大又は縮小してもよい。
【００１７】
囲いの移動は、囲いを選択し（その中身も選択する）、次にドラッグオペレーションを実行することにより達成される。あるいは、選択囲いを、（”＞”）ジェスチャーを使用して右に移動してもよい。
【００１８】
囲いのフュージングは暗示的でも明示的でもよい。暗示的フュージングは、囲いを単に選択して、それを別の囲いと重なるように移動することにより達成される。次に、２つの囲いを単一の囲いとして再描写して、重なった囲いにより形成された形状に基づいて全グラフィックオブジェクトをカバーする。明示的フュージングは、明示的フューズジェスチャーにより達成される。得られた囲い形状は、それぞれの囲い同士の間の空間的関係に依存する。
【００１９】
ユーザーが分割ジェスチャーを実行することにより、囲いの分割が生じる。囲いを分割するロケーションは、分割ジェスチャーが行われるロケーションに依存する。
【００２０】
また、囲いをリンクして、囲い同士間に様々な関係を確立してもよい。リンクは囲いに付けられたままなので、囲いを移動すると、リンクはそれに応じて伸びたり縮小する。また、リンクを横切るフュージングジェスチャーを使用すると、リンク囲いがフューズされてリンクが除去されるようになる。
【００２１】
【発明の実施の形態】
下記用語を本明細書の記述に用いる。それらの用語は下記に示す意味を有する。
グラフィックオブジェクト(Graphic Object)：２Ｄ空間のあらゆる表示オブジェクト。
カーブ(Curve) ：ユーザによる手作業で作られる（例えば、ペンストローク）又は、ジェスチャー等の他の手段により作られる（例えば「[ 」ジェスチャーから得られる矩形）、又はシステムにより生成される（例えば境界）、一次元のグラフィックオブジェクト。
ペンストローク(Pen Stroke)：ペンによる、インクストロークかジェスチャーになる動作。
インクストローク(Ink Stroke)：残存的カーブ（曲線）。
ジェスチャー(Gesture) ：一時的で、動作として解釈されるペンストロークで作られるカーブ。
囲い(Enclosure) ：それ自身で閉じて領域を画定するインクストローク。
囲い中身(Enclosure Contents)：囲いで画定された領域内に位置する一つ以上のグラフィックオブジェクト。
グループ(Group) ：それの中身をプラスした囲い。グループは単一のグラフィックオブジェクトとして働くことができ、例えば、その囲い上のタップジェスチャーがグループを選択する。
選択(Selection) ：選択によりタグ付けされるグラフィックオブジェクトのセット。
選択囲い(Selection Enclosure) ：いくつかのグラフィックオブジェクトを囲んでいるジェスチャー。これは選択を定義する通常の方法である。
リンク(Link)  ：１つ又２つの囲いに触れる（即ち、それらをリンクする）インクストローク。囲いは自身とリンクされてもよい。
コンテナアイコン：他のグラフィックオブジェクトをそれらを表示することなく表現する小さなグラフィックオブジェクト。
変更(Alter) ：囲い及び潜在的にそれが含むグラグックオブジェクトを再形状化するオペレーション。
分割(Split) ：囲いを用いて、それを２つの異なる囲いに分割するオペレーションで、各囲いは独自の中身（内容）を有する。
フューズ(Fuse)：２つ以上の囲いを用いて、それらを、初期囲い中の全オブジェクトを含む１つの囲いに結合するオペレーション。
ハイライト領域(Highlighted Area)：通常、いくらかのグラフィック方法で強調される２Ｄ面の連続部分。それは、囲いの役目を果たす周辺部エッジを有する。
【００２２】
本発明は、描写プログラム又はペンベースシステム等のようなグラフィックオブジェクトを操作（処理）するあらゆるシステムに有用である。本発明は、プライオリティーを付けるミーティングのような共同アクティビティーを支援するのに特に有用であることがわかった。このようなアクティビティでは、ユーザは、項目のリストを作成して、その項目の順序又は空間的なレイアウトを操作する。例えば、図１（ａ）乃至（ｃ）を参照すると、従業員のランキングを論議している。第１ステップは、参加者全員が見ることができるホワイトボードのようなビジュアル媒体上に従業員の名前のリストを書き込むことである。これは、図１（ａ）に、表示領域１０２に書かれたリスト１０１として図示されている。次に、フィルタリングプロセスが起こり、ここで従業員をクラス１、２又は３の技能者(performer) としてほぼ分類して、その後、カテゴリー内でランク付けする。これは、図１（ｂ）に、分類リスト１２１〜１２３として示されている。本発明のシステムでは、これらの名前の各々は、グラフィックオブジェクトのセット（例えばインクストローク）によって表される。このように、名前の再構成は、選択及び移動オペレーションによって達成される。最後に、ランキングを各実行カテゴリー内で行って、フューズして一緒にして戻し、図１（ｃ）に示す最終的なランキングリスト１３０を得る。
【００２３】
このアクティビティには注目するいくつかの重要なことがある。ユーザがリスト項目をまわりに簡単に動かすことができることは、重要である。これは、項目（例えば、名前）をグループ化して、それらを単位としてドラッグできることを示す。例えば、図１（ｂ）に示す実行カテゴリーをグループとして移動可能である。しかし、そのグループは固定されておらず、それらはミーティングを通して変わる。項目は時々まとめられて、暗に単一ユニットとして扱われる。また、注釈を項目に作ることもでき、評価理由を記述してもよい。この注釈は項目と共にグループ化されるべきであり、例えば、それらは一緒に移動する。ユーザが項目の関係について考えを変えたり又は項目と関係する注を作ると、ユーザは項目をフューズ及び分割して容易に注釈を作れることは、有用であることが確認された。また、ユーザは、項目をグループ内で他のグループから独立して操作できなければならない。
【００２４】
本発明のこの好適な実施の形態は、グラフィックオブジェクトの残存的なグループ化を表現して操作するためのグラフィック技法である。その主な考えは、明示的な(explict) 囲いによりグループを指示することと、囲いに対するグラフィックオペレーションがグループを修正するようになっていることである。
【００２５】
本発明で使用できるようなコンピュータベースシステムを、図２に関して説明する。図２を参照すると、コンピュータベースのシステムは、バス２０１により連結される複数のコンポーネント（構成要素）を含んでいる。図示したバス２０１は本発明を明瞭にするために単純化されている。バス２０１は、バスの階層（例えば、プロセッサバス、ローカルバス及びＩ／Ｏバス）と同様に複数の平行バス（例えばアドレス、データ及び状態バス）から成り得る。いずれにしても、コンピュータシステムは、バス２０１を介して内部メモリ２０３から与えられる命令を実行するためのプロセッサ２０２を、更に含んでいる（内部メモリ２０３は、典型的にはランダムアクセスメモリー又はリードオンリーメモリーの組み合わせであることに留意されたい）。オペレーション中には、本発明の様々な機能コンポーネントを実行するためのプログラム命令は、内部メモリ２０３に格納されている。プロセッサ２０２と内部メモリ２０３は、個別のコンポーネントでも単一の一体式デバイスでもよい。プロセッサ２０２と内部メモリ２０３は、本明細書中に記述する様々な処理機能を実行するための回路を含む。また、バス２０１には外部記憶装置２０７が連結されている。外部記憶装置２０７は、典型的には磁性又は光学ディスク記憶装置のような高容量記憶媒体である。
【００２６】
また、バス２０１にはディスプレイ２０４及びポインティングデバイス２０５も連結されている。この好適な実施の形態において、ポインティングデバイス２０５は、ペン駆動式のタッチセンシティブパネルであり、これは、タッチスクリーンディスプレイのようなディスプレイ２０４と一体化される。このようなタッチスクリーンディスプレイは、従来技術でよく知られており、ペンベースシステムのようなシステム中で、電子ホワイトボードシステム用に利用されている。しかし、ポインティングデバイス２０５はスタイラス、マウス、トラックボール又は他のカーソル制御デバイスでもよいために、ポインティングデバイス２０５とディスプレイ２０４は、一体化される必要はない。
【００２７】
図３は、本発明で使用可能なグラフィカルユーザインターフェースの特別な実施例を示す。図３を参照すると、グラフィカルユーザインターフェースはディスプレイ２０４上に表示され、タッチパネル２０５を通して対話されている。図示されるように、グラフィカルユーザインターフェースはワーク（作業）面を用いて、複数のアクセス可能機能３０１を使用してもよい。ワーク面３０２には、ユーザが様々なカーブ（曲線）を描写してもよい所、及び他のグラフィックオブジェクトが表示される所がある。アクセス可能機能３０１は、ディスプレイのボタン領域３０３に配置されている。機能３０１は、グラフィックオブジェクトを編集（作成、削除、移動、縮め等）、又はタッチパネル２０５の操作モードを変える（例えば、描写及びジェスチャーモードからの切り換え）ためのオペレーションを含んでもよい。
【００２８】
これらの機能は、代わりに、ウィンドウズ(Windows) 指向アプリケーションに一般に見られるプルダウンメニューでアクセスされてもよい。しかし、これらの機能は、指示が任意（オプション) であり、それらの主要な目的は、システムオペレーションに固有なオペレーションを定義することである。これらの機能は、ジェスチャーにより起動される同じ機能を実行してもよい。
【００２９】
本発明のこの好適な実施の形態は、グラフィカルユーザインタフェース(Graphical User Interface ; ＧＵＩ）を有するペンベースのシステムで実行される。このようなＧＵＩは、典型的には、グラフィックオブジェクトを選択／選択解除(deselecting) するための「タップ」、又はタップされるグラフィックオブジェクトと関連し得るオペレーションを起動するための「ダブルタップ」をサポートする。オブジェクトは、一度、選択されると、ワーク空間中の所望の位置にドラッグ及びドロップされる。
【００３０】
この好適な実施の形態のワーク空間は、グラフィックオブジェクトが他のグラフィックオブジェクトからほぼ独立するように自由形態を有し、また、グラフィックオブジェクトは任意構成を有してもよい。これは、ホワイトボードを使用する方法と一致している。しかし、ワーク面のユーザオペレーションを容易にするために、暗示構造（以下「構造」とする）の概念はサポートされている。この好適な実施の形態でサポートされている様々な種類の構造は、「Apparatus and Method For Supporting the Implicit Structure of Freeform Lists, Outlines, Text, Tables, and Diagrams In A Gesture-Based Input System and Editing System 」と題されて、本願の同じ譲受人に譲渡された、ＥＰＡ  ０  ６６７  ５６７  Ａ２号に記述されている。概念的には、構造とは、特定の関係を有するグラフィックオブジェクトの集まり、例えば、項目リストである。構造オペレーションが生じると、項目間の関係は保持されている。例えば、項目をリストの中央に入力すると、その挿入場所の下の項目は、挿入項目用に空間を作るために下に動かされる。
【００３１】
本発明により、グラフィックオブジェクトのグループを、その対応する囲いを変更することにより操作する様々な技法が可能になる。図４のフロー図は基本対話を示し、これによりこの好適な実施の形態のグラフィック入力システムにオペレーションが生じ得る。図４を参照すると、電子ホワイトボードの使用中に、ユーザは、１つ以上のグラフィックオブジェクトの周りにクローズドカーブ（閉曲線）を、例えば、ジェスチャー又はリンクにより、作成する（ステップ４０１）。これは、電子ホワイトボードの内容を編成又は再構成することにより起こる。ユーザが他のオペレーションを実行したり他のグラフィックオブジェクトを生成し得る時間の後で、ユーザはジェスチャーを作成する（ステップ４０２）。システムは、ジェスチャーの近くに置かれたグラフィックオブジェクトを調べる（ステップ４０３）。グラフィックオブジェクトのうちの１つがクローズドカーブであるかどうかを見るために、特定のチェックが行われる（ステップ４０４）。この好適な実施の形態では、これはグラフィックオブジェクトの形状をチェックすることにより行われる。しかしながら、例えば、フラグをグラフィックオブジェクトに取り付ける等、他の技法を使用して、クローズドカーブであることを示すことは、当業者には明白であろう。いずれにしても、グラフィックオブジェクトがクローズドカーブでない場合、ジェスチャーは非囲い（non-enclosure)オペレーションとして解釈される（ステップ４０８）。
【００３２】
グラフィックオブジェクトのうちの１つがクローズドカーブである場合、システムはジェスチャーのタイプ（ステップ４０５）を識別する。ジェスチャータイプは典型的には、ジェスチャーを作成するために使用されるペンストロークの形状及び位置によって識別できる。次に、ジェスチャーオペレーションが囲いに有効であるか否かの決定がなされる（ステップ４０６）。有効でない場合、そのジェスチャーは、非囲いオペレーションとして解釈される（ステップ４０８）。ジェスチャーが囲いのオペレーションに有効なものであると決定されると、クローズドカーブを囲いとして扱い、その対応する囲いオペレーションを実行する（ステップ４０７）。ジェスチャーにより起動される様々な囲いオペレーションを下記に記述する。
【００３３】
グラフィックオブジェクトを、それの囲いを再形状化することにより追加、又は囲いをフュージングすることによりグループから除去することができる。グループをコンテナアイコンと呼ばれる（脚注に類似している）代わりのグラフィックオブジェクトによって崩壊及び表現してもよい。この好適な実施の形態の特徴及び利点は、下記の記述で明白になる。
【００３４】
本発明の重要な概念は、残存的なグラフィックオブジェクトとしての囲いの概念である。従来技術と対比するために、選択囲いは、選択オペレーションが実行されている間だけ存在する一時的なグラフィックオブジェクトとする。複数のグラフィックオブジェクトを単一オペレーションで操作するためには、グラフィックオブジェクトの各々を、グループとして「選択」しなければならない。よって、グラフィックオブジェクトの選択が残存性になるようにグラフィックオブジェクトのセットをグループ化することはしばしば望ましい。従来技術に記述されたように、グループの中身を変更するための既知の技法には、不便である。
【００３５】
残存的グラフィックオブジェクトとしての囲いは、以下の特徴を有する。
−  囲いは、典型的にはインクストロークであるが、固定領域とその境界（例えばハイライト領域）を画定する、あらゆるグラフィックオブジェクトでもよい。
−  囲いがインクストロークである場合、それらはストロークの始まりがストロークの終りと「閉じ」られているループ形ストロークである。インクストロークはまた、多くのグラフィカルフューザインタフェースで見られる矩形生成オペレーションを用いて作成される矩形でもよい。
−  囲いの内側は、固定領域を画定する。よって、例えば、各領域は、（グラフィックオブジェクトにより表現される）項目リストを保持できる。
−  囲いを選択することが、グループ、即ち、囲いと囲いによる画定領域内のグラフィックオブジェクト、を選択する。
−  囲いは、グラフィックオブジェクトの関連する集合を削除せずに消去されてもよい、即ち、囲いは、まさに他のインクストロークと同様である。
−  グラフィックオブジェクトを選択して、囲いによる画定領域中へ又はそこから移動することができる。
【００３６】
囲いがグラフィックオブジェクトであるために、グラフィックオブジェクトに実行できるオペレーション、例えば、消去、即ち、色又は厚み等の変化の「拭き取り(wiping)」を囲いに実行することができる。囲いに実行されるオペレーションは、グループに同じ影響を与える。グループにオペレートするために、一般に実行すべき第１のステップは、囲いを選択することである。選択は、図５及び図６に関して示される。図５は、「ＡＢＣ」５０１で表現され、囲い５０２で囲まれているグラフィックオブジェクトを示す。囲いとして認識されるように、囲いのエンドポイントは十分に接近していなければならない。この十分な近さは、表示領域の解像度及びストロークの厚みのようなパラメータに依存する。グラフィックオブジェクト５０１及び囲い５０２の選択は、囲い５０２上の「タップ」ジェスチャー５０３により指示される。図６を参照すると、囲い５０２は、囲まれたグラフィックオブジェクト５０１と一緒に選択されている。このことは、選択ループ６０１の表示で示されている。更に、囲い５０２及びグラフィックオブジェクト５０１はグループを構成する。この好適な実施の形態において、選択は、囲い上のタップジェスチャーによって達成されるが、選択技法（例えば、他のタイプのジェスチャー）を使用してもよい。
【００３７】
一度、グループが選択されると、グループ全体に影響を及ぼす他のオペレーションを実行できる。グループは、カラーの変更、グループの縮小又は拡張を、［例えば、ドラッギング又は右閉じくさび形（＞）ジェスチャーによって］移動、又は［例えば、左閉じくさび形（＜）ジェスチャーによって］コピーさせることができる。選択された囲いの中身に影響する他のオペレーションを以下に記述する。
【００３８】
囲い中身の変更は、単にオブジェクトを囲い中へ移動、又は囲い中から移動、オブジェクトを消去する等によって達成されてもよい。上述したように、ユーザは、囲いを変更してその形状を変更してもよい。囲いの形状を変えることは、グラフィックオブジェクトを追加又は除去するユーザにとって便利な技法を提供する。ユーザは、他のグラフィックオブジェクトを含むように囲いを変更することによって、若しくはグラフィックオブジェクトを囲い中に移動又は新しいグラフィックオブジェクトを囲い内に作成できるように囲いを大きくすることによって、グラフィックオブジェクトをグループに追加してもよい。除去されるべきグラフィクオブジェクトが囲いによる画定領域内に無くなるように、囲いを再形状化することによりユーザはグラフィックオブジェクトをグループから除去してもよい。
【００３９】
エンドポイントが囲いの２点と接触するペンクトロークにより、変更ジェスチャーを作成する。一般に、このシステムは、ペンストローク及びそのペンストロークがクローズドカーブ（即ち、囲い）の２点と接触したことを検出する。次に、ペンストロークは、ペンストロークが囲いに接触した場所に基づいてクローズドカーブの形状を変更する囲いジェスチャ−として扱われる。
【００４０】
図７及び図８には、グラフィックオブジェクトを囲いへ追加することが示されている。図７を参照すると、ペンストローク７０１は、第１ポイント７０２と第２ポイント７０３で囲い７０４と接触する。これにより、ペンストローク７０１は変更ジェスチャーとして扱われるようになり、それに従って囲い７０４が変更されるようになる。図７では、グラフィックオブジェクト「１２」７０５を、グループに追加するようになっている。次に、図８を参照すると、完成時に、元の囲い７０４の形状を有しながらペンストローク７０１の形状が「隆起（バンプ）」として追加される囲い８０１が作成されている。
【００４１】
図９及び図１０は、グラフィックオブジェクトを除去するための囲いの変更を示す。図９を参照すると、ペンストローク９０１は、第１ポイント９０２及び第２ポイント９０３で囲い９０４と接触する。上記のように、これによりペンストローク９０１が、変更ジェスチェーとして扱われるようになる。しかしながら、ここではペンストロークが囲い９０４による画定領域内にあることが決定さるので、その変更とは、領域の一部分を「切除」することである。次に図１０を参照すると、これはペンストローク９０１に対応する部分を除去する形状を取る新しい囲い１００１となる。これは、グラフィックオブジェクト１００２、即ち、英字「Ｃ」をグループから効果的に除去している。
【００４２】
グラフィックオブジェクトを除去する変更ジェスチャーの場合、囲いの部分についてなされるべき決定は、「切除」することである。この好適な実施の形態は、囲いの「最大」部分が保持されるべき部分であるというヒューリスティックでオペレートする。
【００４３】
囲いを分割することにより、２つの新しい囲いが作成され、元の囲いが除去される。例えば、リストを操作する場合、リストのサブリストだけを操作することがより適当であることが決定されることもある。分割ジェスチャーは、前後運動で作成されるペンストロークにより生じる。ペンストロークは、分割されるべき囲いによるで画定領域に含まれていた少なくとも部分であったことになる。分割ジェスチャーは、それがオペレーティングすることになる囲いを空間的に検出し、ジェスチャーのロケーションが分割ロケーションを指示するようにオペレートする。
【００４４】
図１１及び図１２は、分割ジェスチャーを用いて囲いを分割し、１つの囲いから２つの囲いを作成することを示す。図１１を参照すると、囲い１１０２による画定領域内にある分割ジェスチャー１１０１が描写されている。分割ジェスチャーによって、囲い１１０２がジュスチャーがほぼ生じた地点で分割されるようになる。これは、図１２に、囲い１２０１及び１２０２で示されている。
【００４５】
図１３及び図１４は、分割ジェスチャーが複数の囲いを横切るように実行されることにより、両方の囲いを分割できることを示す。図１３を参照すると、分割ジェスチャー１３０１は、囲い１３０２及び１３０３を横切る。次に、図１４を参照すると、囲い１４０１及び１４０２は囲い１３０２から作成され、また囲い１４０３及び１４０４は囲い１３０３から作成されている。
【００４６】
囲いをフュージングすることにより、フューズ囲いの中身が単一の囲いの下で組み合わされるようになる。フュージョンはそれが暗示的又は明示的であるように、実行可能である。図１５乃至図１７は暗示的フュージングの例を示す。図１５を参照すると、選択囲い１５０２は、それが囲い１５０１とオーバーラップ（重なる）ように移動される。その移動結果を図１６に示す。フュージングは図１７に示す。ここでは、囲い１５０１及び１５０２の各々の中身は、新たな囲い１７０１の領域内にある。囲い１７０１の形状は、重なった囲い１５０１及び１５０２の境界に対応する。
【００４７】
しかし、暗示的フュージングは望ましくない結果をもたらすことがある。例えば、囲いを移動している間に、それが偶然、他の囲いと重なるように配置されることがある。これにより、それらが偶然にフューズされることになると、囲いに分割するように要求するであろう。更に、グラフィカルユーザインターフェースのいくらかの使用の場合、例えばベン図(Venn Diagrams) を描写する等、重なるクローズドカーブを有することは望ましい。従って、明示的フュージングを、この好適な実施の形態ではデフォルト値として提供する。明示的フュージングでは、フュージングジェスチャー、ここでは、特定の位置にあるクローズドカーブ形状のペンストロークを使用して、囲いをフューズする。フュージングオペレーションは、フュージングジェスチャーが接触する囲いの各々に実行されることになる。
【００４８】
図１８及び図１９は、囲いが重なる時の明示的なフュージングの単純な例を示す。図１８を参照すると、囲い１８０１と１８０２が重なる。次に、フュージングループジェスチャー１８０３を実行する。その結果を図１９に示し、ここでは、囲い１８０１と１８０２の各々の中身は新たな囲い１９０１の領域内にある。
囲い１９０１の形状は重なった囲い１８０１と１８０２の境界に対応する。
【００４９】
図２０及び図２１は、フュージングジェスチャーを用いて明示的フュージングを更に示す。図２０を参照すると、囲い２００２と２００３は重ならない。フュージングジェスチャー２００１は、囲い２００２と２００３の両方の境界に接触する。これは、図２１の囲い２１０１となる。得られた囲い２１０１の形状は、フュージングジェスチャー２００１がまるで囲い２００２と２００３を連結していたかのようにフュージングジェスチャー２００１の形状を帯びている。
【００５０】
囲いをフュージングするための更なる手段は、囲い間のリンクに関して下記に記述する。
【００５１】
リンクは、一つ以上の囲いの間にビジュアル連結を提供するために使われるインクストロークである。リンクは、以下の特徴を有する。
−  リンクは、少なくとも１つの囲い（即ち、一端部）及び多くとも２つの囲いと関係する。囲いと関係するために、リンクのエンドポイント（終点）は、囲いに「接触」しなくてはならない。
−  囲いは、複数のリンクを有してもよい。
−  囲いを選択することによりそのリンクが強調（ハイライト）される。
−  リンクは自由形式である、即ち、あらゆる形状とすることができる。
−  囲いと関係するリンクは残存性なので、それらは囲いの移動／拡大／又は縮小時に再形状化して接触を維持する。即ち、リンクにより与えられる囲い間の連結は常に保持されている。
−リンクは、リンクエンドポイントを選択して移動することにより変更可能である。
【００５２】
リンクを使用可能な１つの方法には、囲いをフュージングするためのものがある。明示的なフュージョンがフュージングジェスチャーを実行することにより行われるので、フュージングジェスチャーはリンクに接触する。これは、図２２及び図２３に示されている。図２２を参照すると、囲い２２０１及び２２０２はリンク２２０３によりリンクされている。リンク２２０３に接触するフュージングジェスチャー２２０４を実行する。その結果が、図２３の囲い２３０１である。囲い２３０１の形状はリンクに沿って２つの囲いを連結する形状である。囲いをフューズ後、リンク２２０３は除去されている。
【００５３】
図２４及び図２５は、囲いを移動する時の、囲い及び関連リンクの選択並びにリンクの再形状化を示す。図２４を参照すると、囲い２４０１は、リンク２４０４により囲い２４０２、及びリンク２４０５により囲い２４０３とリンクされている。囲い２４０２と２４０３はリンク２４０６によってリンクされている。また、囲い２４０３が選択されることにより、リンク２４０５と２４０６が選択されるようになっている。このことは、囲い２４０３及びリンク２４０５と２４０６の点線のアウトラインで示されている。図２５では、囲い２４０３を移動したことにより、リンク２４０５と２４０６が再形状化されるようになっている。明確に再形状化されたが、リンク２４０６がその基本的な形状特徴を維持したことに留意されたい。これは、固定位置としてリンクの静的エンドポイントを使用して、囲いを移動する場所に応じて再形状化リンクをスケール化及び／又はフリップする（はじく）再形状化技法により行われている。最終的に、囲いの移動時に、それぞれのリンクのエンドポイント２４０７及び２４０８が、それらの位置を、囲い２４０３上に維持することに留意されたい。
【００５４】
図２６及び図２７は、リンクエンドポイントの選択及び移動を示す。リンクエンドポイントの移動は、図が再構成、さもなければ変更される必要がある時に、望ましい。図２６を参照すると、リンク２４０４のエンドポイント２６０１が選択されている。ここではエンドポイント２６０１は囲い２４０２上にある。リンクエンドポイントの選択は、エンドポイント付近の点線の円で指示されている。一度、選択されると、エンドポイントは移動可能である。このような移動の結果を図２７に示す。図２７を参照すると、エンドポイント２６０１は囲い２４０３へ移動されている。
【００５５】
囲い同士間にリンクを設けることは、特に囲いを再配置する時に有用である。囲い同士間に視覚的関係を保持できると、それらが移動されても、グラフィックベースシステムを円滑に使用するのに役立つ。
【００５６】
リンクの囲いからの切り離しを、２つの方法の内の１つで達成することができる。まず、囲いを、リンクのエンドポイントにそれ以上「接触」しないように変更してもよい。あるいは、リンクのエンドポイントを、囲いにそれ以上接触しないように選択して移動してもよい。リンクの切り離しは、残存性を維持するためのヒューリスティックのためにリンクが囲いを横断するような望ましくない結果が生じる場合に、有用になり得る。
【００５７】
また、リンクを囲いへ同様の技法を使用して付けてもよい。まず、囲いを、それがリンクのエンドポイントと「接触」するように変更してもよい。第２番目に、リンクのエンドポイントを、それが囲いと接触するように選択して移動してもよい。
【図面の簡単な説明】
【図１】（ａ）は本発明のこの好適な実施の形態を使用可能な概要の例を示し、（ｂ）も本発明のこの好適な実施の形態を使用可能な概要の例を示し、（ｃ）も本発明のこの好適な実施の形態を使用可能な概要の例を示す。
【図２】本発明のこの好適な実施の形態で使用可能なコンピュータベースのシステムのブロック図である。
【図３】ディスプレイに表示されて、図２のタッチセンシティブパネルを介してインタフェースされるような基本的なグラフィカルユーザインターフェースの表現である。
【図４】本発明のこの好適な実施の形態で利用可能なグラフィックベースシステムの基本ユーザインタフェースオペレーションを示すフロー図である。
【図５】本発明のこの好適な実施の形態で実行され得る囲いの選択を示す。
【図６】本発明のこの好適な実施の形態で実行され得る囲いの選択を示す。
【図７】本発明のこの好適な実施の形態で実行され得る、グラフィックオブジェクトを囲いに追加するための囲いの変更を示す。
【図８】本発明のこの好適な実施の形態で実行され得る、グラフィックオブジェクトを囲いに追加するための囲いの変更を示す。
【図９】本発明のこの好適な実施の形態で実行され得る、グラフィックオブジェクトを囲いから除去するための囲いの変更を示す。
【図１０】本発明のこの好適な実施の形態で実行され得る、グラフィックオブジェクトを囲いから除去するための囲いの変更を示す。
【図１１】本発明のこの好適な実施の形態で実行され得る、前後ジェスチャーを用いる１つの囲いの分割を示す。
【図１２】本発明のこの好適な実施の形態で実行され得る、前後ジェスチャーを用いる１つの囲いの分割を示す。
【図１３】本発明のこの好適な実施の形態で実行され得る、前後ジェスチャーを用いる複数の囲いの分割を示す。
【図１４】本発明のこの好適な実施の形態で実行され得る、前後ジェスチャーを用いる複数の囲いの分割を示す。
【図１５】本発明のこの好適な実施の形態で実行され得る、第１の囲いを移動して第２の囲いに重ねることによる暗示的フュージングを示す。
【図１６】本発明のこの好適な実施の形態で実行され得る、第１の囲いを移動して第２の囲いに重ねることによる暗示的フュージングを示す。
【図１７】本発明のこの好適な実施の形態で実行され得る、第１の囲いを移動して第２の囲いに重ねることによる暗示的フュージングを示す。
【図１８】本発明のこの好適な実施の形態で実行され得る、第１の囲いが第２の囲いに重なる時のフュージングジェスチャーを用いる明示的フュージングを示す。
【図１９】本発明のこの好適な実施の形態で実行され得る、第１の囲いが第２の囲いに重なる時のフュージングジェスチャーを用いる明示的フュージングを示す。
【図２０】本発明のこの好適な実施の形態で実行され得る、フューズされるべき囲いを横切るフュージョンジェスチャーを用いることによる明示的フュージング示す。
【図２１】本発明のこの好適な実施の形態で実行され得る、フューズされるべき囲いを横切るフュージョンジェスチャーを用いることによる明示的フュージング示す。
【図２２】本発明のこの好適な実施の形態で実行され得る、フューズされるべき囲い同士間のリンクにフュージョンジェスチャーを実行することによる明示的フュージングを示す。
【図２３】本発明のこの好適な実施の形態で実行され得る、フューズされるべき囲い同士間のリンクにフュージョンジェスチャーを実行することによる明示的フュージングを示す。
【図２４】本発明のこの好適な実施の形態で実行され得る、囲いを移動時の囲い及び対応リンクの選択並びにリンクの再形状化を示す。
【図２５】本発明のこの好適な実施の形態で実行され得る、囲いを移動時の囲い及び対応リンクの選択並びにリンクの再形状化を示す。
【図２６】本発明のこの好適な実施の形態で実行され得る、一つの囲い上のリンクエンドポイントの選択及び別の囲いへの移動を示す。
【図２７】本発明のこの好適な実施の形態で実行され得る、一つの囲い上のリンクエンドポイントの選択及び別の囲いへの移動を示す。
【符号の説明】
５０１    グラフィックオブジェクト
５０２    囲い
５０３    タップジェスチャー
【図１】
0004602487.tif 000002
【図２】
0004602487.tif 000003
【図３】
0004602487.tif 000004
【図４】
0004602487.tif 000005
【図５】
0004602487.tif 000006
【図６】
0004602487.tif 000007
【図７】
0004602487.tif 000008
【図８】
0004602487.tif 000009
【図９】
0004602487.tif 000010
【図１０】
0004602487.tif 000011
【図１１】
0004602487.tif 000012
【図１２】
0004602487.tif 000013
【図１３】
0004602487.tif 000014
【図１４】
0004602487.tif 000015
【図１５】
0004602487.tif 000016
【図１６】
0004602487.tif 000017
【図１７】
0004602487.tif 000018
【図１８】
0004602487.tif 000019
【図１９】
0004602487.tif 000020
【図２０】
0004602487.tif 000021
【図２１】
0004602487.tif 000022
【図２２】
0004602487.tif 000023
【図２３】
0004602487.tif 000024
【図２４】
0004602487.tif 000025
【図２５】
0004602487.tif 000026
【図２６】
0004602487.tif 000027
【図２７】
0004602487.tif 000028