(57)【要約】  本開示は概して、電子デバイスの制御に関する。いくつかの実施例では、電子デバイスは、凝視情報を使用してデジタルアシスタントをアクティブ化する。いくつかの実施例では、電子デバイスは、凝視情報を使用して作用する外部デバイスを識別する。いくつかの実施例では、電子デバイスは、異なる発語者を区別する指示を提供する。
2021521496.tif 000002
【特許請求の範囲】
【請求項１】
方法であって、
電子デバイスにおいて、
前記電子デバイスのデジタルアシスタントがアクティブ化されていない間に、
１つ以上のカメラセンサを使用して、第１の凝視情報を取得することと、
前記第１の凝視情報が１つ以上のアクティブ化基準のセットを満たすとの判定に従って、
前記電子デバイスの前記デジタルアシスタントをアクティブ化することと、
前記１つ以上のアクティブ化基準のセットが満たされているという指示を提供することと、
を含む、方法。
【請求項２】
前記第１の凝視情報が前記１つ以上のアクティブ化基準のセットを満たさないとの判定に従って、
前記デジタルアシスタントのアクティブ化を見合わせる ことと、
を更に含む、請求項１に記載の方法。
【請求項３】
コマンドを実行するための音声によるユーザ入力要求を受信することと、
前記コマンドを実行するために前記音声によるユーザ入力要求を受信したことに応じて、
１つ以上の実行基準のセットが満たされたとの判定に従って、前記音声によるユーザ入力要求の内容に基づいて前記コマンドを実行することと、
を更に含む、請求項１又は２に記載の方法。
【請求項４】
前記電子デバイスは、前記デジタルアシスタントがアクティブ化されていない間に、前記音声によるユーザ入力要求を受信するのを開始する、請求項３に記載の方法。
【請求項５】
前記音声によるユーザ入力要求を受信する前には第１の音量で生成される音声出力を生成することと、
前記音声によるユーザ入力要求の受信を開始したことに応じて、
前記音声出力の音量を、前記第１の音量よりも小さい第２の音量であってユーザと前記電子デバイスとの間の距離に基づく前記第２の音量に減らすこと、
を更に含む、請求項３又は４に記載の方法。
【請求項６】
前記コマンドを実行するための前記音声によるユーザ入力要求を受信したことに応じて、
前記１つ以上の実行基準のセットであって、第２の凝視情報が、前記ユーザが前記デジタルアシスタントのアクティブ化と前記音声によるユーザ入力要求の終了との間で、閾値持続時間を超えて前記電子デバイスに向けた凝視を中断しないことを示すと前記電子デバイスが判定したときに満たされる、連続凝視基準を含む前記１つ以上の実行基準のセットが満たされていないとの判定に従って、前記音声によるユーザ入力要求の前記内容に基づく前記コマンドを実行することを見合わせること、
を更に含む、請求項３乃至５のいずれか一項に記載の方法。
【請求項７】
前記コマンドを実行するための前記音声によるユーザ入力要求を受信したことに応じて、
前記１つ以上の実行基準のセットが満たされていないとの判定に従って、ヘッドシェイクによる指示であって、
前記電子デバイスのディスプレイの第１の側に第１の光パターンを表示することと、
前記第１の光パターンを表示したことに続いて、前記電子デバイスの前記ディスプレイの第２の側に第２の光パターンを表示することと、
前記第２の光パターンを表示したことに続いて、前記電子デバイスの前記ディスプレイの前記第１の側に前記第１の光パターンを表示することと、
を含む前記ヘッドシェイクによる指示を提供する、請求項３乃至６のいずれか一項に記載の方法。
【請求項８】
前記指示は、前記デジタルアシスタントがアクティブ化されていることを示す視覚的指示である、請求項１乃至７のいずれか一項に記載の方法。
【請求項９】
前記指示は、前記デジタルアシスタントがアクティブ化されていることを示す音声による指示である、請求項１乃至８のいずれか一項に記載の方法。
【請求項１０】
前記１つ以上のアクティブ化基準のセットは、判定されたオフセット角度が閾値オフセット角度未満であるときに満たされる視野基準を含み、前記判定されたオフセット角度は、
ユーザの凝視の視線と、
前記ユーザから前記電子デバイスへの算出された視線と
の間に形成される角度である、請求項１乃至９のいずれか一項に記載の方法。
【請求項１１】
前記ユーザの前記凝視の前記視線が、前記ユーザの頭部位置に基づくものである、請求項１０に記載の方法。
【請求項１２】
前記１つ以上のアクティブ化基準のセットは、前記第１の凝視情報から判定された前記凝視の静止時間が閾値時間を超えるときに満たされる静止時間基準を含む、請求項１乃至１１のいずれか一項に記載の方法。
【請求項１３】
電子デバイスの１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶する非一時的コンピュータ可読記憶媒体であって、前記１つ以上のプログラムは、請求項１乃至１２のいずれか一項に記載の方法を実行する命令を含む、非一時的コンピュータ可読記憶媒体。
【請求項１４】
１つ以上のプロセッサと、
前記１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶するメモリと、
を備え、前記１つ以上のプログラムは、請求項１乃至１２のいずれか一項に記載の方法を実行するための命令を含む、電子デバイス。
【請求項１５】
請求項１乃至１２のいずれか一項に記載の方法を実行する手段を備える、電子デバイス。
【請求項１６】
電子デバイスの１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶する非一時的コンピュータ可読記憶媒体であって、前記１つ以上のプログラムは、
前記電子デバイスのデジタルアシスタントがアクティブ化されていない間、
１つ以上のカメラセンサを使用して、第１の凝視情報を取得する命令と、
前記第１の凝視情報が１つ以上のアクティブ化基準のセットを満たすとの判定に従って、
前記電子デバイスの前記デジタルアシスタントをアクティブ化する命令と、
前記１つ以上のアクティブ化基準のセットが満たされているという指示を提供する命令と、を含む、非一時的コンピュータ可読記憶媒体。
【請求項１７】
１つ以上のプロセッサと、
前記１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶するメモリと、を備える電子デバイスであって、前記１つ以上のプログラムは、
前記電子デバイスのデジタルアシスタントがアクティブ化されていない間に、
１つ以上のカメラセンサを使用して、第１の凝視情報を取得する命令と、
前記第１の凝視情報が１つ以上のアクティブ化基準のセットを満たすとの判定に従って、
前記電子デバイスの前記デジタルアシスタントをアクティブ化する命令と、
前記１つ以上のアクティブ化基準のセットが満たされているという指示を提供する命令と、を含む、電子デバイス。
【請求項１８】
前記電子デバイスのデジタルアシスタントがアクティブ化されていない間に、
１つ以上のカメラセンサを使用して、第１の凝視情報を取得する手段と、
前記第１の凝視情報が１つ以上のアクティブ化基準のセットを満たすとの判定に従って、
前記電子デバイスの前記デジタルアシスタントをアクティブ化し、
前記１つ以上のアクティブ化基準のセットが満たされているという指示を提供する手段と、
を備える、電子デバイス。
【請求項１９】
方法であって、
電子デバイスにおいて、
第１の外部デバイスが第１の状態にある間に、
第１のコマンドを実行するための音声によるユーザ入力要求を受信することと、
１つ以上のカメラセンサを使用して、第１の凝視情報を取得することと、
前記第１の凝視情報を使用した、１つ以上の凝視基準のセットが前記第１の外部デバイスに対して満たされたとの判定に従って、
前記第１のコマンドに基づいて、前記第１の外部デバイスを前記第１の状態から第２の状態に遷移させる命令を送信することと、
を含む、方法。
【請求項２０】
前記第１の凝視情報を使用した、前記１つ以上の凝視基準のセットが、第１の外部デバイスに対して満たされないとの判定に従って、
前記第１の外部デバイスを前記第１の状態から前記第２の状態に遷移させる前記命令を送信することを見合わせること、
を更に含む、請求項１９に記載の方法。
【請求項２１】
前記１つ以上の凝視基準のセットは、判定されたオフセット角度が閾値オフセット角度未満であるときに満たされる視野基準を含み、前記判定されたオフセット角度は、
ユーザの凝視の視線と、
前記ユーザから前記第１の外部デバイスへの算出された視線との間に形成される角度である、請求項１９又は２０に記載の方法。
【請求項２２】
前記ユーザの前記凝視の前記視線は、前記ユーザの頭部位置に基づくものである、請求項２１に記載の方法。
【請求項２３】
前記１つ以上の凝視基準のセットは、前記第１の凝視情報から判定された前記凝視の静止時間が閾値時間を超えるときに、前記第１の外部デバイスに対して満たされる静止時間基準を含む、請求項１９乃至２２のいずれか一項に記載の方法。
【請求項２４】
前記１つ以上の凝視基準のセットが前記第１の外部デバイスに対して満たされたとの判定に従って、前記１つ以上の凝視基準のセットが満たされたことの指示を提供すること、
を更に含む、請求項１９乃至２３のいずれか一項に記載の方法。
【請求項２５】
前記第１の外部デバイスを前記第１の状態から前記第２の状態に遷移させる前記命令を送信したことに続いて、前記第１の外部デバイスが前記第２の状態にあるという指示を提供すること、
を更に含む、請求項１９乃至２４のいずれか一項に記載の方法。
【請求項２６】
前記指示はドメイン固有である、請求項２４又は２５に記載の方法。
【請求項２７】
電子デバイスは前記第１の外部デバイスとペアリングされる、請求項１９乃至２６のいずれか一項に記載の方法。
【請求項２８】
前記第１の外部デバイスが前記第１の状態にあり、かつ第２の外部デバイスが第３の状態にある間に、
前記第１の凝視情報を使用した、前記第２の外部デバイスに対して前記１つ以上の凝視基準のセットが満たされるとの判定に従って、
前記第１のコマンドに基づいて、前記第２の外部デバイスを前記第３の状態から第４の状態に遷移させる命令を送信することと、
前記第１の凝視情報を使用した、前記１つ以上の凝視基準のセットが前記第２の外部デバイスに対して満たされないとの判定に従って、
前記第１のコマンドに基づいて、前記第２の外部デバイスを前記第３の状態から前記第４の状態に遷移させる命令の送信を見合わせることと、
を更に含む、請求項１９乃至２７のいずれか一項に記載の方法。
【請求項２９】
前記第１の外部デバイスが前記第２の状態にあり、かつ第２の外部デバイスが第３の状態にある間に、
第２のコマンドを含む第２のユーザ入力要求を受信することと、
１つ以上のカメラセンサを使用して、第２の凝視情報を取得することと、
前記第２の凝視情報を使用した、前記第２の外部デバイスに対して前記１つ以上の凝視基準のセットが満たされるとの判定に従って、
前記第２のコマンドに基づいて、前記第１の外部デバイスが前記第２の状態のままである間に、前記第２の外部デバイスを前記第３の状態から第４の状態に遷移させる命令を送信することと、
を更に含む、請求項１９乃至２８のいずれか一項に記載の方法。
【請求項３０】
前記第２の外部デバイスが前記第３の状態にある間に、
前記第２の凝視情報を使用した、前記１つ以上の凝視基準のセットが、前記第２の外部デバイスに対して満たされないとの判定に応じて、
前記第２の外部デバイスを前記第３の状態から前記第４の状態に遷移させるように前記命令を送信することを見合わせることと、
を更に含む、請求項２９に記載の方法。
【請求項３１】
前記第２の外部デバイスを前記第３の状態から前記第４の状態に遷移させるように前記命令を送信することに続いて、前記第２の外部デバイスが前記第４の状態にあることを示す指示を提供すること、
を更に含む、請求項２８乃至３０のいずれか一項に記載の方法。
【請求項３２】
前記第１の外部デバイスを前記第１の状態から前記第２の状態に遷移させるように前記命令を送信することに続いて、
前記第３の外部デバイスから、前記第３の外部デバイスによって受信された入力の指示を受信することと、
前記第１の外部デバイスに命令した前記電子デバイスの最新性に基づいて、第２の命令を前記第１の外部デバイスに送信することと、
を更に含む、請求項１９乃至３１のいずれか一項に記載の方法。
【請求項３３】
電子デバイスの１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶する非一時的コンピュータ可読記憶媒体であって、前記１つ以上のプログラムは、請求項１９〜３２のいずれか一項に記載の方法を実行する命令を含む、非一時的コンピュータ可読記憶媒体。
【請求項３４】
１つ以上のプロセッサと、
前記１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶するメモリと、を備える電子デバイスであって、前記１つ以上のプログラムは、請求項１９から３２のいずれか一項に記載の方法を実行するための命令
を含む、電子デバイス。
【請求項３５】
請求項１９乃至３２のいずれか一項に記載の方法を実行する手段
を備える、電子デバイス。
【請求項３６】
電子デバイスの１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶する非一時的コンピュータ可読記憶媒体であって、前記１つ以上のプログラムは、
第１の外部デバイスが第１の状態にある間に、
第１のコマンドを実行するための音声によるユーザ入力要求を受信する命令と、
１つ以上のカメラセンサを使用して、第１の凝視情報を取得する命令と、
前記第１の凝視情報を使用した、１つ以上の凝視基準のセットが前記第１の外部デバイスに対して満たされるとの判定に従って、
前記第１のコマンドに基づいて、前記第１の外部デバイスを前記第１の状態から第２の状態に遷移させる命令を送信する命令と、を含む、非一時的コンピュータ可読記憶媒体。
【請求項３７】
１つ以上のプロセッサと、
前記１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶するメモリと、を備える電子デバイスであって、前記１つ以上のプログラムは、
第１の外部デバイスが第１の状態にある間に、
第１のコマンドを実行するための音声によるユーザ入力要求を受信する命令と、
１つ以上のカメラセンサを使用して、第１の凝視情報を取得する命令と、
前記第１の凝視情報を使用した、１つ以上の凝視基準のセットが前記第１の外部デバイスに対して満たされるとの判定に従って、
前記第１のコマンドに基づいて、前記第１の外部デバイスを前記第１の状態から第２の状態に遷移させる命令を送信する命令と、を含む、電子デバイス。
【請求項３８】
第１の外部デバイスが第１の状態にある間に、
第１のコマンドを実行するための音声によるユーザ入力要求を受信し、
１つ以上のカメラセンサを使用して、第１の凝視情報を取得する手段と、
前記第１の凝視情報を使用した、１つ以上の凝視基準のセットが前記第１の外部デバイスに対して満たされたという判定に従って、
前記第１のコマンドに基づいて、前記第１の外部デバイスを前記第１の状態から第２の状態に遷移させる命令を送信する手段と、
を含む、電子デバイス。
【請求項３９】
方法であって、
電子デバイスにおいて、
音声によるユーザ入力要求を受信することと、
前記音声によるユーザ入力要求が第１のユーザに対応するとの判定に従って、インジケータの特性の値を前記第１のユーザに対応する第１の値に更新することと、
前記音声によるユーザ入力要求が前記第１のユーザとは異なる第２のユーザに対応するとの判定に従って、前記インジケータの前記特性の前記値を前記第２のユーザに対応する、前記第１の値とは異なる第２の値に更新することと、
前記特性の前記更新された値を含む前記インジケータを使用して前記音声によるユーザ入力要求に応答することと、
を含む、方法。
【請求項４０】
前記音声によるユーザ入力要求がユーザ発語入力であり、前記特性の前記値を更新することは、前記音声によるユーザ入力要求の前記内容に基づくものではない、請求項３９に記載の方法。
【請求項４１】
前記インジケータは視覚的インジケータであり、
前記音声によるユーザ入力要求を受信したことに応じて、かつ前記音声によるユーザ入力要求が特定のユーザに対応するとの前記判定の前に、前記視覚的インジケータを、前記特性のデフォルト値であって前記第１の値及び前記第２の値とは異なるデフォルト値により表示すること
を更に含む、請求項３９又は４０に記載の方法。
【請求項４２】
前記音声によるユーザ入力要求を受信する前に、登録情報を受信することと、前記登録情報を使用して、前記特性の前記第１の値を前記第１のユーザに関連付け、前記特性の前記第２の値を前記第２のユーザに関連付けることと、
を更に含む、請求項３９乃至４１のいずれか一項に記載の方法。
【請求項４３】
音声認識、顔認識、及び前記音声によるユーザ入力要求の方向のうちの１つ以上に基づいて、前記音声によるユーザ入力要求に関連付けられたユーザを判定すること
を更に含む、請求項３９乃至４２のいずれか一項に記載の方法。
【請求項４４】
前記インジケータを使用して前記音声によるユーザ入力要求に応答することは、前記音声によるユーザ入力要求に関連付けられた前記ユーザに対応する前記特性の前記値を使用して、視覚的インジケータを表示することを含む、請求項３９乃至４３のいずれか一項に記載の方法。
【請求項４５】
前記インジケータを使用して前記音声によるユーザ入力要求に応答することは、前記音声によるユーザ入力要求に関連付けられた前記ユーザに対応する前記特性の前記値を使用して、音声によるインジケータを提供することを含む、請求項３９乃至４４のいずれか一項に記載の方法。
【請求項４６】
前記音声によるインジケータの前記特性は、前記音声によるユーザ入力要求に関連付けられたユーザに対応する用語である、請求項４５に記載の方法。
【請求項４７】
電子デバイスの１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶する非一時的コンピュータ可読記憶媒体であって、前記１つ以上のプログラムは、請求項３９〜４６のいずれか一項に記載の方法を実行する命令を含む、非一時的コンピュータ可読記憶媒体。
【請求項４８】
１つ以上のプロセッサと、
前記１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶するメモリと、を備える電子デバイスであって、前記１つ以上のプログラムは、請求項３９乃至４６のいずれか一項に記載の方法を実行するための命令を含む、電子デバイス。
【請求項４９】
請求項３９乃至４６のいずれか一項に記載の方法を実行する手段
を備える、電子デバイス。
【請求項５０】
電子デバイスの１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶する非一時的コンピュータ可読記憶媒体であって、前記１つ以上のプログラムは、
音声によるユーザ入力要求を受信する命令と、
前記音声によるユーザ入力要求が第１のユーザに対応するとの判定に従って、インジケータの特性の値を前記第１のユーザに対応する第１の値に更新する命令と、
前記音声によるユーザ入力要求が前記第１のユーザとは異なる第２のユーザに対応するとの判定に従って、前記インジケータの前記特性の前記値を前記第２のユーザに対応する第２の値であって、前記第１の値とは異なる第２の値に更新する命令と、
前記インジケータであって、前記特性の前記更新された値を含む前記インジケータを使用して前記音声によるユーザ入力要求に応答する命令と、を含む、非一時的コンピュータ可読記憶媒体。
【請求項５１】
１つ以上のプロセッサと、
前記１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶するメモリと、を備える電子デバイスであって、前記１つ以上のプログラムは、
音声によるユーザ入力要求を受信する命令と、
前記音声によるユーザ入力要求が第１のユーザに対応するとの判定に従って、インジケータの特性の値を前記第１のユーザに対応する第１の値に更新する命令と、
前記音声によるユーザ入力要求が前記第１のユーザとは異なる第２のユーザに対応するとの判定に従って、前記インジケータの前記特性の前記値を前記第２のユーザに対応する第２の値であって、前記第１の値とは異なる第２の値に更新する命令と、
前記インジケータであって、前記特性の前記更新された値を含む前記インジケータを使用して前記音声によるユーザ入力要求に応答する命令と、を含む、電子デバイス。
【請求項５２】
音声によるユーザ入力要求を受信する手段と、
前記音声によるユーザ入力要求が第１のユーザに対応するとの判定に従って、インジケータの特性の値を前記第１のユーザに対応する第１の値に更新する手段と、
前記音声によるユーザ入力要求が前記第１のユーザとは異なる第２のユーザに対応するとの判定に従って、前記インジケータの前記特性の前記値を、前記第２のユーザに対応する第２の値であって、前記第１の値とは異なる第２の値に更新する手段と、
前記インジケータであって、前記特性の前記更新された値を含む前記インジケータを使用して前記音声によるユーザ入力要求に応答する手段と、
を備える、電子デバイス。
【発明の詳細な説明】
【関連出願の相互参照】
【０００１】
本出願は、２０１８年９月２８日に出願された米国特許仮出願第６２／７３９，０８７号、題名「ＤＥＶＩＣＥ  ＣＯＮＴＲＯＬ  ＵＳＩＮＧ  ＧＡＺＥ  ＩＮＦＯＲＭＡＴＩＯＮ」に対する優先権を主張するものであり、参照によりその内容全体が本明細書に組み込まれる。
【技術分野】
【０００２】
本開示は概して、コンピュータユーザインタフェースに関し、特に、凝視情報を用いて電子デバイスを制御するための技法に関する。
【背景技術】
【０００３】
ユーザは、電子デバイスを制御するために、キー押下及び音声入力などの入力を提供することが多い。例えば、ユーザは、デバイスのボタンをアクティブ化するか、又はトリガフレーズを発語して、デバイス上のアプリケーションを開始する。このような入力は、ユーザが手の届く範囲内にいるか、又はマイクロフォンの範囲内にいることが必要となることが多い。
【０００４】
インテリジェント自動アシスタント（又は、デジタルアシスタント）は、人間のユーザと電子デバイスとの間の有益なインタフェースを提供することができる。そのようなアシスタントにより、ユーザは、発語形式及び／又はテキスト形式の自然言語を使用して、デバイス又はシステムと対話することが可能となり得る。例えば、ユーザは、電子デバイス上で動作しているデジタルアシスタントに、ユーザ要求を含む発語入力を提供することができる。デジタルアシスタントは、その発語入力からユーザの意図を解釈し、そのユーザの意図をタスクへと動作化し、そのタスクを実行することができる。一部のシステムでは、この方法でタスクを実行することは、タスクが認識される方法において制約を受け得る。しかしながら、一部の場合には、ユーザは、特定のコマンドのセットに制限され、ユーザは、自然言語発語入力を使用して、デジタルアシスタントにタスクを実行するように容易に指示することができない場合がある。更には、多くの場合には、デジタルアシスタントは、以前のユーザ挙動に基づく適応ができず、同様に、ユーザエクスペリエンスの望ましい最適化に欠けている。
【発明の概要】
【０００５】
しかし、電子デバイスを制御するためのいくつかの技法は概して、煩雑であり、非効率的である。例えば、一部の既存の技術では、複数回のキー押下又は打鍵を含む場合がある、複雑かつ時間のかかるユーザインタフェースが使用されている。別の実施例では、いくつかの既存の技法は、デバイスのボタンをアクティブ化するためにユーザが腕の長さの距離内にいることが必要となる。既存の技法は、必要以上の時間がかかり、ユーザの時間及びデバイスのエネルギーを浪費する。後者の問題は、バッテリ動作式デバイスにおいては特に重大である。
【０００６】
したがって、本技法は、電子デバイスを制御するための、より高速で効率的な方法及びインタフェースを電子デバイスに提供する。このような方法及びインタフェースは、任意選択的に、電子デバイスを制御するための他の方法を補完するか、又はそれに取って代わる。そのような方法及びインタフェースは、ユーザにかかる認識的負担を低減し、より効率的なヒューマン−マシンインタフェースを作成する。バッテリ動作コンピューティングデバイスの場合、そのような方法及びインタフェースは、電力を節約し、バッテリ充電の間隔を長くする。このような技法は、ユーザが電子デバイスに手が届く範囲内にいない、かつ／又はユーザが騒々しい環境（例えば、電子デバイスによって生成されている音声に基づく騒音を含む）におかれた環境において、ユーザがより効率的に電子デバイスと対話することもまた可能にする。
【０００７】
いくつかの実施形態によれば、方法が提供される。この方法は、電子デバイスにおいて実行される。方法は、電子デバイスのデジタルアシスタントがアクティブ化されていない間に、１つ以上のカメラセンサを使用して、第１の凝視情報を取得することと、
第１の凝視情報が１つ以上のアクティブ化基準のセットを満たすとの判定に従って、電子デバイスのデジタルアシスタントをアクティブ化することと、１つ以上のアクティブ化基準のセットが満たされているという指示を提供することと、を含む。
【０００８】
いくつかの実施形態によれば、非一時的コンピュータ可読記憶媒体が提供される。媒体は、電子デバイスの１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶する。１つ以上のプログラムは、電子デバイスのデジタルアシスタントがアクティブ化されていない間に、１つ以上のカメラセンサを使用して、第１の凝視情報を取得する命令と、第１の凝視情報が１つ以上のアクティブ化基準のセットを満たすとの判定に従って、電子デバイスのデジタルアシスタントをアクティブ化する命令と、１つ以上のアクティブ化基準のセットが満たされているという指示を提供する命令と、を含む。
【０００９】
いくつかの実施形態によれば、一時的コンピュータ可読記憶媒体が提供される。媒体は、電子デバイスの１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶する。１つ以上のプログラムは、電子デバイスのデジタルアシスタントがアクティブ化されていない間に、１つ以上のカメラセンサを使用して、第１の凝視情報を取得する命令と、第１の凝視情報が１つ以上のアクティブ化基準のセットを満たすとの判定に従って、電子デバイスのデジタルアシスタントをアクティブ化する命令と、１つ以上のアクティブ化基準のセットが満たされているという指示を提供する命令と、を含む。
【００１０】
いくつかの実施形態によれば、電子デバイスが提供される。電子デバイスは、１つ以上のプロセッサと、１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶するメモリと、を備え、１つ以上のプログラムは、電子デバイスのデジタルアシスタントがアクティブ化されていない間に、１つ以上のカメラセンサを使用して、第１の凝視情報を取得する命令と、第１の凝視情報が１つ以上のアクティブ化基準のセットを満たすとの判定に従って、電子デバイスのデジタルアシスタントをアクティブ化する命令と、１つ以上のアクティブ化基準のセットが満たされているという指示を提供する命令と、を含む。
【００１１】
いくつかの実施形態によれば、電子デバイスが提供される。電子デバイスは、電子デバイスのデジタルアシスタントがアクティブ化されていない間に、１つ以上のカメラセンサを使用して、第１の凝視情報を取得する手段と、第１の凝視情報が１つ以上のアクティブ化基準のセットを満たすとの判定に従って、電子デバイスのデジタルアシスタントをアクティブ化し、１つ以上のアクティブ化基準のセットが満たされているという指示を提供する手段と、を備える。
【００１２】
いくつかの実施形態によれば、方法が提供される。方法は、電子デバイスにおいて実行される。方法は、第１の外部デバイスが第１の状態にある間に、第１のコマンドを実行するための音声によるユーザ入力要求を受信することと、１つ以上のカメラセンサを使用して、第１の凝視情報を取得することと、第１の凝視情報を使用した、１つ以上の凝視基準のセットが第１の外部デバイスに対して満たされたとの判定に従って、第１のコマンドに基づいて、第１の外部デバイスを第１の状態から第２の状態に遷移させる命令を送信することと、を含む。
【００１３】
いくつかの実施形態によれば、非一時的コンピュータ可読記憶媒体が提供される。媒体は、電子デバイスの１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶する。１つ以上のプログラムは、第１の外部デバイスが第１の状態にある間に、第１のコマンドを実行するための音声によるユーザ入力要求を受信する命令と、１つ以上のカメラセンサを使用して、第１の凝視情報を取得する命令と、第１の凝視情報を使用した、１つ以上の凝視基準のセットが第１の外部デバイスに対して満たされたとの判定に従って、第１のコマンドに基づいて、第１の外部デバイスを第１の状態から第２の状態に遷移させる命令を送信する命令と、を含む。
【００１４】
いくつかの実施形態によれば、一時的コンピュータ可読記憶媒体が提供される。媒体は、電子デバイスの１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶する。１つ以上のプログラムは、第１の外部デバイスが第１の状態にある間に、第１のコマンドを実行するための音声によるユーザ入力要求を受信する命令と、１つ以上のカメラセンサを使用して、第１の凝視情報を取得する命令と、第１の凝視情報を使用した、１つ以上の凝視基準のセットが第１の外部デバイスに対して満たされたとの判定に従って、第１のコマンドに基づいて、第１の外部デバイスを第１の状態から第２の状態に遷移させる命令を送信する命令と、を含む。
【００１５】
いくつかの実施形態によれば、電子デバイスが提供される。電子デバイスは、１つ以上のプロセッサと、１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶するメモリと、を備え、１つ以上のプログラムは、第１の外部デバイスが第１の状態にある間に、第１のコマンドを実行するための音声によるユーザ入力要求を受信する命令と、１つ以上のカメラセンサを使用して、第１の凝視情報を取得する命令と、第１の凝視情報を使用した、１つ以上の凝視基準のセットが第１の外部デバイスに対して満たされたとの判定に従って、第１のコマンドに基づいて、第１の外部デバイスを第１の状態から第２の状態に遷移させる命令を送信する命令と、を含む。
【００１６】
いくつかの実施形態によれば、電子デバイスが提供される。電子デバイスは、第１の外部デバイスが第１の状態にある間に、第１のコマンドを実行するための音声によるユーザ入力要求を受信し、１つ以上のカメラセンサを使用して、第１の凝視情報を取得する手段と、第１の凝視情報を使用した、第１の外部デバイスに対して１つ以上の凝視基準のセットが満たされたという判定に従って、第１のコマンドに基づいて、第１の外部デバイスを第１の状態から第２の状態に遷移させる命令を送信する手段と、を備える。
【００１７】
いくつかの実施形態によれば、方法が提供される。方法は、電子デバイスで行われる。方法は、音声によるユーザ入力要求を受信することと、音声によるユーザ入力要求が第１のユーザに対応するとの判定に従って、インジケータの特性の値を第１のユーザに対応する第１の値に更新することと、音声によるユーザ入力要求が第１のユーザとは異なる第２のユーザに対応するとの判定に従って、インジケータの特性の値を第２のユーザに対応する、第１の値とは異なる第２の値に更新することと、特性の更新された値を含むインジケータを使用して音声によるユーザ入力要求に応答することと、を含む。
【００１８】
いくつかの実施形態によれば、非一時的コンピュータ可読記憶媒体が提供される。媒体は、電子デバイスの１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶する。１つ以上のプログラムは、音声によるユーザ入力要求を受信する命令と、音声によるユーザ入力要求が第１のユーザに対応するとの判定に従って、インジケータの特性の値を第１のユーザに対応する第１の値に更新する命令と、音声によるユーザ入力要求が第１のユーザとは異なる第２のユーザに対応するとの判定に従って、インジケータの特性の値を第２のユーザに対応する、第１の値とは異なる第２の値に更新する命令と、特性の更新された値を含むインジケータを使用して音声によるユーザ入力要求に応答する命令と、を含む。
【００１９】
いくつかの実施形態によれば、一時的コンピュータ可読記憶媒体が提供される。媒体は、電子デバイスの１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶する。１つ以上のプログラムは、音声によるユーザ入力要求を受信する命令と、音声によるユーザ入力要求が第１のユーザに対応するとの判定に従って、インジケータの特性の値を第１のユーザに対応する第１の値に更新する命令と、音声によるユーザ入力要求が第１のユーザとは異なる第２のユーザに対応するとの判定に従って、インジケータの特性の値を第２のユーザに対応する、第１の値とは異なる第２の値に更新する命令と、特性の更新された値を含むインジケータを使用して音声によるユーザ入力要求に応答する命令と、を含む。
【００２０】
いくつかの実施形態によれば、電子デバイスが提供される。電子デバイスは、１つ以上のプロセッサと、１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶するメモリと、を備え、１つ以上のプログラムは、音声によるユーザ入力要求を受信する命令と、音声によるユーザ入力要求が第１のユーザに対応するとの判定に従って、インジケータの特性の値を第１のユーザに対応する第１の値に更新する命令と、音声によるユーザ入力要求が第１のユーザとは異なる第２のユーザに対応するとの判定に従って、インジケータの特性の値を第２のユーザに対応する、第１の値とは異なる第２の値に更新する命令と、特性の更新された値を含むインジケータを使用して音声によるユーザ入力要求に応答する命令と、を含む。
【００２１】
いくつかの実施形態によれば、電子デバイスが提供される。電子デバイスは、音声によるユーザ入力要求を受信する手段と、音声によるユーザ入力要求が第１のユーザに対応するとの判定に従って、インジケータの特性の値を第１のユーザに対応する第１の値に更新する手段と、音声によるユーザ入力要求が第１のユーザとは異なる第２のユーザに対応するとの判定に従って、インジケータの特性の値であって、第１の値とは異なる第２の値に更新する手段と、インジケータであって、特性の更新された値を含むインジケータを使用して音声によるユーザ入力要求に応答する手段と、を備える。
【００２２】
これらの機能を実行する実行可能命令は、任意選択的に、１つ以上のプロセッサによって実行されるために構成された非一時的コンピュータ可読記憶媒体又は他のコンピュータプログラム製品内に含まれる。これらの機能を実行する実行可能命令は、任意選択的に、１つ以上のプロセッサによって実行されるために構成された一時的コンピュータ可読記憶媒体又は他のコンピュータプログラム製品内に含まれる。
【００２３】
このため、デバイスは電子デバイスを制御するための、より高速で効率的な方法及びインタフェースを備え、それによって、このようなデバイスの有効性、効率、及びユーザ満足度が増す。このような方法及びインタフェースは、電子デバイスを制御するための他の方法を補完するか、又はそれに取って代わり得る。
【図面の簡単な説明】
【００２４】
説明される様々な実施形態をより良く理解するため、以下の図面と併せて、以下の「発明を実施するための形態」が参照されるべきであり、類似の参照番号は、以下の図の全てを通じて、対応する部分を指す。
【００２５】
【図１Ａ】いくつかの実施形態に係る、タッチ感知ディスプレイを有するポータブル多機能デバイスを示すブロック図である。
【００２６】
【図１Ｂ】いくつかの実施形態に係る、イベント処理のための例示的な構成要素を示すブロック図である。
【００２７】
【図１Ｃ】いくつかの実施形態によるデジタルアシスタントを実装するためのシステム及び環境を示すブロック図である。
【００２８】
【図２】いくつかの実施形態に係る、タッチスクリーンを有するポータブル多機能デバイスを示す図である。
【００２９】
【図３】いくつかの実施形態に係る、ディスプレイ及びタッチ感知面を有する例示的な多機能デバイスのブロック図である。
【００３０】
【図４Ａ】いくつかの実施形態に係る、ポータブル多機能デバイス上のアプリケーションのメニューの例示的なユーザインタフェースを示す図である。
【００３１】
【図４Ｂ】いくつかの実施形態に係る、ディスプレイとは別個のタッチ感知面を有する多機能デバイスの例示的なユーザインタフェースを示す図である。
【００３２】
【図５Ａ】いくつかの実施形態に係る、パーソナル電子デバイスを示す図である。
【００３３】
【図５Ｂ】いくつかの実施形態に係る、パーソナル電子デバイスを示すブロック図である。
【００３４】
【図６Ａ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【図６Ｂ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【図６Ｃ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【図６Ｄ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【図６Ｅ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【図６Ｆ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【図６Ｇ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【図６Ｈ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【図６Ｉ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【図６Ｊ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【図６Ｋ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【図６Ｌ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【図６Ｍ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【図６Ｎ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【図６Ｏ】凝視情報を使用してデジタルアシスタントをアクティブ化する例示的な技法を示す。
【００３５】
【図７Ａ】凝視情報を使用してデジタルアシスタントをアクティブ化する方法を示すフロー図である。
【図７Ｂ】凝視情報を使用してデジタルアシスタントをアクティブ化する方法を示すフロー図である。
【００３６】
【図８Ａ】凝視情報を使用してコンテキストをコマンドに提供する例示的な技法を示す。
【図８Ｂ】凝視情報を使用してコンテキストをコマンドに提供する例示的な技法を示す。
【図８Ｃ】凝視情報を使用してコンテキストをコマンドに提供する例示的な技法を示す。
【図８Ｄ】凝視情報を使用してコンテキストをコマンドに提供する例示的な技法を示す。
【図８Ｅ】凝視情報を使用してコンテキストをコマンドに提供する例示的な技法を示す。
【図８Ｆ】凝視情報を使用してコンテキストをコマンドに提供する例示的な技法を示す。
【図８Ｇ】凝視情報を使用してコンテキストをコマンドに提供する例示的な技法を示す。
【図８Ｈ】凝視情報を使用してコンテキストをコマンドに提供する例示的な技法を示す。
【図８Ｉ】凝視情報を使用してコンテキストをコマンドに提供する例示的な技法を示す。
【図８Ｊ】凝視情報を使用してコンテキストをコマンドに提供する例示的な技法を示す。
【図８Ｋ】凝視情報を使用してコンテキストをコマンドに提供する例示的な技法を示す。
【図８Ｌ】凝視情報を使用してコンテキストをコマンドに提供する例示的な技法を示す。
【００３７】
【図９Ａ】凝視情報を使用してコンテキストをコマンドに提供する方法を示すフロー図である。
【図９Ｂ】凝視情報を使用してコンテキストをコマンドに提供する方法を示すフロー図である。
【００３８】
【図１０Ａ】異なる発語者を区別する指示を提供する例示的な技法を示す。
【図１０Ｂ】異なる発語者を区別する指示を提供する例示的な技法を示す。
【図１０Ｃ】異なる発語者を区別する指示を提供する例示的な技法を示す。
【図１０Ｄ】異なる発語者を区別する指示を提供する例示的な技法を示す。
【００３９】
【図１１Ａ】異なる発語者を区別する指示を提供する方法を示すフロー図である。
【図１１Ｂ】異なる発語者を区別する指示を提供する方法を示すフロー図である。
【発明を実施するための形態】
【００４０】
以下の説明は、例示的な方法、パラメータなどについて記載する。しかしながら、そのような説明は、本開示の範囲に対する限定として意図されるものではなく、むしろ例示的な実施形態の説明として提供されることを認識されたい。
【００４１】
電子デバイスを制御するための効率的な方法及びインタフェースを提供する電子デバイスが必要とされている。例えば、ユーザが、デジタルアシスタントをアクティブ化するために触知入力又は言語入力を提供する必要性が排除又は低減されることにより、ユーザは電子デバイスをより効果的に制御することが可能になる。別の実施例では、ユーザの凝視を介して外部デバイスを特定することにより、そのようなデバイスを特定するためにコンテキスト及び複雑で時間のかかるユーザ入力を提供する必要性が排除又は低減される。このような技法は、電子デバイスを制御するユーザの認識的負担を軽減し、それによって生産性を高めることができる。更に、そのような技法は、普通なら冗長なユーザ入力に浪費されるプロセッサ及びバッテリの電力を低減することができる。
【００４２】
以下、図１Ａ〜図１Ｃ、図２、図３、図４Ａ〜図４Ｂ、及び図５Ａ〜図５Ｂは、電子デバイスを制御するための技法を実行するための例示的なデバイスの説明を提供する。図６Ａ〜図６Ｏは、凝視情報を使用してデジタルアシスタントをアクティブ化するための例示的なユーザインタフェースを示す。図７Ａ〜図７Ｂは、いくつかの実施形態に係る、凝視情報を使用してデジタルアシスタントをアクティブ化する方法を示すフロー図である。図６Ａ〜図６Ｏのユーザインタフェースは、図７Ａ〜図７Ｂのプロセスを含む後述のプロセスを示すために使用される。図８Ａ〜図８Ｌは、凝視情報を使用してコンテキストをコマンドに提供するための例示的なユーザインタフェースを示す。図９Ａ〜図９Ｂは、いくつかの実施形態に係る、凝視情報を使用してコンテキストをコマンドに提供するための方法を示すフロー図である。図８Ａ〜図８Ｌのユーザインタフェースは、図９Ａ〜図９Ｂのプロセスを含む後述するプロセスを示すために使用される。図１０Ａ〜図１０Ｄは、異なる発語者を区別する指示を提供するための例示的なユーザインタフェースを示す。図１１Ａ〜図１１Ｂは、いくつかの実施形態に係る、異なる発語者を区別する指示を提供する方法を示すフロー図である。図１０Ａ〜図１０Ｄのユーザインタフェースは、図１１Ａ〜図１１Ｂのプロセスを含む後述するプロセスを示すために使用される。
【００４３】
以下の説明では、様々な要素について説明するために、「第１の」、「第２の」などの用語を使用するが、これらの要素は、それらの用語によって限定されるべきではない。これらの用語は、ある要素を別の要素と区別するためにのみ使用される。例えば、記載する様々な実施形態の範囲から逸脱することなく、第１のタッチを第２のタッチと呼ぶこともでき、同様に第２のタッチを第１のタッチと呼ぶこともできる。第１のタッチ及び第２のタッチはどちらもタッチであるが、これらは同じタッチではない。
【００４４】
本明細書に記載する様々な実施形態の説明で使用される術語は、特定の実施形態を説明することのみを目的とし、限定的であることは意図されていない。記載する様々な実施形態の説明及び添付の特許請求の範囲において使用されるとき、単数形の「ａ（１つ、一）」、「ａｎ（１つ、一）」、及び「ｔｈｅ（その、この）」は、文脈上別途明白に示されない限り、複数形も同様に含むことが意図される。また、本明細書で使用されるとき、用語「及び／又は」は、関連する列挙された項目のうちの１つ以上のいずれか及び全ての考えられる組み合わせを指し、かつこれを含むことを理解されたい。用語「ｉｎｃｌｕｄｅｓ（含む）」、「ｉｎｃｌｕｄｉｎｇ（含む）」、「ｃｏｍｐｒｉｓｅｓ（含む、備える）」、及び／又は「ｃｏｍｐｒｉｓｉｎｇ（含む、備える）」は、本明細書で使用する場合、述べられた特徴、整数、ステップ、動作、要素、及び／又は構成要素の存在を指定するが、１つ以上の他の特徴、整数、ステップ、動作、要素、構成要素、及び／又はそれらのグループの存在又は追加を除外しないことが更に理解されるであろう。
【００４５】
「〜の場合（if）」という用語は、任意選択的に、文脈に応じて、「〜とき（when）」若しくは「〜とき（upon）」、又は「〜と判定したことに応じて（in response to determining）」若しくは「〜を検出したことに応じて（in response to detecting）」を意味すると解釈される。同様に、「〜と判定された場合（if it is determined）」又は「［記載の状態又はイベント］が検出された場合（if [a stated condition or event] is detected）」という語句は、任意選択的に、文脈に応じて、「〜と判定したとき（upon determining）」若しくは「〜と判定したことに応じて（in response to determining）」、又は「［記載の状態又はイベント］を検出したとき（upon detecting [the stated condition or event]）」若しくは「［記載の状態又はイベント］を検出したことに応じて（in response to detecting [the stated condition or event]）」を意味すると解釈される。
【００４６】
電子デバイス、そのようなデバイス用のユーザインタフェース、及びそのようなデバイスを使用する関連するプロセスの実施形態が説明される。いくつかの実施形態では、デバイスは、ＰＤＡ機能及び／又は音楽プレーヤ機能などの他の機能も含む、携帯電話などのポータブル通信デバイスである。ポータブル多機能デバイスの例示的な実施形態としては、カリフォルニア州クパチーノのＡｐｐｌｅ  Ｉｎｃ．からのｉＰｈｏｎｅ（登録商標）、ｉＰｏｄ  Ｔｏｕｃｈ（登録商標）、及びｉＰａｄ（登録商標）のデバイスが挙げられるが、これらに限定されない。任意選択的に、タッチ感知面（例えば、タッチスクリーンディスプレイ及び／又はタッチパッド）を有するラップトップ又はタブレットコンピュータなどの他のポータブル電子デバイスも使用される。また、いくつかの実施形態では、デバイスはポータブル通信デバイスではなく、タッチ感知面（例えば、タッチスクリーンディスプレイ及び／又はタッチパッド）を有するデスクトップコンピュータであることも理解されたい。
【００４７】
以下の論考では、ディスプレイ及びタッチ感知面を含む電子デバイスについて説明する。しかしながら、電子デバイスは、任意選択的に、物理キーボード、マウス、及び／又はジョイスティックなどの１つ以上の他の物理ユーザインタフェースデバイスを含むことを理解されたい。
【００４８】
デバイスは、通常、描画アプリケーション、プレゼンテーションアプリケーション、ワードプロセッシングアプリケーション、ウェブサイト作成アプリケーション、ディスクオーサリングアプリケーション、スプレッドシートアプリケーション、ゲームアプリケーション、電話アプリケーション、テレビ会議アプリケーション、電子メールアプリケーション、インスタントメッセージングアプリケーション、トレーニングサポートアプリケーション、写真管理アプリケーション、デジタルカメラアプリケーション、デジタルビデオカメラアプリケーション、ウェブブラウジングアプリケーション、デジタル音楽プレーヤアプリケーション、及び／又はデジタルビデオプレーヤアプリケーションのうちの１つ以上などの様々なアプリケーションをサポートする。
【００４９】
本デバイス上で実行される様々なアプリケーションは、タッチ感知面などの、少なくとも１つの共通の物理ユーザインタフェースデバイスを、任意選択的に使用する。タッチ感知面の１つ以上の機能、並びにデバイスに表示される対応する情報は、アプリケーションごとに、及び／又はそれぞれのアプリケーション内で、任意選択的に、調整及び／又は変更される。このように、デバイスの共通の物理アーキテクチャ（タッチ感知面など）は、任意選択的に、ユーザにとって直観的かつ透過的なユーザインタフェースを含む様々なアプリケーションをサポートする。
【００５０】
ここで、タッチ感知ディスプレイを備えるポータブルデバイスの実施形態に注意を向ける。図１Ａは、いくつかの実施形態に係る、タッチ感知ディスプレイシステム１１２を有するポータブル多機能デバイス１００を示すブロック図である。タッチ感知ディスプレイ１１２は、便宜上「タッチスクリーン」と呼ばれることがあり、「タッチ感知ディスプレイシステム」として知られている又は呼ばれることがある。デバイス１００は、メモリ１０２（任意選択的に、１つ以上のコンピュータ可読記憶媒体を含む）、メモリコントローラ１２２、１つ以上の処理ユニット（ＣＰＵ）１２０、周辺機器インタフェース１１８、ＲＦ回路１０８、オーディオ回路１１０、スピーカ１１１、マイクロフォン１１３、入出力（Ｉ／Ｏ）サブシステム１０６、他の入力コントロールデバイス１１６、及び外部ポート１２４を含む。デバイス１００は、任意選択的に、１つ以上の光センサ１６４を含む。デバイス１００は、任意選択的に、デバイス１００上の接触の強度を検出する１つ以上の接触強度センサ１６５（例えば、デバイス１００のタッチ感知ディスプレイシステム１１２などのタッチ感知面）を含む。デバイス１００は、デバイス１００上に触知出力を生成する（例えば、デバイス１００のタッチ感知ディスプレイシステム１１２又はデバイス３００のタッチパッド３５５などのタッチ感知面上に触知出力を生成する）ための、１つ以上の触知出力生成器１６７を、任意選択的に含む。これらの構成要素は、任意選択的に、１つ以上の通信バス又は信号ライン１０３を介して通信する。
【００５１】
本明細書及び特許請求において使用されるとき、タッチ感知面上の接触の「強度」という用語は、タッチ感知面上の接触（例えば、指の接触）の力若しくは圧力（単位面積当たりの力）、又はタッチ感知面上の接触の力若しくは圧力に対する代理（プロキシ）を指す。接触の強度は、少なくとも４つの別個の値を含み、より典型的には、数百の（例えば、少なくとも２５６の）別個の値を含む、値の範囲を有する。接触の強度は、任意選択的に、様々な手法、及び様々なセンサ又はセンサの組み合わせを使用して、判定（又は測定）される。例えば、タッチ感知面の下又はそれに隣接する１つ以上の力センサは、任意選択的に、タッチ感知面上の様々なポイントにおける力を測定するために使用される。いくつかの実装形態では、複数の力センサからの力測定値が、接触の推定される力を決定するために組み合わされる（例えば、加重平均される）。同様に、スタイラスの感圧性先端部が、任意選択的に、タッチ感知面上のスタイラスの圧力を判定するために使用される。あるいは、タッチ感知面上で検出される接触エリアのサイズ及び／若しくはその変化、接触に近接するタッチ感知面の電気容量及び／若しくはその変化、並びに／又は、接触に近接するタッチ感知面の抵抗及び／若しくはその変化が、任意選択的に、タッチ感知面上の接触の力又は圧力の代替物として使用される。一部の実装形態では、接触の力又は圧力の代替測定値が、強度閾値を超えているかどうかを判定するために直接使用される（例えば、強度閾値は、代替測定値に対応する単位で記述される）。いくつかの実装形態では、接触力又は圧力の代理測定値は、力又は圧力の推定値に変換され、力又は圧力の推定値が、強度閾値を超えているかどうかを判定するために使用される（例えば、強度閾値は、圧力の単位で測定される圧力閾値である）。接触の強度をユーザ入力の属性として使用することにより、実装面積が限られている低減されたサイズのデバイス上で、ユーザが他の方法ではアクセス不可能であり得る追加のデバイス機能にユーザがアクセスし、アフォーダンスを（例えば、タッチ感知ディスプレイ上に）表示すること、及び／又は、ユーザ入力を（例えば、タッチ感知ディスプレイ、タッチ感知面、又は、ノブ若しくはボタンなどの物理的／機械的制御部を介して）受信することが可能となる。
【００５２】
本明細書及び特許請求の範囲において使用されるとき、用語「触知出力」は、ユーザの触覚でユーザによって検出されることになる、デバイスの従前の位置に対するそのデバイスの物理的変位、デバイスの構成要素（例えば、タッチ感知面）の、そのデバイスの別の構成要素（例えば、筐体）に対する物理的変位、又は、デバイスの質量中心に対する構成要素の変位を指す。例えば、デバイス又はデバイスの構成要素が、ユーザのタッチに敏感な表面（例えば、ユーザの手の指、手のひら、又は他の部分）に接触している状況では、物理的変位によって生成された触知出力は、そのデバイス又はデバイスの構成要素の物理的特性の認識される変化に相当する触感として、ユーザによって解釈されることになる。例えば、タッチ感知面（例えば、タッチ感知ディスプレイ又はトラックパッド）の移動は、ユーザによって、物理アクチュエータボタンの「ダウンクリック」又は「アップクリック」として、任意選択的に解釈される。場合によっては、ユーザの動作により物理的に押される（例えば、変位される）タッチ感知面に関連付けられた物理アクチュエータボタンの移動がないときでさえ、ユーザは「ダウンクリック」又は「アップクリック」などの触感を感じる。別の例として、タッチ感知面の移動は、タッチ感知面の平滑度に変化がない場合であっても、ユーザによって、そのタッチ感知面の「粗さ」として、任意選択的に解釈又は感知される。そのようなユーザによるタッチの解釈は、ユーザの個人的な感覚認知に左右されるが、大多数のユーザに共通する、多くのタッチの感覚認知が存在する。したがって、触知出力が、ユーザの特定の感覚認知（例えば、「アップクリック」「ダウンクリック」、「粗さ」）に対応するものと記述される場合、別途記載のない限り、生成された触知出力は、記述された感覚認知を典型的な（又は、平均的な）ユーザに対して生成するデバイス、又はデバイスの構成要素の物理的変位に対応する。
【００５３】
デバイス１００は、ポータブル多機能デバイスの一例に過ぎず、デバイス１００は、任意選択的に、示されているものよりも多くの構成要素又は少ない構成要素を有するものであり、任意選択的に、２つ以上の構成要素を組み合わせるものであり、又は、任意選択的に、それらの構成要素の異なる構成若しくは配置を有するものであることを理解されたい。図１Ａに示す様々な構成要素は、１つ以上の信号処理集積回路及び／又は特定用途向け集積回路を含む、ハードウェア、ソフトウェア、又はハードウェアとソフトウェアの両方の組み合せにおいて実装される。
【００５４】
メモリ１０２は、任意選択的に、高速ランダムアクセスメモリを含み、任意選択的に、１つ以上の磁気ディスク記憶デバイス、フラッシュメモリデバイス、又は他の不揮発性ソリッドステートメモリデバイスなどの不揮発性メモリをまた含む。メモリコントローラ１２２は、任意選択的に、デバイス１００の他の構成要素によるメモリ１０２へのアクセスを制御する。
【００５５】
周辺機器インタフェース１１８は、デバイスの入力及び出力周辺機器をＣＰＵ１２０及びメモリ１０２に結合するために使用することができる。１つ以上のプロセッサ１２０は、メモリ１０２に記憶された様々なソフトウェアプログラム及び／又は命令セットを動作させる又は実行して、デバイス１００の様々な機能を実行し、データを処理する。いくつかの実施形態では、周辺機器インタフェース１１８、ＣＰＵ１２０、及びメモリコントローラ１２２は、任意選択的に、チップ１０４などの単一のチップ上に実装される。いくつかの他の実施形態では、それらは別々のチップ上に任意選択的に実装される。
【００５６】
ＲＦ（radio frequency）（無線周波数）回路１０８は、電磁信号とも呼ばれるＲＦ信号を送受信する。ＲＦ回路１０８は、電気信号を電磁信号に、又は電磁信号を電気信号に変換し、電磁信号を介して通信ネットワーク及び他の通信デバイスと通信する。ＲＦ回路１０８は、任意選択的に、これらの機能を実行するための周知の回路を含み、それらの回路としては、限定するものではないが、アンテナシステム、ＲＦ送受信機、１つ以上の増幅器、同調器、１つ以上の発振器、デジタル信号プロセッサ、ＣＯＤＥＣチップセット、加入者識別モジュール（subscriber identity module、ＳＩＭ）カード、メモリなどが挙げられる。ＲＦ回路１０８は、任意選択的に、ワールドワイドウェブ（World Wide Web、ＷＷＷ）とも呼ばれるインターネット、イントラネット、並びに／又はセルラー電話ネットワーク、無線ローカルエリアネットワーク（local area network、ＬＡＮ）及び／若しくはメトロポリタンエリアネットワーク（metropolitan area network、ＭＡＮ）などの無線ネットワークなどのネットワークと、また他のデバイスと、無線通信によって通信する。ＲＦ回路１０８は、任意選択的に、短距離通信無線機などによって近距離通信（near field Communication、ＮＦＣ）フィールドを検出するよく知られている回路を含む。無線通信は、任意選択的に、それだけに限定されるものではないが、モバイル通信用グローバルシステム（Global System for Mobile Communications、ＧＳＭ）、拡張データＧＳＭ環境（Enhanced Data GSM Environment、ＥＤＧＥ）、高速ダウンリンクパケットアクセス（high-speed downlink packet access、ＨＳＤＰＡ）、高速アップリンクパケットアクセス（high-speed uplink packet access、ＨＳＵＰＡ）、エボリューションデータオンリ（Evolution,Data-Only、ＥＶ−ＤＯ）、ＨＳＰＡ、ＨＳＰＡ＋、デュアルセルＨＳＰＡ（Dual-Cell HSPA、ＤＣ−ＨＳＰＤＡ）、ロングタームエボリューション（long term evolution、ＬＴＥ）、近距離通信（ＮＦＣ）、広帯域符号分割多元接続（wideband code division multiple access、Ｗ−ＣＤＭＡ）、符号分割多元接続（code division multiple access、ＣＤＭＡ）、時分割多元接続（time division multiple access、ＴＤＭＡ）、Ｂｌｕｅｔｏｏｔｈ、Ｂｌｕｅｔｏｏｔｈローエネルギー（Bluetooth Low Energy、ＢＴＬＥ）、ワイヤレスフィデリティ（Wireless Fidelity、Ｗｉ−Ｆｉ）（例えば、ＩＥＥＥ８０２．１１ａ、ＩＥＥＥ８０２．１１ｂ、ＩＥＥＥ８０２．１１ｇ、ＩＥＥＥ８０２．１１ｎ、及び／若しくはＩＥＥＥ８０２．１１ａｃ）、ボイスオーバインターネットプロトコル（voice over Internet Protocol、ＶｏＩＰ）、Ｗｉ−ＭＡＸ、電子メール用プロトコル（例えば、インターネットメッセージアクセスプロトコル（Internet message access protocol、ＩＭＡＰ）及び／若しくはポストオフィスプロトコル（post office protocol、ＰＯＰ））、インスタントメッセージング（例えば、拡張可能なメッセージング及びプレゼンスプロトコル（extensible messaging and presence protocol、ＸＭＰＰ）、インスタントメッセージング及びプレゼンスレベレイジングエクステンション用のセッション開始プロトコル（Session Initiation Protocol for Instant Messaging and Presence Leveraging Extensions、ＳＩＭＰＬＥ）、インスタントメッセージング及びプレゼンスサービス（Instant Messaging and Presence Service、ＩＭＰＳ））、並びに／若し���はショートメッセージサービス（Short Message Service、ＳＭＳ）、又は本明細書の出願日の時点でまだ開発されていない通信プロトコルを含む任意の他の適切な通信プロトコルを含む、複数の通信規格、プロトコル、及び技術のうちのいずれかを使用する。
【００５７】
オーディオ回路１１０、スピーカ１１１、及びマイクロフォン１１３は、ユーザとデバイス１００との間のオーディオインタフェースを提供する。オーディオ回路１１０は、周辺機器インタフェース１１８からオーディオデータを受信し、オーディオデータを電気信号に変換し、電気信号をスピーカ１１１に送信する。スピーカ１１１は、電気信号を人間の可聴音波に変換する。オーディオ回路１１０は、マイクロフォン１１３によって音波から変換された電気信号をまた受信する。オーディオ回路１１０は、電気信号をオーディオデータに変換し、オーディオデータを処理のために周辺機器インタフェース１１８に送信する。オーディオデータは、任意選択的に、周辺機器インタフェース１１８によって、メモリ１０２及び／若しくはＲＦ回路１０８から取得され、かつ／又はメモリ１０２及び／若しくはＲＦ回路１０８に伝送される。いくつかの実施形態では、オーディオ回路１１０はまた、ヘッドセットジャック（例えば、図２の２１２）を含む。ヘッドセットジャックは、オーディオ回路１１０と、出力専用ヘッドホン又は出力（例えば片耳又は両耳用のヘッドホン）及び入力（例えばマイクロフォン）の両方を備えるヘッドセットなどの着脱可能なオーディオ入出力周辺機器との間のインタフェースを提供する。
【００５８】
Ｉ／Ｏサブシステム１０６は、タッチスクリーン１１２及び他の入力コントロールデバイス１１６などのデバイス１００上の入出力周辺機器を、周辺機器インタフェース１１８に結合する。Ｉ／Ｏサブシステム１０６は、任意選択的に、ディスプレイコントローラ１５６、光センサコントローラ１５８、深度カメラコントローラ１６９、強度センサコントローラ１５９、触覚フィードバックコントローラ１６１、及び、他の入力デバイス若しくは制御デバイス用の１つ以上の入力コントローラ１６０を含む。１つ以上の入力コントローラ１６０は、他の入力コントロールデバイス１１６からの電気信号の受信／他の入力コントロールデバイス１１６への電気信号の送信を行う。他の入力コントロールデバイス１１６は、任意選択的に、物理ボタン（例えば、プッシュボタン、ロッカボタンなど）、ダイヤル、スライダスイッチ、ジョイスティック、クリックホイールなどを含む。いくつかの代替的な実施形態では、入力コントローラ１６０は、任意選択的に、キーボード、赤外線ポート、ＵＳＢポート、及びマウスなどのポインタデバイスのうちのいずれかに結合される（又はいずれにも結合されない）。１つ以上のボタン（例えば、図２の２０８）は、任意選択的に、スピーカ１１１及び／又はマイクロフォン１１３の音量コントロールのためのアップ／ダウンボタンを含む。１つ以上のボタンは、任意選択的に、プッシュボタン（例えば、図２の２０６）を含む。
【００５９】
全体が参照により本明細書に組み込まれる、２００５年１２月２３日出願の米国特許出願第１１／３２２，５４９号、「Ｕｎｌｏｃｋｉｎｇ  ａ  Ｄｅｖｉｃｅ  ｂｙ  Ｐｅｒｆｏｒｍｉｎｇ  Ｇｅｓｔｕｒｅｓ  ｏｎ  ａｎ  Ｕｎｌｏｃｋ  Ｉｍａｇｅ」、米国特許第７，６５７，８４９号に記載されているように、プッシュボタンの素早い押下は、任意選択的に、タッチスクリーン１１２のロックを解放し、又は任意選択的に、タッチスクリーン上のジェスチャを使用してデバイスをロック解除するプロセスを開始する。プッシュボタン（例えば、２０６）のより長い押下は、任意選択的に、デバイス１００への電力をオン又はオフにする。ボタンのうちの１つ以上の機能性は、任意選択的に、ユーザによってカスタマイズ可能である。タッチスクリーン１１２は、仮想又はソフトボタン及び１つ以上のソフトキーボードを実装するために使用される。
【００６０】
タッチ感知ディスプレイ１１２は、デバイスとユーザとの間の入力インタフェース及び出力インタフェースを提供する。ディスプレイコントローラ１５６は、タッチスクリーン１１２からの電気信号の受信、及び／又はタッチスクリーン１１２への電気信号の送信を行う。タッチスクリーン１１２は、ユーザに対して視覚出力を表示する。視覚出力は、グラフィック、テキスト、アイコン、動画、及びそれらの任意の組み合わせ（総称して「グラフィック」）を任意選択的に含む。いくつかの実施形態では、視覚出力の一部又は全ては、任意選択的に、ユーザインタフェースオブジェクトに対応する。
【００６１】
タッチスクリーン１１２は、触覚及び／又は触知接触に基づくユーザからの入力を受け入れるタッチ感知面、センサ、又はセンサのセットを有する。タッチスクリーン１１２及びディスプレイコントローラ１５６は、（メモリ１０２内の任意の関連モジュール及び／又は命令セットとともに）、タッチスクリーン１１２上で接触（及び任意の接触の移動又は中断）を検出し、検出された接触をタッチスクリーン１１２に表示されたユーザインタフェースオブジェクト（例えば、１つ以上のソフトキー、アイコン、ウェブページ、又は画像）との対話に変換する。例示的な実施形態では、タッチスクリーン１１２とユーザとの間の接触点は、ユーザの指に対応する。
【００６２】
タッチスクリーン１１２は、任意選択的に、ＬＣＤ（液晶ディスプレイ）技術、ＬＰＤ（発光ポリマーディスプレイ）技術、又はＬＥＤ（発光ダイオード）技術を使用するが、他の実施形態では、他のディスプレイ技術も使用される。タッチスクリーン１１２及びディスプレイコントローラ１５６は、任意選択的に、それだけに限定されるものではないが、容量性、抵抗性、赤外線、及び表面音波の技術、並びにタッチスクリーン１１２との１つ以上の接触点を判定する他の近接センサアレイ又は他の要素を含む、現在知られている又は今後開発される複数のタッチ感知技術のうちのいずれかを使用して、接触及びそのあらゆる動き又は中断を検出する。例示的な実施形態では、カリフォルニア州クパチーノのＡｐｐｌｅ  Ｉｎｃ．からのｉＰｈｏｎｅ（登録商標）及びｉＰｏｄ  Ｔｏｕｃｈ（登録商標）に見られるものなどの、投影型相互静電容量感知技術が使用される。
【００６３】
タッチスクリーン１１２のいくつかの実施形態におけるタッチ感知ディスプレイは、任意選択的に、それぞれ全体が参照により本明細書に組み込まれる、米国特許第６，３２３，８４６号（Ｗｅｓｔｅｒｍａｎら）、第６，５７０，５５７号（Ｗｅｓｔｅｒｍａｎら）、及び／若しくは第６，６７７，９３２号（Ｗｅｓｔｅｒｍａｎ）、並びに／又は米国特許公報第２００２／００１５０２４（Ａ１）号に記載されているマルチタッチ感知タッチパッドに類似している。しかし、タッチスクリーン１１２はデバイス１００からの視覚出力を表示するのに対して、タッチ感知タッチパッドは視覚出力を提供しない。
【００６４】
タッチスクリーン１１２のいくつかの実施形態におけるタッチ感知ディスプレイは、以下の出願に記載されている。
（１）２００６年５月２日出願の米国特許出願第１１／３８１，３１３号、「Ｍｕｌｔｉｐｏｉｎｔ  Ｔｏｕｃｈ  Ｓｕｒｆａｃｅ  Ｃｏｎｔｒｏｌｌｅｒ」、（２）２００４年５月６日出願の米国特許出願第１０／８４０，８６２号、「Ｍｕｌｔｉｐｏｉｎｔ  Ｔｏｕｃｈｓｃｒｅｅｎ」、（３）２００４年７月３０日出願の米国特許出願第１０／９０３，９６４号、「Ｇｅｓｔｕｒｅｓ  Ｆｏｒ  Ｔｏｕｃｈ  Ｓｅｎｓｉｔｉｖｅ  Ｉｎｐｕｔ  Ｄｅｖｉｃｅｓ」、（４）２００５年１月３１日出願の米国特許出願第１１／０４８，２６４号、「Ｇｅｓｔｕｒｅｓ  Ｆｏｒ  Ｔｏｕｃｈ  Ｓｅｎｓｉｔｉｖｅ  Ｉｎｐｕｔ  Ｄｅｖｉｃｅｓ」、（５）２００５年１月１８日出願の米国特許出願第１１／０３８，５９０号、「Ｍｏｄｅ−Ｂａｓｅｄ  Ｇｒａｐｈｉｃａｌ  Ｕｓｅｒ  Ｉｎｔｅｒｆａｃｅｓ  Ｆｏｒ  Ｔｏｕｃｈ  Ｓｅｎｓｉｔｉｖｅ  Ｉｎｐｕｔ  Ｄｅｖｉｃｅｓ」、（６）２００５年９月１６日出願の米国特許出願第１１／２２８，７５８号、「Ｖｉｒｔｕａｌ  Ｉｎｐｕｔ  Ｄｅｖｉｃｅ  Ｐｌａｃｅｍｅｎｔ  Ｏｎ  Ａ  Ｔｏｕｃｈ  Ｓｃｒｅｅｎ  Ｕｓｅｒ  Ｉｎｔｅｒｆａｃｅ」、（７）２００５年９月１６日出願の米国特許出願第１１／２２８，７００号、「Ｏｐｅｒａｔｉｏｎ  Ｏｆ  Ａ  Ｃｏｍｐｕｔｅｒ  Ｗｉｔｈ  Ａ  Ｔｏｕｃｈ  Ｓｃｒｅｅｎ  Ｉｎｔｅｒｆａｃｅ」、（８）２００５年９月１６日出願の米国特許出願第１１／２２８，７３７号、「Ａｃｔｉｖａｔｉｎｇ  Ｖｉｒｔｕａｌ  Ｋｅｙｓ  Ｏｆ  Ａ  Ｔｏｕｃｈ−Ｓｃｒｅｅｎ  Ｖｉｒｔｕａｌ  Ｋｅｙｂｏａｒｄ」、及び（９）２００６年３月３日出願の米国特許出願第１１／３６７，７４９号、「Ｍｕｌｔｉ−Ｆｕｎｃｔｉｏｎａｌ  Ｈａｎｄ−Ｈｅｌｄ  Ｄｅｖｉｃｅ」。これらの出願は全て、全体が参照により本明細書に組み込まれる。
【００６５】
タッチスクリーン１１２は、任意選択的に、１００ｄｐｉを超えるビデオ解像度を有する。いくつかの実施形態では、タッチスクリーンは、約１６０ｄｐｉのビデオ解像度を有する。ユーザは、任意選択的に、スタイラス、指などの任意の適した物体又は付属物を使用して、タッチスクリーン１１２に接触する。いくつかの実施形態では、ユーザインタフェースは、指ベースの接触及びジェスチャを主に使用して動作するように設計されるが、これは、タッチスクリーン上の指の接触面積がより大きいため、スタイラスベースの入力ほど正確でない可能性がある。いくつかの実施形態では、デバイスは、指による粗い入力を、ユーザによって所望されているアクションを実行するための、正確なポインタ／カーソルの位置又はコマンドに変換する。
【００６６】
いくつかの実施形態では、タッチスクリーンに加えて、デバイス１００は、任意選択的に、特定の機能をアクティブ化又は非アクティブ化するためのタッチパッドを含む。いくつかの実施形態では、タッチパッドは、タッチスクリーンとは異なり、視覚出力を表示しない、デバイスのタッチ感知エリアである。タッチパッドは、任意選択的に、タッチスクリーン１１２とは別個のタッチ感知面又はタッチスクリーンによって形成されるタッチ感知面の拡張部である。
【００６７】
デバイス１００は、様々な構成要素に電力を供給する電力システム１６２もまた含む。電力システム１６２は、任意選択的に、電力管理システム、１つ以上の電源（例えば、バッテリ、交流（ＡＣ））、再充電システム、停電検出回路、電力コンバータ又はインバータ、電力状態インジケータ（例えば、発光ダイオード（ＬＥＤ））、並びにポータブルデバイス内での電力の生成、管理、及び分配に関連付けられた任意の他の構成要素を含む。
【００６８】
また、デバイス１００は、任意選択的に、１つ以上の光センサ１６４を含む。図１Ａは、Ｉ／Ｏサブシステム１０６内の光センサコントローラ１５８に結合された光センサを示す。光センサ１６４は、任意選択的に、電荷結合デバイス（charge-coupled device、ＣＣＤ）又は相補的金属酸化物半導体（complementary metal-oxide semiconductor、ＣＭＯＳ）フォトトランジスタを含む。光センサ１６４は、１つ以上のレンズを通って投影された環境からの光を受信し、その光を、画像を表すデータに変換する。光センサ１６４は、撮像モジュール１４３（カメラモジュールとも呼ばれる）と連携して、任意選択的に、静止画像又は動画をキャプチャする。いくつかの実施形態では、光センサは、デバイスの前面にあるタッチスクリーンディスプレイ１１２とは反対側のデバイス１００の裏面に位置し、したがってタッチスクリーンディスプレイは、静止画像及び／又は動画の取得のためのビューファインダとして使用することが可能である。いくつかの実施形態では、ユーザが他のテレビ会議参加者をタッチスクリーンディスプレイ上で見ている間に、ユーザの画像が、任意選択的に、テレビ会議のために入手されるように、光センサはデバイスの前面に配置される。いくつかの実施形態では、光センサ１６４の位置は、ユーザによって（例えば、デバイス筐体内でレンズ及びセンサを回転させることによって）変更することができ、したがって単一の光センサ１６４が、タッチスクリーンディスプレイとともに、テレビ会議にも静止画像及び／又は動画の取得にも使用される。
【００６９】
デバイス１００は、任意選択的に、１つ以上の深度カメラセンサ１７５もまた含む。図１Ａは、Ｉ／Ｏサブシステム１０６内の深度カメラコントローラ１６９に結合された深度カメラセンサを示す。深度カメラセンサ１７５は、環境からデータを受信して、視点（例えば、深度カメラセンサ）からのシーン内の対象物（例えば、顔面）の３次元モデルを作成する。いくつかの実施形態では、撮像モジュール１４３（カメラモジュールとも呼ばれる）と連携して、深度カメラセンサ１７５は、任意選択的に、撮像モジュール１４３によってキャプチャされた画像の種々の部分の深度マップを決定するために使用される。いくつかの実施形態では、ユーザが他のテレビ会議参加者をタッチスクリーンディスプレイ上で見る間に、任意選択的に、深度情報を有するユーザの画像をテレビ会議のために取得し、また、深度マップデータを有する自撮り画像をキャプチャするために、デバイス１００の前面に深度カメラセンサが配置されている。いくつかの実施形態では、深度カメラセンサ１７５は、デバイスの背面に、あるいはデバイス１００の背面及び前面に配置される。いくつかの実施形態では、深度カメラセンサ１７５の位置は、ユーザによって（例えば、デバイスハウジング内でレンズ及びセンサを回転させることによって）変更することができ、したがって深度カメラセンサ１７５が、タッチスクリーンディスプレイとともに、テレビ会議にも静止画像及び／又は動画の取得にも使用される。
【００７０】
いくつかの実施形態では、深度マップ（例えば、深度マップ画像）は、視点（例えば、カメラ、光センサ、深度カメラセンサ）からのシーン内の対象物の距離に関する情報（例えば、値）を含む。深度マップの一実施形態では、各深度画素は、その対応する２次元画素が位置する視点のＺ軸における位置を定義する。いくつかの実施形態では、深度マップは画素で構成されており、各画素は、値（例えば、０〜２５５）によって定義される。例えば、値「０」は、「３次元」シーン内で最も遠い場所に位置している画素を表し、値「２５５」は、その「３次元」シーン内で視点（例えば、カメラ、光センサ、深度カメラセンサ）の最も近くに位置している画素を表す。他の実施形態では、深度マップは、シーン内の対象物と視点の平面との間の距離を表す。いくつかの実施形態では、深度マップは、深度カメラから見た、関心対象物の様々な特徴部の相対深度（例えば、ユーザの顔面の目、鼻、口、耳の相対深度）に関する情報を含む。いくつかの実施形態では、深度マップは、関心対象物のｚ方向における輪郭をデバイスが判定することを可能にする、情報を含む。
【００７１】
デバイス１００はまた、任意選択的に、１つ以上の接触強度センサ１６５を含む。図１Ａは、Ｉ／Ｏサブシステム１０６内の強度センサコントローラ１５９に結合された接触強度センサを示す。接触強度センサ１６５は、任意選択的に、１つ以上のピエゾ抵抗ひずみゲージ、容量性力センサ、電気力センサ、圧電力センサ、光学力センサ、容量性タッチ感知面、又は他の強度センサ（例えば、タッチ感知面上の接触の力（若しくは圧力）を測定するために使用されるセンサ）を含む。接触強度センサ１６５は、接触強度情報（例えば、圧力情報、又は圧力情報に対するプロキシ）を環境から受信する。いくつかの実施形態では、少なくとも１つの接触強度センサは、タッチ感知面（例えばタッチ感知ディスプレイシステム１１２）と並置される、又はそれに近接される。いくつかの実施形態では、少なくとも１つの接触強度センサは、デバイス１００の前面に配置されたタッチスクリーンディスプレイ１１２の反対側である、デバイス１００の背面に配置される。
【００７２】
デバイス１００は、任意選択的に、１つ以上の近接センサ１６６もまた含む。図１Ａは、周辺機器インタフェース１１８に結合された近接センサ１６６を示す。あるいは、近接センサ１６６は、任意選択的に、Ｉ／Ｏサブシステム１０６内の入力コントローラ１６０に結合される。近接センサ１６６は、任意選択的に、全体が参照により本明細書に組み込まれる、米国特許出願第１１／２４１，８３９号、「Ｐｒｏｘｉｍｉｔｙ  Ｄｅｔｅｃｔｏｒ  Ｉｎ  Ｈａｎｄｈｅｌｄ  Ｄｅｖｉｃｅ」、第１１／２４０，７８８号、「Ｐｒｏｘｉｍｉｔｙ  Ｄｅｔｅｃｔｏｒ  Ｉｎ  Ｈａｎｄｈｅｌｄ  Ｄｅｖｉｃｅ」、第１１／６２０，７０２号、「Ｕｓｉｎｇ  Ａｍｂｉｅｎｔ  Ｌｉｇｈｔ  Ｓｅｎｓｏｒ  Ｔｏ  Ａｕｇｍｅｎｔ  Ｐｒｏｘｉｍｉｔｙ  Ｓｅｎｓｏｒ  Ｏｕｔｐｕｔ」、第１１／５８６，８６２号、「Ａｕｔｏｍａｔｅｄ  Ｒｅｓｐｏｎｓｅ  Ｔｏ  Ａｎｄ  Ｓｅｎｓｉｎｇ  Ｏｆ  Ｕｓｅｒ  Ａｃｔｉｖｉｔｙ  Ｉｎ  Ｐｏｒｔａｂｌｅ  Ｄｅｖｉｃｅｓ」、及び第１１／６３８，２５１号、「Ｍｅｔｈｏｄｓ  Ａｎｄ  Ｓｙｓｔｅｍｓ  Ｆｏｒ  Ａｕｔｏｍａｔｉｃ  Ｃｏｎｆｉｇｕｒａｔｉｏｎ  Ｏｆ  Ｐｅｒｉｐｈｅｒａｌｓ」で記載されているように機能する。いくつかの実施形態では、多機能デバイスが、ユーザの耳の近くに置かれた場合（例えば、ユーザが電話をかけている場合）、近接センサは、タッチスクリーン１１２をオフにして無効化する。
【００７３】
デバイス１００は、任意選択的に１つ以上の触知出力生成器１６７をまた含む。図１Ａは、Ｉ／Ｏサブシステム１０６内の触覚フィードバックコントローラ１６１に結合された触知出力生成器を示す。触知出力生成器１６７は、任意選択的に、スピーカ若しくは他のオーディオ構成要素などの１つ以上の電気音響デバイス、及び／又はモータ、ソレノイド、電気活性ポリマー、圧電アクチュエータ、静電アクチュエータ、若しくは他の触知出力生成構成要素（例えば、デバイス上で電気信号を触知出力に変換する構成要素）などのエネルギーを直線の動きに変換する電気機械デバイスを含む。接触強度センサ１６５ は、触知フィードバック生成命令を触覚フィードバックモジュール１３３から受信し、デバイス１００のユーザが感知することが可能な触知出力をデバイス１００上に生成する。いくつかの実施形態では、少なくとも１つの触知出力生成器は、タッチ感知面（例えば、タッチ感知ディスプレイシステム１１２）と並置される、又はそれに近接しており、任意選択的に、タッチ感知面を垂直方向（例えば、デバイス１００の表面の内／外）に、又は水平方向（例えば、デバイス１００の表面と同じ平面内での往復）に移動させることによって、触知出力を生成する。いくつかの実施形態では、少なくとも１つの触知出力生成器センサは、デバイス１００の前面に配置されたタッチスクリーンディスプレイ１１２の反対側である、デバイス１００の背面に配置される。
【００７４】
また、デバイス１００は、任意選択的に、１つ以上の加速度計１６８を含む。図１Ａは、周辺機器インタフェース１１８に結合された加速度計１６８を示す。あるいは、加速度計１６８は、任意選択的に、Ｉ／Ｏサブシステム１０６内の入力コントローラ１６０に結合される。加速度計１６８は、任意選択的に、どちらも全体が参照により本明細書に組み込まれる、米国特許公開第２００５０１９００５９号、「Ａｃｃｅｌｅｒａｔｉｏｎ−ｂａｓｅｄ  Ｔｈｅｆｔ  Ｄｅｔｅｃｔｉｏｎ  Ｓｙｓｔｅｍ  ｆｏｒ  Ｐｏｒｔａｂｌｅ  Ｅｌｅｃｔｒｏｎｉｃ  Ｄｅｖｉｃｅｓ」、及び米国特許公開第２００６００１７６９２号、「Ｍｅｔｈｏｄｓ  Ａｎｄ  Ａｐｐａｒａｔｕｓｅｓ  Ｆｏｒ  Ｏｐｅｒａｔｉｎｇ  Ａ  Ｐｏｒｔａｂｌｅ  Ｄｅｖｉｃｅ  Ｂａｓｅｄ  Ｏｎ  Ａｎ  Ａｃｃｅｌｅｒｏｍｅｔｅｒ」に記載されているように機能する。いくつかの実施形態では、情報は、１つ以上の加速度計から受信したデータの分析に基づいて、縦長表示又は横長表示でタッチスクリーンディスプレイに表示される。デバイス１００は、加速度計１６８に加えて、磁気計並びにデバイス１００の場所及び向き（例えば、縦方向又は横方向）に関する情報を取得するためのＧＰＳ（又はＧＬＯＮＡＳＳ又は他のグローバルナビゲーションシステム）受信機を任意選択的に含む。
【００７５】
いくつかの実施形態では、メモリ１０２内に記憶されているソフトウェア構成要素は、オペレーティングシステム１２６、通信モジュール（又は命令セット）１２８、接触／動きモジュール（又は命令セット）１３０、グラフィックモジュール（又は命令セット）１３２、テキスト入力モジュール（又は命令セット）１３４、全地球測位システム（Global Positioning System、ＧＰＳ）モジュール（又は命令セット）１３５、及びアプリケーション（又は命令セット）１３６を含む。更に、いくつかの実施形態では、メモリ１０２（図１Ａ）又は３７０（図３）は、図１Ａ及び図３に示すように、デバイス／グローバル内部状態１５７を記憶する。デバイス／グローバル内部状態１５７は、現在アクティブ状態のアプリケーションがある場合に、どのアプリケーションがアクティブであるかを示すアクティブアプリケーション状態、どのアプリケーション、ビュー、又は他の情報がタッチスクリーンディスプレイ１１２の様々な領域を占めているかを示す表示状態、デバイスの様々なセンサ及び入力コントロールデバイス１１６から取得した情報を含むセンサ状態、並びにデバイスの位置、及び／又は姿勢に関する位置情報のうちの１つ以上を含む。
【００７６】
オペレーティングシステム１２６（例えば、Ｄａｒｗｉｎ、ＲＴＸＣ、ＬＩＮＵＸ、ＵＮＩＸ、ＯＳ  Ｘ、ｉＯＳ、ＷＩＮＤＯＷＳ、又はＶｘＷｏｒｋｓなどの組込み型オペレーティングシステム）は、全般的なシステムタスク（例えば、メモリ管理、記憶装置制御、電力管理など）を制御及び管理する様々なソフトウェア構成要素及び／又はドライバを含み、様々なハードウェア構成要素とソフトウェア構成要素との間の通信を容易にする。
【００７７】
通信モジュール１２８は、１つ以上の外部ポート１２４を介する他のデバイスとの通信を容易にし、ＲＦ回路１０８及び／又は外部ポート１２４が受信したデータを処理するための様々なソフトウェア構成要素もまた含む。外部ポート１２４（例えば、ユニバーサルシリアルバス（Universal Serial Bus、ＵＳＢ）、ＦＩＲＥＷＩＲＥなど）は、他のデバイスとの直接的な結合、又はネットワーク（例えばインターネット、無線ＬＡＮなど）を介する間接的な結合に適合されている。いくつかの実施形態では、外部ポートは、ｉＰｏｄ（登録商標）（Ａｐｐｌｅ  Ｉｎｃ．の商標）デバイス上で使用される３０ピンコネクタと同じ若しくは同様であり、かつ／又はそれに適合しているマルチピン（例えば、３０ピン）コネクタである。
【００７８】
接触／動きモジュール１３０は、任意選択的に、タッチスクリーン１１２及び他のタッチ感知デバイス（例えば、タッチパッド又は物理クリックホイール）との接触を（ディスプレイコントローラ１５６と連携して）検出する。接触／動きモジュール１３０は、接触が生じたかどうかを判定すること（例えば、指ダウンイベントを検出すること）、接触の強度（例えば、接触の力若しくは圧力、又は接触の力若しくは圧力の代替物）を判定すること、接触の移動が存在するかどうかを判定し、タッチ感知面を横断する移動を追跡すること（例えば、指をドラッグする１つ以上のイベントを検出すること）、及び接触が停止したかどうかを判定すること（例えば、指アップイベント又は接触の中断を検出すること）などの、接触の検出に関する様々な動作を実行するための、様々なソフトウェア構成要素を含む。接触／動きモジュール１３０は、タッチ感知面から接触データを受信する。一連の接触データによって表される、接触点の移動を判定することは、任意選択的に、接触点の速さ（大きさ）、速度（大きさ及び方向）、及び／又は加速度（大きさ及び／又は方向の変化）を判定することを含む。これらの動作は、任意選択的に、単一の接触（例えば、１本の指の接触）又は複数の同時接触（例えば、「マルチタッチ」／複数の指の接触）に適用される。いくつかの実施形態では、接触／動きモジュール１３０及びディスプレイコントローラ１５６は、タッチパッド上の接触を検出する。
【００７９】
いくつかの実施形態では、接触／動きモジュール１３０は、ユーザによって動作が実行されたかどうかを判定するために（例えば、ユーザがアイコン上で「クリック」したかどうかを判定するために）、１つ以上の強度閾値のセットを使用する。いくつかの実施形態では、強度閾値の少なくとも１つのサブセットは、ソフトウェアパラメータに従って判定される（例えば、強度閾値は、特定の物理アクチュエータのアクティブ化閾値によって決定されるのではなく、デバイス１００の物理ハードウェアを変更することなく調整することができる）。例えば、トラックパッド又はタッチスクリーンディスプレイのマウス「クリック」閾値は、トラックパッド又はタッチスクリーンディスプレイハードウェアを変更することなく、広範囲の既定閾値のうちのいずれかに設定することができる。加えて、いくつかの実装形態では、デバイスのユーザに、（例えば、個々の強度閾値を調整すること、及び／又は複数の強度閾値をシステムレベルのクリック「強度」パラメータによって一度に調整することによって）強度閾値のセットのうちの１つ以上を調整するソフトウェア設定が提供される。
【００８０】
接触／動きモジュール１３０は、任意選択的に、ユーザによるジェスチャ入力を検出する。タッチ感知面上の異なるジェスチャは、異なる接触パターン（例えば検出される接触の異なる動き、タイミング、及び／又は強度）を有する。したがって、ジェスチャは、任意選択的に、特定の接触パターンを検出することによって検出される。例えば、指タップジェスチャを検出することは、指ダウンイベントを検出し、それに続いて指ダウンイベントと同じ位置（又は実質的に同じ位置）（例えば、アイコンの位置）で指アップ（リフトオフ）イベントを検出することを含む。別の例として、タッチ感知面上で指スワイプジェスチャを検出することは、指ダウンイベントを検出し、それに続いて１つ以上の指ドラッグイベントを検出し、その後それに続いて指アップ（リフトオフ）イベントを検出することを含む。
【００８１】
グラフィックモジュール１３２は、表示されるグラフィックの視覚的な影響（例えば、輝度、透明度、彩度、コントラスト、又は他の視覚的特性）を変化させる構成要素を含む、タッチスクリーン１１２又は他のディスプレイ上にグラフィックをレンダリング及び表示する様々な既知のソフトウェア構成要素を含む。本明細書では、「グラフィック」という用語は、それだけに限定されるものではないが、文字、ウェブページ、アイコン（ソフトキーを含むユーザインタフェースオブジェクトなど）、デジタル画像、動画、アニメーションなどを含む、ユーザに表示することができる任意のオブジェクトを含む。
【００８２】
いくつかの実施形態では、グラフィックモジュール１３２は、使用されることになるグラフィックを表すデータを記憶する。各グラフィックには、任意選択的に、対応するコードが割り当てられる。グラフィックモジュール１３２は、アプリケーションなどから、必要に応じて座標データ及び他のグラフィック特性データと共に表示されることとなる、グラフィックを指定する１つ以上のコードを受信し、次にディスプレイコントローラ１５６に出力する画面の画像データを生成する。
【００８３】
触覚フィードバックモジュール１３３は、触知出力生成器１６７によって使用される命令を生成するための様々なソフトウェア構成要素を含み、触知出力生成器１６７は、ユーザのデバイス１００との対話に応じて、デバイス１００上の１つ以上の位置での触知出力を生成する。
【００８４】
テキスト入力モジュール１３４は、任意選択的に、グラフィックモジュール１３２の構成要素であり、様々なアプリケーション（例えば、連絡先１３７、電子メール１４０、ＩＭ１４１、ブラウザ１４７、及びテキスト入力を必要とする任意の他のアプリケーション）でテキストを入力するためのソフトキーボードを提供する。
【００８５】
ＧＰＳモジュール１３５は、デバイスの位置を判定し、この情報を様々なアプリケーションで使用するために（例えば、位置に基づくダイヤル発呼で使用するために電話１３８に、写真／動画のメタデータとしてカメラ１４３に、並びに、天気ウィジェット、地域の職業別電話帳ウィジェット、及び地図／ナビゲーションウィジェットなどの、位置に基づくサービスを提供するアプリケーションに）提供する。
【００８６】
アプリケーション１３６は、任意選択的に、以下のモジュール（又は命令セット）又はそれらのサブセット若しくはスーパーセットを含む。
●連絡先モジュール１３７（アドレス帳又は連絡先リストと呼ばれることもある）、
●電話モジュール１３８、
●テレビ会議モジュール１３９、
●電子メールクライアントモジュール１４０、
●インスタントメッセージング（Instant messaging、ＩＭ）モジュール１４１、
●トレーニングサポートモジュール１４２、
●静止画像及び／又は動画用のカメラモジュール１４３、
●画像管理モジュール１４４、
●動画プレーヤモジュール、
●音楽プレーヤモジュール、
●ブラウザモジュール１４７、
●カレンダモジュール１４８、
●任意選択的に、天気ウィジェット１４９−１、株価ウィジェット１４９−２、計算機ウィジェット１４９−３、目覚まし時計ウィジェット１４９−４、辞書ウィジェット１４９−５、及びユーザによって入手された他のウィジェット、並びにユーザ作成ウィジェット１４９−６のうちの１つ以上を含むウィジェットモジュール１４９、
●ユーザ作成ウィジェット１４９−６を作成するためのウィジェットクリエータモジュール１５０、
●検索モジュール１５１、
●動画プレーヤモジュール及び音楽プレーヤモジュールを一体化した動画及び音楽プレーヤモジュール１５２、
●メモモジュール１５３、
●地図モジュール１５４、並びに／又は、
●オンラインビデオモジュール１５５。
【００８７】
任意選択的にメモリ１０２に記憶される他のアプリケーション１３６の例としては、他のワードプロセッシングアプリケーション、他の画像編集アプリケーション、描画アプリケーション、プレゼンテーションアプリケーション、ＪＡＶＡ対応アプリケーション、暗号化、デジタル著作権管理、音声認識、及び音声複製が挙げられる。
【００８８】
連絡先モジュール１３７は、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、及びテキスト入力モジュール１３４と連携して、任意選択的に、アドレス帳又は連絡先リストを（例えば、メモリ１０２又はメモリ３７０内の連絡先モジュール１３７のアプリケーション内部状態１９２内に記憶して）管理するために使用される。連絡先モジュール１３７による管理には、
アドレス帳に名前を追加すること、アドレス帳から名前（単数又は複数）を削除すること、電話番号（単数又は複数）、電子メールアドレス（単数又は複数）、実際の住所（単数又は複数）、又は他の情報を名前に関連付けること、画像を名前に関連付けること、名前を分類して並べ替えること、電話番号又は電子メールアドレスを提供して、電話１３８、テレビ会議モジュール１３９、電子メール１４０、又はＩＭ１４１による通信を開始かつ／又は促進すること、などが含まれる。
【００８９】
電話モジュール１３８は、ＲＦ回路１０８、オーディオ回路１１０、スピーカ１１１、マイクロフォン１１３、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、及びテキスト入力モジュール１３４と連携して、任意選択的に、電話番号に対応する文字シーケンスの入力、連絡先モジュール１３７内の１つ以上の電話番号へのアクセス、入力された電話番号の修正、それぞれの電話番号のダイヤル、通話の実行、並びに通話終了時の接続切断及び通話停止のために使用される。前述したように、無線通信は、任意選択的に、複数の通信規格、プロトコル、及び技術のうちのいずれかを使用する。
【００９０】
テレビ会議モジュール１３９は、ＲＦ回路１０８、オーディオ回路１１０、スピーカ１１１、マイクロフォン１１３、タッチスクリーン１１２、ディスプレイコントローラ１５６、光センサ１６４、光センサコントローラ１５８、接触／動きモジュール１３０、グラフィックモジュール１３２、テキスト入力モジュール１３４、連絡先モジュール１３７、及び電話モジュール１３８と連携して、ユーザの指示に従ってユーザと１人以上の他の参加者との間のテレビ会議を開始、実行、及び終了するための実行可能な命令を含む。
【００９１】
電子メールクライアントモジュール１４０は、ＲＦ回路１０８、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、及びテキスト入力モジュール１３４と連携して、ユーザの指示に応じて電子メールを作成、送信、受信、及び管理するための実行可能な命令を含む。電子メールクライアントモジュール１４０は、画像管理モジュール１４４と連携して、カメラモジュール１４３で撮影された静止画像又は動画を含む電子メールの作成及び送信を非常に容易にする。
【００９２】
インスタントメッセージングモジュール１４１は、ＲＦ回路１０８、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、及びテキスト入力モジュール１３４と連携して、インスタントメッセージに対応する文字シーケンスの入力、以前に入力された文字の修正、（例えば、電話通信ベースのインスタントメッセージ向けのショートメッセージサービス（Short Message Service、ＳＭＳ）若しくはマルチメディアメッセージサービス（Multimedia Message Service、ＭＭＳ）プロトコル、又はインターネットベースのインスタントメッセージ向けのＸＭＰＰ、ＳＩＭＰＬＥ、若しくはＩＭＰＳを使用する）それぞれのインスタントメッセージの送信、インスタントメッセージの受信、及び受信したインスタントメッセージの閲覧のための実行可能な命令を含む。いくつかの実施形態では、送信される及び／又は受信されるインスタントメッセージは、任意選択的に、ＭＭＳ及び／又は拡張メッセージングサービス（Enhanced Messaging Service、ＥＭＳ）でサポートされるようなグラフィック、写真、オーディオファイル、動画ファイル、及び／又は他の添付ファイルを含む。本明細書では、「インスタントメッセージング」とは、電話通信ベースのメッセージ（例えば、ＳＭＳ又はＭＭＳを使用して送信されるメッセージ）と、インターネットベースのメッセージ（例えば、ＸＭＰＰ、ＳＩＭＰＬＥ、又はＩＭＰＳを使用して送信されるメッセージ）との両方を指す。
【００９３】
トレーニングサポートモジュール１４２は、ＲＦ回路１０８、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、テキスト入力モジュール１３４、ＧＰＳモジュール１３５、地図モジュール１５４、及び音楽プレーヤモジュールと連携して、トレーニング（例えば、時間、距離、及び／又はカロリー燃焼の目標を有する）を作成し、トレーニングセンサ（スポーツデバイス）と通信し、トレーニングセンサデータを受信し、トレーニングをモニタするために使用されるセンサを較正し、トレーニングのための音楽を選択及び再生し、並びに、トレーニングデータを表示、記憶、及び送信するための実行可能な命令を含む。
【００９４】
カメラモジュール１４３は、タッチスクリーン１１２、ディスプレイコントローラ１５６、光センサ１６４、光センサコントローラ１５８、接触／動きモジュール１３０、グラフィックモジュール１３２、及び画像管理モジュール１４４と連携して、静止画像若しくは（動画ストリームを含む）動画のキャプチャ及びメモリ１０２内への記憶、静止画像若しくは動画の特性の修正、又はメモリ１０２からの静止画像若しくは動画の削除のための実行可能な命令を含む。
【００９５】
画像管理モジュール１４４は、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、テキスト入力モジュール１３４、及びカメラモジュール１４３と連携して、静止画像及び／若しくは動画の配置、修正（例えば、編集）、又はその他の操作、ラベル付け、削除、（例えば、デジタルスライドショー若しくはアルバムにおける）提示、及び記憶のための実行可能な命令を含む。
【００９６】
ブラウザモジュール１４７は、ＲＦ回路１０８、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、及びテキスト入力モジュール１３４と連携して、ウェブページ又はその一部分、並びにウェブページにリンクされた添付ファイル及び他のファイルの検索、リンク、受信、及び表示を含む、ユーザの指示に従ってインターネットをブラウジングするための実行可能な命令を含む。
【００９７】
カレンダモジュール１４８は、ＲＦ回路１０８、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、テキスト入力モジュール１３４、電子メールクライアントモジュール１４０、及びブラウザモジュール１４７と連携して、ユーザの指示に従って、カレンダ及びカレンダに関連付けられたデータ（例えば、カレンダアイテム、ｔｏ−ｄｏリストなど）を作成、表示、修正、及び記憶するための実行可能な命令を含む。
【００９８】
ウィジェットモジュール１４９は、ＲＦ回路１０８、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、テキスト入力モジュール１３４、及びブラウザモジュール１４７と連携して、任意選択的に、ユーザによってダウンロード及び使用されるミニアプリケーション（例えば、天気ウィジェット１４９−１、株価ウィジェット１４９−２、計算機ウィジェット１４９−３、目覚まし時計ウィジェット１４９−４、及び辞書ウィジェット１４９−５）、又はユーザによって作成されたミニアプリケーション（例えば、ユーザ作成ウィジェット１４９−６）である。いくつかの実施形態では、ウィジェットは、ＨＴＭＬ（Hypertext Markup Language、ハイパーテキストマークアップ言語）ファイル、ＣＳＳ（Cascading Style Sheets、カスケーディングスタイルシート）ファイル、及びＪａｖａＳｃｒｉｐｔファイルを含む。いくつかの実施形態では、ウィジェットは、ＸＭＬ（Extensible Markup Language、拡張可能マークアップ言語）ファイル及びＪａｖａＳｃｒｉｐｔファイル（例えば、Ｙａｈｏｏ！ウィジェット）を含む。
【００９９】
ウィジェットクリエータモジュール１５０は、ＲＦ回路１０８、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、テキスト入力モジュール１３４、及びブラウザモジュール１４７と連携して、任意選択的に、ウィジェットを作成する（例えば、ウェブページのユーザ指定部分をウィジェットにする）ために、ユーザによって使用される。
【０１００】
検索モジュール１５１は、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、及びテキスト入力モジュール１３４と連携して、ユーザの指示に従って１つ以上の検索基準（例えば、１つ以上のユーザ指定検索語）と一致するメモリ１０２内の文字、音楽、サウンド、画像、動画、及び／又は他のファイルを検索するための実行可能な命令を含む。
【０１０１】
動画及び音楽プレーヤモジュール１５２は、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、オーディオ回路１１０、スピーカ１１１、ＲＦ回路１０８、及びブラウザモジュール１４７と連携して、ＭＰ３又はＡＡＣファイルなどの１つ以上のファイル形式で記憶された録音済みの音楽及び他のサウンドファイルをユーザがダウンロード及び再生できるようにする実行可能な命令、並びに動画を（例えば、タッチスクリーン１１２上又は外部ポート１２４を介して接続された外部のディスプレイ上に）表示、提示、又は別の方法で再生するための実行可能な命令を含む。いくつかの実施形態では、デバイス１００は、任意選択的に、ｉＰｏｄ（Ａｐｐｌｅ  Ｉｎｃ．の商標）などのＭＰ３プレーヤの機能を含む。
【０１０２】
メモモジュール１５３は、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、及びテキスト入力モジュール１３４と連携して、ユーザの指示に従ってメモ、ｔｏ−ｄｏリストなどを作成及び管理するための実行可能な命令を含む。
【０１０３】
地図モジュール１５４は、ＲＦ回路１０８、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、テキスト入力モジュール１３４、ＧＰＳモジュール１３５、及びブラウザモジュール１４７と連携して、任意選択的に、ユーザの指示に従って、地図及び地図に関連付けられたデータ（例えば、運転の道順、特定の場所又はその付近の店舗及び他の見どころに関するデータ、並びに他の場所ベースのデータ）を受信、表示、修正、及び記憶するために使用される。
【０１０４】
オンラインビデオモジュール１５５は、タッチスクリーン１１２、ディスプレイコントローラ１５６、接触／動きモジュール１３０、グラフィックモジュール１３２、オーディオ回路１１０、スピーカ１１１、ＲＦ回路１０８、テキスト入力モジュール１３４、電子メールクライアントモジュール１４０、及びブラウザモジュール１４７と連携して、ユーザが特定のオンラインビデオへのアクセス、特定のオンラインビデオのブラウジング、（例えば、ストリーミング及び／又はダウンロードによる）受信、（例えば、タッチスクリーン上又は外部ポート１２４を介して接続された外部ディスプレイ上の）再生、特定のオンラインビデオへのリンクを有する電子メールの送信、並びにＨ．２６４などの１つ以上のファイル形式のオンラインビデオの他の管理を行うことを可能にする命令を含む。いくつかの実施形態では、特定のオンラインビデオへのリンクを送信するために、電子メールクライアントモジュール１４０ではなく、インスタントメッセージングモジュール１４１が使用される。オンラインビデオアプリケーションについての追加の説明は、その内容の全体が参照により本明細書に組み込まれる、２００７年６月２０日出願の米国仮特許出願第６０／９３６，５６２号、「Ｐｏｒｔａｂｌｅ  Ｍｕｌｔｉｆｕｎｃｔｉｏｎ  Ｄｅｖｉｃｅ，Ｍｅｔｈｏｄ，ａｎｄ  Ｇｒａｐｈｉｃａｌ  Ｕｓｅｒ  Ｉｎｔｅｒｆａｃｅ  ｆｏｒ  Ｐｌａｙｉｎｇ  Ｏｎｌｉｎｅ  Ｖｉｄｅｏｓ」、及び２００７年１２月３１日出願の米国特許出願第１１／９６８，０６７号、「Ｐｏｒｔａｂｌｅ  Ｍｕｌｔｉｆｕｎｃｔｉｏｎ  Ｄｅｖｉｃｅ，Ｍｅｔｈｏｄ，ａｎｄ  Ｇｒａｐｈｉｃａｌ  Ｕｓｅｒ  Ｉｎｔｅｒｆａｃｅ  ｆｏｒ  Ｐｌａｙｉｎｇ  Ｏｎｌｉｎｅ  Ｖｉｄｅｏｓ」を参照されたい。
【０１０５】
上記で特定したモジュール及びアプリケーションはそれぞれ、前述した１つ以上の機能及び本出願に記載した方法（例えば、本明細書に記載したコンピュータにより実装される方法及び他の情報処理方法）を実行する実行可能な命令のセットに対応する。これらのモジュール（例えば、命令セット）は、別個のソフトウェアプログラム、手順、又はモジュールとして実装される必要はなく、したがって、様々な実施形態において、これらのモジュールの様々なサブセットが、任意選択的に、組み合わされ、又は別の方法で再構成される。例えば、動画プレーヤモジュールは、任意選択的に、音楽プレーヤモジュールと組み合わされて、単一のモジュール（例えば、図１Ａの動画及び音楽プレーヤモジュール１５２）にされる。いくつかの実施形態では、メモリ１０２は、任意選択的に、上記で特定されたモジュール及びデータ構造のサブセットを記憶する。更に、メモリ１０２は、上記で説明されていない追加のモジュール及びデータ構造を任意選択的に記憶する。
【０１０６】
いくつかの実施形態では、デバイス１００は、そのデバイスにおける既定の機能のセットの動作がタッチスクリーン及び／又はタッチパッドのみを介して実行されるデバイスである。デバイス１００が動作するための主要な入力コントロールデバイスとしてタッチスクリーン及び／又はタッチパッドを使用することにより、任意選択的に、デバイス１００上の物理的な入力コントロールデバイス（プッシュボタン、ダイヤルなど）の数が削減される。
【０１０７】
タッチスクリーン及び／又はタッチパッドを通じてのみ実行される既定の機能のセットは、任意選択的に、ユーザインタフェース間のナビゲーションを含む。いくつかの実施形態では、タッチパッドは、ユーザによってタッチされたときに、デバイス１００上に表示される任意のユーザインタフェースから、デバイス１００をメイン、ホーム、又はルートメニューにナビゲートする。そのような実施形態では、「メニューボタン」は、タッチパッドを使用して実装される。いくつかの他の実施形態では、メニューボタンは、タッチパッドではなく、物理プッシュボタン又はその他の物理入力コントロールデバイスである。
【０１０８】
図１Ｂは、いくつかの実施形態に係る、イベント処理のための例示的な構成要素を示すブロック図である。いくつかの実施形態では、メモリ１０２（図１Ａ）又は３７０（図３）は、イベントソータ１７０（例えば、オペレーティングシステム１２６内）と、それぞれのアプリケーション１３６−１（例えば、前述のアプリケーション１３７〜１５１、１５５、３８０〜３９０のうちのいずれか）とを含む。
【０１０９】
イベントソータ１７０は、イベント情報を受信し、イベント情報を伝送する先である、アプリケーション１３６−１及びアプリケーション１３６−１のアプリケーションビュー１９１を決定する。イベントソータ１７０は、イベントモニタ１７１及びイベントディスパッチャモジュール１７４を含む。いくつかの実施形態では、アプリケーション１３６−１は、アプリケーションがアクティブ又は実行中であるときにタッチ感知ディスプレイ１１２に表示される現在のアプリケーションビューを示すアプリケーション内部状態１９２を含む。いくつかの実施形態では、デバイス／グローバル内部状態１５７は、どのアプリケーション（単数又は複数）が現在アクティブであるかを判定するためにイベントソータ１７０によって使用され、アプリケーション内部状態１９２は、イベント情報が伝送されるアプリケーションビュー１９１を判定するためにイベントソータ１７０によって使用される。
【０１１０】
いくつかの実施形態では、アプリケーション内部状態１９２は、アプリケーション１３６−１が実行を再開するときに使用すべき再開情報、アプリケーション１３６−１によって表示されている情報又は表示する準備ができている情報を示すユーザインタフェース状態情報、ユーザがアプリケーション１３６−１の以前の状態又はビューに戻ることを可能にする状態キュー、及びユーザによって行われた以前のアクションのリドゥ／アンドゥキューのうちの１つ以上などの追加の情報を含む。
【０１１１】
イベントモニタ１７１は、周辺機器インタフェース１１８からイベント情報を受信する。イベント情報は、サブイベント（例えば、タッチ感知ディスプレイ１１２でのマルチタッチジェスチャの一部としてのユーザタッチ）に関する情報を含む。周辺機器インタフェース１１８は、Ｉ／Ｏサブシステム１０６から受信する情報、あるいは近接センサ１６６、加速度計（単数又は複数）１６８、及び／又は（オーディオ回路１１０を介した）マイクロフォン１１３などのセンサから受信する情報を伝達する。周辺機器インタフェース１１８がＩ／Ｏサブシステム１０６から受信する情報は、タッチ感知ディスプレイ１１２又はタッチ感知面からの情報を含む。
【０１１２】
いくつかの実施形態では、イベントモニタ１７１は、所定の間隔で周辺機器インタフェース１１８に要求を送信する。それに応じて、周辺機器インタフェース１１８は、イベント情報を送信する。他の実施形態では、周辺機器インタフェース１１８は、重要なイベント（例えば、所定のノイズ閾値を上回る及び／又は所定の持続時間を超える入力の受信）があるときのみイベント情報を送信する。
【０１１３】
いくつかの実施形態では、イベントソータ１７０はまた、ヒットビュー判定モジュール１７２及び／又はアクティブイベント認識部判定モジュール１７３を含む。
【０１１４】
ヒットビュー判定モジュール１７２は、タッチ感知ディスプレイ１１２が２つ以上のビューを表示しているときに、サブイベントが１つ以上のビュー内のどこで起きたかを判定するソフトウェア手順を提供する。ビューは、ユーザがディスプレイ上で見ることができる制御部及び他の要素から構成されている。
【０１１５】
アプリケーションに関連付けられたユーザインタフェースの別の態様は、本明細書ではアプリケーションビュー又はユーザインタフェースウィンドウと呼ばれることがあるビューのセットであり、その中で情報が表示され、タッチに基づくジェスチャが生じる。タッチが検出される（それぞれのアプリケーションの）アプリケーションビューは、任意選択的に、アプリケーションのプログラム階層又はビュー階層内のプログラムレベルに対応する。例えば、タッチが検出される最下位レベルビューは、任意選択的に、ヒットビューと呼ばれ、また、適切な入力として認識されるイベントのセットは、任意選択的に、タッチによるジェスチャを開始する初期タッチのヒットビューに少なくとも部分的に基づいて判定される。
【０１１６】
ヒットビュー判定モジュール１７２は、タッチに基づくジェスチャのサブイベントに関連する情報を受信する。アプリケーションが階層状に構成された複数のビューを有するとき、ヒットビュー判定モジュール１７２は、サブイベントを処理すべき階層内の最下位のビューとして、ヒットビューを特定する。ほとんどの状況では、ヒットビューは、開始サブイベント（例えば、イベント又は潜在的イベントを形成するサブイベントシーケンスにおける第１のサブイベント）が発生する最も低いレベルのビューである。ヒットビューがヒットビュー判定モジュール１７２によって特定されると、ヒットビューは、通常、ヒットビューとして特定されたタッチ又は入力ソースと同じタッチ又は入力ソースに関係する全てのサブイベントを受信する。
【０１１７】
アクティブイベント認識部判定モジュール１７３は、ビュー階層内のどのビュー（単数又は複数）がサブイベントの特定のシーケンスを受信すべきかを判定する。いくつかの実施形態では、アクティブイベント認識部判定モジュール１７３は、ヒットビューのみがサブイベントの特定のシーケンスを受信すべきであると判定する。他の実施形態では、アクティブイベント認識部判定モジュール１７３は、サブイベントの物理的位置を含む全てのビューがアクティブに関わりがあるビューであると判定し、したがって、全てのアクティブに関わりがあるビューが、サブイベントの特定のシーケンスを受信すべきであると判定する。他の実施形態では、タッチサブイベントが１つの特定のビューに関連付けられたエリアに完全に限定されている場合でも、階層内の上位のビューは、依然としてアクティブに関わりがあるビューであり続ける。
【０１１８】
イベントディスパッチャモジュール１７４は、イベント情報をイベント認識部（例えばイベント認識部１８０）に送り出す。アクティブイベント認識部判定モジュール１７３を含む実施形態では、イベントディスパッチャモジュール１７４は、アクティブイベント認識部判定モジュール１７３により判定されたイベント認識部にイベント情報を伝送する。いくつかの実施形態では、イベントディスパッチャモジュール１７４は、それぞれのイベント受信部１８２によって取得されるイベント情報をイベントキューに記憶する。
【０１１９】
いくつかの実施形態では、オペレーティングシステム１２６は、イベントソータ１７０を含む。あるいは、アプリケーション１３６−１がイベントソータ１７０を含む。更に他の実施形態では、イベントソータ１７０は、独立型のモジュールであり、又は接触／動きモジュール１３０などのメモリ１０２内に記憶されている別のモジュールの一部分である。
【０１２０】
いくつかの実施形態では、アプリケーション１３６−１は、それぞれがアプリケーションのユーザインタフェースのそれぞれのビュー内で発生するタッチイベントを処理するための命令を含む、複数のイベント処理部１９０及び１つ以上のアプリケーションビュー１９１を含む。アプリケーション１３６−１の各アプリケーションビュー１９１は、１つ以上のイベント認識部１８０を含む。典型的には、それぞれのアプリケーションビュー１９１は、複数のイベント認識部１８０を含む。他の実施形態では、イベント認識部１８０のうちの１つ以上は、ユーザインタフェースキット、又は、アプリケーション１３６−１が方法及び他の属性を継承する上位レベルのオブジェクトなどの、別個のモジュールの一部である。いくつかの実施形態では、それぞれのイベント処理部１９０は、データ更新部１７６、オブジェクト更新部１７７、ＧＵＩ更新部１７８、及び／又はイベントソータ１７０から受信されたイベントデータ１７９、のうちの１つ以上を含む。イベント処理部１９０は、任意選択的に、データ更新部１７６、オブジェクト更新部１７７、又はＧＵＩ更新部１７８を利用し又は呼び出して、アプリケーション内部状態１９２を更新する。あるいは、アプリケーションビュー１９１のうちの１つ以上が、１つ以上のそれぞれのイベント処理部１９０を含む。また、いくつかの実施形態では、データ更新部１７６、オブジェクト更新部１７７、及びＧＵＩ更新部１７８のうちの１つ以上は、それぞれのアプリケーションビュー１９１に含まれる。
【０１２１】
それぞれのイベント認識部１８０は、イベントソータ１７０からイベント情報（例えば、イベントデータ１７９）を受信し、イベント情報からイベントを特定する。イベント認識部１８０は、イベント受信部１８２とイベント比較部１８４を含む。いくつかの実施形態では、イベント認識部１８０はまた、メタデータ１８３及びイベント伝送命令１８８（任意選択的にサブイベント伝送命令を含む）の少なくともサブセットも含む。
【０１２２】
イベント受信部１８２は、イベントソータ１７０からイベント情報を受信する。イベント情報は、サブイベント、例えば、タッチ又はタッチの移動についての情報を含む。サブイベントに応じて、イベント情報はまた、サブイベントの位置などの追加の情報を含む。サブイベントがタッチの動きに関わるとき、イベント情報は任意選択的に、サブイベントの速さ及び方向もまた含む。いくつかの実施形態では、イベントは、１つの向きから別の向きへの（例えば、縦向きから横向きへ、又はその逆の）デバイスの回転を含み、イベント情報は、デバイスの現在の向き（デバイスの姿勢とも呼ぶ）についての対応する情報を含む。
【０１２３】
イベント比較部１８４は、イベント情報を、既定のイベント又はサブイベントの定義と比較し、その比較に基づいて、イベント又はサブイベントを判定するか、あるいはイベント又はサブイベントの状態を判定若しくは更新する。いくつかの実施形態では、イベント比較部１８４は、イベント定義１８６を含む。イベント定義１８６は、例えばイベント１（１８７−１）及びイベント２（１８７−２）などのイベント（例えば、既定のサブイベントのシーケンス）の定義を含む。いくつかの実施形態では、イベント（１８７）内のサブイベントは、例えば、タッチの開始、タッチの終了、タッチの移動、タッチの取り消し、及び複数のタッチを含む。一実施例では、イベント１（１８７−１）についての定義は、表示されたオブジェクト上のダブルタップである。ダブルタップは、例えば、所定の段階に対する表示オブジェクト上の第１のタッチ（タッチ開始）、所定の段階に対する第１のリフトオフ（タッチ終了）、所定の段階に対する表示オブジェクト上の第２のタッチ（タッチ開始）、及び所定の段階に対する第２のリフトオフ（タッチ終了）を含む。別の実施例では、イベント２（１８７−２）の定義は、表示されたオブジェクト上のドラッグである。ドラッグは、例えば、所定の段階に対する表示オブジェクト上のタッチ（又は接触）、タッチ感知ディスプレイ１１２にわたるタッチの移動、及びタッチのリフトオフ（タッチ終了）を含む。いくつかの実施形態では、イベントは、１つ以上の関連付けられたイベント処理部１９０に関する情報も含む。
【０１２４】
いくつかの実施形態では、イベント定義１８７は、それぞれのユーザインタフェースオブジェクトについてのイベントの定義を含む。いくつかの実施形態では、イベント比較部１８４は、どのユーザインタフェースオブジェクトがサブイベントに関連付けられているかを判定するヒットテストを実行する。例えば、タッチ感知ディスプレイ１１２に３つのユーザインタフェースオブジェクトが表示されているアプリケーションビュー内で、タッチ感知ディスプレイ１１２上でタッチが検出されると、イベント比較部１８４は、ヒットテストを実行して、３つのユーザインタフェースオブジェクトのうちのどれがタッチ（サブイベント）に関連付けられているかを判定する。表示された各オブジェクトが、それぞれのイベント処理部１９０に関連付けられている場合、イベント比較部は、ヒットテストの結果を用いて、どのイベント処理部１９０をアクティブ化すべきかを判定する。例えば、イベント比較部１８４は、ヒットテストをトリガするサブイベント及びオブジェクトに関連付けられたイベント処理部を選択する。
【０１２５】
いくつかの実施形態では、それぞれのイベント１８７の定義は、サブイベントのシーケンスがイベント認識部のイベントタイプに対応するかどうかが判定されるまで、イベント情報の伝送を遅らせる遅延アクションも含む。
【０１２６】
それぞれのイベント認識部１８０が一連のサブイベントがイベント定義１８６のイベントのいずれとも一致しないと判断した場合、それぞれのイベント認識部１８０は、イベント不可能、イベント失敗、又はイベント終了の状態に入り、その後は、タッチに基づくジェスチャのその後のサブイベントを無視する。この状況において、ヒットビューについてアクティブのままである他のイベント認識部があれば、そのイベント認識部は、進行中のタッチによるジェスチャのサブイベントの追跡及び処理を続行する。
【０１２７】
いくつかの実施形態では、それぞれのイベント認識部１８０は、メタデータ１８３を含み、メタデータ１８３は、イベント伝送システムがどのようにサブイベント伝送を実行すべきかをアクティブに関与しているイベント認識部に示す、構成可能なプロパティ、フラグ、及び／又はリストを有する。いくつかの実施形態では、メタデータ１８３は、イベント認識部が互いにどのように対話するか、又はイベント認識部が互いにどのように対話することが可能とされているかを示す構成可能なプロパティ、フラグ、及び／又はリストを含む。いくつかの実施形態では、メタデータ１８３は、サブイベントがビュー階層又はプログラム階層における多様なレベルに伝送されるかどうかを示す、構成可能なプロパティ、フラグ、及び／又はリストを含む。
【０１２８】
いくつかの実施形態では、それぞれのイベント認識部１８０は、イベントの１つ以上の特定のサブイベントが認識されるときに、イベントに関連付けられたイベント処理部１９０をアクティブ化する。いくつかの実施形態では、それぞれのイベント認識部１８０は、イベントに関連付けられたイベント情報をイベント処理部１９０に伝送する。イベント処理部１９０をアクティブ化することは、それぞれのヒットビューにサブイベントを送信する（及び、送信を延期する）こととは別個である。いくつかの実施形態では、イベント認識部１８０は、認識したイベントに関連付けられたフラグを立て、そのフラグに関連付けられたイベント処理部１９０は、そのフラグをキャッチして既定のプロセスを実行する。
【０１２９】
いくつかの実施形態では、イベント伝送命令１８８は、サブイベントについてのイベント情報をイベント処理部をアクティブ化することなく伝送するサブイベント伝送命令を含む。代わりに、サブイベント伝送命令は、一連のサブイベントと関連付けられたイベント処理部に、又はアクティブに関与しているビューにイベント情報を伝送する。一連のサブイベント又はアクティブに関与しているビューと関連付けられたイベント処理部は、イベント情報を受信し、所定の処理を実行する。
【０１３０】
いくつかの実施形態では、データ更新部１７６は、アプリケーション１３６−１で使用されるデータを作成及び更新する。例えば、データ更新部１７６は、連絡先モジュール１３７で使用される電話番号を更新し、又は動画プレーヤモジュールで使用される動画ファイルを記憶する。いくつかの実施形態では、オブジェクト更新部１７７は、アプリケーション１３６−１で使用されるオブジェクトを作成及び更新する。例えば、オブジェクト更新部１７７は、新たなユーザインタフェースオブジェクトを作成し、又はユーザインタフェースオブジェクトの位置を更新する。ＧＵＩ更新部１７８は、ＧＵＩを更新する。例えば、ＧＵＩ更新部１７８は、表示情報を準備し、タッチ感知ディスプレイ上に表示するために表示情報をグラフィックモジュール１３２に送る。
【０１３１】
いくつかの実施形態では、イベント処理部（単数又は複数）１９０は、データ更新部１７６、オブジェクト更新部１７７、及びＧＵＩ更新部１７８を含む又はそれらへのアクセスを有する。いくつかの実施形態では、データ更新部１７６、オブジェクト更新部１７７、及びＧＵＩ更新部１７８は、それぞれのアプリケーション１３６−１又はアプリケーションビュー１９１の単一モジュールに含まれる。他の実施形態では、それらは、２つ以上のソフトウェアモジュールに含まれる。
【０１３２】
タッチ感知ディスプレイ上のユーザのタッチのイベント処理に関する前述の記載は、入力デバイスを用いて多機能デバイス１００を動作させるための他の形態のユーザ入力にも適用されるが、それらの全てがタッチスクリーン上で開始されるわけではないことを理解されたい。例えば、キーボードの単一又は複数の押し下げ若しくは保持と任意選択的に連携される、マウスの移動及びマウスボタンの押し下げ、タッチパッド上のタップ、ドラッグ、スクロールなどの接触の移動、ペンスタイラス入力、デバイスの移動、口頭による命令、検出された眼球運動、バイオメトリック入力、並びに／又はそれらの任意の組み合わせが、任意選択的に、認識されるイベントを定義するサブイベントに対応する入力として利用される。
【０１３３】
図１Ｃは、様々な実施例による、システム２１００のブロック図を示す。一部の実施例では、システム２１００は、デジタルアシスタントを実装する。用語「デジタルアシスタント」、「仮想アシスタント」、「インテリジェント自動アシスタント」、又は「自動デジタルアシスタント」は、発語形式及び／又はテキスト形式の自然言語入力を解釈することによりユーザ意図を推測して、その推測されたユーザ意図に基づいてアクションを実行する、任意の情報処理システムを指す。例えば、システムは、推測されたユーザ意図に基づいて作用するために、推測されたユーザ意図を実現するように設計されたステップ及びパラメータを有するタスクフローを特定し、推測されたユーザ意図からの具体的な要件を、そのタスクフローに入力すること、プログラム、方法、サービス、又はＡＰＩなどを呼び出すことによって、そのタスクフローを実行すること、及び可聴（例えば、発語）形式及び／又は視覚形態で、ユーザに対する出力応答を生成することのうちの、１つ以上を実行する。
【０１３４】
具体的には、デジタルアシスタントは、少なくとも部分的に、自然言語によるコマンド、要求、意見、談話、及び／又は照会の形態で、ユーザ要求を受け入れることが可能である。典型的には、ユーザ要求は、デジタルアシスタントによる情報回答又はタスクの実行のいずれかを求めるものである。ユーザ要求に対する満足な応答は、要求された情報回答の提供、要求されたタスクの実行、又は、それら２つの組み合わせを含む。例えば、ユーザは、デジタルアシスタントに、「私は今どこにいますか？（Where am I right now?）」などの質問をする。ユーザの現在位置に基づいて、デジタルアシスタントは、「あなたは西ゲート付近の中央公園にいます」と応答する。ユーザはまた、例えば、「私の友人を、来週の私のガールフレンドの誕生日パーティーに招待してください。」のように、タスクの実行も要求する。それに応じて、デジタルアシスタントは、「はい、ただ今。」と述べて、その要求に肯定応答することができ、次いで、そのユーザの電子アドレス帳にリストされているユーザの友人のそれぞれに、ユーザに代わって、好適なカレンダ招待状を送信することができる。要求されたタスクの実施中に、デジタルアシスタントは、長時間にわたる複数の情報交換を伴う連続的な会話で、ユーザと対話する場合がある。情報又は様々なタスクの実行を要求するためにデジタルアシスタントと対話する、数多くの他の方法が存在する。言葉による応答を提供してプログラムされたアクションを取ることに加えて、デジタルアシスタントはまた、他の視覚形式又は音声形式で、例えば、テキスト、警報、音楽、動画、アニメーションなどで応答を提供する。
【０１３５】
図１Ｃに示すように、一部の実施例では、デジタルアシスタントは、クライアント−サーバモデルに従って実装される。デジタルアシスタントは、ユーザデバイス１０４ 上で実行されるクライアント側部分２１０２（以後、「ＤＡクライアント２１０２」）、及びサーバシステム２１０８上で実行されるサーバ側部分２１０６（以後、「ＤＡサーバ２１０６」）を含む。ＤＡクライアント２１０２は、１つ以上のネットワーク２１１０を通じてＤＡサーバ２１０６と通信する。ＤＡクライアント２１０２は、ユーザ対応入力及び出力処理、並びにＤＡサーバ２１０６との通信などの、クライアント側機能を提供する。ＤＡサーバ２１０６は、各ユーザデバイス２１０４上にそれぞれが常駐する、任意の数のＤＡクライアント２１０２に、サーバ側機能を提供する。
【０１３６】
一部の実施例では、ＤＡサーバ２１０６は、クライアント対応Ｉ／Ｏインタフェース２１１２、１つ以上の処理モジュール２１１４、データ及びモデル２１１６、並びに、外部サービスへのＩ／Ｏインタフェース２１１８を含む。クライアント対応Ｉ／Ｏインタフェース２１１２は、ＤＡサーバ２１０６のクライアント対応入力及び出力処理を容易にする。１つ以上の処理モジュール２１１４は、データ及びモデル２１１６を利用して、音声入力を処理し、自然言語入力に基づいてユーザの意図を判定する。更には、１つ以上の処理モジュール２１１４は、タスク実行を、推測されたユーザ意図に基づいて実施する。一部の実施例では、ＤＡサーバ２１０６は、タスクの完了又は情報の取得のために、ネットワーク（単数又は複数）２１１０を通じて外部サービス１２０と通信する。外部サービスへのＩ／Ｏインタフェース２１１８は、そのような通信を容易にする。
【０１３７】
ユーザデバイス２１０４は、任意の好適な電子デバイスとすることができる。いくつかの実施例では、ユーザデバイス２１０４は、ポータブル多機能デバイス（例えば、図１Ａを参照して上述されたデバイス１００）、多機能デバイス、又はポータブル多機能デバイス（例えば、デバイス６００，８００，１０００）である。ポータブル多機能デバイスは、例えば、ＰＤＡ及び／又は音楽プレーヤ機能などの他の機能も含む携帯電話である。ポータブル多機能デバイスの具体例としては、Ａｐｐｌｅ  Ｉｎｃ．（Ｃｕｐｅｒｔｉｎｏ，Ｃａｌｉｆｏｒｎｉａ）による、Ａｐｐｌｅ  Ｗａｔｃｈ（登録商標）、ｉＰｈｏｎｅ（登録商標）、ｉＰｏｄ  Ｔｏｕｃｈ（登録商標）、及びｉＰａｄ（登録商標）デバイスが挙げられる。ポータブル多機能デバイスの他の例としては、限定するものではないが、イヤホン／ヘッドホン、スピーカ、及び、ラップトップコンピュータ若しくはタブレットコンピュータが挙げられる。更には、一部の実施例では、ユーザデバイス２１０４は、非ポータブル多機能デバイスである。具体的には、ユーザデバイス２１０４は、デスクトップコンピュータ、ゲームコンソール、スピーカ、テレビ、又はテレビセットトップボックスである。一部の実施例では、ユーザデバイス２１０４は、タッチ感知面（例えば、タッチスクリーンディスプレイ及び／又はタッチパッド）を含む。更に、ユーザデバイス２１０４は、任意選択的に、物理キーボード、マウス、及び／又はジョイスティックなどの、１つ以上の他の物理ユーザインタフェースデバイスを含む。多機能デバイスなどの電子デバイスの様々な実施例が、以下で更に詳細に説明される。
【０１３８】
通信ネットワーク（単数又は複数）２１１０の例としては、ローカルエリアネットワーク（local area network；ＬＡＮ）、及びワイドエリアネットワーク（wide area network；ＷＡＮ）、例えば、インターネットが挙げられる。通信ネットワーク（単数又は複数）２１１０は、例えば、イーサネット、ユニバーサルシリアルバス（Universal Serial Bus；ＵＳＢ）、ＦＩＲＥＷＩＲＥ、移動通信用のグローバルシステム（Global System for Mobile Communications；ＧＳＭ）、拡張データＧＳＭ環境（Enhanced Data GSM Environment；ＥＤＧＥ）、符号分割多元接続（code division multiple access；ＣＤＭＡ）、時分割多元接続（time division multiple access；ＴＤＭＡ）、Ｂｌｕｅｔｏｏｔｈ、Ｗｉ−Ｆｉ、ボイスオーバーインターネットプロトコル（voice over Internet Protocol；ＶｏＩＰ）、Ｗｉ−ＭＡＸ、又は任意の他の好適な通信プロトコルなどの、様々な有線若しくは無線プロトコルを含めた、任意の既知のネットワークプロトコルを使用して実装される。
【０１３９】
サーバシステム２１０８は、１つ以上のスタンドアロン型データ処理装置、又は分散型のコンピュータネットワーク上に実装される。一部の実施例では、サーバシステム２１０８はまた、サーバシステム２１０８の基本的なコンピューティングリソース及び／又はインフラストラクチャリソースを提供するために、様々な仮想デバイス及び／又は第三者サービスプロバイダ（例えば、第三者クラウドサービスプロバイダ）のサービスも採用する。
【０１４０】
一部の実施例では、ユーザデバイス２１０４は、第２のユーザデバイス２１２２を介してＤＡサーバ２１０６と通信する。第２のユーザデバイス２１２２は、ユーザデバイス２１０４と類似又は同一である。ユーザデバイス２１０４は、Ｂｌｕｅｔｏｏｔｈ、ＮＦＣ、ＢＴＬＥなどの直接通信接続を介して、又はローカルＷｉ−Ｆｉネットワークなどの有線又は無線ネットワークを介して第２のユーザデバイス２１２２に通信可能に結合されるように構成される。一部の実施例では、第２のユーザデバイス２１２２は、ユーザデバイス２１０４とＤＡサーバ２１０６との間のプロキシとしての役割を果たすように構成されている。例えば、ユーザデバイス２１０４のＤＡクライアント２１０２は、第２のユーザデバイス２１２２を介して、情報（例えば、ユーザデバイス２１０４で受信されたユーザ要求）をＤＡサーバ２１０６に送信するように構成されている。ＤＡサーバ２１０６は、情報を処理して、第２のユーザデバイス２１２２を介して、関連データ（例えば、ユーザ要求に応答するデータコンテンツ）をユーザデバイス２１０４に返す。
【０１４１】
一部の実施例では、ユーザデバイス２１０４は、データに対する短縮化された要求を第２のユーザデバイス２１２２に伝えることにより、ユーザデバイス２１０４から送信される情報の量を低減するように構成されている。第２のユーザデバイス２１２２は、その短縮化された要求に追加するべき補足情報を判定して、ＤＡサーバ２１０６に送信するための完全な要求を生成するように構成されている。このシステムアーキテクチャは、制限された通信能力及び／又は制限されたバッテリ電力を有するユーザデバイス２１０４（例えば、腕時計又は類似の小型電子デバイス）が、ＤＡサーバ２１０６へのプロキシとしてより高い通信能力及び／又はバッテリ電力を有する第２のユーザデバイス２１２２（例えば、携帯電話、ラップトップコンピュータ、タブレットコンピュータなど）を使用することによってＤＡサーバ２１０６によって提供されるサービスにアクセスすることを有利に許容することができる。図１Ｃでは、２つのユーザデバイス２１０４及びユーザデバイス２１２２のみが示されているが、システム２１００は、一部の実施例では、このプロキシ構成でＤＡサーバシステム２１０６と通信するように構成された、任意の数及びタイプのユーザデバイスを含むことを理解されたい。
【０１４２】
図１Ｃに示すデジタルアシスタントは、クライアント側部分（例えば、ＤＡクライアント２１０２）とサーバ側部分（例えばＤＡサーバ２１０６）の両方を含むが、いくつかの例では、デジタルアシスタントの機能は、ユーザデバイスにインストールされた独立したアプリケーションとして実装される。更には、デジタルアシスタントのクライアント部分とサーバ部分との間での機能の割り振りは、実装形態によって異なり得る。例えば、一部の実施例では、ＤＡクライアントは、ユーザ対応入力及び出力処理機能のみを提供し、デジタルアシスタントの他の全ての機能をバックエンドサーバに委ねる、シンクライアントである。
【０１４３】
図２は、いくつかの実施形態に係る、タッチスクリーン１１２を有するポータブル多機能デバイス１００を示す。タッチスクリーンは、任意選択的に、ユーザインタフェース（user interface、ＵＩ）２００内に１つ以上のグラフィックを表示する。本実施形態、並びに以下で説明される他の実施形態では、ユーザは、例えば、１本以上の指２０２（図には正確な縮尺では描かれていない）又は１つ以上のスタイラス２０３（図には正確な縮尺では描かれていない）を使用して、グラフィック上でジェスチャを実施することによって、それらのグラフィックのうちの１つ以上を選択することが可能となる。いくつかの実施形態では、１つ以上のグラフィックの選択は、ユーザが、その１つ以上のグラフィックとの接触を中断する場合に実施される。いくつかの実施形態では、ジェスチャは、デバイス１００と接触した指の、１回以上のタップ、１回以上のスワイプ（左から右へ、右から左へ、上向きに及び／若しくは下向きに）、並びに／又は、ローリング（右から左へ、左から右へ、上向きに及び／若しくは下向きに）を、任意選択的に含む。一部の実装形態又は状況では、グラフィックとの不測の接触は、そのグラフィックを選択するものではない。例えば、任意選択的に、アプリケーションアイコンの上をスイープするスワイプジェスチャは、選択に対応するジェスチャがタップである場合、対応するアプリケーションを選択しない。
【０１４４】
デバイス１００は、任意選択的に、「ホーム」ボタン又はメニューボタン２０４などの１つ以上の物理ボタンをまた含む。前述したように、メニューボタン２０４は、任意選択的にデバイス１００上で実行される１組のアプリケーション内の任意のアプリケーション１３６にナビゲートするために、任意選択的に使用される。あるいは、いくつかの実施形態では、メニューボタンは、タッチスクリーン１１２に表示されるＧＵＩ内のソフトキーとして実装される。
【０１４５】
いくつかの実施形態では、デバイス１００は、タッチスクリーン１１２、メニューボタン２０４、デバイスの電源をオン／オフにしてデバイスをロックするプッシュボタン２０６、音量調整ボタン２０８、加入者識別モジュール（ＳＩＭ）カードスロット２１０、ヘッドセットジャック２１２、及びドッキング／充電用外部ポート１２４を含む。プッシュボタン２０６は、任意選択的に、ボタンを押し下げて、既定の時間間隔にわたってボタンを押し下げた状態に保持することによって、デバイスの電源をオン／オフするため、ボタンを押し下げて、既定の時間間隔が経過する前にボタンを解放することによってデバイスをロックするため、及び／又はデバイスをロック解除する、若しくはロック解除プロセスを開始するために、使用される。代替の実施形態では、デバイス１００は、マイクロフォン１１３を介して、いくつかの機能をアクティブ化又は非アクティブ化するための口頭入力もまた受け入れる。デバイス１００は、任意選択的に、タッチスクリーン１１２上の接触の強度を検出する１つ以上の接触強度センサ１６５、及び／又はデバイス１００のユーザに対する触知出力を生成する１つ以上の触知出力生成器１６７もまた含む。
【０１４６】
図３は、いくつかの実施形態に係る、ディスプレイ及びタッチ感知面を有する例示的な多機能デバイスのブロック図である。デバイス３００は、ポータブル型である必要はない。いくつかの実施形態では、デバイス３００は、ラップトップコンピュータ、デスクトップコンピュータ、タブレットコンピュータ、マルチメディアプレーヤデバイス、ナビゲーションデバイス、教育的デバイス（子供の学習玩具など）、ゲームシステム、又は制御デバイス（例えば、家庭用又は業務用コントローラ）である。デバイス３００は、通常、１つ以上の処理ユニット（ＣＰＵ）３１０、１つ以上のネットワーク又は他の通信インタフェース３６０、メモリ３７０、及びこれらの構成要素を相互接続する１つ以上の通信バス３２０を含む。通信バス３２０は、任意選択的に、システム構成要素間の通信を相互接続及び制御する回路（チップセットと呼ばれることもある）を含む。デバイス３００は、ディスプレイ３４０を含む入出力（Ｉ／Ｏ）インタフェース３３０を含み、ディスプレイ３４０は、通常、タッチスクリーンディスプレイである。Ｉ／Ｏインタフェース３３０はまた、任意選択的に、キーボード及び／又はマウス（若しくは他のポインティングデバイス）３５０並びにタッチパッド３５５と、デバイス３００上に触知出力を生成する触知出力生成器３５７（例えば、図１Ａを参照して前述した触知出力生成器１６７に類似している）触知出力生成器３５７と、センサ３５９（例えば、光、加速度、近接、タッチ感知、及び／又は図１Ａを参照して前述した、接触強度センサ１６５に類似している接触強度センサ）とを含む。メモリ３７０は、ＤＲＡＭ、ＳＲＡＭ、ＤＤＲ  ＲＡＭ、又は他のランダムアクセスソリッドステートメモリデバイスなどの高速ランダムアクセスメモリを含み、任意選択的に、１つ以上の磁気ディスク記憶デバイス、光ディスク記憶デバイス、フラッシュメモリデバイス、又は他の不揮発性ソリッドステート記憶デバイスなどの不揮発性メモリを含む。メモリ３７０は、任意選択的に、ＣＰＵ（単数又は複数）３１０から離れて位置する１つ以上の記憶デバイスを含む。いくつかの実施形態では、メモリ３７０は、ポータブル多機能デバイス１００（図１Ａ）のメモリ１０２内に記憶されているプログラム、モジュール、及びデータ構造に類似したプログラム、モジュール、及びデータ構造、又はそのサブセットを記憶する。更に、メモリ３７０は、任意選択的に、ポータブル多機能デバイス１００のメモリ１０２に存在しない追加のプログラム、モジュール、及びデータ構造を記憶する。例えば、デバイス３００のメモリ３７０は、任意選択的に、描画モジュール３８０、プレゼンテーションモジュール３８２、ワードプロセッシングモジュール３８４、ウェブサイト作成モジュール３８６、ディスクオーサリングモジュール３８８、及び／又はスプレッドシートモジュール３９０を記憶するのに対して、ポータブル多機能デバイス１００（図１Ａ）のメモリ１０２は、任意選択的に、これらのモジュールを記憶しない。
【０１４７】
図３の上記で特定した要素はそれぞれ、任意選択的に、前述したメモリデバイスのうちの１つ以上の中に記憶される。上記で特定したモジュールはそれぞれ、前述した機能を実行する命令セットに対応する。上記で特定したモジュール又はプログラム（例えば、命令セット）は、別個のソフトウェアプログラム、手順、又はモジュールとして実装される必要はなく、したがって様々な実施形態では、これらのモジュールの様々なサブセットが、任意選択的に組み合わされ、又は他の方法で再構成される。いくつかの実施形態では、メモリ３７０は、任意選択的に、上記で特定されたモジュール及びデータ構造のサブセットを記憶する。更に、メモリ３７０は、上記で説明されていない追加のモジュール及びデータ構造を任意選択的に記憶する。
【０１４８】
次に、任意選択的に、例えばポータブル多機能デバイス１００に実装されるユーザインタフェースの実施形態に注意を向ける。
【０１４９】
図４Ａは、いくつかの実施形態に係る、ポータブル多機能デバイス１００上のアプリケーションのメニューの例示的なユーザインタフェースを示す。同様のユーザインタフェースは、デバイス３００上に任意選択的に実装される。いくつかの実施形態では、ユーザインタフェース４００は、以下の要素、又はそれらのサブセット若しくはスーパーセットを含む。
●セルラー信号及びＷｉ−Ｆｉ信号などの無線通信（単数又は複数）用の信号強度インジケータ（単数又は複数）４０２、
●時刻４０４、
●Ｂｌｕｅｔｏｏｔｈインジケータ４０５、
●バッテリ状態インジケータ４０６、
●以下のような、頻繁に使用されるアプリケーションのアイコンを有するトレイ４０８
○不在着信又はボイスメールメッセージの数のインジケータ４１４を任意選択的に含む、「電話」とラベル付けされた、電話モジュール１３８のアイコン４１６、
○未読電子メールの数のインジケータ４１０を任意選択的に含む、「メール」とラベル付けされた、電子メールクライアントモジュール１４０のアイコン４１８、
○「ブラウザ」とラベル付けされた、ブラウザモジュール１４７のアイコン４２０、及び
○「ｉＰｏｄ」とラベル付けされる、ｉＰｏｄ（Ａｐｐｌｅ  Ｉｎｃ．の商標）モジュール１５２とも称される動画及び音楽プレーヤモジュール１５２用のアイコン４２２、及び
●以下のような、他のアプリケーションのアイコン、
○「メッセージ」とラベル付けされた、ＩＭモジュール１４１のアイコン４２４、
○「カレンダ」とラベル付けされた、カレンダモジュール１４８のアイコン４２６、
○「写真」とラベル付けされた、画像管理モジュール１４４のアイコン４２８、
○「カメラ」とラベル付けされた、カメラモジュール１４３のアイコン４３０、
○「オンラインビデオ」とラベル付けされた、オンラインビデオモジュール１５５のアイコン４３２、
○「株価」とラベル付けされた、株式ウィジェット１４９−２のアイコン４３４、
○「地図」とラベル付けされた、地図モジュール１５４のアイコン４３６、
○「天気」とラベル付けされた、気象ウィジェット１４９−１のアイコン４３８、
○「時計」とラベル付けされた、アラーム時計ウィジェット１４９−４のアイコン４４０、
○「トレーニングサポート」とラベル付けされた、トレーニングサポートモジュール１４２のアイコン４４２、
○「メモ」とラベル付けされた、メモモジュール１５３のアイコン４４４、及び
○デバイス１００及びその様々なアプリケーション１３６の設定へのアクセスを提供する、「設定」とラベル付けされた、設定アプリケーション又はモジュールのアイコン４４６。
【０１５０】
図４Ａに示すアイコンラベルは、単なる例示であることに留意されたい。例えば、動画及び音楽プレーヤモジュール１５２のアイコン４２２は、「音楽」又は「音楽プレーヤ」とラベル付けされる、他のラベルが、様々なアプリケーションアイコンのために、任意選択的に使用される。いくつかの実施形態では、それぞれのアプリケーションアイコンのラベルは、それぞれのアプリケーションアイコンに対応するアプリケーションの名前を含む。いくつかの実施形態では、特定のアプリケーションアイコンのラベルは、その特定のアプリケーションアイコンに対応するアプリケーションの名前とは異なる。
【０１５１】
図４Ｂは、ディスプレイ４５０（例えば、タッチスクリーンディスプレイ１１２）とは別個のタッチ感知面４５１（例えば、図３のタブレット又はタッチパッド３５５）を有するデバイス（例えば、図３のデバイス３００）上の例示的なユーザインタフェースを示す。デバイス３００はまた、任意選択的に、タッチ感知面４５１上の接触の強度を検出する１つ以上の接触強度センサ（例えば、センサ３５９のうちの１つ以上）、及び／又はデバイス３００のユーザに対して触知出力を生成する１つ以上の触知出力生成器３５７を含む。
【０１５２】
以下の例のうちのいくつかは、タッチスクリーンディスプレイ１１２（タッチ感知面及びディスプレイが組み合わされている）上の入力を参照して与えられるが、いくつかの実施形態では、デバイスは、図４Ｂに示すように、ディスプレイとは別個のタッチ感知面上の入力を検出する。いくつかの実施形態では、タッチ感知面（例えば、図４Ｂの４５１）は、ディスプレイ（例えば、４５０）上の１次軸（例えば、図４Ｂの４５３）に対応する１次軸（例えば、図４Ｂの４５２）を有する。これらの実施形態によれば、デバイスは、ディスプレイ上のそれぞれの位置に対応する位置（例えば、図４Ｂでは、４６０は４６８に対応し、４６２は４７０に対応する）で、タッチ感知面４５１との接触（例えば、図４Ｂの４６０及び４６２）を検出する。このようにして、タッチ感知面（例えば、図４Ｂの４５１）上でデバイスによって検出されるユーザ入力（例えば、接触４６０及び４６２、並びにこれらの動き）は、タッチ感知面がディスプレイとは別個であるとき、多機能デバイスのディスプレイ（例えば、図４Ｂの４５０）上のユーザインタフェースを操作するために、デバイスによって使用される。同様の方法が、本明細書に記載の他のユーザインタフェースに任意選択的に使用されることを理解されたい。
【０１５３】
加えて、以下の例は、主に指入力（例えば、指接触、指タップジェスチャ、指スワイプジェスチャ）を参照して与えられる一方、いくつかの実施形態では、指入力のうちの１つ以上が別の入力デバイスからの入力（例えば、マウスベースの入力又はスタイラス入力）に置き換えられることを理解されたい。例えば、スワイプジェスチャは、任意選択的に、（例えば、接触の代わりに、）マウスクリックであって、その後に（例えば、接触の移動の代わりに）スワイプの経路に沿ったカーソルの移動を伴うマウスクリックによって置き換えられる。別の例として、タップジェスチャは、任意選択的に、カーソルがタップジェスチャの位置上に位置する間は、（例えば、接触を検出して、それに続いて接触の検出を停止する代わりに）マウスクリックによって置き換えられる。同様に、複数のユーザ入力が同時に検出されるとき、複数のコンピュータマウスが、任意選択的に、同時に使用され、又はマウス及び指の接触が、任意選択的に、同時に使用されることを理解されたい。
【０１５４】
図５Ａは、例示的なパーソナル電子デバイス５００を示す。デバイス５００は、本体５０２を含む。いくつかの実施形態では、デバイス５００は、デバイス１００及び３００（例えば、図１Ａ〜図４Ｂ）に関して説明された特徴のうちのいくつか又は全てを含むことができる。いくつかの実施形態では、デバイス５００は、タッチ感知ディスプレイスクリーン５０４、以下ではタッチスクリーン５０４、を有する。あるいは、又はタッチスクリーン５０４に加えて、デバイス５００は、ディスプレイ及びタッチ感知面を有する。デバイス１００及び３００と同様に、いくつかの実施形態では、タッチスクリーン５０４（又はタッチ感知面）は、任意選択的に、加えられている接触（例えば、タッチ）の強度を検出する１つ以上の強度センサを含む。タッチスクリーン５０４（又はタッチ感知面）の１つ以上の強度センサは、タッチの強度を表す出力データを提供することができる。デバイス５００のユーザインタフェースは、タッチ（複数）に、その強度に基づいて応答することができ、これは、異なる強度のタッチが、デバイス５００上で異なるユーザインタフェース動作を呼び出すことができることを意味する。
【０１５５】
タッチ強度を検出し処理する例示的な技法は、例えば、それぞれ全体が参照により本明細書に組み込まれる関連出願である、国際特許第ＷＯ／２０１３／１６９８４９号として公開された、２０１３年５月８日出願の国際特許出願第ＰＣＴ／ＵＳ２０１３／０４００６１号、「Ｄｅｖｉｃｅ，Ｍｅｔｈｏｄ，ａｎｄ  Ｇｒａｐｈｉｃａｌ  Ｕｓｅｒ  Ｉｎｔｅｒｆａｃｅ  ｆｏｒ  Ｄｉｓｐｌａｙｉｎｇ  Ｕｓｅｒ  Ｉｎｔｅｒｆａｃｅ  Ｏｂｊｅｃｔｓ  Ｃｏｒｒｅｓｐｏｎｄｉｎｇ  ｔｏ  ａｎ  Ａｐｐｌｉｃａｔｉｏｎ」、及び国際特許第ＷＯ／２０１４／１０５２７６号として公開された、２０１３年１１月１１日出願の国際特許出願第ＰＣＴ／ＵＳ２０１３／０６９４８３号、「Ｄｅｖｉｃｅ，Ｍｅｔｈｏｄ，ａｎｄ  Ｇｒａｐｈｉｃａｌ  Ｕｓｅｒ  Ｉｎｔｅｒｆａｃｅ  ｆｏｒ  Ｔｒａｎｓｉｔｉｏｎｉｎｇ  Ｂｅｔｗｅｅｎ  Ｔｏｕｃｈ  Ｉｎｐｕｔ  ｔｏ  Ｄｉｓｐｌａｙ  Ｏｕｔｐｕｔ  Ｒｅｌａｔｉｏｎｓｈｉｐｓ」を参照されたい。
【０１５６】
いくつかの実施形態では、デバイス５００は、１つ以上の入力機構５０６及び５０８を有する。入力機構５０６及び５０８は、含まれる場合、物理的であり得る。物理的入力機構の例としては、プッシュボタン及び回転可能機構が挙げられる。いくつかの実施形態では、デバイス５００は、１つ以上のアタッチメント機構を有する。そのようなアタッチメント機構は、含まれる場合、例えば帽子、眼鏡類、イアリング、ネックレス、シャツ、ジャケット、ブレスレット、腕時計のバンド、チェーン、ズボン、ベルト、靴、財布、バックパックなどにデバイス５００を取り付けることを可能にすることができる。これらのアタッチメント機構は、ユーザがデバイス５００を着用することを可能にする。
【０１５７】
図５Ｂは、例示的なパーソナル電子デバイス５００を示す。いくつかの実施形態では、デバイス５００は、図１Ａ、図１Ｂ、及び図３に関して説明した構成要素のうちのいくつか又は全てを含むことができる。デバイス５００は、Ｉ／Ｏセクション５１４を１つ以上のコンピュータプロセッサ５１６及びメモリ５１８に動作可能に結合するバス５１２を有する。Ｉ／Ｏセクション５１４は、ディスプレイ５０４に接続することができ、ディスプレイ５０４は、タッチ感知構成要素５２２と、任意選択的に強度センサ５２４（例えば、接触強度センサ）とを有することができる。加えて、Ｉ／Ｏセクション５１４は、Ｗｉ−Ｆｉ、Ｂｌｕｅｔｏｏｔｈ、近距離通信（ＮＦＣ）、セルラー、及び／又は他の無線通信技法を使用してアプリケーション及びオペレーティングシステムデータを受信する通信ユニット５３０と接続することができる。デバイス５００は、入力機構５０６及び／又は５０８を含むことができる。入力機構５０６は、任意選択的に、例えば回転可能入力デバイス又は押下可能及び回転可能入力デバイスである。いくつかの例では、入力機構５０８は、任意選択的にボタンである。
【０１５８】
いくつかの例では、入力機構５０８は、任意選択的にマイクロフォンである。パーソナル電子デバイス５００は、任意選択的に、ＧＰＳセンサ５３２、加速度計５３４、方向センサ５４０（例えば、コンパス）、ジャイロスコープ５３６、動きセンサ５３８、及び／又はそれらの組合せなどの様々なセンサを含み、それらは全て、Ｉ／Ｏセクション５１４に動作可能に接続することができる。
【０１５９】
パーソナル電子デバイス５００のメモリ５１８は、コンピュータ実行可能命令を記憶するための１つ以上の非一時的コンピュータ可読記憶媒体を含むことができ、それらの命令は、１つ以上のコンピュータプロセッサ５１６によって実行されると、例えば、コンピュータプロセッサに、プロセス７００、９００及び１１００（図７Ａ〜図７Ｂ、図９Ａ〜図９Ｂ及び図１１Ａ〜図１１Ｂ）を含めた、以下に説明する技術を実行させることができる。コンピュータ可読記憶媒体は、命令実行システム、装置、若しくはデバイスによって、又は命令実行システム、装置、若しくはデバイスに関連して、使用されるコンピュータ実行可能命令を、有形に含み又は記憶することができる任意の媒体であり得る。いくつかの実施例では、記憶媒体は、一時的コンピュータ可読記憶媒体である。いくつかの実施例では、記憶媒体は、非一時的コンピュータ可読記憶媒体である。非一時的コンピュータ可読記憶媒体は、それらに限定されるものではないが、磁気、光学、及び／又は半導体記憶装置を含むことができる。そのような記憶装置の例としては、磁気ディスク、ＣＤ、ＤＶＤ、又はＢｌｕ−ｒａｙ技術に基づく光学ディスク、並びにフラッシュ、ソリッドステートドライブなどの常駐ソリッドステートメモリなどが挙げられる。パーソナル電子デバイス５００は、図５Ｂの構成要素及び構成に限定されるものではなく、他の又は追加の構成要素を複数の構成で含むことができる。
【０１６０】
本明細書で使用される「アフォーダンス」という用語は、任意選択的に、デバイス１００、３００、及び／又は５００（図１Ａ、図３、及び図５Ａ〜図５Ｂ）のディスプレイスクリーンに表示されるユーザ対話グラフィカルユーザインタフェースオブジェクトを指す。例えば、画像（例えば、アイコン）、ボタン、及び文字（例えば、ハイパーリンク）はそれぞれ、任意選択的に、アフォーダンスを構成する。
【０１６１】
本明細書で使用される「フォーカスセレクタ」という用語は、ユーザが対話しているユーザインタフェースの現在の部分を示す入力要素を指す。カーソル又は他の位置マーカを含むいくつかの実装形態では、カーソルが「フォーカスセレクタ」として作用し、したがってカーソルが特定のユーザインタフェース要素（例えば、ボタン、ウインドウ、スライダ、又は他のユーザインタフェース要素）の上に位置する間に、入力（例えば、押下入力）がタッチ感知面（例えば、図３のタッチパッド３５５又は図４Ｂのタッチ感知面４５１）上で検出されたとき、特定のユーザインタフェース要素は、検出された入力に従って調整される。タッチスクリーンディスプレイ上のユーザインタフェース要素との直接対話を可能にするタッチスクリーンディスプレイ（例えば、図１Ａのタッチ感知ディスプレイシステム１１２又は図４Ａのタッチスクリーン１１２）を含むいくつかの実装形態では、タッチスクリーン上の検出された接触が「フォーカスセレクタ」として作用し、したがってタッチスクリーンディスプレイ上の特定のユーザインタフェース要素（例えば、ボタン、ウインドウ、スライダ、又は他のユーザインタフェース要素）の位置で入力（例えば、接触による押下入力）が検出されたとき、特定のユーザインタフェース要素が、検出された入力に従って調整される。いくつかの実装形態では、（例えば、フォーカスを１つのボタンから別のボタンへ動かすためにタブキー又は矢印キーを使用することによって）タッチスクリーンディスプレイ上の対応するカーソルの移動又は接触の移動なしに、フォーカスがユーザインタフェースの１つの領域からユーザインタフェースの別の領域に動かされ、これらの実装形態では、フォーカスセレクタは、ユーザインタフェースの種々の領域間でのフォーカスの移動に従って移動する。フォーカスセレクタがとる具体的な形態にかかわらず、フォーカスセレクタは、一般に、ユーザが意図するユーザインタフェースとの対話について（例えば、ユーザがそれを通じて対話することを意図しているユーザインタフェースの要素をデバイスに示すことによって）伝えるためにユーザによって制御されるユーザインタフェース要素（又はタッチスクリーンディスプレイ上の接触）である。例えば、タッチ感知面（例えば、タッチパッド又はタッチスクリーン）上で押下入力が検出されている間に、それぞれのボタンの上にあるフォーカスセレクタ（例えば、カーソル、接触、又は選択ボックス）の位置は、ユーザが、（そのデバイスのディスプレイ上に示される他のユーザインタフェース要素ではなく）それぞれのボタンをアクティブ化することを意図していることを示すものである。
【０１６２】
本明細書及び特許請求の範囲において使用されるとき、接触の「特性強度」という用語は、接触の１つ以上の強度に基づく、その接触の特性を指す。いくつかの実施形態では、特性強度は複数の強度サンプルに基づく。特性強度は、任意選択的に、既定の数の強度サンプル、すなわち、既定のイベント（例えば、接触を検出した後、接触のリフトオフを検出する前、接触の移動の開始を検出する前若しくは後、接触の終了を検出する前、接触の強度の増大を検出する前若しくは後、及び／又は、接触の強度の減少を検出する前若しくは後の）に関連する所定の時間（例えば、０．０５、０．１、０．２、０．５、１、２、５、１０秒）の間に収集された強度サンプルのセットに基づく。接触の特性強度は、任意選択的に、接触の強度の最大値、接触の強度の平均（mean）値、接触の強度の平均（average）値、接触の強度の上位１０パーセンタイル値、接触の強度の最大の２分の１の値、接触の強度の最大の９０パーセントの値などのうちの１つ以上に基づいている。一部の実施形態では、特性強度を判定する際に（例えば、特性強度が経時的な接触の強度の平均であるときに）、接触の持続期間が使用される。一部の実施形態では、特性強度は、ユーザによって動作が実行されたかどうかを判定するために、１つ以上の強度閾値のセットと比較される。例えば、１つ以上の強度閾値のセットは、任意選択的に、第１の強度閾値及び第２の強度閾値を含む。この例では、第１の閾値を超えない特性強度を有する接触は第１の動作をもたらし、第１の強度閾値を超えるが第２の強度閾値を超えない特性強度を有する接触は第２の動作をもたらし、第２の閾値を超える特性強度を有する接触は第３の動作をもたらす。いくつかの実施形態では、特性強度と１つ以上の閾値との間の比較は、第１の動作を実行するべきか、それとも第２の動作を実行するべきかを判定するために使用されるのではなく、１つ以上の動作を実行するべきか否か（例えば、それぞれの動作を実行するべきか、それともそれぞれの動作を実行するのを見送るべきか）を判定するために使用される。
【０１６３】
一部の実施形態では、特性強度を判定する目的のために、ジェスチャの一部分が特定される。例えば、タッチ感知面は、任意選択的に、開始位置から遷移して終了位置に到達し、その位置で接触の強度が増大している、連続するスワイプ接触を受信する。この例では、終了位置での接触の特性強度は、任意選択的に、スワイプ接触全体ではなく、連続するスワイプ接触の一部分のみ（例えば、スワイプ接触のうち終了位置の部分のみ）に基づいている。いくつかの実施形態では、任意選択的に、接触の特性強度を判定する前に、平滑化アルゴリズムがスワイプ接触の強度に適用される。例えば、平滑化アルゴリズムは、任意選択的に、非加重移動平均平滑化アルゴリズム、三角平滑化アルゴリズム、中央値フィルタ平滑化アルゴリズム、及び／又は指数平滑化アルゴリズムのうちの１つ以上を含む。いくつかの状況では、これらの平滑化アルゴリズムは、特性強度を判定する目的のために、スワイプ接触強度の幅の狭いスパイク又は下落を排除する。
【０１６４】
タッチ感知面上の接触の強度は、任意選択的に、接触検出強度閾値、軽い押下の強度閾値、深い押下の強度閾値、及び／又は１つ以上の他の強度閾値などの１つ以上の強度閾値に対して特徴付けられる。一部の実施形態では、軽い押下強度閾値は、通常、物理マウスのボタン又はトラックパッドをクリックすることに関連付けられた動作をデバイスが実行する強度に相当する。一部の実施形態では、深い押下強度閾値は、通常、物理マウスのボタン又はトラックパッドをクリックすることに関連付けられた動作とは異なる動作をデバイスが実行する強度に相当する。いくつかの実施形態では、軽い押下強度閾値を下回る（例えば、かつそれを下回ると接触が検出されなくなる公称接触検出強度閾値を上回る）特性強度を有する接触が検出されたとき、デバイスは、タッチ感知面上の接触の移動に従い、軽い押下強度閾値又は深い押下強度閾値に関連付けられた動作を実行することなく、フォーカスセレクタを動かす。一般に、特に明記しない限り、これらの強度閾値は、ユーザインタフェースの値の様々なセットの間で一貫している。
【０１６５】
軽い押下強度閾値を下回る強度から、軽い押下強度閾値と深い押下強度閾値との間の強度への、接触の特性強度の増大は、「軽い押下」の入力と呼ばれることがある。深い押下強度閾値を下回る強度から、深い押圧強度閾値を上回る強度への、接触の特性強度の増大は、「深い押圧」の入力と呼ばれることがある。接触検出強度閾値を下回る強度から、接触検出強度閾値と軽い押圧強度閾値との間の強度への、接触の特性強度の増大は、タッチ面上の接触の検出と呼ばれることがある。接触検出強度閾値を上回る強度から、接触検出強度閾値を下回る強度への、接触の特性強度の減少は、タッチ面からの接触のリフトオフの検出と呼ばれることがある。いくつかの実施形態では、接触検出強度閾値はゼロである。いくつかの実施形態では、接触検出強度閾値はゼロより大きい。
【０１６６】
本明細書に記載するいくつかの実施形態では、それぞれの押下入力を含むジェスチャを検出したことに応じて、又はそれぞれの接触（若しくは複数の接触）によって実行されたそれぞれの押下入力を検出したことに応じて、１つ以上の動作が実行され、それぞれの押下入力は、押下入力強度閾値を上回る接触（又は複数の接触）の強度の増大を検出したことに少なくとも部分的に基づいて検出される。いくつかの実施形態では、それぞれの動作は、押下入力強度閾値を上回るそれぞれの接触の強度の増大（例えば、それぞれの押下入力の「ダウンストローク」）を検出したことに応じて実行される。いくつかの実施形態では、押下入力は、押下入力強度閾値を上回るそれぞれの接触の強度の増大、及びそれに続く押下入力強度閾値を下回る接触の強度の減少を含み、それぞれの動作は、それに続く押下入力閾値を下回るそれぞれの接触の強度の減少（例えば、それぞれの押下入力の「アップストローク」）を検出したことに応じて実行される。
【０１６７】
一部の実施形態では、デバイスは、「ジッタ」と呼ばれる場合がある偶発的な入力を回避するために強度ヒステリシスを採用し、デバイスは、押下入力強度閾値との既定の関係を有するヒステリシス強度閾値を定義又は選択する（例えば、ヒステリシス強度閾値は、押下入力強度閾値よりもＸ強度単位低い、又はヒステリシス強度閾値は、押下入力強度閾値の７５％、９０％、若しくは何らかの妥当な割合である）。したがって、いくつかの実施形態では、押下入力は、押下入力強度閾値を上回るそれぞれの接触の強度の増大、及びそれに続く押下入力強度閾値に対応するヒステリシス強度閾値を下回る接触の強度の減少を含み、それぞれの動作は、それに続くヒステリシス強度閾値を下回るそれぞれの接触の強度の減少（例えば、それぞれの押下入力の「アップストローク」）を検出したことに応じて実行される。同様に、一部の実施形態では、押下入力は、デバイスが、ヒステリシス強度閾値以下の強度から押下入力強度閾値以上の強度への接触の強度の増大、及び任意選択的に、その後のヒステリシス強度以下の強度への接触の強度の減少を検出するときにのみ検出され、それぞれの動作は、押下入力（例えば、状況に応じて、接触の強度の増大又は接触の強度の減少）を検出したことに応じて実行される。
【０１６８】
説明を容易にするために、押下入力強度閾値に関連付けられた押下入力、又は押下入力を含むジェスチャに応じて実行される動作の説明は、任意選択的に、押下入力強度閾値を上回る接触の強度の増大、ヒステリシス強度閾値を下回る強度から押下入力強度閾値を上回る強度への接触の強度の増大、押下入力強度閾値を下回る接触の強度の減少、及び／又は押下入力強度閾値に対応するヒステリシス強度閾値を下回る接触の強度の減少のいずれかを検出したことに応じてトリガされる。更に、押下入力強度閾値を下回る接触の強度の減少を検出したことに応じて実行されるように動作が記載される例では、動作は、任意選択的に、押下入力強度閾値に対応し、かつそれよりも低いヒステリシス強度閾値を下回る接触の強度の減少を検出したことに応じて実行される。
【０１６９】
次に、ポータブル多機能デバイス１００、デバイス３００、又はデバイス５００などの電子デバイス上で実施されるユーザインタフェース（「ＵＩ」）及び関連プロセスの実施形態に注意を向ける。
【０１７０】
図６Ａ〜図６Ｏは、いくつかの実施形態に係る、一瞥によるコマンド及び音声コマンドを使用して、デジタルアシスタントをアクティブ化しデジタルアシスタントと対話するための例示的なユーザインタフェースを示す。これらの図は、図７Ａ〜図７Ｂのプロセスを含む後述のプロセスを例示するために使用される。
【０１７１】
図６Ａ〜図６Ｄは、ユーザ６２０が電子デバイス６００を一瞥することによって電子デバイス６００上の例示的なデジタルアシスタントをアクティブ化することを示す。デジタルアシスタントがアクティブ化されると、ユーザ６２０は、コマンド６２４Ａ〜６２４Ｂをデジタルアシスタントに発語することによってテーブルランプをオンにする。
【０１７２】
図６Ａは、ディスプレイ６０２がオフであることによって示される非アクティブ状態にある電子デバイス６００上のデジタルアシスタントを示す。いくつかの実施形態では、デジタルアシスタントは、電子デバイス６００がユーザの凝視、すなわち、ユーザ６２０が電子デバイス６００を見ていることを検出しない場合には非アクティブな状態にある。いくつかの実施形態では、電子デバイス６００がボタン押下（又は他のアクティブ化コマンド）を検出する前、かつ／又は別のデバイス（例えば、腕時計６３０）がアクティブ化コマンドを受信し 、アクティブ化命令を電子デバイスに送信する前は、デジタルアシスタントは非アクティブな状態にある。ユーザ６２０は、ユーザ６２０の凝視に基づく凝視情報が１つ以上のアクティブ化基準のセットを満たすときに、電子デバイス６００を一瞥して、デジタルアシスタントのアクティブ化をトリガすることができる。電子デバイス６００は、ユーザ６２０の凝視について、任意選択的に、外部デバイス６１６Ａ上に設置され、かつ／又はカメラ６１６Ｂなど電子デバイス６００に一体化された１つ以上のカメラセンサを使用して凝視情報を取得する。カメラセンサ６１６Ａは、電子デバイス６００に無線接続され、あるいは有線で接続されてもよい。１つ以上のカメラセンサは、凝視が検出されるとすぐに凝視情報を測定する赤外線カメラセンサ及び／又は可視光センサを含む。凝視情報は、ユーザの頭部位置の場所、凝視の静止時間又は持続時間、凝視の方向、凝視の視野６０６、及び対象物（例えば、電子デバイス６００又はテーブルランプ６１８などの外部デバイス）が凝視の視野６０６内にあるかどうか、のうちの１つ以上を任意選択的に含む。
【０１７３】
電子デバイス６００は、１つ以上のカメラセンサ６１６Ａ〜６１６Ｂから取得された凝視情報が１つ以上のアクティブ化基準のセットを満たすかどうかを判定する。換言すれば、電子デバイス６００は、ユーザ６２０がデジタルアシスタントをアクティブ化するために電子デバイス６００を見ることを意図したかどうかを判定する。１つ以上のアクティブ化基準のセットは、ユーザの凝視が電子デバイス６００の方向に向けられるときに満たされる方向基準を任意選択的に含む。１つ以上のアクティブ化基準のセットはまた、電子デバイス６００が、ゼロではない所定の時間（例えば、数秒 ）を超える、電子デバイス６００の方向への凝視の静止時間又は持続時間を検出するときに満たされる静止時間基準も任意選択的に含む。凝視の静止時間又は持続時間が閾値時間未満である場合、このことは、ユーザがデジタルアシスタントをトリガすることを意図しないことを示し得る。したがって、閾値時間未満の静止時間は、アクティブ化基準を満たさないので、デジタルアシスタントはアクティブ化されない。
【０１７４】
１つ以上のアクティブ化基準のセットはまた、任意選択的に、視野基準を含む。図６Ａに示すように、ユーザ６２０は電子デバイス６００を見ておらず、電子デバイス６００は、デバイス６００がユーザ６２０の視野６０６内にないと判定する。以下で更に説明するように、視野基準は、電子デバイス６００がユーザ６２０の視野６０６内にあると判定された場合に満たされるが、電子デバイス６００がユーザ ６２０の視野６００ 内にないと判定された場合は、満たされない。視野６０６を使用して、ユーザ６０２が対象の電子デバイス（例えば、デバイス６００）を見ているかどうかを判定することにより、ユーザが対象の電子デバイスを直接見ていないが、それでも対象の電子デバイスを特定（又はアクティブ化）しようとしている場合に、凝視が視野内において検出され得るために、凝視検出率が高くなる。
【０１７５】
視野６０６は、閾値オフセット角度６０４によって示される、ユーザの視線６１２の上方及び下方の度値範囲である。いくつかの実施形態では、電子デバイス６００が直接ユーザ６２０の視線６１２内にある、すなわち、判定されたオフセット度がゼロであるときに、視野基準が満たされる。いくつかの実施形態では、凝視の判定されたオフセット角度６２２が閾値オフセット角度６０４（例えば、図６Ｂに示すように、電子デバイスを直接見ているユーザ６２０の視線６１２からの許容可能な最大偏差）未満であるときに、視野基準が満たされる。（本例において）判定されたオフセット角度６２２及び閾値オフセット角度６０４は、ゼロ度よりも大きい（例えば、３０度）。判定されたオフセット角度６２２は、ユーザ６２０の凝視からの視線６１２（例えば、ユーザが実際に見ているところ）と、ユーザ６２０から電子デバイス６００への算出された視線６０８（例えば、ユーザが電子デバイス６００を直接見るのに理想的な経路）との間に形成された角度に基づいて計算される。オフセット角度６２２が閾値オフセット角度６０４よりも大きいとき、図６Ａに示すように、電子デバイス６００が視野６０６の外にあるため、視野基準は満たされず、結果として、デジタルアシスタントはアクティブ化されないままとなる。いくつかの実施形態では、電子デバイス６００が、ユーザ６２０の視野６０６の外のゼロでない閾値度を超えて（例えば、３０度を超えて）位置すると判定される場合、電子デバイス６００はユーザの凝視内にはなく、デジタルアシスタントはアクティブ化されない。いくつかの実施形態では、視線６１２は、ユーザの頭部位置に基づいて測定される。いくつかの実施形態では、ユーザの頭部位置は、ユーザの頭部の傾斜又は回転（例えば、ヨー、ピッチ、及び／又はロール）に基づくものである。
【０１７６】
図６Ａでは、上述のように、カメラセンサ（例えば、６１６Ａ，６１Ｂ ）から取得された凝視情報が１つ以上のアクティブ化基準のセットを満たさないので、電子デバイス６００上のデジタルアシスタントはアクティブ化されない。電子デバイス６００は、ユーザ６２０の凝視の静止時間が閾値静止時間未満、又は、電子デバイス６００がユーザ６２０の視野内にない場合、ユーザ６２０が電子デバイス６００を見ていないと判定する。いくつかの実施形態では、ユーザの視線６１２と算出された視線６０８との間の判定されたオフセット角度６２２が閾値オフセット角度６０４よりも大きいとき、視野基準は満たされない。デジタルアシスタントがアクティブ化されず、凝視情報が１つ以上のアクティブ化基準のセットを満たさない場合、電子デバイス６００は、デジタルアシスタントのアクティブ化を見合わせる。デジタルアシスタントがアクティブ化されていないとき、電子デバイス６００は、任意選択的に、マイクロフォン又はスピーカのうちの１つ以上をオンにせず、音声を記録せず、かつ／又は、発語コマンドを実行する目的で記録された音声の処理を可能にしない（例えば、電子デバイス６００は、依然として音声を処理してトリガ語を検出することができるが、アクティブ化以外のコマンドの実行のために音声を処理しない）。いくつかの実施形態では、電子デバイス６００は、デジタルアシスタントがアクティブ化されていないとき（例えば、電子デバイス６００の状態は不変のままである）ときに、視覚的又は音声インジケータを使用して任意の指示を提供しない。いくつかの実施形態では、電子デバイス６００は、凝視情報が１つ以上のアクティブ化基準のセットを満たさなかったとの判定の前の状態である同じ非アクティブな状態に留まる。
【０１７７】
図６Ａでは、ユーザ６２０は、デジタルアシスタントがアクティブ化される前に、「Ｔｕｒｎ  ｏｎ  ｔｈｅ  ｔａｂｌｅ  ｌａｍｐ（テーブルランプをオンにして）」のコマンド６２４Ａ〜６２４Ｂの部分６２４Ａ「Ｔｕｒｎ．．．」の発語を開始する。いくつかの実施形態では、以下で更に論じるように、デジタルアシスタントがその後、（例えば、設定された（ゼロでない）持続時間内に）アクティブ化されない場合、コマンド６２４Ａ〜６２４Ｂの部分６２４Ａは、デジタルアシスタントによって処理されず、取り消され、かつ／又は無視される。いくつかの実施形態では、以下で更に論じるように、コマンド６２４Ａ〜６２４Ｂを完了する前に（又は、設定された持続時間内に）、デジタルアシスタントが（例えば、ユーザ６２０が電子デバイス６００を見て、１つ以上のアクティブ化基準のセットを満たすことによって）アクティブ化される場合、デジタルアシスタントがアクティブ化される前に電子デバイス６００によって受信されたコマンド６２４Ａ〜６２４Ｂの部分６２４Ａが処理される。
【０１７８】
図６Ｂに示すように、ユーザ６２０は電子デバイス６００を見ており、電子デバイス６００は、電子デバイス６００がユーザ６２０の視野６０６内にあると判定する。カメラセンサ（例えば、６１６Ａ，６１６Ｂ）から得られた凝視情報は、１つ以上のアクティブ化基準のセットを満たす。
【０１７９】
図６Ｃでは、電子デバイス６００は、カメラセンサ（例えば、６１６Ａ，６１６Ｂ）から取得された凝視情報が１つ以上のアクティブ化基準のセットを満たしていることを判定し、それに応じて、デジタルアシスタントをアクティブ化する。デジタルアシスタントをアクティブ化することは、マイクロフォン又はスピーカをオンにすること、音声を録音すること、及び（単にトリガフレーズを検出するのではなく）発語によるコマンドを実行する目的のため、録音された音声の処理を可能にすること、のうちの１つ以上を任意選択的に含む。電子デバイス６００は、任意選択的に、１つ以上のアクティブ化基準のセットが満たされていること、及び／又はデジタルアシスタントがアクティブ化されているという指示を（例えば、インジケータ６１０Ａ，６１０Ｂ，又は６１０Ｃを介して）提供する。インジケータは、任意選択的に、視覚的指示６１０Ａ、音声による指示６１０Ｂ、デジタルアシスタントが発語する確認６１０Ｃ、又は異なるインジケータの任意の組み合わせである。視覚的指示６１０Ａを提供することは、電子デバイス６００のディスプレイ６０２をオンにすること、電子デバイス６００のＬＥＤをオンにすること、特定の色（例えば、青色又は、デジタルアシスタントがアクティブ化されていないときのデフォルト色以外の色）の光、光パターン、又は電子デバイス６００のディスプレイ６０２上の視覚出力を表示すること、のうちの１つ以上を任意選択的に含む。いくつかの実施形態では、デジタルアシスタントがアクティブ化されていることを示す視覚的インジケータ６１０Ａは、デジタルアシスタントがコマンドを実行したとき、又は非アクティブな状態にあるときを示す視覚的インジケータ６１０Ａとは異なる。例えば、電子デバイスは、１つ以上のアクティブ化条件のセットが満たされたことに応じて視覚的インジケータ６１０Ａの第１の色を表示し、デジタルアシスタントがアクティブ化されていることに応じて視覚的インジケータ６１０Ａの第２の色として 表示し、デジタルアシスタントがコマンドを実行したという判定に応じて視覚的インジケータ６１０Ａの第３の色を表示し、かつ／又はデジタルアシスタントをアクティブ化しないように変更したことに応じて視覚的インジケータ６１０Ａの第４の色を表示する。音声による指示６１０Ｂは、サウンド、フレーズ、単語、又はトーンの再生のうちの１つ以上を任意選択的に含む。いくつかの実施形態では、デジタルアシスタントがアクティブ化されていること（又は１つ以上のアクティブ化基準のセットが満たされたこと）を示す音声による指示６１０Ｂは、デジタルアシスタントがコマンド（例えば、６２４Ａ）を実行したとき、又は非アクティブな状態にあるときを示す音声による指示６１０Ｂとは異なる。デジタルアシスタントは、デジタルアシスタントがアクティブ化されたこと、又は１つ以上のアクティブ化基準のセットが満たされたことを示すデジタルアシスタント音声確認６１０Ｃ（例えば、「どのようなご用件でしょうか？」）を任意選択的に提供する。いくつかの実施例では、図１０Ａ〜図１０Ｄに関して更に詳細に説明されるように、電子デバイスは、検出されたユーザに基づいて、特定の声（例えば、アクセント、男��又は女性の声）を使用して音声確認を出力する。
【０１８０】
図６Ｃでは、電子デバイスがデジタルアシスタントをアクティブ化し、ディスプレイ６０２を使用して指示を提供することに続いて、電子デバイスは、コマンド６２４Ｃ「Ｔｕｒｎ  ｏｎ  ｔｈｅ  ｔａｂｌｅ  ｌａｍｐ（テーブルランプをオンにして）」のうち残りの部分６２４Ｂ「．．．ｏｎ  ｔｈｅ  ｔａｂｌｅ  ｌａｍｐ」のユーザ６２０の発語が完了したことを検出する。いくつかの実施形態では、電子デバイス６００は、デジタルアシスタントがアクティブ化された後に、ユーザ６２０がコマンド６２４Ｃ全体「ｔｕｒｎ  ｏｎ  ｔｈｅ  ｔａｂｌｅ  ｌａｍｐ（テーブルランプをオンにして）」を発語するのを検出する。任意選択的に、電子デバイス６００は、コマンド６２４Ａ〜６２４Ｂの受信を開始する前に１つ以上のアクティブ化基準のセットが満たされたとの判定に従って、指示６１０Ｃを提供し、電子デバイス６００は、コマンド６２４Ａ〜６２４Ｂの受信を開始した後に（前ではなく）１つ以上のアクティブ化基準のセットが満たされたという判定に従って、指示６１０Ｃを提供しない。
【０１８１】
いくつかの実施形態では、電子デバイス６００は、コマンド６２４Ａ〜６２４Ｂの残りの部分６２４Ｂを受信する前に、音楽を再生するなど、音声出力を第１の音量で生成している。いくつかの実施形態では、電子デバイス６００がコマンド６２４Ａ〜６２４Ｂの第１の部分６２４Ａを受信したことに応じて、電子デバイス６００は、音声出力の第１の音量を、第１の音量よりも低い第２の音量まで頭を引っ込める（ｄｕｃｋ）ように下げる。この第２の音量は、任意選択的に、ユーザ６２０と電子デバイス６００との間の距離に基づく。音声出力の第１の音量を下げるのは、背景のノイズによる干渉を低減させ、電子デバイス６００が単語をより良好に検出することができるようするためである。いくつかの実施形態では、１つ以上のアクティブ化基準のセットが満たされているという判定に応じて、第１の音量が下げられる。いくつかの実施形態では、音量低減量は、コマンド６２４Ａ〜６２４Ｂの第１の部分６２４Ａ（第２の部分６２４Ｂではなく）が受信される時のユーザ６２０と電子デバイス６００との間の距離に基づく。電子デバイス６００は、外部カメラセンサ６１６Ａ及び／又は電子デバイス６００上のカメラセンサ６１６Ｂを使用して、ユーザ６２０と電子デバイス６００との間の距離を判定する。いくつかの実施形態では、電子デバイス６００は、ユーザ６２０が発語しているのを検出する間、音声出力の音量をミュート又は低下させることによって、音声出力の音量を可変的に低減する。電子デバイス６００は、コマンド６２４Ｂの終わりを検出した後に、音声出力の音量を第１の音量に戻す。音量変更は、要求の内容に基づくものではない。いくつかの実施形態では、デジタルアシスタントをアクティブ化する前に、ユーザ６２０がコマンド６２４Ａ〜６２４Ｂの第１の部分６２４Ａを発語することを電子デバイス６００が検出したとしても、デジタルアシスタントは、それでも、１つ以上の実行基準のセットが満たされた場合にコマンド（６２４Ａを含む）を処理することができる。１つ以上の実行基準のセットが満たされると、デジタルアシスタントは、要求の内容に基づいてコマンドを実行する。１つ以上の実行基準のセットは、コマンド完了基準、実施可能基準、及びアクティブ化基準のうちの１つ以上を任意選択的に含む。コマンド完了基準は、電子デバイス６００が受信した音声コマンド（例えば、音声によるユーザ入力要求）の終わりを検出すると、満たされる。電子デバイス６００が、ゼロでない所定の期間を超えた、受信した音声内の休止（すなわち、ユーザ音声を受信していないこと）を検出することによってコマンド６２４Ａ〜２４Ｂの終わりが判定される。いくつかの実施形態では、検出された休止がゼロでない所定の期間未満である（場合には、コマンド完了基準は満たされない例えば、ユーザはコマンドの発語を完了していない）。電子デバイス６００が、受信したコマンドが実施可能である（例えば、デバイスがコマンドを実行する権限及び／又は能力を有する）と判定すると、実施可能基準が満たされる。いくつかの実施例では、コマンドがアカウントからの情報にアクセスすることであって、電子デバイスがアカウントにアクセスする承認を受信していない場合、デバイスがアカウントにアクセスする権限を有していないため、コマンドは実施可能ではない。いくつかの実施例では、電子デバイス６００が受信した要求を、デジタルアシスタントが実行又は送信できるコマンドとするように処理できないとき、実施可能基準は満たされない（例えば、コマンドは「テレビをオンにする」ことであるが、対応する命令が送信され得る部屋にはテレビが存在しない）。デジタルアシスタントがアクティブ化されたときにアクティブ化基準が満たされる。
【０１８２】
図６Ｄは、デジタルアシスタントがアクティブ化されている間に１つ以上の実行基準のセットが満たされると、デジタルアシスタントはコマンドを実行することを示す。デジタルアシスタントがコマンドを正常に処理し、実行基準が満たされたと判定した場合、デジタルアシスタントは、適切なデバイスの状態を変化させる命令を送信する。この例では、オンにするテーブルランプ６１８（外部デバイス）に命令が送信される。いくつかの実施形態では、以下により詳細に記載されるように図８Ａ〜図８Ｃの説明に従って、どの外部デバイスを機能させるかの判定が行われる。デジタルアシスタントがコマンドを実行した後、電子デバイス６００は、コマンド６２４Ａ〜６２４Ｂが正常に実行されたかを示すインジケータ（例えば、インジケータ６１０Ａ，６１０Ｂ，６１０Ｃ）を任意選択的に提供する。いくつかの実施形態では、インジケータは、デジタルアシスタントがコマンド６２４Ａ−６２４Ｂを実行したことを示すために、特定の色の光（例えば、青、又はデジタルアシスタントがアクティブ化されていないときのデフォルトの色以外の色）又は光パターンの光を表示する視覚的インジケータ６１０Ａである。いくつかの実施形態では、インジケータは、サウンド、フレーズ、単語、又はトーンを再生する音声によるインジケータ６１０Ｂである。いくつかの実施形態では、図１０Ａ〜図１０Ｄに関して説明されるように、インジケータは、デジタルアシスタントがコマンド６２４Ａ〜６２４Ｂを実行したとき、特定の音声（例えば、アクセント、男性、又は女性の声）で発語できるデジタルアシスタントによって発語される確認６１０Ｃである。いくつかの実施形態では、ユーザ６２０は、図１０Ａ〜図１０Ｄに関して後述されるように、ユーザのプロファイルに関連付けられた特性（例えば、ユーザ名、明るい色、パターン、サウンド、音声、アクセントに対する特定のユーザの好み）の値を含むように、視覚的インジケータ、音声によるインジケータ、又はデジタルアシスタントインジケータをカスタマイズすることができる。例えば、図６Ｄでは、デジタルアシスタントは、「ジャック、テーブルランプがオンにされました」という確認を提供することができる。ユーザ６２０の名前は、ユーザ６２０が登録中に提供した、ユーザ６２０のユーザプロファイルから取得され、図１０Ａ〜図１０Ｄに関して後述するように判定される。登録プロセスは、図１０Ａ〜図１０Ｄ、及び方法１１００に関して以下で詳細に説明される。デジタルアシスタントは、ユーザ６２０のプロファイルからの設定を利用して、どのユーザ（例えば、ジャック）がコマンドを発語したかを反映するようにインジケータを更にカスタマイズすることができる。
【０１８３】
１つ以上の実行基準のセットが満たされない場合、電子デバイス６００は、コマンドの内容に基づくコマンドの実行を見合わせる。いくつかの実施例では、実施可能基準が満たされない場合には、１つ以上の実行基準のセットは満たされない。実施可能基準が満たされない場合、電子デバイス６００は、任意選択的に、図６Ｏに示すようなヘッドシェイクによる指示を生成して、デジタルアシスタントがコマンドを処理できなかったため、承認がないため、又はコマンドを実行する能力がないため、コマンドを実行できないことを示す。図６Ｏのヘッドシェイクによる指示は、（６Ｏ−Ａに示すような）電子デバイス６００のディスプレイ６０２の第１の側の光又は光パターン６０２Ａと、それに続いて、（６Ｏ−Ｂに示すような）ディスプレイ６０２の第２の側の光パターン６０２Ｂと、それに続いて、（６Ｏ−Ｃに示すような）ディスプレイ６０２の第１の側の光パターン６０２Ａとを含み、これは人がかぶりを振ること（ヘッドシェイク）を模擬する。いくつかの実施形態では、実行基準が満たされないときに、特定のインジケータ（例えば、光のパターン、色、又は特定のサウンド）が電子デバイス６００によって生成される。特定のインジケータは、デジタルアシスタントがコマンドを実行できなかった理由を示す特定のエラーコードに対応してもよい（例えば、青色光はコマンドが理解されなかったことを示し、紫色は認可の欠如を示す）。いくつかの実施形態では、デジタルアシスタントがコマンドを実行できないときに生成されるインジケータは、デジタルアシスタントがコマンドを実行することができるときに生成されるインジケータとは異なる。
【０１８４】
図６Ｅ〜図６Ｇは、ユーザ６２０がウェアラブル電子デバイス又はモバイル電子デバイス６３０上のデジタルアシスタントをアクティブ化する別の実施形態を示す。図６Ｅでは、電子デバイス６３０がユーザ入力又は手首を持ち上げるなどのジェスチャを検出すると、電子デバイス６３０上のデジタルアシスタントがアクティブ化される。いくつかの実施形態では、ユーザ６２０はまた、任意選択的に、ボタンを押したり、竜頭を回転させたり、又は音声によるユーザ入力を提供したりして、電子デバイス６３０上のデジタルアシスタントをアクティブ化してもよい。デジタルアシスタントがアクティブ化されると、電子デバイス６３０は、任意選択的に、視覚的インジケータ６１０Ａ（例えば、光）、音声によるインジケータ６１０Ｂ（例えば、サウンド、トーン、単語）、又はデジタルアシスタントの音声確認６１０Ｃを提供して、デジタルアシスタントがアクティブ化されたこと、又は１つ以上のアクティブ化基準のセットが満たされたことを示す。様々な種類のインジケータが、図６Ｂに関して上述されている。
【０１８５】
図６Ｆでは、電子デバイス６３０は、ユーザ６２０からの「テーブルランプをオンして」というコマンド６２４Ｃを含む発語コマンドを検出する。発語コマンドを受信した後、デジタルアシスタントは、１つ以上の実行基準のセット（例えば、実施可能基準、コマンド完了基準、アクティブ化基準）が満たされたかどうかを判定する。上述のように、１つ以上の実行基準が満たされると、デジタルアシスタントは、音声による入力要求の内容に基づいてコマンドを実行する。図６Ｆに示すように、電子デバイスは、任意選択的に、ユーザの凝視が１つ以上の凝視基準のセットを満たすかどうかをまた判定して、作用する外部デバイスを特定する。以下、１つ以上の凝視基準のセットが更に詳細に説明される。
【０１８６】
図６Ｇは、電子デバイス６３０が、テーブルランプをオフ状態からオンにさせる際にコマンドが正常に実行されたというインジケータ（例えば、６１０Ａ，６１０Ｂ，６１０Ｃ）を提供することを示す。コマンドが正常に実行されたことを表示するインジケータは、図６Ｅに関して上述されている。
【０１８７】
図６Ｈ〜図６Ｊは、ユーザ６２０がコマンド６４２Ａ〜６２４Ｂを発語中に凝視を中断したために、１つ以上の実行基準のセットが満たされず、デジタルアシスタントが発語コマンド６２４Ａ〜６２４Ｂに関連付けられたコマンドを実行しない場合を示す。１つ以上の実行基準のセットは、ユーザ６２０が、デジタルアシスタントのアクティブ化と発語コマンド６２４Ａ〜６２４Ｂの完了との間に、電子デバイス６００に向けた凝視を閾値持続時間を超えて中断しなかったことを、（例えば、（ユーザ６２０が発語中に）１つ以上のカメラセンサ６１６Ａ，６１６Ｂを使用して電子デバイス６００によって取得された）第２の凝視情報が示すことを、電子デバイス６００が判定したときに満たされる連続凝視基準を含む。いくつかの実施形態では、閾値持続時間はゼロであり、これは、ユーザが発語中、凝視を中断できないことを意味する。いくつかの実施形態では、閾値持続時間は、ゼロでない期間であり、これにより、ユーザは、コマンドを取り消さずに一時的に目をそらすことが可能になる。
【０１８８】
図６Ｈ〜図６Ｉでは、ユーザ６０２は、電子デバイス６００がアクティブ化されている間に、「テーブルランプをオンにして」というコマンド６２４Ａ〜６２４Ｂを発語し、その間、電子デバイス６００に向けた凝視を中断する。図６Ｈに示すように、電子デバイス６００が「ｔｕｒｎ．．．」というコマンド６２４Ａ〜６２４Ｂの第１の部分６２４Ａを受信している間、電子デバイス６００は、ユーザ６２０が電子デバイスを見ていると判定する。図６Ｉでは、ユーザがコマンド６２４Ａ〜６２４Ｂの残り６２４Ｂ「．．．ｏｎ  ｔｈｅ  ｔａｂｌｅ  ｌａｍｐ」の発語を完了する前に、ユーザ６２０が電子デバイス６００から１８０度ふり向いて目をそらしたとき、電子デバイス６００は、ユーザの凝視の中断を検出する。ユーザの凝視がゼロでない閾値持続時間（例えば、３秒）を超えて視野基準が満たされないと電子デバイス６００が判定したとき、ユーザの凝視は電子デバイス６００から中断される。
【０１８９】
図６Ｊは、１つ以上のアクティブ化基準のセットが満たされた場合であっても（例えば、図６Ｈ）、電子デバイス６００が「ｔｕｒｎ  ｏｎ  ｔｈａｔ  ｌｉｇｈｔ」というコマンド６２４Ａ〜６２４Ｂの実行を見合わせることを示す。結果として、デジタルアシスタントは、テーブルランプ６１８にオンにする命令を送信していないので、テーブルランプ６１８はオフのままである。電子デバイス６００は、コマンドが実行されていないことを示すインジケータ（例えば、６１０Ａ，６１０Ｂ，６１０Ｃ）を任意選択的に生成する。いくつかの実施形態では、インジケータは、上述のような、視覚的インジケータ６１０Ａ（例えば、有色光又は光パターン）、音声インジケータ６１０Ｂ（例えば、サウンド、発語、又は特定の音声）、又はデジタル音声確認６２０Ｃであってもよい。コマンド６２４Ａ〜６２４Ｂが実行されないときに、電子デバイス６００によって提供されるインジケータ（例えば、６１０Ａ，６１０Ｂ，６１０Ｃ）は、任意選択的に、コマンド６２４Ａ〜６２４Ｂが正常に実行されたときに電子デバイス６００によって提供されるインジケータ（例えば、６１０Ａ，６１０Ｂ，６１０Ｃ）とは異なる。
【０１９０】
図６Ｋ〜図６Ｎは、電子デバイスがコマンド６２４Ｄ〜６２４Ｆを受信中（電子デバイス６００がアクティブ化されているとき）、ユーザ６２０が電子デバイス６００に向けた凝視を中断したことを電子デバイス６００が検出した場合であっても、凝視の中断が閾値持続時間未満である場合には連続凝視基準が依然として満たされることを示す。図６Ｋは、電子デバイス６００がデジタルアシスタントをアクティブ化しており、コマンド６２４Ｄ〜６２４Ｆの「ｔｕｒｎ  ｏｎ  ｔｈｅ  ｔａｂｌｅ  ｌａｍｐ（テーブルランプをオンにして）」のうちの部分６２４Ｄ「ｔｕｒｎ．．．」をユーザ６２０から受信中であることを示す。図６Ｌでは、電子デバイス６００は、コマンド６２４Ｄ〜６２４Ｆのうちの第２の部分６２４Ｅ「．．．ｏｎ  ｔｈｅ．．．」をユーザ６２０から継続して受信するが、電子デバイス６００は、ユーザが電子デバイス６００から目をそらすとき、ユーザの凝視の中断を検出する。
【０１９１】
図６Ｍでは、電子デバイス６００は、ユーザ６２０が、閾値持続時間（例えば、３秒）以内に、凝視を電子デバイス６００に再び戻したことを検出する。電子デバイスは、コマンド６２４Ｄ〜６２４Ｆのうち最後の部分６２４Ｆ「．．．ｔａｂｌｅ  ｌａｍｐ」を継続して受信する。凝視の中断は閾値持続時間未満であるため、連続凝視基準は、依然として満たされる。図６Ｎでは、連続凝視基準が満たされると、デジタルアシスタントは「テーブルランプをオンにして」というコマンド６２４Ｄ〜６２４Ｆを実行し、テーブルランプ６１８がオンになった時点で指示（例えば、視覚６１０Ａ指示，音声６１０Ｂ指示及びデジタルアシスタント確認６１０Ｃ指示）を提供する。
【０１９２】
図７Ａ〜図７Ｂは、いくつかの実施形態に係る電子デバイスを使用するための方法７００ を示すフロー図である。方法７００は、電子デバイス（例えば、１００、３００、５００、６００、６３０、８００、１０００）において実行される。方法７００のいくつかの動作は、任意選択的に組み合わされ、いくつかの動作の順序は、任意選択的に変更され、いくつかの動作は、任意選択的に省略される。
【０１９３】
以下に説明するように、方法７００は、電子デバイスを一瞥することによって、電子デバイス上のデジタルアシスタントをアクティブ化するための直感的な方法を提供する。この方法は、デジタルアシスタントをアクティブ化するために、ユーザ入力（例えば、発語による音声入力又はボタン押下を介したタッチ入力）を提供するときのユーザの認識的負担を軽減する。いくつかの状況では、ユーザは、音声アクティブ化を効果的に使用することができなかったり（例えば、部屋が騒がしい場合）、又は触知ユーザ入力を提供する（例えば、ボタンを押す）ことができなかったりする。したがって、電子デバイスを見ることでデジタルアシスタントをアクティブ化することができることにより、ユーザは、より効率的なユーザ−・デバイス間インタフェースを使用してデジタルアシスタントと対話することができる。
【０１９４】
電子デバイス（例えば、６００）のデジタルアシスタントがアクティブ化されていない間（７０２）、電子デバイス（例えば、６００）は、１つ以上のカメラセンサ（例えば、カメラ６１６Ａ，６１６Ｂ）を使用して、（例えば、ユーザ６２０の）第１の凝視情報を取得する（７０４）。例えば、１つ以上のカメラセンサは、赤外線カメラセンサ（単数又は複数）及び／又は可視光センサ（単数又は複数）である。例えば、１つ以上のカメラセンサは、電子デバイスに無線で接続されていることなどにより、電子デバイス（例えば、６００）の外部にある。
【０１９５】
（例えば、デジタルアシスタントがアクティブ化されていない間に）第１の凝視情報が１つ以上のアクティブ化基準のセット（例えば、凝視の角度が視線に対して閾値度未満である、凝視は特定の方向にある、凝視の持続時間は所定の期間以上である）を満たすとの判定にしたがって（７０６）、電子デバイス（例えば、６００）は、電子デバイス（例えば、６００）のデジタルアシスタントを（例えば、マイクロフォンをオンにし、記録された音声の処理を可能にすることによって）アクティブ化する（７０８）。
【０１９６】
１つ以上のアクティブ化基準のセットが満たされているときに凝視検出を使用してデジタルアシスタントをアクティブ化することは、特に、ユーザがボタンを押すことができない、又は部屋が騒々しいので音声制御を使用することができないコンテキストにおいて、デジタルアシスタントをアクティブ化するためのより効率的なユーザインタフェースをユーザに提供する。触覚ユーザ入力（例えば、ボタン押下）又は音声入力を必要としない、デジタルアシスタントをアクティブ化するための改善されたユーザインタフェースを提供することにより、デジタルアシスタントの操作性を向上させ、デジタルアシスタントインタフェースのユーザインタフェースをより効率的にする。加えて、視線検出を使用することで、デジタルアシスタントをアクティブ化してコマンドを実行するのに必要なユーザ入力の数が低減され、電子デバイスの操作性が向上する。
【０１９７】
いくつかの実施形態では、１つ以上のアクティブ化基準のセットは、判定されたオフセット角度（例えば、６２２）が閾値オフセット角度（例えば、６０４）（例えば、ゼロでない度値であって、デバイスを直接見るユーザからの最大許容可能な偏差）未満であるときに満たされる視野基準を含み、判定されたオフセット角度（例えば、６２２）は、ユーザ（例えば、６２０）の凝視の（例えば、凝視情報から判定された）視線（例えば、６１２）と、ユーザ（例えば、６２０）から電子デバイス（例えば、６００）への算出された視線（例えば、６０８）との間に形成された角度である。
【０１９８】
アクティブ化基準として視野基準を使用することにより、ユーザ（例えば、６２０）が直接電子デバイス（例えば、６００）を見なくても、ユーザの凝視を検出することが可能になる。電子デバイス（例えば、６００）がユーザの凝視の視野（例えば、６０６）内にある限り、ユーザの凝視はアクティブ化基準を満たすので、デジタルアシスタントをアクティブ化することが可能になる。視野基準を使用することで、凝視を介してデジタルアシスタントをより正常にアクティブ化することが可能になり、それにより、デジタルアシスタントの操作性が向上し、凝視検出がより効率的になる（例えば、電子デバイス（例えば、６００）がユーザ（例えば、６２０）の直接的な視線（例えば、６１２）内になくてもよいので、デジタルアシスタントは、より高いアクティブ化率を有する）。
【０１９９】
いくつかの実施例では、電子デバイス（例えば、６００）が閾値度を超えて（例えば、凝視の視野６０６の外側に）位置すると判定された場合、電子デバイス（例えば、６００）はユーザの凝視内にはなく、デジタルアシスタントはアクティブ化されない。いくつかの実施例では、電子デバイス（例えば、６００）が、閾値度の範囲内にあることによって凝視の視野（例えば、６０６）内にあるとき、デジタルアシスタントはアクティブ化される。
【０２００】
いくつかの実施形態では、ユーザ（例えば、６２０）の凝視の視線（例えば、６１２）は、ユーザ（例えば、６２０）の頭部位置に基づくものである。いくつかの実施例では、ユーザの頭部位置は、傾斜又は回転（例えば、ユーザの頭部のヨー、ピッチ、及びロール）によって影響され得る。
【０２０１】
いくつかの実施形態では、１つ以上のアクティブ化基準のセットは、第１の凝視情報から判定された凝視の静止時間（例えば、持続時間）が閾値時間（例えば、ゼロでない閾値時間）を超えるときに満たされる静止時間基準を含む。いくつかの実施例では、凝視の静止時間が閾値時間未満である場合、デジタルアシスタントはアクティブ化されない。
【０２０２】
更に、第１の凝視情報が１つ以上のアクティブ化基準のセットを満たすとの判定（７０６）に従って、電子デバイス（例えば、６００）は、１つ以上のアクティブ化基準のセットが満たされていること、及び／又は電子デバイスのデジタルアシスタントが遷移中、若しくは遷移してアクティブ化中であるとの指示を提供する（７１０）。
【０２０３】
１つ以上のアクティブ化基準のセットが満たされており、デジタルアシスタントがアクティブ化されているという指示（例えば、６１０Ａ，６１０Ｂ，６１０Ｃ）を提供することにより、デジタルアシスタントの現在の状態に関するフィードバックがユーザに提供される。指示（例えば、６１０Ａ，６１０Ｂ，６１０Ｃ）は、様々なコンテキストに関するカスタマイズ可能なフィードバックを提供する、視覚的確認、音声確認、又はデジタルアシスタントの音声確認であり得る。例えば、サウンドインジケータが聞こえないコンテキスト（例えば、騒々しい部屋）では、視覚的フィードバック（例えば、６１０Ａ）を提供することにより、ユーザ（例えば、６２０）は、デジタルアシスタントがアクティブ化されて、コマンドが処理できるかどうかを知ることができる。デジタルデバイスの状態のカスタマイズされたフィードバックを提供することにより、デジタルアシスタントの操作性が向上し、例えば、デジタルアシスタントがコマンドを処理するために利用可能である（例えば、アクティブ化されている）ときと、利用不可能である（例えば、非アクティブである）ときを、ユーザ（例えば、６２０）に知らせることによって、ユーザ−・デバイス間インタフェースをより効率的にする（例えば、デジタルアシスタントがアクティブでない場合、ユーザ（例えば、６２０）はコマンドを発行しない）。更に、デジタルアシスタントの状態のフィードバックにより、ユーザ（例えば、６２０）がデジタルアシスタントをより効率的に使用することが可能になる。
【０２０４】
いくつかの実施形態では、指示（７１２）は、デジタルアシスタントがアクティブ化されていることを示す視覚的指示（例えば、６１０Ａ）（電子デバイス６００が電子デバイス６００のディスプレイ、ＬＥＤ、又は明かりをオンにするなど）である。いくつかの実施形態では、指示（７１４）は、デジタルアシスタントが現在アクティブ化されていることを示すための、音声による指示（例えば、６１０Ｂ）（電子デバイス６００が電子デバイス６００のスピーカを介して音を再生するなど）である。
【０２０５】
いくつかの実施形態では、（例えば、デジタルアシスタントがアクティブ化されていない間の）第１の凝視情報が１つ以上のアクティブ化基準のセットを満たさない（例えば、電子デバイス（例えば、６００）がユーザの視野（例えば、６０６）内にはない、凝視が誤った方向にある、凝視の持続時間は所定期間よりも短い）との判定（７１６）に従って、電子デバイス（例えば、６００）は、デジタルアシスタントのアクティブ化を見合わせる。いくつかの実施形態では、デジタルアシスタントのアクティブ化を見合わせることは、デジタルアシスタントをアクティブ化しないままにすること、又は電子デバイス（例えば、６００）がマイクロフォンを有効化しないこと又は記録された音声を処理しないことを含む。いくつかの実施例では、凝視情報の第１のセットが１つ以上のアクティブ化基準のセットを満たさない場合、電子デバイス（例えば、６００）はまた、１つ以上のアクティブ化基準のセットが満たされたというインジケータ（例えば、６１０Ａ，６１０Ｂ，６１０Ｃ）の提供もまた見合わせる。
【０２０６】
いくつかの実施形態では、電子デバイス（例えば、６００）は、コマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）を実行する音声によるユーザ入力要求を受信する（７１８）。電子デバイス（例えば、６００）がコマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）を実行する音声によるユーザ入力要求を受信する（７２０）ことに応じて、（又はデジタルアシスタントがコマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）を解釈することに従って）、かつ、１つ以上の実行基準のセット（例えば、実施可能基準、コマンド完了基準、アクティブ化基準）が満たされたとの判定に従って、電子デバイス（例えば、６００）は、音声によるユーザ入力要求の内容に基づいてコマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）を実行する（７２２）。いくつかの実施例では、音声入力要求を受信したことに応じて、かつ、コマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）の解釈ができなかったことに従って、電子デバイス（例えば、６００）は、コマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）の実行を見合わせ、電子デバイス（例えば、６００）は、コマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）が解釈されなかったという指示（例えば、６１０Ａ，６１０Ｂ，６１０Ｃ）（例えば、ヘッドシェイクによる指示などの視覚的指示の表示）を提供する。したがって、電子デバイス（例えば、６００）は、デジタルアシスタントが音声入力を理解しない場合、指示（例えば、６１０Ａ，６１０Ｂ，６１０Ｃ）を提供する。いくつかの実施例では、デジタルアシスタントがアクティブ化されていない場合、デジタルアシスタントは、受信したコマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）の実行を見合わせる。
【０２０７】
いくつかの実施形態では、電子デバイス（例えば、６００）がコマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）を実行する音声によるユーザ入力要求を受信したことに応じて、かつ、１つ以上の実行基準のセット（例えば、実施可能基準、コマンド完了基準、アクティブ化基準）が満たされないとの判定に従って、電子デバイス（例えば、６００）は、ヘッドシェイク（かぶりを振ることによる）指示を提供する。ヘッドシェイク指示は、電子デバイス（例えば、６００）が、電子デバイス（例えば、６００）のディスプレイ（例えば、６０２）の第１の側に第１の光パターンを表示することを含む。第１の光パターンを表示したことに続いて、電子デバイス（例えば、６００）は、電子デバイス（例えば、６００）のディスプレイ（例えば、６０２）の第２の側に第２の光パターンを表示する。第２の光パターンを表示したことに続いて、電子デバイス（例えば、６００）は、電子デバイス（例えば、６００）のディスプレイ（例えば、６０２）の第１の側上に第１の光パターンを表示する。
【０２０８】
１つ以上の実行基準のセットが満たされないという視覚的指示（例えば、６１０Ａ）（例えば、ヘッドシェイク指示（例えば、６０２Ａ〜６０２Ｂ））を提供することにより、ユーザによって発行されたコマンドが処理できないというフィードバックをユーザに提供する。コマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）が処理されない場合を示す、ヘッドシェイク指示（例えば、６０２Ａ〜６０２Ｂ）など、カスタマイズ可能な指示を提供することにより、デジタルアシスタントの操作性が向上し、コマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）が実行されないことをユーザ（例えば、６０２）に通知することによってユーザ−・デバイス間インタフェースがより効率的になる。更に、エラーコードに対応するカスタマイズされた指示（例えば、６１０Ａ，６１０Ｂ，６１０Ｃ）は、コマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）が実行されなかった理由を伝える、改善されたフィードバックをユーザに提供し、それにより、ユーザ−・デバイス間インタフェースをより効率的にする。
【０２０９】
いくつかの実施形態では、１つ以上の実行基準のセットは、電子デバイス（例えば、６００）が、受信された音声コマンドの終わり（例えば、音声によるユーザ入力要求の終わり、所定の期間を超えた音声の休止）を検出するときに満たされる完了基準を含む。いくつかの実施例では、１つ以上の実行基準のセットは、電子デバイス（例えば、６００）が、受信したコマンドが実施可能である（例えば、デジタルアシスタントがコマンドを実行する権限及び／又は能力を有する）と判定する場合に満たされる実施可能基準を含む。
【０２１０】
いくつかの実施形態では、電子デバイス（例えば、６００）は、デジタルアシスタントがアクティブ化されていない間に、音声によるユーザ入力要求の受信を開始する。いくつかの実施例では、デジタルアシスタントは、凝視情報が１つ以上のアクティブ化条件のセットをまだ満たしていないため、非アクティブである。これは、例えば、ユーザ（例えば、６２０）がデジタルアシスタントを見る前にコマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）の発語を開始するときに起こり得る。いくつかの実施例では、第１の凝視情報は１つ以上のアクティブ化基準のセットを満たし、それに応じて、デジタルアシスタントは、コマンドを実行するための音声によるユーザ入力要求の受信を電子デバイス（例えば、６００）が終了する前にアクティブ化される。
【０２１１】
デジタルアシスタントがアクティブ化される前に音声によるユーザ入力要求を受信することができることにより、ユーザ（例えば、６０２）がデジタルアシスタントをまだアクティブ化していない場合であっても、ユーザ（例えば、６０２）は、発語を開始することが可能になる。アクティブ化条件のセットがまだ満たされていないときに音声によるユーザ入力要求を検出することにより、デジタルアシスタントの操作性が向上し、アクティブ化及びコマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）の発語が順序通りに実行される必要がないので、デバイス・ユーザ間インタフェースがより効率的になる。
【０２１２】
いくつかの実施形態では、電子デバイス（例えば、６００）がコマンド（例えば、１２４Ｃ）を実行するために音声によるユーザ入力要求を受信したことに応じて、かつ、１つ以上の実行基準のセットが満たされないとの判定に従って（例えば、コマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）を実行するために電子デバイス（例えば、６００）に対して満たされるべき様々な基準）、電子デバイス（例えば、６００）は、音声によるユーザ入力要求の内容に基づくコマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）の実行を見合わせ（７２４）、その１つ以上の実行基準のセットは、（例えば、１つ以上のカメラセンサを使用して電子デバイスによって取得される）第２の凝視情報が、ユーザ（例えば、６０２）が、デジタルアシスタントのアクティブ化と音声によるユーザ入力要求の完了との間の閾値持続時間（例えば、ゼロでない持続時間）を超えて、電子デバイス（例えば、６００）に向けた凝視を中断しないことを示すと、電子デバイス（例えば、６００）が判定した場合に満たされる連続凝視基準を含む。いくつかの実施例では、デジタルアシスタントは、ユーザ（例えば、６０２）がデバイス凝視を中断する（例えば、ユーザ（例えば、６０２）が、コマンドの完了前に目をそらした、ユーザ（例えば、６０２）が一度に１秒以上目をそらした）という理由で、コマンド（例えば、６２４Ａ〜６２４Ｂ、６２４Ｃ）を実行しない。いくつかの実施例では、閾値持続時間は０秒である。いくつかの実施例では、閾値持続時間はゼロでない持続時間（例えば、０．５秒）である。
【０２１３】
いくつかの実施形態では、電子デバイス（例えば、６００）は、音声出力を生成し（例えば、電子デバイス（例えば、６００）が楽曲を再生しており）、音声出力は、音声によるユーザ入力要求を受信する前には第１の音量で生成される。音声によるユーザ入力要求の受信を開始したことに応じて、電子デバイス（例えば、６００）は、音声出力の音量を第１の音量よりも小さい第２の音量に低減し、第２の音量は、ユーザ（例えば、音声によるユーザ入力要求を提供するユーザ）と電子デバイス（例えば、６００）との間の距離に基づく。いくつかの実施例では、電子デバイス（例えば、６００）は、外部センサ（例えば、６１６Ａ）又は電子デバイス（例えば、６００）上のセンサ（例えば、６１６Ｂ）を使用して、ユーザ（例えば、６０２）と電子デバイス（例えば、６００）との間の距離を判定し、ユーザ（例えば、６０２）が話している間、音楽の音量をミュート又は低減する（例えば、音声出力を可変的に頭を引っ込めるように下げる）かどうかを判定する。いくつかの実施例では、電子デバイスは、コマンド（例えば、６２４Ｃ）の終わりを検出した後に、音量を第１の音量まで戻してもよい。いくつかの実施例では、音量変更は、要求の内容に基づくものではない。
【０２１４】
電子デバイスが音声によるユーザ入力要求を受信するときに、音声出力音量を低減するか、又は音声出力をミュートにすることにより、音声によるユーザ入力要求をより容易に処理することが可能となり、その結果、環境ノイズが低減されるため、音声によるユーザ入力要求から導出されたコマンド（例えば、６２４Ｃ）が、電子デバイスによって理解される可能性が高くなる。デジタルアシスタントによって処理されるコマンド（例えば、６２４Ｃ）と干渉し得る可能性のある環境ノイズ又はサウンドを除去することにより、デジタルアシスタントの操作性が向上し、正しいコマンドを実行する精度を高めることによって、ユーザ−・デバイス間インタフェースがより効率的となり、それにより、デジタルアシスタントがコマンド（例えば、６２４Ｃ）を処理できないときに、ユーザ（例えば、６０２）が再びコマンドを繰り返す必要がないため、ユーザエクスペリエンスが改善する。
【０２１５】
方法７００に関して上述したプロセス（例えば、図７Ａ〜図７Ｂ）の詳細はまた、以下で説明する方法にも、類似の方式で適用可能であることに留意されたい。例えば、方法７００は、図９Ａ、図９Ｂ、図１１Ａ、及び図１１Ｂのプロセスを参照して以下に記載する様々な方法の特性のうちの１つ以上を含んでもよい。簡潔にするために、これらの詳細は、以下で繰り返さない。
【０２１６】
以下の図９Ａ〜図９Ｂ及び図１１Ａ〜図１１Ｂにおいて動作が記載されている特定の順序は、例示的なものであり、記載された順序が動作を実行し得る唯一の順序であることを示す意図はないことを理解されたい。当業者であれば、特定の動作の除外と並び、本明細書で説明される動作の順序を並べ替える様々な方法を認識するであろう。簡潔にするために、それらの詳細はここでは繰り返さない。更に、この説明全体において説明されている方法及び処理の態様は、互いに統合されてもよいことに留意されたい。
【０２１７】
図８Ａ〜図８Ｌは、いくつかの実施形態に係る、電子デバイスが、凝視情報を使用して、デジタルアシスタントがアクティブ化された後にコマンドを実行するためのコンテキスト（例えば、コマンドが向けられた機器）を判定するための例示的なユーザインタフェースを示す。図８Ａ〜図８Ｌに示される技法は、任意選択的に、図６Ａ〜図６Ｏに示される技法と連携して機能するか、又はそれらを含み、それらは、ユーザが、電子デバイスを見てコマンドを発行することによって、デジタルアシスタントをアクティブ化し得る様子を開示している。したがって、以下に記載される技法は、図６Ａ〜図６Ｏ及び方法７００を参照して上述した様々な技法の特性のうちの１つ以上を含む。これらの図中のユーザインタフェースは、図９Ａ、図９Ｂでのプロセスを含めた、以下で説明されるプロセスを例示するために使用される。
【０２１８】
図８Ａ〜図８Ｃは、電子デバイス８００が、電子デバイス８００のデジタルアシスタントがアクティブ化されるときに第１のコマンド８２４Ａ〜８２４Ｂを実行するためにユーザ８２０から音声によるユーザ入力要求を受信することを示す。デジタルアシスタントは、トリガ語、（例えば、図６Ａ〜図６Ｏに関して上述したような）凝視、ボタン押下、ユーザがウェアラブル電子デバイス（例えば、腕時計）を着用中の手首の持ち上げ（図６Ｅ〜図６Ｇ）、及び／又は電子デバイス８００においてポイントされた外部デバイス（例えば、電話）の検出に基づいてアクティブ化される。電子デバイス（例えば、８００）は、デジタルアシスタントがアクティブ化されていることを示すために、視覚的指示又は音声による指示８１０Ａ〜８１０Ｂを任意選択的に提供する。
【０２１９】
図８Ａでは、ユーザ８２０が、テーブルランプ８１８及びフロアランプ８１４のある部屋で立っている。電子デバイス８００のデジタルアシスタントは、１つ以上のアクティブ化基準のセットが、電子デバイス８００によって、方法７００に関して上述のように満たされていると判定された（例えば、デバイス８００は、ユーザ８２０がデバイス８００を見ていると判定した）ことに基づいて、アクティブ化されている。デジタルアシスタントがアクティブ化されると、電子デバイスは、ユーザ８２０が、フルコマンド８２４Ａ〜８２４Ｂのうちの部分８２４Ａ「ｔｕｒｎ．．．」を発語するのを検出する。いくつかの実施形態では、完全なコマンド８２４Ａ〜８２４Ｂが、部屋に存在し得る複数の外部デバイス（例えば、テーブルランプ８１８，フロアランプ８１４）に適用可能である。いくつかの実施形態では、ユーザのコマンド８２４Ａ〜８２４Ｂは、コマンド８２４Ａ〜８２４Ｂがどの外部デバイス（例えば、テーブルランプ８１８，フロアランプ８１４）に向けられているかをデジタルアシスタントが判定するのに十分な詳細を含まない。したがって、電子デバイス８００は、コマンド８２４Ａ〜８２４Ｂのみに基づいて、「その光」がテーブルランプ８１８を指すか、又はフロアラップ８１４を指すかを判定することができない。
【０２２０】
図８Ｂにおいて、ユーザ８２０は、どの外部デバイス（例えば、明かり）を作用させたいかを、テーブルランプ８１８を見ることによって示しつつ、コマンド８２４Ａ〜８２４Ｂ「ｔｕｒｎ  ｏｎ  ｔｈａｔ  ｌｉｇｈｔ（その明かりをオンにして）」のうち残りの部分８２４Ｂ「．．．ｏｎ  ｔｈａｔ  ｌｉｇｈｔ（その明かりを）」を言い終える。電子デバイスは、ユーザ８２０が発語中、ユーザの凝視に基づいた凝視情報を受信し、それを使用して、ユーザの凝視が１つ以上の凝視基準のセットを満たすとき、テーブルランプ８１８が対象とされたデバイスであると判定する。電子デバイス８００は、外部デバイス８１６Ａ上に配置され得る、及び／又はカメラ８１６Ｂで電子デバイス８００に一体化され得る１つ以上のカメラセンサを介してユーザの凝視に関する情報を取得する。カメラ８１６Ａは、電子デバイス６００に無線接続されるが、代替的に有線であってもよい。１つ以上のカメラセンサは、赤外線カメラセンサ及び／又は可視光センサを含み、凝視が検出されるとすぐに凝視情報を測定する。凝視情報は、任意選択的に、ユーザの頭部位置、凝視の静止時間又は持続時間、凝視の方向、凝視の視野８０６、凝視の方向、及び対象物（例えば、電子デバイス８００又は外部デバイス（例えば、ランプ８１４，８１８）が凝視の視野８０６内にあるかどうか（例えば、外部デバイスは、ユーザの視線８１２から閾値オフセット角度８０４内にある）、のうち１つ以上を含む。 
【０２２１】
いくつかの実施形態では、電子デバイス８００は、方向基準、静止時間基準、及び／又は視野基準が満たされたときに、１つ以上の凝視基準のセットが満たされたと判定する。１つ以上の凝視基準のセットは、任意選択的に、凝視がテーブルランプ８１８の方向に向けられたときに満たされる方向基準を含む。
【０２２２】
１つ以上の凝視基準のセットは、電子デバイス８００が、ゼロではない所定の期間（例えば、２秒、閾値時間）を超えて、テーブルランプ８１８の方向への凝視の静止時間又は持続時間を検出するときに満たされる静止時間基準を含む。いくつかの実施例では、電子デバイス８００は、静止時間を利用して、（例えば、命令を送信するために）どの外部オブジェクトに作用するかを判定するために、ユーザ８２０がテーブルランプ８１８を見ているかどうかを判定する。凝視の静止時間又は持続時間が閾値時間よりもあまりに短い又は閾値時間未満である場合、このことは、ユーザが、特定の外部デバイス（例えば、テーブルランプ８１８）がコマンド８２４Ａ〜８２４Ｂの対象のデバイスであると意図していないことを示す。いくつかの実施形態では、閾値時間未満の静止時間は、凝視基準を満たさず、結果として、コマンド８２４Ａ〜８２４Ｂが電子デバイス８００によって特定された特定の外部デバイスに送信されない。いくつかの実施形態では、閾値時間よりも短い静止時間は、電子デバイス８００がいずれの外部デバイスも特定しないとの結果をもたらす。
【０２２３】
１つ以上の凝視基準のセットは任意選択的に、視野基準を含む。テーブルランプ８１８などの外部デバイスがユーザ８２０の視野８０６内にあると判定されたときに、特定の外部デバイスについて視界基準が満たされる。テーブルランプ８１８がユーザの視線８１２から閾値オフセット角度８０４内にあるときに、テーブルランプ８１８は、ユーザ８２０の視野８０６内にあると判定される。視野を使用して、ユーザが対象の外部デバイス（例えば、テーブルランプ８１８，フロアランプ８１４）を見ているかどうかを判定することにより、ユーザが対象のデバイスを直接見ていない場合であっても、凝視が視野内で検出され得るため、凝視検出率が高くなる。いくつかの実施形態では、テーブルランプ８１８が直接ユーザ８２０の視線８１２内にあるときに、テーブルランプ８１８に対して視野基準が満たされる。いくつかの実施形態では、凝視の判定されたオフセット角度が、外部デバイスに対する閾値オフセット角度８０４（例えば、テーブルランプ８１８を直接見ているユーザ８２０の視線８１２からの最大許容可能偏差）未満であるときに、特定の外部デバイスに対して視野基準が満たされる。閾値オフセット角度８０４はゼロ度よりも大きい（例えば、３０度）。判定されたオフセット角度は、ユーザ８２０の凝視からの視線８１２とユーザ８２０から電子デバイス８００への算出された視線との間に形成された角度に基づいて算出される。図８Ｂの例では、ユーザー８２０はテーブルランプ８１８を直接見ている。いくつかの実施例では、テーブルランプ８１８が、ユーザの直接の視線から閾値度の範囲内にあることによって凝視の視野内にあるとき、視野基準は、テーブルランプ８１８に対して満たされ、電子デバイス８００は任意選択的に、テーブルランプ８１８に命令を送信する。オフセット角度が閾値オフセット角度８０４よりも大きいとき、視野基準は満たされず、結果として、デジタルアシスタントは、ユーザ８２０の視野８０６の外側にあるテーブルランプ８１８に命令を送信しない。いくつかの実施形態では、テーブルランプ８１８がユーザ８２０の視野８０８の外側に閾値度を超えて位置していると判定された場合、テーブルランプ８１８は、ユーザの凝視内にないと判定され、電子デバイス８００はテーブルランプ８１８に命令を送信しない。いくつかの実施形態では、視線８１２は、ユーザの頭部位置に基づいて測定される。いくつかの実施形態では、ユーザの頭部位置は、ユーザの頭部の傾斜又は回転（例えば、ヨー、ピッチ、及び／又はロール）に基づくものである。これらの技術の態様は、図６Ｂ〜図６Ｃに関して上記に更に詳細に例示及び説明される。
【０２２４】
電子デバイス８００は、１つ以上の凝視基準のセットがテーブルランプ８１８に対して満たされるときに、指示（例えば、インジケータ８１０Ａ，８１０Ｂ、８１０Ｃ）を任意選択的に提供する。指示は、任意選択的に、受信した音声によるユーザ入力要求からのコマンド８２４Ａ〜８２４Ｂがテーブルランプ８１８に関連付けられているか、又はテーブルランプ８１８に向けられていることを示す。指示は、デジタルアシスタントがユーザの凝視に基づいてテーブルランプ８１８を特定したことを示す視覚８１０Ａインジケータ又は音声８１０Ｂインジケータであってもよい。いくつかの実施形態では、インジケータは、デジタルアシスタントがユーザの凝視に基づいてテーブルランプ８１８を特定したことを示すための、特定の色の光（例えば、青色又は、テーブルランプ８１８が特定されたときのデフォルト色以外の色）、又は光パターンを表示する視覚的インジケータ８１０Ａである。いくつかの実施形態では、インジケータは、デジタルアシスタントがテーブルランプ８１８を特定したときに、サウンド、単語、音、トーンを再生する、又は特定の音声（例えば、アクセント、男性、又は女性の声）で発語する音声インジケータ８１０Ｂである。いくつかの実施形態では、デジタルアシスタントは、電子デバイス８００が作用すべき（例えば、オンにすべき）外部デバイスを特定したことを示す音声確認（「テーブルランプをオンにします」）を提供する。
【０２２５】
図８Ｃでは、電子デバイスが、１つ以上の凝視基準のセットがテーブルランプ８１８に対して満たされたと判定すると、デジタルアシスタントは、コマンドに作用する命令を送信する。例えば、電子デバイスは、コマンドが「オンにする」機能を実行することであると判定し、その機能が特定のデバイス（テーブルランプ８１８）に向けられるべきであると判定する。したがって、電子デバイスは、命令を（例えば、テーブルランプ８１８に、又はテーブルランプ８１８を制御する別のデバイスに）送信して、テーブルライトをオフ状態からオン状態にする。いくつかの実施形態では、デジタルアシスタントは、外部デバイスが第１の状態から第２の状態へ遷移した結果としてタスクを変更させる命令を送信する。例えば、デジタルアシスタントは、外部デバイス（例えば、コンピュータ又は電話）に、外部デバイスが楽曲を変更するとき、第１の状態から第２の状態に遷移させ、１つのタスクの実行から別のタスクの実行に（例えば、音楽再生から天気の提供に）遷移し、又は非アクティブ状態からアクティブ状態に、また、その逆に遷移する命令を送信してもよい。
【０２２６】
図８Ｃに示すように、部屋内に（又は電子デバイス８００によってアクセス可能な）複数の外部デバイス（例えば、テーブルランプ８１８，フロアランプ８１４）が存在する場合、電子デバイス８００は、複数の外部デバイスを区別することができ、意図された外部デバイス（例えば、テーブルランプ８１８，フロアランプ８１４）にだけ命令を送信することができる。電子デバイス８００は、特定の外部デバイス（例えば、テーブルランプ８１８，フロアランプ８１４）に対して１つ以上の凝視基準のセットが満たされているかどうかを判定することによって、意図された外部デバイス（例えば、テーブルランプ８１８，フロアランプ８１４）を特定する。換言すれば、電子デバイス８００は、１つ以上の凝視基準のセットが満たされたときに、凝視情報を使用して、ユーザがどの外部デバイス（例えば、テーブルランプ８１８，フロアランプ８１４）を見ているかを判定する。いくつかの実施形態では、電子デバイス８００が、特定された第１の外部デバイス（テーブルランプ８１８）に命令（例えば、「オンにする」）を送信するとき、部屋内の第２の外部デバイス（フロアランプ８１４）は、凝視情報によって特定された外部デバイスではないため、フロアランプ８１４は影響を受けない。フロアランプ８１４（第２の外部デバイス）は、オン状態であってもよいし、オフ状態であってもよい。例えば、図８Ｃにおいて、命令がテーブルランプ８１８に送信されてテーブルランプ８１８をオンにするが、命令はフロアランプ８１４に送信されず、それは、オフのままである（フロアランプ８１４は以前にオフ状態にあった）。したがって、送信された命令は、フロアランプ８１４の状態を変化させない。いくつかの実施形態では、ユーザ８２０がテーブルランプ８１８ではなく、フロアランプ８１４を一瞥すると、１つ以上の凝視基準のセットは、テーブルランプ８１８ではなく、フロアランプ８１４によって満たされる。したがって、デジタルアシスタントは、テーブルランプ８１８が影響を受けないままである間に、フロアランプ８１４に命令を送信する（例えば、テーブルランプ８１８は、以前にオンであった場合にはオンのままであり、以前にオフの場合はオフのままである）。
【０２２７】
デジタルアシスタントが、対応する外部デバイスに命令を送信したとき、電子デバイス８００は、テーブルランプ８１８が第１の状態から第２の状態に遷移したことを示すインジケータ（例えば、インジケータ８１０Ａ，８１０Ｂ，８１０Ｃ）を任意選択的に提供する。いくつかの実施形態では、インジケータは、命令を受信した結果、テーブルランプ８１８がオフ状態からオンにされたことを示すために、特定の色（例えば、青色又はデフォルト色以外の色）の光又は光パターンの光を表示する視覚的インジケータ８１０Ａである。いくつかの実施形態では、インジケータは、サウンド、１つ以上の単語、又はトーンである音声インジケータ８１０Ｂである。いくつかの実施形態では、インジケータは、「Ｏｋ，ジャック、テーブルランプはオンです」などのデジタルアシスタントからの音声確認８１０Ｃである。ユーザは、ユーザ８２０は登録中に提供した、ユーザのプロファイルに関連付けられた特性（例えば、ユーザ名、光の色、パターン、サウンド、音声、アクセントに対する特定のユーザの好み）を含むようにインジケータをカスタマイズすることができる。登録プロセスは、図１０Ａ〜図１０Ｄ及び方法１１００に関連して以下で詳細に説明される。デジタルアシスタントは、図１０Ａ〜図１０Ｄ及び方法１１００に関して後述されるように、どのユーザ（例えば、ジャック）が認識されたかを反映するようにインジケータをカスタマイズする。いくつかの実施形態では、テーブルランプ８１８が実際にオンにされているかどうかにかかわらず、デジタルアシスタントがテーブルランプ８１８に正常に命令を送信したときに、電子デバイス８００は、インジケータ（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）を提供する。いくつかの実施形態では、電子デバイス８００は、テーブルランプ８１８がオンにされたという判定に応じて、インジケータ（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）を提供する。任意選択的に、テーブルランプ８１８が「ｔｕｒｎ  ｏｎ（オンにする）」コマンドを実行できず、オフのままであるとき、電子デバイス８００は、異なるインジケータ（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）を提供する。いくつかの実施形態では、コマンド８２４Ａ〜８２４Ｂが実行に失敗したときに、特定のエラーコードを示すために、電子デバイス８００は異なるインジケータ（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）を提供してもよい。
【０２２８】
インジケータ（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）は、任意選択的にドメイン（例えば、音楽）固有である。いくつかの実施形態では、電子デバイス８００は、コマンドが特定のドメイン内のアクションを指す（例えば、音楽ドメイン内の「Ｌｏｖｅ  ｔｈａｔ  ｓｏｎｇ（その歌が大好き）」コマンド）と判定する。コマンドが第１のドメイン（例えば、音楽）であるとの判定に従って、指示は、第１のタイプの指示（例えば、特定のサウンド又は光インジケータのセット）である。コマンドが第１のドメインとは異なる第２のドメイン（例えば、電子メール）であるとの判定に従って、指示は、第１のタイプの指示とは異なる第２のタイプの指示（例えば、異なるセットの音又は光インジケータ）である。異なるドメインについて異なるインジケータ（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）を有することにより、コマンドが正常に実行されたときと、コマンドが実行できなかったときをユーザが容易に認識することができる。
【０２２９】
図８Ｄは、デジタルアシスタントが、テーブルランプ８１８をオンにする命令を送信したとき、ユーザ８２０は、第２の外部デバイスに入力を提供することによって（例えば、ユーザ８２０が着用している腕時計８３０の竜頭８３２を回転させることによって）、外部デバイスの設定（例えば、ランプの輝度）を更に変更することができることを示す。腕時計８３０は、どれが制御すべき外部デバイスかについてのコンテキスト情報へアクセスしない。代わりに、ユーザは、単に、ランプを制御するための拡張入力機構として腕時計８３０の竜頭８３２を使用するだけである。腕時計８３０は、ユーザ入力を検出し、ユーザ入力の指示を電子デバイス８００に送信する。電子デバイス８００は、ユーザ入力の指示を受信し、テーブルランプ８１８が、命令を受信すべき意図された外部デバイス（例えば、テーブルランプ８１８，フロアランプ８１４）であると判定する。図８Ｄでは、ユーザ８２０が竜頭８４２を回転させて、テーブルランプ８１８の輝度を輝度８０に増大させる。いくつかの実施例では、電子デバイス８００は、電子デバイス８００がユーザ８２０のアクションに基づいて、テーブルランプ８１８に命令を送信したという最新性に基づいて、テーブルランプ８１８が意図された外部デバイスであると判定する。いくつかの実施形態では、電子デバイス８００は、電子デバイス８００が命じた直近のデバイス（例えば、テーブルランプ８１８）に（腕時計８３０でのユーザ入力に基づいて）命令を送信する。例えば、電子デバイス８００がちょうど音楽を再生するようにコンピュータを命じた場合、ユーザが腕時計８４０上の竜頭８４２を回転させることにより、電子デバイス８００は、命令をコンピュータに送信して、コンピュータの音量を増加させる（又は減少させる）ことになる。いくつかの実施形態では、電子デバイス８００は、テーブルランプ８１８とペアリングされる。いくつかの実施形態では、電子デバイス８００は、腕時計８４０が電子デバイス８００とペアリングされている間にユーザ８２０が腕時計８４０を着用していることを検出する。いくつかの実施形態では、腕時計８４０は、（同様に）テーブルランプ８１８とペアリングされる。電子デバイス８００がテーブルランプ８１８に命令を送信すると、電子デバイス８００は、命令が正常に送信されたことを示すインジケータ（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）を提供する。いくつかの実施形態では、電子デバイス８００は、命令がテーブルランプ８１８に正常に送られなかったことを示す異なるインジケータ（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）を提供する。
【０２３０】
図８Ｅは、ユーザ８２０による竜頭８３２の回転量に対応する低輝度になるまでテーブルランプ８１８の光を暗くするために、電子デバイス８００が腕時計８３０からのユーザ入力の追加の指示を受信することを示す。腕時計８３０からの入力の指示を受信したことに応じて、電子デバイス８００は、テーブルランプ８１８をオンにするように命じたとの最新性に基づいて、輝度８０から低減した輝度２０まで光を暗くする命令をテーブルランプ８１８に送信する。いくつかの実施形態では、ユーザ８２０は、デジタルアシスタントに追加のコマンドを提供する必要なく、腕時計８３０を使用して、テーブルランプ８１８がオンになった時点でテーブルランプ８１８を直接制御する。電子デバイス８００がテーブルランプ８１８に命令を送信すると、電子デバイス８００は、命令が正常に送信されたことを示すインジケータ（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）を提供する。いくつかの実施形態では、電子デバイス８００は、命令がテーブルランプ８１８に正常に送信されなかったことを示す異なるインジケータ（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）を提供する。
【０２３１】
いくつかの実施形態では、図８Ｆ〜図８Ｈに示すように、部屋の中に複数の外部デバイス（例えば、フロアランプ８１４，テーブルランプ８１８）が存在する場合、電子デバイス８００は、ユーザの凝視情報を使用して、ユーザの凝視に基づいて、特定の外部デバイスを意図された外部デバイスであると特定する。電子デバイス８００は、凝視情報に基づいて、１つ以上の凝視基準のセットが特定の外部デバイスに対して満たされているかどうかを判定することによって、意図された外部デバイスを特定する。１つ以上の凝視基準のセットが任意の外部デバイスに対して満たされない場合、電子デバイス８００が凝視情報から外部デバイスを判定できないため、電子デバイス８００は命令の送信を見合わせる。結果として、部屋の中の外部デバイスは元の状態のままである。
【０２３２】
図８Ｆは、電子デバイス８００がユーザ８２０の凝視情報を検出し、（例えば、図６Ａ〜図６Ｄに関して上述したように）１つ以上のアクティブ化基準のセットが満たされているとの判定に従って、電子デバイスは、デジタルアシスタントをアクティブ化することを示す。電子デバイスは、任意選択的に、デジタルアシスタントがアクティブ化されていることを示すために、視覚的インジケータ８１０Ａ（例えば、ディスプレイ８０２をオンにする）、音声インジケータ８１０Ｂ、又はデジタル音声確認８１０Ｃを提供してもよい。
【０２３３】
図８Ｇは、最初にオンであるテーブルランプ８１８と、最初にオフであるフロアランプ８１４を示す。電子デバイス８００は、ユーザ８２０が「その明かりをオンにして」という第２のコマンド８２４Ｃを発語することを検出する。しかし、ユーザ８２０は、コマンド８２６Ｃ の意図された外部デバイスであるフロアランプ８１４を見ていない。電子デバイス８００は、外部デバイス上に位置し得る、かつ／又はカメラ８１６Ｂで電子デバイス８００に一体化され得る１つ以上のカメラセンサ８１６Ａを介して第２の凝視情報を取得する。第２の凝視情報は、任意選択的に、ユーザの頭部位置、凝視の静止時間又は持続時間、凝視の方向、凝視の視野８０６、凝視の方向、及びフロアランプ８１４が凝視の視野８０６内にあるかどうか、のうちの１つ又は２つ以上を含む。
【０２３４】
図８Ｈでは、電子デバイス８００は、１つ以上のカメラセンサ８１６から取得された第２の凝視情報が１つ以上の凝視基準のセットを満たさないと判定する。上述のように、１つ又は２つ以上の凝視基準のセットは、任意選択的に、凝視がフロアランプ８１４の方向に向けられたときにフロアランプ８１４に対して満たされる方向基準を含む。１つ以上の凝視基準のセットは、任意選択的に、電子デバイス８００が、所定の期間（例えば、ゼロでない閾値、２秒）を超えた、フロアランプ８１４の方向への凝視の静止時間又は持続時間を検出するときに、フロアランプ８１４に対して満たされる静止時間基準を含む。１つ以上の凝視基準のセットは任意選択的に、視野基準を含む。フロアランプ８１４がユーザ８２０の視野８０８内にあると判定されたときに、フロアランプ８１４に対して視野基準が満たされる。図８Ｇ〜図８Ｈは、判定されたオフセット角度がユーザ８２０の視線８１２からの閾値オフセット角度よりも大きいため、フロアランプ８１４とテーブルランプ８１８がユーザ８２０の視野８０８内にあると判定されないことを示す。閾値オフセット角度８０４はゼロ度よりも大きい（例えば、３０度）。持続時間基準、静止時間基準及び／又は視野基準のうちの１つ以上が任意の外部デバイスに対して満たされないため、１つ以上の凝視基準のセットが満たされない場合、電子デバイス８００は、ユーザ８２０がどの外部デバイス（フロアランプ８１４，テーブルランプ８１８）に作用する（例えば、オンにする）ことを意図するかを判定することができない。
【０２３５】
図８Ｈは、１つ以上の凝視基準のセットが任意の外部デバイスに対して満たされなかったため、電子デバイス８００は、外部デバイス、フロアランプ８１４又はテーブルランプ８１８を第１の状態（例えば、オフ）から第２の状態（例えば、オン）に遷移させるための「その明かりをオンにする」命令の送信を見合わせることを示す。結果として、フロアランプ８１４はオフのままであり、テーブルランプ８１８はオフのままであり、それらは、電子デバイス８００が、ユーザ８２０がコマンド８２４Ｃを発語するのを検出する前の外部デバイスの初期状態であった。例えば、テーブルランプ８１８は、その初期のオン状態を変更するためにテーブルランプ８１８にいかなる命令も送信されていないため、そのオン状態のままである。
【０２３６】
電子デバイス８００は、ユーザ８２０の凝視情報に基づいて、フロアランプ８１４（又は任意の他のデバイス）を意図された外部デバイスとして特定できなかったために、電子デバイス８００が命令を送信しなかったことを示す、特定のインジケータ（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）（例えば、ヘッドシェイク指示（例えば、図６Ｏ又はサウンド）などの一連の光）を任意選択的に生成する。いくつかの実施形態では、特定のインジケータ（例えば、光、色、又は特定のサウンドのパターン）は、デジタルアシスタントがコマンド８２４Ｃに関連付けられた外部デバイスを判定できなかった理由についての特定のエラーコードに対応してもよい。デジタルアシスタントが命令を送信できないときに生成されるインジケータは、デジタルアシスタントが命令を送信できるときに生成されるインジケータとは任意選択的に異なる。いくつかの実施形態では、デジタルアシスタントがコマンド８２４Ｃに関連付けられた命令を送信しない場合、いかなるインジケータも生成されない。
【０２３７】
図８Ｉは、部屋の中に複数の外部デバイス（例えば、フロアランプ８１４及びテーブルランプ８１８）が存在し、電子デバイス８００とペアリングされている別の実施形態を示す。この実施例では、デジタルアシスタントは、ユーザ８２０が一瞥することによってアクティブ化されている。他の実施例では、デジタルアシスタントは、上述のように、単語、一瞥すること、又はボタン押下によってアクティブ化される。図８Ｉに示すように、図８Ｊ−図８Ｌでのユーザがコマンド８２４Ａ〜８２４Ｂを発語する前に、テーブルランプ８１８は既にオン状態にあり、フロアランプ８１４はオフ状態にある。
【０２３８】
図８Ｊでは、電子デバイス８００は、ユーザ８２０がフロアランプ８１４を見ていることを検出している間に、ユーザ８２０が第２のコマンド８２４Ａ〜８２４Ｂ「ｔｕｒｎ  ｏｎ  ｔｈａｔ  ｌｉｇｈｔ（その明かりをオンして）」の部分８２４Ａ「Ｔｕｒｎ．．．」を発語するのを検出する。図８Ｊでは、電子デバイス８００は、外部デバイス上に配置され得る、及び／又はカメラ８１６Ｂにおいて電子デバイス８００に一体化され得る１つ以上のカメラセンサ８１６Ａを介して、フロアランプ８１４をユーザが一瞥することに基づいて第２の凝視情報を取得する。第２の凝視情報は、任意選択的に、ユーザの頭部位置、凝視の静止時間又は持続時間、凝視の方向、凝視の視野、凝視の方向、及びフロアランプ８１４がオフセット角度に基づいて凝視の視野内にあるかどうか、のうちの１つ以上を含む。
【０２３９】
電子デバイス８００は、１つ以上のカメラセンサ８１６Ａ〜８１６Ｂから取得された第２の凝視情報が１つ以上の凝視基準のセットを満たすかどうかを判定する。１つ以上の凝視基準のセットがフロアランプ８１４に対して満たされると、電子デバイス８００は、ユーザ８２０が第２のコマンド８２４Ａ〜８２４Ｂをフロアランプ８１４に適用することを意図したと判定することができる。上述のように、１つ以上の凝視基準のセットは、任意選択的に、凝視がフロアランプ８１４の方向に向けられたときにフロアランプ８１４に対して満たされる方向基準を含む。１つ以上の凝視基準のセットは、電子デバイス８００が、ゼロでない所定の時間（例えば、２秒）を超えたフロアランプ８１４の方向における凝視の静止時間又は持続時間を検出するときに満たされる静止時間基準を任意選択的に含む。１つ以上の凝視基準のセットは、任意選択的に、視野基準を含む。外部デバイス、フロアランプ８１４がユーザ８２０の視野８０８内にあると判定されたときに、視野基準が満たされる。フロアランプ８１４がユーザの視線８１２から閾値オフセット角度８０４内にあるとき、フロアランプ８１４がユーザ８２０の視野８０８内にあると判定される。いくつかの実施形態では、図８Ｊに示すように、フロアランプ８１４がユーザ８２０の視線８１２内に直接あるときに、視野基準が満たされる。いくつかの実施形態では、凝視の判定されたオフセット角度が閾値オフセット角度（例えば、フロアランプ８１４を直接見ているユーザ８２０の視線８１２からの最大許容可能な偏差）未満であるときに、視野基準が満たされる。閾値オフセット角度８０４は、任意選択的に０度より大きい（例えば、３０度）。判定されたオフセット角度は、ユーザ８２０の凝視からの視線８１２と、ユーザ８２０から電子デバイス８００への算出された視線８０８との間に形成された角度に基づいて算出される。いくつかの実施例では、フロアランプ８１４がユーザの直接的な視線８１２から閾値度の範囲内にあることにより、凝視の視野内にあるとき、視野基準はフロアランプ８１４に対して満たされる。
【０２４０】
いくつかの実施形態では、図８Ｋに示すように、ユーザ８２０は、第２のコマンド８２４Ａ〜８２４Ｂの残りの部分８２４Ｂを発語しながら、フロアランプ８１４への凝視を中断する。図８Ｋは、電子デバイス８００が、ユーザ８２０がフロアランプ８１４から目をそらすことによって、第２のコマンド８２４Ａ〜８２４Ｂの第２の部分８２４Ｂを発語しながら、フロアランプ８１４での視線を遮断することを検出することを示す。いくつかの実施形態では、電子デバイス８００が、ユーザ８２０が目をそらす前に、フロアランプ８１４が意図された外部デバイスであることを既に判定しているとき、ユーザ８２０が第２のコマンド８２４Ａ〜８２４Ｂを完了する前に自分の凝視を中断したとしても、１つ以上の凝視基準のセットは、依然として満たされる。いくつかの実施形態では、電子デバイス８００が、コマンド８２４Ａ〜８２４Ｂを完了する前に、ユーザ８２０が自分の凝視を閾値持続時間以内にフロアランプ８１４に戻したことを検出した場合（例えば、図６Ｅ〜図６Ｇ）、電子デバイス８００は、依然として、フロアランプ８１４を外部デバイスとして特定する。
【０２４１】
１つ以上の凝視基準のセットが満たされると、電子デバイスは、フロアランプ８１４に命令を送信し、それにより、図８Ｌに示すように、フロアランプ８１４をオフ状態からオン状態に遷移させる。テーブルランプ８１８は、１つ以上の凝視基準のセットを満たさないので、テーブルランプ８１８は、前のオン状態のままであり、したがって、電子デバイスは、テーブルランプ８１８の状態を変更するための命令を送信しない。いくつかの実施形態では、電子デバイス８００によって受信されたコマンド８２４Ｃがフロアランプ８１４に向けられ、「ｔｕｒｎ  ｏｆｆ  ｔｈａｔ  ｌｉｇｈｔ（その明かりをオフにして）」が含まれると判定した場合、１つ以上の凝視基準のセットがフロアランプ８１４に対して満たされたときに、電子デバイス８００は、フロアランプ８１４をオフにする命令を送信し、一方で、既にオン状態にあったテーブルランプ８１８は、オン状態のままとなる。
【０２４２】
図８Ｌは、電子デバイス８００がフロアランプ８１４に命令を送信したとき、電子デバイス８００は、フロアランプ８１４がオフ状態からオン状態に遷移したことを示すインジケータ（例えば、インジケータ８１０Ａ，８１０Ｂ，８１０Ｃ）を任意選択的に提供することを示す。いくつかの実施形態では、インジケータは、命令を受信した結果、テーブルランプ８１８がオフ状態からオンにされたことを示すために、特定の色（例えば、青色又はデフォルト色以外の色）の光又は光パターンを表示する視覚的インジケータ８１０Ａである。いくつかの実施形態では、インジケータは、サウンド、１つ以上の単語、又はトーンを再生する音声インジケータ８１０Ｂである。いくつかの実施形態では、デジタルアシスタントは確認８１０Ｃを発語する。いくつかの実施形態では、ユーザ８２０は、ユーザのユーザプロファイルに関連付けられた特性（例えば、ユーザ名、光の色、パターン、サウンド、音声、アクセントに対する特定のユーザの好み）を含むように、音声インジケータ及び視覚的インジケータをカスタマイズすることができる。図８Ｋでは、デジタルアシスタントは、「ジャック、フロアランプがオンされました」という音声インジケータを提供する。音声インジケータは、命令が実行されたという確認を提供する。音声インジケータはまた、ユーザ８２０が登録中に提供した、ユーザ８２０のユーザプロファイルから取得されたユーザ８２０の名前も含む。登録プロセスは、図１０Ａ〜図１０Ｄに関して以下で詳細に説明される。デジタルアシスタントは、ユーザ８２０のプロファイルから設定を利用して、どのユーザ（例えば、ジャック）がコマンドを発語したかを反映するようにインジケータを更にカスタマイズすることができる。いくつかの実施形態では、電子デバイス８００は、フロアランプ８１４が実際にオンになっているかどうかにかかわらず、電子デバイスが、フロアランプ８１４に「オンにする」命令を正常に送信したときに、インジケータを提供する。任意選択的に、電子デバイス８００は、フロアランプ８１４が「オンにする」コマンドを実行できず、オフのままであるときに、異なるインジケータを提供する。いくつかの実施形態では、コマンド８２４Ｃが失敗して実行されたときのインジケータは、異なるエラーコードの異なるインジケータを含む。
【０２４３】
図９Ａ〜図９Ｂは、いくつかの実施形態に係る、電子デバイスを使用する方法９００を示すフロー図である。方法９００は、表示デバイスを有する電子デバイス（例えば、１００、３００、５００、６００、６４０、８００、１０００）において実行される。方法９００のいくつかの動作は、任意選択的に組み合わされ、いくつかの動作の順序は、任意選択的に変更され、いくつかの動作は、任意選択的に省略される。
【０２４４】
後述するように、方法９００は、ユーザ（例えば、８２０）が、音声によるユーザ入力要求が作用することを意図した外部デバイス（例えば、８１４，８１８）を一瞥することによって、音声によるユーザ入力要求に関するコンテキストを、電子デバイス（例えば、８００）上のデジタルアシスタントに提供するための直感的な方法を提供する。この方法は、音声によるユーザ入力要求をデジタルアシスタントに提供する（例えば、コマンド内の外部デバイスを忘れずに言う必要がある）際のユーザ（例えば、８２０）の認識的負担を軽減する。したがって、デジタルアシスタントは、ユーザの凝視（例えば、８２０）を監視することによって、コマンドに対する外部デバイス（例えば、８１４，８１８）を判定することができる。
【０２４５】
第１の外部デバイス（例えば、８１８）は、第１の状態にある（例えば、第１の外部デバイス（例えば、８１８）がオン又はオフである、第１の外部デバイス（例えば、８１８）は、特定のメディア項目を再生している）間（９０２）、電子デバイス（例えば、８００）は、第１のコマンド（例えば、８２４Ａ〜８２４Ｂ）を実行する（例えば、外部デバイスを第２の状態に遷移させ、デジタルアシスタントに「ｔｕｒｎ  ｏｎ  ｔｈａｔ  ｌｉｇｈｔ（その明かりをオンにして）」と伝える）ための、ユーザ入力要求（例えば、ユーザ発語入力）を受信する（９０４）。いくつかの実施形態では、電子デバイスは、（例えば、トリガ語、凝視、及び／又はボタン押下に基づいて）電子デバイス（例えば、８００）上のデジタルアシスタントがアクティブである間に、音声によるユーザ入力要求を受信する（９０４）。
【０２４６】
第１の外部デバイス（例えば、８１８）が第１の状態にある間に（９０２）、電子デバイスは、１つ以上のカメラセンサ（例えば、８１６Ａ，８１６Ｂ）（例えば、赤外線カメラセンサ（単数又は複数）、可視光センサ（単数又は複数））を使用して、電子デバイス（例えば、８００）と、又は電子デバイス（例えば、８００）の一部に無線接続されるなどの電子デバイス（例えば、８００）の外部のカメラ（単数又は複数）から、第１の凝視情報を取得する（９０６）（例えば、電子デバイス（例えば、８００）は、第１の外部デバイス（例えば、８１８）に向けられた凝視情報を検出する）。いくつかの実施例では、電子デバイス（例えば、８００）は、第１の凝視情報を使用して、１つ以上の凝視基準のセットが特定の外部デバイスに対して満たされているかどうかを判定する。
【０２４７】
第１の凝視情報を使用して、１つ以上の凝視基準のセットが、第１の外部デバイス（例えば、８１８）（例えば、ランプ、テレビ、又はコンピュータなどの機器）に対して満たされるとの判定に従って（９０８）（かつ、任意選択的に、電子デバイス（例えば、８００）が音声によるユーザ入力要求を受信したことに応じて）、電子デバイス（例えば、８００）は、第１のコマンドに基づいて、第１の外部デバイス（例えば、８１８）を第１の状態から第２の状態へ遷移させる命令を（例えば、第１の外部デバイス（例えば、８１８）に）送信する（９１０）（例えば、デジタルアシスタントは、外部デバイス（例えば、８１８）をオン状態からオフ状態又はオフ状態からオン状態へ遷移させることによって外部デバイス（例えば、８１８）へのアクションを実行する）。
【０２４８】
凝視検出を使用して、１つ以上の凝視基準のセットが満たされたときに、どの外部デバイス（例えば、８１４，８１８）がコマンド（例えば、８２４Ａ〜８２４Ｂ）と関連付けられているかを判定することにより、どの外部デバイス（例えば、８１４，８１８）が意図されているかを明らかにするために、デジタルアシスタントからのフォローアップ質問に答える必要なく、単に外部デバイス（例えば、８１４，８１８）を見ることによってデジタルアシスタントにコンテキストを提供する、より効率的なユーザインタフェースをユーザに提供する。デジタルアシスタントがより多くの情報を取得するためにユーザと対話する必要なく、コマンド（例えば、８２４Ａ〜８２４Ｂ）へコンテキストを提供するように改善されたユーザインタフェースをデジタルアシスタントに付与することにより、デジタルアシスタントインタフェースのユーザインタフェースがより効率的になる。加えて、視線検出を使用することにより、デジタルアシスタントをアクティブ化してコマンド（例えば、８２４Ａ〜８２４Ｂ）を実行するために必要とされる入力数が低減され、それにより、デジタルアシスタントの操作性が向上する。
【０２４９】
いくつかの実施形態では、１つ以上の凝視基準のセットが、第１の外部デバイス（例えば、８１８）に対して満たされる（例えば、角度、持続時間、及び凝視の方向）との判定に従って、電子デバイス（例えば、８００）は、（例えば、第１のコマンド（例えば、８２４Ａ〜８２４Ｂ）が第１の外部デバイス（例えば、８１８）と関連付けられていることを示す）、１つ以上の凝視基準のセットが満たされるという指示（例えば、８１０Ａ，８１０Ｂ，８１０ｃ）（例えば、視覚的指示又は音声による指示）を提供する（９１２）。
【０２５０】
１つ以上の凝視基準のセットが満たされており、デジタルアシスタントが外部デバイス（例えば、８００）に命令を正常に送信したという指示を提供することにより、コマンド（例えば、８２４Ａ〜８２４Ｂ）が実行されたかどうかに関するフィードバックをユーザに提供する。指示（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）は、様々なコンテキストに関するカスタマイズ可能なフィードバックを提供する視覚的確認、音声確認、又はデジタルアシスタントの音声確認であり得る。例えば、サウンドが聞こえないコンテキスト（例えば、騒々しい部屋）では、視覚的フィードバックを提供することにより、ユーザは、デジタルアシスタントがコマンド（例えば、８２４Ｃ）を送信したかどうかを知ることが可能になる。デジタルデバイスの状態のカスタマイズされたフィードバックを提供することにより、デジタルアシスタントの操作性が向上し、デジタルアシスタントがコマンドを外部デバイスに正常に送信したときをユーザに通知することによって、ユーザ−・デバイス間インタフェースがより効率的になる（例えば、ユーザは、コマンドがデジタルアシスタントによって実行されたかどうかわからないためにコマンドを繰り返す必要がなくなる）。更に、デジタルアシスタントの状態のフィードバックにより、ユーザが素早く効率的にデバイスを使用することが可能になる。
【０２５１】
いくつかの実施形態では、指示（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）（例えば、視覚的又は音声による指示）は、ドメイン固有（９１４）（例えば、音楽ドメイン、天気ドメイン、メッセージングドメイン）である。いくつかの実施例では、電子デバイス（例えば、８００）は、コマンド（例えば、８２４Ｃ）が特定のドメインであると判定する。コマンド（例えば、８２４Ｃ）が第１のドメインであるとの判定に従うと、指示（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）は、第１のタイプの指示である。コマンド（例えば、８２４Ｃ）が第１のドメインとは異なる第２のドメインであるとの判定に従うと、指示（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）は、第１のタイプの指示とは異なる第２のタイプの指示である。
【０２５２】
ドメイン固有の指示を提供することにより、デジタルアシスタントがコマンド（例えば、８２４Ｃ）の命令を正常に送信できたかどうかをユーザ（例えば、８２０）に迅速に通知する。特定の視覚的インジケータ、音声インジケータ、又はデジタル音声インジケータを特定のドメインと関連付けることにより、コマンド（例えば、８２４Ｃ）が正常に実行されなかった場合に、ユーザが、さらなるアクションをとる必要があるかどうかを迅速に判定することを迅速に可能にする改善されたユーザインタフェースを、ユーザに迅速に提供する。例えば、ユーザが素早く「ｌｏｖｅ  ｔｈａｔ  ｓｏｎｇ（その曲が大好き）」と言うと、そのユーザ（例えば、８２０）は、コマンドに関連付けられた特定のトーンによって、楽曲がお気に入りリストに追加されたことを素早く知ることができ、ユーザは追加できたかを確認する必要がない。これにより、特定のドメインにおける特定のアクションが成功したトーンとの関連付けが、タスクが実行されたという即時の確認を提供するので、ユーザの認識的負担が迅速に軽減される。更に、デジタルアシスタントの状態のフィードバックにより、ユーザ（例えば、８２０）がデジタルアシスタントをより迅速かつ効率的に使用することが可能になる。
【０２５３】
いくつかの実施形態では、電子デバイス（例えば、８００）は、第１の外部デバイス（例えば、８１４，８１８）（例えば、ペアリングされたランプ、テレビ、コンピュータ、電話又は腕時計）とペアリングされる（９１６）。
【０２５４】
いくつかの実施形態では、第１の凝視情報を使用して、第１の電子デバイス（例えば、８１４，８１８）について、１つ以上の凝視基準のセットが満たされない（例えば、ユーザが凝視を中断する、ユーザが外部デバイスを閾値時間見ていない）との判定に従って、電子デバイス（例えば、８００）は、第１の状態から第２の状態に第１の外部デバイス（例えば、８１８）を遷移させる命令の送信を見合わせる。いくつかの実施例では、デジタルアシスタントは、１つ以上の凝視基準のセットが満たされないとき、コマンド（例えば、８２４Ｃ）を実行しない。
【０２５５】
いくつかの実施形態では、１つ以上のアクティブ化基準のセットは、判定されたオフセット角度（例えば、８１０）が閾値オフセット角度（例えば、８０４）（例えば、デバイスを直接見ているユーザからの最大許容可能偏差、ゼロでない閾値オフセット角度、閾値オフセット角度がゼロ度より大きい）未満であるときに満たされる視野基準を含み、判定されたオフセット角度（例えば、８１０）は、ユーザの凝視の（例えば、凝視情報から判定された）視線（例えば、８１２）と、ユーザ（例えば、８２０）から電子デバイス（例えば、８１８）への算出された視線（例えば、８０８）との間に形成された角度である。いくつかの実施例では、第１の外部デバイス（例えば、８１８）が閾値度を超えて（例えば、凝視の視野（例えば、８０６）の外側に）位置すると判定される場合、第１の外部デバイス（例えば、８１８）はユーザの視線内になく、命令は第１の外部デバイス（例えば、８１８）に送信されない。いくつかの実施例では、第１の外部デバイス（例えば、８１８）が、閾値度の範囲内にあることによって、凝視の視野（例えば、８０６）内にあるとき、デジタルアシスタントは、命令を第１の外部デバイス（例えば、８１８）に送信する。
【０２５６】
視野基準を凝視基準として使用することにより、ユーザが外部デバイス（例えば、８１８）を直接見る必要なく、ユーザの凝視を検出することを可能にする。その代わりに、外部デバイス（例えば、８１８）がユーザの凝視の視野内にある限り、ユーザの凝視は凝視基準を満たし、それにより、電子デバイス（例えば、８００）はどの外部デバイス（例えば、８１４，８１８）が意図されているかを判定することが可能になる。視野基準を使用することにより、外部デバイス（例えば、８１８）を、ユーザとの更なる対話を必要とせずに判定することが可能になり、これにより、デジタルアシスタントの操作性が向上し、電子デバイス（例えば、８００）による凝視検出がより効率的になる（例えば、外部デバイス（例えば、８１８）がユーザ（例えば、８２０）の直接的な視線内にある必要がないので、外部デバイス（例えば、８１８）は一層容易に特定される）。
【０２５７】
いくつかの実施形態では、ユーザ（例えば、８２０）の凝視の視線（例えば、８１２）は、ユーザ（例えば、８２０）（例えば、音声によるユーザ入力要求をそのユーザから受け取った、同じユーザ）の頭部位置に基づくものである。いくつかの実施例では、ユーザの頭部位置は、ユーザの頭部の傾斜又は回転（例えば、ヨー、ピッチ、及びロール）によって影響され得る。いくつかの実施例では、頭部位置追跡は、第１の外部デバイス（例えば、８１８）が視野（例えば、８０６）内にあるかどうかを判定するために使用される。
【０２５８】
いくつかの実施形態では、１つ以上の凝視基準のセットは、第１の凝視情報から判定された凝視の静止時間（例えば、持続時間）が閾値時間（例えば、ゼロでない時間）を超えているときに第１の外部デバイス（例えば、８１８）に対して満たされる、静止時間基準を含む。いくつかの実施例では、ユーザ（例えば、８２０）の凝視の静止時間が閾値時間未満であるとき。 
【０２５９】
いくつかの実施形態では、電子デバイス（例えば、８０００）が、第１の外部デバイス（例えば、８１８）を第１の状態から第２の状態に遷移させる命令を（例えば、第１の外部デバイス（例えば、８１８）に）送信したことに続いて、電子デバイス（例えば、８００）は、第１の外部デバイス（例えば、８１８）が第２の状態にあるという指示（例えば、８１０Ａ、８１０Ｂ、８１０Ｃ）（例えば、音声又は視覚的）を提供する（例えば、電子デバイス（例えば、８００）が、第１の外部デバイス（例えば、８１８）がオンになったことを示す視覚的指示（例えば、８１０Ａ）を提供する）。いくつかの実施例では、電子デバイス（例えば、８００）は、コマンド（例えば、８２４Ｃ）が実行できなかったとき（例えば、第１の外部デバイス（例えば、８１８）が依然として第１の状態にある）に、異なる指示（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）を提供する。
【０２６０】
いくつかの実施形態では、第１の外部デバイス（例えば、８１８）が第１の状態にあり、第２の外部デバイスが第３の状態にあり、１つ以上の凝視基準のセットが第２の外部デバイス（例えば、ランプ、テレビ、又はコンピュータなどの機器）に対して満たされるとの第１の凝視情報を使用した判定に従って（かつ、任意選択的に、音声によるユーザ入力要求を受信したことに応じて）、電子デバイス（例えば、８００）は、第１のコマンド（例えば、８２４Ｃ）に基づいて、第２の外部デバイス（例えば、８１４）を第３の状態から第４の状態に遷移させる命令を（例えば、第１の外部デバイス（例えば、８１８）に）送信する（例えば、電子デバイス（例えば、８００）は、第２の外部デバイスをオン状態からオフ状態に、又はオフ状態からオン状態に遷移させることによる、第２の外部デバイス（例えば、８１４）に対するアクションを実行する）。
【０２６１】
１つ以上の凝視基準のセットが第２の外部デバイス（例えば、８１４）（例えば、ランプ、テレビ、又はコンピュータなどの機器）に対して満たされないとの、第１の凝視情報を使用した判定に従って（かつ、任意選択的に、音声によるユーザ入力要求を受信したことに応じて）、電子デバイス（例えば、８００）は、第１のコマンド（例えば、８２４Ｃ）に基づいて、第２の外部デバイス（例えば、８１４）を第３の状態から第４の状態に遷移させる命令を（例えば、第１の外部デバイスに）送信するのを見合わせる（例えば、電子デバイス（例えば、８００）は、第２の外部デバイスを、オン状態からオフ状態に、又はオフ状態からオン状態に遷移させることを見合わせることなどによる第２の外部デバイスへのアクションを実行するのを見合わせる）。
【０２６２】
いくつかの実施形態では、第１の外部デバイス（例えば、８１８）が第２の状態にあり（例えば、第１の外部デバイス９ 例えば、８１８）は第１の状態にもありうる）、第２の外部デバイス（例えば、８１４）が第３の状態（９１８）にある間に、電子デバイス（例えば、８００）は、第２のコマンド（例えば、８２６Ｃ）を含む第２のユーザ入力要求（例えば、ユーザ発語入力）を受信する（９２０）。
【０２６３】
電子デバイス（例えば、８００）は、１つ以上のカメラセンサ（例えば、８１６Ａ，８１６Ｂ）を用いて、（例えば、デジタルアシスタントに「その」明かりをオンにするように伝えて、第２の外部デバイス（例えば、８１４）を第２の状態に遷移させるため、）第２の凝視情報を取得する（９２２）。
【０２６４】
１つ以上の凝視基準のセットが第２の外部デバイス（例えば、８１４）に対して満たされるという、第２の凝視情報を使用した判定（例えば、凝視の角度が閾値度の範囲内にあり、凝視は特定の方向にあり、持続時間は所定の時間以上であるなどの凝視基準を満たすことによって、第２の凝視が第２の外部デバイス（例えば、８１４）を特定すること）に従って、電子デバイス（例えば、８００）は、第２のコマンド（例えば、８２４Ｃ）に基づいて、第２の外部デバイス（例えば、８１４）を第３の状態から第４の状態に遷移させる命令（例えば、第２の外部デバイス（例えば、８１４）の状態を変更する、すなわち、フロアランプをオンにすること）を送信する（９２４）。一方、第１の外部デバイス（例えば、８１８）は、第２の状態のままである（例えば、第１の外部デバイスの状態が変更されることなく、テーブルランプはオンのままである）。
【０２６５】
いくつかの実施形態では、第２の外部デバイス（例えば、８１４）が第３の状態にある間に、かつ、１つ以上の凝視基準のセットが第２の外部デバイス（例えば、８１４）に対して満たされない（例えば、第２の外部デバイスは特定されない）との第２の凝視情報を使用した判定に従って、電子デバイス（例えば、８００）は、第２の外部デバイス（例えば、８１４）を第３の状態から第４の状態に遷移させる命令を送信するのを見合わせる（９２６）（例えば、第２の外部デバイス（例えば、８１４）は、以前と同じ状態のままとなる）。
【０２６６】
いくつかの実施形態では、第２の外部デバイス（例えば、８１４）を第３の状態から第４の状態に遷移させる命令を（例えば、第２の外部デバイス（例えば、８１４）に）送信することに続いて、電子デバイス（例えば、８００）は、第２の外部デバイス（例えば、８１４）が第４の状態にあることを示す指示（例えば、８１０Ａ、８１０Ｂ、８１０Ｃ）（例えば、視覚的又は音声による指示）を提供する（例えば、視覚的（例えば、８１０Ａ）指示又は音声（例えば、８１０Ｂ）指示を提供して、第２の外部デバイス（例えば、８１４）の状態が変化したことを示す）。いくつかの実施例では、電子デバイス（例えば、８００）は、第２のコマンド（例えば、８２４Ｃ）が実行できなかったときに異なる指示（例えば、８１０Ａ，８１０Ｂ，８１０Ｃ）を提供する（例えば、第２の外部デバイス（例えば、８１３）は依然として第３の状態にある）。
【０２６７】
いくつかの実施形態では、第１の外部デバイス（例えば、８１８）を第１の状態から第２の状態に遷移させる命令を（例えば、第１の外部デバイス（例えば、８１８）に）送信したことに続いて、電子デバイス（例えば、８００）は、第３の外部デバイス（例えば、腕時計又は電話）から、第３の外部デバイス（例えば、８３０）によって受信された入力の指示（例えば、第３の外部デバイス上の竜頭（例えば、８３２）の回転）を受信する。電子デバイス（例えば、８００）は、電子デバイス（例えば、８００）が第１の外部デバイス（例えば、８１８）に、第１の外部デバイス（例えば、８１８）を遷移させる（例えば、テーブルランプがオンにされた後、テーブルランプの明かりの輝度を暗くする）第３の命令を命じた最新性に基づいて、第２の命令を、第１の外部デバイス（例えば、８１８）に送信する。いくつかの実施例では、第３の外部デバイス（例えば、８３０）は、第３の外部デバイス（例えば、８４０）が対話している のはどの外部デバイス（例えば、８１４，８１８）かについて知らない。第３の外部デバイス（例えば、８３０）は、入力を受信しユーザ入力を電子デバイス（例えば、８００）に送信することのみを行い、電子デバイス（例えば、８００）が、命令を（例えば、明かりを暗くする）どの外部デバイス（例えば、８１４，８１８）に送信するかがわかるデバイスである。
【０２６８】
第３の外部デバイス（例えば、８３０）を使用して、電子デバイス（例えば、８００）が命令を送信した直近の外部デバイス（例えば、８１８）を更に制御することにより、外部デバイス（例えば、８１８）のさらなる制御を有する追加のユーザインタフェースをユーザ（例えば、８２０）に提供する。
【０２６９】
デジタルアシスタントを介する必要なくデバイスを制御する追加のユーザインタフェース及び機構をユーザ（例えば、８２０）に提供することにより、より効率的なユーザインタフェースが提供され、コマンドを実行するのに必要なデジタルアシスタントとの対話の数が低減される。追加のコマンドを処理するためにデジタルアシスタントと対話する必要はなく、ユーザ（例えば、８２０）は、単に外部デバイス（例えば、８３０）を使用して、場合によって言葉では説明が難しい、正確な入力を提供することができる。第３の外部デバイス（例えば、８４０）から受信した入力に基づいて追加のユーザ入力を受信することにより、デジタルアシスタントの操作性が向上し、追加のコマンドが必要とされないので、外部デバイス（例えば、８１８）を制御するユーザインタフェースがより効率的になる。
【０２７０】
方法９００（例えば、図９Ａ〜図９Ｂ）に関して上述したプロセスの詳細はまた、以下／上記記載の方法にも類似の方式で適用可能であることに留意されたい。例えば、方法９００は、任意選択的に、方法７００に関して上記した、かつ方法１１００に関して後述する様々な方法の特性の１つ以上を含む。例えば、方法９００は、図７Ａ、図７Ｂ、図１１Ａ、図１１Ｂのプロセスを参照して上述された、かつ後述される様々な方法の特性のうちの１つ以上を含んでもよい。簡潔にするために、これらの詳細は、以下で繰り返さない。
【０２７１】
以下の図７Ａ〜図７Ｂ及び図１１Ａ〜図１１Ｂでの動作が説明されている特定の順序は、例示的なものであり、説明される順序は、それらの動作を実行され得る唯一の順序であることを示す意図はないことを理解されたい。当業者であれば、特定の動作の除外と並び、本明細書で説明される動作の順序を並べ替える様々な方法を認識するであろう。簡潔にするために、それらの詳細はここでは繰り返さない。更に、この説明全体において説明されている方法及びプロセスの態様は、互いに統合されてもよいことに留意されたい。
【０２７２】
図１０Ａ〜図１０Ｄは、いくつかの実施形態に係る、デジタルアシスタントがアクティブ化された時点で、部屋の中でコマンドを発語する様々なユーザ（例えば、１０２０，１０３０）をデジタルアシスタントが認識することを示す、様々に異なるインジケータを提供するための例示的なユーザインタフェースを示す。デジタルアシスタントは、トリガ語、方法７００に関して上記した凝視、ボタン押下、ユーザがウェアラブル電子デバイス（例えば、腕時計）を着用中の手首の持ち上げ（例えば、図６Ｅ〜図６Ｇ）、及び／又は、ユーザが外部デバイス（例えば、電話）を電子デバイス１０００上でポイントすること、に基づいて、アクティブ化される。いくつかの実施例では、ユーザ（例えば、１０２０，１０３０）が電子デバイス１０００を見ていると判定したことに応じて（例えば、上述のように、凝視情報を使用して、１つ以上のアクティブ化基準のセットが満たされたとの判定に従って）、電子デバイス１０００は、デジタルアシスタントをアクティブ化し、デジタルアシスタントが起動されると、コマンドを受信する。図１０Ａ〜図１０Ｄに示される技法はまた、任意選択的に、方法９００の態様及び図８Ａ〜図８Ｌに関して説明される技法も含み、それは、ユーザの凝視を使用して、コマンドに関連付けられた特定の外部物体（例えば、テーブルランプ１０１８，フロアランプ）を判定する電子デバイスを示す。これらの図の技法は、図１１Ａ〜１１Ｂのプロセスを含む後述のプロセスを例示するために使用される。
【０２７３】
図１０Ａ〜図１０Ｄに示されるように、ユーザであるジェーン１０３０及びジャック１０２０は、電子デバイス１０００と同じ部屋にいる。図１０Ａでは、上述した技法の態様を使用するなどにより、電子デバイスのデジタルアシスタントがアクティブ化される。電子デバイス１０００は、１人以上のユーザ（例えば、ジェーン１０３０及びジャック１０２０）から発語コマンド（例えば、１０２４Ａ，１０２４Ｂ）を受信して、部屋の中のフロアランプ１０１４又はテーブルランプ１０１８など、様々な外部デバイスを制御する。電子デバイス１０００がコマンド（例えば、１０２４Ａ，１０２４Ｂ）を受信したことに応じて、電子デバイス１０００は、コマンド（例えば、１０２４Ａ，１０２４Ｂ）を発語した特定のユーザのユーザ識別情報（例えば、１０２０，１０３０）を判定する。いくつかの実施形態では、外部デバイス（例えば、外部カメラ１０１６Ａ、電話、又は一体化型カメラ１０１６Ｂ）は、コマンドに対応するユーザ識別情報を判定し、ユーザ識別情報を電子デバイス１０００に送信する。いくつかの実施形態では、電子デバイス１０００は、外部又は内部デバイス（例えば、外部カメラ１０１６Ａ、電話、又は一体化型カメラ１０１６Ｂ）を使用して発語するユーザに関する情報を取得する。いくつかの実施形態では、電子デバイス１０００は、取得した情報を使用して顔認識、音声認識を実行するか、又は発語するユーザまでの距離を算出して、ユーザ識別情報を判定する。
【０２７４】
いくつかの実施形態では、電子デバイスがデジタルアシスタントをアクティブ化する前に、ジェーン１０３０及びジャック１０２０のユーザは、任意選択的に、電子デバイス１０００に記憶されたユーザプロファイルを登録している。いくつかの実施形態では、ユーザプロファイルは、サーバ上に記憶され、電子デバイス１０００によってアクセス可能である。ユーザプロファイルは、デジタルアシスタントがアクティブ化されているか、又はコマンド１０２４Ａ，１０２４Ｂが正常に実行されたか、又は失敗して実行されたかを示すために、電子デバイスによって使用されるインジケータ１０１０Ａ、１０１０Ｂ，１０１０Ｃをカスタマイズするために電子デバイスが使用することができる、設定及び好み（例えば、デジタルアシスタントの音声のアクセントのタイプ、デジタルアシスタントの音声の性別、インジケータのトーン、ＬＥＤ光の色）を含む。例えば、ユーザは、インジケータの各特性の値を提供することによって、デジタルインジケータ設定をカスタマイズすることができる。いくつかの実施例では、インジケータの特性は、タイプ（例えば、視覚的、オーディオ、音声確認、又は種類のいずれかの組み合わせ）、視覚的インジケータのための光の色、音声インジケータのトーン、及びデジタル音声に関するカスタマイズ（例えば、言語、アクセント及び性別のタイプ）が挙げられる。ユーザプロファイルはまた、任意選択的に、ユーザの名前、誕生日、性別、及び／又は住所などの、ユーザであるジェーン１０３０及びジャック１０２０によって、ユーザの承諾を得て登録中に提供されるユーザに関する情報も記憶する。ユーザプロファイル設定及び好みは、任意の時点で更新されてもよい。本明細書に記載される電子デバイス１０００上のユーザ登録のための技術は、上記において、図７Ａ、図７Ｂ、図９Ａ、及び図９Ｂのプロセスを参照して、方法７００及び９００と組み合わせて使用されてもよい。簡潔性のために、これらの詳細は、ここでは繰り返さない。
【０２７５】
図１０Ａでは、電子デバイス１０００は、デジタルアシスタントがアクティブ化されているときに、ジェーン１０３０から「テーブルランプをオンにして」とのコマンド１０２４Ａを受信する。電子デバイス１００がジェーン１０３０によって発語されているコマンド１０２４Ａを受信しているとき（又は、ジェーン１０３０によって発語されたコマンド１０２４Ａを受信した後）、電子デバイス１０００は、発語者がジェーン１０３０であると判定する。例えば、デバイス１０００は、外部カメラ１０１６Ｂ、一体化型カメラ１０１６Ｂ、及び／又はマイクロフォンを使用し、受信したコマンド１０２４Ａは、ジェーン１０３０が座っている方向から来ていると判定する。したがって、電子デバイス１０００は、ジェーン１０３０が座っている方向に対応する位置に、ディスプレイ１００２上に光パターン１０１０Ｄ（例えば、３つの照明ドット）を表示する。いくつかの実施形態では、電子デバイス１０００は、ディスプレイ１００２上にアニメーション化された光パターン１０１０Ｄを表示し、光パターンは、ジェーン１０３０が座っている方向を指すようにアニメーション化される。
【０２７６】
図１０Ａでは、デジタルアシスタントが、コマンド１０２４Ａの発語者がジェーン１０３０であると判定すると、電子デバイス１０００は、インジケータ（例えば、視覚１０１０Ａ，音声１０１０Ｂ，又はデジタルアシスタント確認１０１０Ｃ）の特性（例えば、光の色、特定のサウンド、単語、又は固別のデジタルアシスタントの音声）の値を、ジェーン１０３０に対応する値（例えば、紫の光、２つの調子があるトーン、ジェーンの名前、ブリティッシュアクセント、女性の声）に更新する。いくつかの実施形態では、特性の値は、ジェーンのユーザプロファイルから得られた値である。例えば、電子デバイスは、ディスプレイ１００２上の光パターン１０１０Ｄ（例えば、３つの照明ドット）の色を、ジェーン１０３０に対応する色（紫色など）に設定する。結果として、電子デバイス１０００は、デバイス１０００が発語者をジェーン１０３０と認識したことと、ジェーン１０３０の好みのうちの１つ以上が使用されることを、ジェーン１０３０とジャック１０２０に示す。
【０２７７】
対照的に、図１０Ｃでは、デジタルアシスタントが、コマンド１０２４Ｂの発語者が、ジェーン１０３０とは異なるユーザであるジャック１０２０であると判定すると、電子デバイス１０００は、インジケータ（例えば、視覚的インジケータ又は音声インジケータ）の特性（例えば、光の色、サウンド、又はデジタルアシスタント音声）の値を、ジャック１０２０に対応する値（例えば、青い光、１つの調子のトーン、ジャックの名前、オーストラリアンアクセント、男性の声）に更新し、ジャック１０２０に関連付けられた特性の値は、ジェーン１０３０に関連付けられた特性の値とは異なる。例えば、電子デバイスは、ディスプレイ１００２上の光パターン１０１０Ｅ（例えば、３つの照明ドット）の色を、ジャック１０２０に対応する色（青色など）に設定する。結果として、電子デバイス１０００は、当該デバイス１０００が発語者をジャック１０２０と認識し、ジャック１０２０の好みのうち１つ以上が使用されることを、ジェーン１０３０及びジャック１０２０に示す。
【０２７８】
いくつかの実施形態では、ジャック１０２０とジェーン１０３０は、各人に関連付けられ、同一の特性の値を有してもよい。例えば、ジャック１０２０とジェーン１０３０は両方とも、アメリカ人で女性のデジタルアシスタントの音声を選択することができる。いくつかの実施形態では、各ユーザに関連付けられたインジケータの特性の値は固有である。例えば、ジェーン１０３０とジャック１０２０は、それぞれのユーザに関連付けられた異なる光の色（例えば、ジェーンは紫であるのに対し、ジャックは青）及び異なるサウンド（例えば、２つのトーンのサウンドに対し、１つのトーンのサウンド）を有してもよい。
【０２７９】
図１０Ｂでは、電子デバイス１０００が、ジェーン１０３０がコマンド１０２４Ａを発語していると特定した後、電子デバイス１０００は、方法９００に関して上述したように、１つ以上の実行基準のセットが満たされているかどうかを判定する。１つ以上の実行基準のセットは、完了基準、実施可能基準、及びアクティブ化基準のうちの１つ以上を含む。１つ以上の実行基準のセットが満たされると、電子デバイス１０００は、フロアランプ１０１４をオンするように命令を送信することなどのアクションを実行する。
【０２８０】
電子デバイス１０００がコマンド１０２４Ａを実行したとき、電子デバイス１０００は、任意選択的に、コマンドが正常に実行されたことを示すために、ジェーンの１０３０の好みを使用してインジケータ（例えば、インジケータ１０１０Ａ，１０１０Ｂ，１０１０Ｃ）を提供する。インジケータのタイプ（例えば、視覚的確認、音声確認、及びデジタル音声確認）及びそれらの特性は、方法７００及び９００に関して上述されている。図１０Ｂでは、電子デバイス１０００は、発語者がジェーン１０３０であると判定し、その判定に基づいて、アメリカンアクセントによる女性のデジタルアシスタントの音声確認「ジェーン、フロアランプがオンにされました」を使用して確認を提供する。「ジェーン」という名前は、登録中にジェーン１０３０が提供したジェーン１０３０のユーザプロファイルから取得される。電子デバイス１０００は、ジェーンの１０３０ユーザプロファイルの一部として記憶された以前の好みに基づいて、女性のアメリカンアクセントを使用する。紫色の光パターンは、デジタルアシスタントがジェーンのコマンド１０２４Ａを処理したことを示すために、電子デバイス１０００上の視覚的インジケータとして表示されてもよい。ジェーン１０３０に関連付けられたトーンはまた、デジタルアシスタントがジェーン１０２４Ａのコマンドを処理したことを示すために、電子デバイス１０００上の音声インジケータとして再生されてもよい。結果として、ジェーン１０３０とジャック１０２０の両方が、ジェーンが発語者と特定されたことを認識する。
【０２８１】
同様に、図１０Ｃは、ジャック１０２０が「フロアランプをオンにして」というコマンド１０２４Ｂを発語していることを示している。電子デバイス１０００は、例えば、外部カメラ１０１６Ａ、一体化型カメラ１０１６Ｂ及び／又はマイクロフォンを使用して発語者がジャック１０２０であると判定して、コマンド１０２４Ｂが、ジャック１０３０が座っている方向から来ていると判定する。これに応じて、電子デバイス１０００は、ジャック１０２０が立っている方向に対応する位置に、ディスプレイ１００２上に光パターン１０１０Ｅ（例えば、３つの照明ドット）を表示する。いくつかの実施形態では、電子デバイス１０００は、ディスプレイ１００２上にアニメーション化された光パターン１０１０Ｅを表示し、光パターンは、ジャック１０２０が立っている方向を指すようにアニメーション化される。例えば、電子デバイスは、ディスプレイ１００２上の光パターン１０１０Ｅ（例えば、３つの照明ドット）の色を、ジャック１０２０に対応する色（青色など）に設定する。結果として、電子デバイス１０００は、デバイス１０００が発語者をジャック１０２０と認識し、ジャック１０２０の好みの１つ以上が使用されることを、ジェーン１０３０及びジャック１０２０に示す。
【０２８２】
図１０Ｄでは、電子デバイス１０００が、ジャック１０２０がコマンド１０２４Ｂを発語していることを特定した後、電子デバイス１０００は、方法９００に関して上述したように、１つ以上の実行基準のセットが満たされているかどうかを判定する。１つ以上の実行基準のセットは、完了基準、実施可能基準、及びアクティブ化基準のうちの１つ以上を含む。１つ以上の実行基準のセットが満たされると、電子デバイス１０００は、フロアランプ１０１４をオンするように命令を送信することなどのアクションを実行する。
【０２８３】
電子デバイス１０００がコマンド１０２４Ｂを実行したとき、電子デバイス１０００は、任意選択的に、コマンドが正常に実行されたことを示すために、ジャック１０２０の好みを使用してインジケータ（例えば、インジケータ１０１０Ａ，１０１０Ｂ，１０１０Ｃ）を提供する。インジケータのタイプ（例えば、視覚的確認、音声確認、及びデジタル音声確認）及びそれらの特性は、方法７００及び９００に関して上述されている。図１０Ｄでは、電子デバイス１０００は、発語者がジャック１０２０であると判定し、その判定に基づいて、オーストラリアンアクセントを有する男性のデジタルアシスタント音声を使用して「ジャック、テーブルランプがオンされました」という確認を提供する。「ジャック」という名前は、ジャック１０２０が登録中に提供したジャックの１０３０ユーザプロファイルから得られる。電子デバイス１０００は、ジャックの１０２０ユーザプロファイルの一部として記憶された以前の好みに基づいて、男性のオーストラリアンアクセントを使用する。デジタルアシスタントがジャックのコマンド１０２４Ｂを処理したことを示すために、青色光パターンが電子デバイス１０００上の視覚的インジケータとして表示されてもよい。電子デバイスは、デジタルアシスタントがジャックコマンド１０２４Ｂを処理したことを示すために、音声インジケータとしてジャック１０２０に関連付けられたカスタムトーンを任意選択的に再生する。
【０２８４】
図１１Ａ〜図１１Ｂは、いくつかの実施形態に係る、電子デバイスを使用する方法１１００を示すフロー図である。方法１１００は、電子デバイス（例えば、１００、３００、５００、６００、６４０、８００、１０００）において行われる。方法１１００のいくつかの動作は、任意選択的に組み合わされ、いくつかの動作の順序は、任意選択的に変更され、いくつかの動作は、任意選択的に省略される。
【０２８５】
以下に記載されるように、方法１１００は、各人物に固有のインジケータを提供することによって、異なるユーザ（例えば、１０２０，１０３０）の認識を示すためのデジタルアシスタントの直感的な方法を提供する。複数のユーザが部屋の中でコマンドを発語しているときに、デジタルアシスタントが特定のユーザのコマンドを処理したことをユーザが確認することができるため、この方法はユーザ（例えば、１０２０，１０３０）の認識的負担を軽減する。したがって、デジタルアシスタントは、どのユーザのコマンドが処理されたかを示すために即時のフィードバックを提供することができる。
【０２８６】
電子デバイス（例えば、１０００）上のデジタルアシスタントがトリガ語、凝視、及び／又はボタン押下に基づいてアクティブ化された後、電子デバイス１０００は、音声によるユーザ入力要求（例えば、１０２４Ａ，１０２４Ｂ）を受信する（１１０６）。いくつかの実施例では、音声によるユーザ入力要求（例えば、１０２４Ａ，１０２４Ｂ）を受信したことに応じて、電子デバイス（例えば、１０００）は、音声によるユーザ入力要求（例えば、１０２４Ａ，１０２４Ｂ）に対応するユーザ識別情報（例えば、特定のユーザ（例えば、１０２０，１０３０））を判定する。いくつかの実施例では、リモートデバイス（例えば、カメラ１０１６）は、音声によるユーザ入力要求（例えば、１０２４Ａ，１０２４Ｂ）に対応するユーザ識別情報を判定し、電子デバイス（例えば、１０００）は、判定の結果を受信する。
【０２８７】
いくつかの実施形態では、電子デバイス（例えば、１０００）が音声によるユーザ入力要求（例えば、１０２４Ａ，１０２４Ｂ）を受信する前に、電子デバイス（例えば、１０００）は、登録情報（例えば、ユーザプロファイル情報）を受信する（１１０２）。いくつかの実施形態では、電子デバイス（例えば、１０００）は、登録情報を使用して、電子デバイス（例えば、１０００）のインジケータ（例えば、１０１０Ａ，１０１０Ｂ）の特性（例えば、光、サウンド、デジタルアシスタント音声）の第１の値を、第１のユーザ（例えば、１０２０）と関連付け（１１０４）（そして、第２のユーザとは関連付けず）、また、電子デバイス（例えば、１０００）のインジケータの特性の第２の値を、第２のユーザ（例えば、１０３０）と関連付ける（そして、第２のユーザとは関連付けない）。いくつかの実施例では、登録プロセス中に、電子デバイス（例えば、１０００）は、ユーザの名前を受信し、その後、その名前をユーザ（例えば、１０２０，１０３０）の声と関連付ける。いくつかの実施例では、登録プロセス中に、電子デバイス（例えば、１０００）は、視覚的インジケータの色（例えば、ＬＥＤ色）をユーザ（例えば、１０２０，１０３０）と関連付ける。
【０２８８】
インジケータ（例えば、１０１０Ａ，１０１０Ｂ，１０１０Ｃ）の特性の値を、ユーザのユーザプロファイルのうちの好みと関連付けることにより、デジタルアシスタントは、デジタルアシスタントがコマンドを発語する特定のユーザ（例えば、１０２０，１０３０）を特定したことを確認するために、フィードバックを提供することが可能になる。ユーザ（例えば、１０２０，１０３０）を確認するためにカスタマイズされたフィードバックを提供することで、デジタルアシスタントの操作性が向上し、インジケータ（例えば、１０１０Ａ，１０１０Ｂ，１０１０Ｃ）にユーザ（例えば、１０２０，１０３０）の好みを使用した確認をユーザ（例えば、１０２０，１０３０）に提供することによってユーザ−デバイス間インタフェースがより効率的になる（例えば、ユーザ（例えば、１０２０，１０３０）は、デジタルアシスタントがユーザのコマンド（１０２４Ａ，１０２４Ｂ）を処理したことを知る）。これにより、成功インジケータと特定のユーザの設定との関連付けることによりタスクが実行されたことという即時確認が提供されるので、ユーザ（例えば、１０２０，１０３０）の認識的負担が軽減され、同時に発語する複数のユーザ、又はバックグラウンドに他の発語者が存在する場合における混乱が低減される。更に、デジタルアシスタントの状態のフィードバックにより、ユーザ（例えば、１０２０，１０３０）は、デジタルアシスタントをより迅速かつ効率的に使用することが可能になる。
【０２８９】
電子デバイスは、音声によるユーザ入力要求を受信する（１１０６）。
【０２９０】
いくつかの実施形態では、音声によるユーザ入力要求（例えば、１０２４Ａ，１０２４Ｂ）は、ユーザ発語入力（例えば、発言、コマンド）であり、特性（例えば、光、サウンド、デジタルアシスタントの音声）の値の更新（１１０８）は、音声によるユーザ入力要求（例えば、１０２４Ａ，１０２４Ｂ）の書き写したコンテンツに基づくものではない（例えば、特性の値は、ユーザが言った言葉に基づくものではなく、むしろ、ユーザの識別情報に基づくものである）。
【０２９１】
音声によるユーザ入力要求が第１のユーザ（例えば、１０２０）に対応するとの判定に従って（かつ、任意選択的に、音声によるユーザ入力要求を受信したことに応じて）、電子デバイス（例えば、１０００）は、インジケータ（例えば、１０１０Ａ、１０１０Ｂ、１０１０Ｃ）（例えば、視覚的インジケータ、音声によるインジケータ、又はデジタルアシスタント音声確認）の特性（例えば、光の色、サウンド、デジタルアシスタントの音声）の値を、第１のユーザ（例えば、１０２０）に対応する第１の値に更新する（１１１０）（例えば、特性の値は第１のユーザの識別情報に関連付けられる）。
【０２９２】
音声によるユーザ入力要求が第１のユーザとは異なる第２のユーザ（例えば、１０３０）に対応するとの判定に従って（かつ、任意選択的に、音声によるユーザ入力要求を受信したことに応じて）、電子デバイス（１０００）は、インジケータ（例えば、１０１０Ａ，１０１０Ｂ，１０１０Ｃ）（例えば、視覚的インジケータ、音声によるインジケータ、又はデジタルアシスタントの音声確認）の特性（例えば、光の色、サウンド、デジタルアシスタント音声）の値を、第２のユーザ（例えば、１０３０）に対応する第２の値に更新し（１１１２）（例えば、特性の値は、第２のユーザの識別情報に関連付けられる）、第２の値は第１の値とは異なる。
【０２９３】
電子デバイス（例えば、１０００）は、インジケータ（例えば、１０１０Ａ，１０１０Ｂ，１０１０Ｃ）を使用して、音声によるユーザ入力要求（例えば、１０２４Ａ，１０２４Ｂ）に応じる（１１１４）（例えば、電子デバイス（例えば、１０００）は、特定のデジタルアシスタント音声を使用して、又は応答内のユーザの名前を使用して、光を表示し、サウンドを再生する）。インジケータ（例えば、１０１０Ａ，１０１０Ｂ，１０１０Ｃ）は、特性（例えば、光の色、サウンド、又はデジタルアシスタント音声）の更新値を含む。
【０２９４】
いくつかの実施形態では、インジケータ（例えば、１０１０Ａ，１０１０Ｂ，１０１０Ｃ）を使用して、音声によるユーザ入力要求（例えば、１０２４Ａ，１０２４Ｂ）に応答する電子デバイス（例えば、１０００）は、音声によるユーザ入力要求（例えば、１０２４Ａ、１０２４Ｂ）に関連付けられたユーザに対応する特性（例えば、光の色、表示された光の位置）の値を使用して、視覚的インジケータ（例えば、１０１０Ａ）（例えば、光）を表示する（１１１６）電子デバイス（例えば、１０００）を含む。
【０２９５】
いくつかの実施形態では、インジケータを使用して音声によるユーザ入力要求（例えば、１０２４Ａ，１０２４Ｂ）に応答する電子デバイス（例えば、１０００）は、音声によるユーザ入力要求（例えば、１０２４Ａ，１０２４Ｂ）に関連付けられたユーザ（例えば、１０２０，１０３０）に対応する特性の値（特性の値は、アクセント、性別、ピッチ、音声、サウンド、又はアメリカ人の女性のデジタルアシスタント音声など、特定のデジタルアシスタント音声であり得る）を使用して音声によるインジケータ（例えば、１０１０Ｂ）（例えば、音声、サウンド）を提供する（１１１８）電子デバイス（例えば、１０００）を含む。
いくつかの実施例では、ユーザは、ユーザのユーザプロファイル（例えば、１０２０，１０３０）に示される、デジタルアシスタント音声設定内の、アメリカ人の女性のデジタルアシスタント音声を選択した。
【０２９６】
いくつかの実施形態では、インジケータは、視覚的インジケータ（例えば、１０１０Ａ）であり、電子デバイス（例えば、１０００）が音声によるユーザ入力要求（例えば、１０２４Ａ，１０２４Ｂ）を受信したことに応じて、かつ、音声によるユーザ入力要求（例えば、１０２４Ａ，１０２４Ｂ）が特定のユーザ（例えば、１０２０，１０３０）に対応するとの判定の前に、電子デバイス（例えば、１０００）は、特性のデフォルト値（例えば、白色光）を有する視覚的インジケータ（例えば、１０１０Ａ）を表示する（例えば、デジタルアシスタントがアクティブ化されたときに第１の光の色を表示する）。いくつかの実施形態では、特性のデフォルト値は、第１の値及び第２の値と異なる。
【０２９７】
いくつかの実施形態では、音声インジケータ（例えば、１０１０Ｂ）（例えば、デジタルアシスタントが単語を使用して確認を提供すること）の特性は、音声によるユーザ入力要求（例えば、１０２４Ａ，１０２４Ｂ）に関連付けられた（例えば、それを提供する）ユーザに対応する用語（例えば、その単語、名前）である。
【０２９８】
デジタルアシスタントの音声確認インジケータ（例えば、１０１０Ｃ）内でユーザの名前（例えば、１０２０，１０３０）を使用することにより、デジタルアシスタントは、デジタルアシスタントがコマンドを発語する特定のユーザ（例えば、１０２０、１０３０）を特定したことを確認するためのフィードバックを提供することが可能になる。ユーザ（例えば、１０２０，１０３０）を確認するためのカスタマイズされたフィードバックを提供することにより、デジタルアシスタントの操作性が向上し、ユーザ−デバイス間インタフェースがより効率的になる（例えば、特定のユーザ（例えば、１０２０，１０３０）はデジタルアシスタントがユーザのコマンド（例えば、１０２４Ａ，１０２４Ｂ）を処理したことを知る）。これにより、ユーザ名を使用すると、タスクが実行されたことという即時確認が提供されるので、ユーザ（例えば、１０２０，１０３０）の認識的負担が軽減され、同時に発語する複数のユーザ（例えば、１０２０，１０３０）又はバックグラウンドに他の発語者が存在する場合における混乱が低減される。更に、デジタルアシスタントの状態のフィードバックにより、ユーザ（例えば、１０２０，１０３０）は、デジタルアシスタントをより迅速かつ効率的に使用することが可能になる。
【０２９９】
いくつかの実施形態では、電子デバイス（例えば、１０００）は、音声認識、顔認識、及び音声によるユーザ入力要求の方向のうちの１つ以上に基づいて、音声によるユーザ入力要求に関連付けられたユーザを判定する。
【０３００】
上記は、説明を目的として、特定の実施形態を参照して記述されている。しかしながら、上記の例示的な論考は、網羅的であること、又は開示される厳密な形態に本発明を限定することを意図するものではない。上記の教示を考慮して、多くの修正及び変形が可能である。本技術の原理、及びそれらの実際の適用を最もよく説明するために、実施形態が選択及び記載されている。それにより、他の当業者は、意図された具体的な用途に適するような様々な修正を用いて、本技術及び様々な実施形態を最も良好に利用することが可能となる。
【０３０１】
添付図面を参照して、本開示及び例を十分に説明してきたが、様々な変更及び修正が、当業者には明らかとなるであろうことに留意されたい。そのような変更及び修正は、特許請求の範囲によって定義されるような、本開示及び例の範囲内に含まれるものとして理解されたい。
【０３０２】
上述のように、本技術の一態様は、ユーザの電子デバイスの制御をより良く実現するために、様々なソースから入手可能なデータを収集及び使用することである。本開示は、いくつかの例において、この収集されたデータが、特定の人を一意に特定する個人情報データ、又は特定の人に連絡する若しくはその所在を突き止めるために使用できる個人情報データを含み得ることを考察する。そのような個人情報データとしては、人口統計データ、位置ベースのデータ、電話番号、電子メールアドレス、ツイッターＩＤ、自宅の住所、ユーザの健康若しくはフィットネスのレベルに関するデータ若しくは記録（例えば、バイタルサイン測定値、投薬情報、運動情報）、誕生日、又は任意の他の識別情報若しくは個人情報を挙げることができる。
【０３０３】
本開示は、本技術におけるそのような個人情報データの使用がユーザの利益になる使用であり得る点を認識するものである。例えば、個人情報データは、デバイスの相互作用を個人専用にするのに使用することができる。したがって、そのような個人情報データを使用することにより、ユーザは電子デバイスをより一層容易に制御することが可能になる。更に、ユーザに利益をもたらす、個人情報データに関する他の使用もまた、本開示によって考察される。例えば、健康データ及びフィットネスデータは、ユーザの全般的なウェルネスについての洞察を提供するために使用することができ、又は、ウェルネスの目標を追求するための技術を使用している個人への、積極的なフィードバックとして使用することもできる。
【０３０４】
本開示は、そのような個人情報データの収集、分析、開示、転送、記憶、又は他の使用に関与するエンティティが、確固たるプライバシーポリシー及び／又はプライバシー慣行を遵守することを考察する。具体的には、そのようなエンティティは、個人情報データを秘密として厳重に保守するための、業界又は政府の要件を満たしているか又は上回るものとして一般に認識されている、プライバシーのポリシー及び慣行を実施し、一貫して使用するべきである。そのようなポリシーは、ユーザによって容易にアクセス可能であるべきであり、データの収集及び／又は使用が変化するにつれて更新されるべきである。ユーザからの個人情報は、そのエンティティの合法的かつ正当な使用のために収集されるべきであり、それらの合法的使用を除いては、共有又は販売されるべきではない。更に、そのような収集／共有は、ユーザに告知して同意を得た後に実施されるべきである。更に、そのようなエンティティは、そのような個人情報データへのアクセスを保護して安全化し、その個人情報データへのアクセスを有する他者が、それらのプライバシーポリシー及び手順を遵守することを保証するための、あらゆる必要な措置を講じることを考慮するべきである。更に、そのようなエンティティは、広く受け入れられているプライバシーのポリシー及び慣行に対する自身の遵守を証明するために、第三者による評価を自らが受けることができる。更に、ポリシー及び慣行は、収集及び／又はアクセスされる具体的な個人情報データのタイプに適合されるべきであり、また、管轄権固有の考慮事項を含めた、適用可能な法令及び規格に適合されるべきである。例えば、アメリカ合衆国では、特定の健康データの収集又はアクセスは、医療保険の相互運用性と説明責任に関する法律（Health Insurance Portability and Accountability Act、ＨＩＰＡＡ）などの、連邦法及び／又は州法によって管理することができ、その一方で、他国における健康データは、他の規制及びポリシーの対象となり得るものであり、それに従って対処されるべきである。それゆえ、各国の異なる個人データのタイプに対して、異なるプライバシー慣行が保たれるべきである。
【０３０５】
前述のことがらにもかかわらず、本開示はまた、個人情報データの使用又は個人情報データへのアクセスを、ユーザが選択的に阻止する実施形態も考察する。すなわち、本開示は、そのような個人情報データへのアクセスを防止又は阻止するように、ハードウェア要素及び／又はソフトウェア要素を提供できることを考察する。例えば、デジタルアシスタント、ユーザの凝視、及びユーザプロファイルの場合、サービスの登録中又はその後のいつでも、個人情報データの収集への参加の「参加する（opt in）」又は「参加しない（opt out）」を選択することをユーザが選択できるように、本技術を構成することができる。別の実施例では、ユーザは、の個人情報を提供しないことを選択することができる。更に別の実施例では、ユーザは、個人情報が維持される期間を制限するか、又はベースラインプロファイルの展開を完全に禁止するかを選択することができる。「オプトイン」及び「オプトアウト」の選択肢を提供することに加えて、本開示は、個人情報のアクセス又は使用に関する通知を提供することを考察する。例えば、ユーザの個人情報データにアクセスするアプリ（例えば、デジタルアシスタントアプリ）のダウンロード時にユーザに通知され、その後、個人情報データがアプリによってアクセスされる直前に再びユーザに注意してもよい。
【０３０６】
更に、本開示の意図は、個人情報データを、非意図的若しくは無認可アクセス又は使用の危険性を最小限に抑える方法で、管理及び処理するべきであるという点である。データの収集を制限し、データがもはや必要とされなくなった時点で削除することによって、危険性を最小限に抑えることができる。更に、適用可能な場合、特定の健康関連アプリケーションにおいて、ユーザのプライバシーを保護するために、データの非特定化を使用することができる。非特定化は、適切な場合には、特定の識別子（例えば、生年月日など）を除去すること、記憶されたデータの量又は特異性を制御すること（例えば、位置データを住所レベルよりも都市レベルで収集すること）、データがどのように記憶されるかを制御すること（例えば、データをユーザ全体にわたって情報集約すること）及び／又は他の方法によって、容易にすることができる。
【０３０７】
それゆえ、本開示は、１つ以上の様々な開示された実施形態を実施するための、個人情報データの使用を広範に網羅するものであるが、本開示はまた、そのような個人情報データにアクセスすることを必要とせずに、それらの様々な実施形態を実施することも可能であることを考察する。すなわち、本技術の様々な実施形態は、そのような個人情報データの全て又は一部分が欠如することにより、実施不可能となるものではない。例えば、ユーザは、非個人情報データ又は最低限の量の個人情報に基づいて電子デバイスと対話することができる。
【図１Ａ】
2021521496.tif 000003
【図１Ｂ】
2021521496.tif 000004
【図１Ｃ】
2021521496.tif 000005
【図２】
2021521496.tif 000006
【図３】
2021521496.tif 000007
【図４Ａ】
2021521496.tif 000008
【図４Ｂ】
2021521496.tif 000009
【図５Ａ】
2021521496.tif 000010
【図５Ｂ】
2021521496.tif 000011
【図６Ａ】
2021521496.tif 000012
【図６Ｂ】
2021521496.tif 000013
【図６Ｃ】
2021521496.tif 000014
【図６Ｄ】
2021521496.tif 000015
【図６Ｅ】
2021521496.tif 000016
【図６Ｆ】
2021521496.tif 000017
【図６Ｇ】
2021521496.tif 000018
【図６Ｈ】
2021521496.tif 000019
【図６Ｉ】
2021521496.tif 000020
【図６Ｊ】
2021521496.tif 000021
【図６Ｋ】
2021521496.tif 000022
【図６Ｌ】
2021521496.tif 000023
【図６Ｍ】
2021521496.tif 000024
【図６Ｎ】
2021521496.tif 000025
【図６Ｏ】
2021521496.tif 000026
【図７Ａ】
2021521496.tif 000027
【図７Ｂ】
2021521496.tif 000028
【図８Ａ】
2021521496.tif 000029
【図８Ｂ】
2021521496.tif 000030
【図８Ｃ】
2021521496.tif 000031
【図８Ｄ】
2021521496.tif 000032
【図８Ｅ】
2021521496.tif 000033
【図８Ｆ】
2021521496.tif 000034
【図８Ｇ】
2021521496.tif 000035
【図８Ｈ】
2021521496.tif 000036
【図８Ｉ】
2021521496.tif 000037
【図８Ｊ】
2021521496.tif 000038
【図８Ｋ】
2021521496.tif 000039
【図８Ｌ】
2021521496.tif 000040
【図９Ａ】
2021521496.tif 000041
【図９Ｂ】
2021521496.tif 000042
【図１０Ａ】
2021521496.tif 000043
【図１０Ｂ】
2021521496.tif 000044
【図１０Ｃ】
2021521496.tif 000045
【図１０Ｄ】
2021521496.tif 000046
【図１１Ａ】
2021521496.tif 000047
【図１１Ｂ】
2021521496.tif 000048
【手続補正書】
【提出日】令和2年12月14日(2020.12.14)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
方法であって、
電子デバイスにおいて、
前記電子デバイスのデジタルアシスタントがアクティブ化されていない間に、
コマンドを実行するための音声によるユーザ入力要求の第１の部分を受信することと、
１つ以上のカメラセンサを使用して第１の凝視情報を取得することと、
音声による入力とは無関係に、
前記第１の凝視情報が１つ以上のアクティブ化基準のセットを満たすとの判定に従って、
前記電子デバイスの前記デジタルアシスタントをアクティブ化することと、
前記１つ以上のアクティブ化基準のセットが満たされたという指示を提供することと、
前記電子デバイスの前記デジタルアシスタントがアクティブ化されている間に、前記コマンドを実行するための前記音声によるユーザ入力要求の第２の部分を受信することと、
前記コマンドを実行するための前記音声によるユーザ入力要求を受信したことに応じて、
１つ以上の実行基準のセットが満たされたとの判定に従って、前記音声によるユーザ入力要求の前記第１の部分と前記第２の部分の内容に基づいて前記コマンドを実行することと、
を含む、方法。
【請求項２】
前記第１の凝視情報が前記１つ以上のアクティブ化基準のセットを満たさないとの判定に従って、
前記デジタルアシスタントのアクティブ化を見合わせることと、
を更に含む、請求項１に記載の方法。
【請求項３】
前記音声によるユーザ入力要求を受信する前には第１の音量で生成される音声出力を生成することと、
前記音声によるユーザ入力要求の受信を開始したことに応じて、
前記音声出力の音量を、前記第１の音量よりも小さい第２の音量であってユーザと前記電子デバイスとの間の距離に基づく前記第２の音量に減らすこと、
を更に含む、請求項１又は２に記載の方法。
【請求項４】
前記コマンドを実行するための前記音声によるユーザ入力要求を受信したことに応じて、
前記１つ以上の実行基準のセットであって、第２の凝視情報が、前記ユーザが前記デジタルアシスタントのアクティブ化と前記音声によるユーザ入力要求の終了との間で、閾値持続時間を超えて前記電子デバイスに向けた凝視を中断しないことを示すと前記電子デバイスが判定したときに満たされる、連続凝視基準を含む前記１つ以上の実行基準のセットが満たされていないとの判定に従って、前記音声によるユーザ入力要求の前記内容に基づく前記コマンドを実行することを見合わせること、
を更に含む、請求項１乃至３のいずれか一項に記載の方法。
【請求項５】
前記コマンドを実行するための前記音声によるユーザ入力要求を受信したことに応じて、
前記１つ以上の実行基準のセットが満たされていないとの判定に従って、ヘッドシェイクによる指示であって、
前記電子デバイスのディスプレイの第１の側に第１の光パターンを表示することと、
前記第１の光パターンを表示したことに続いて、前記電子デバイスの前記ディスプレイの第２の側に第２の光パターンを表示することと、
前記第２の光パターンを表示したことに続いて、前記電子デバイスの前記ディスプレイの前記第１の側に前記第１の光パターンを表示することと、
を含む前記ヘッドシェイクによる指示を提供する、請求項１乃至４のいずれか一項に記載の方法。
【請求項６】
前記指示は、前記デジタルアシスタントがアクティブ化されていることを示す視覚的指示である、請求項１乃至５のいずれか一項に記載の方法。
【請求項７】
前記指示は、前記デジタルアシスタントがアクティブ化されていることを示す音声による指示である、請求項１乃至６のいずれか一項に記載の方法。
【請求項８】
前記１つ以上のアクティブ化基準のセットは、判定されたオフセット角度が閾値オフセット角度未満であるときに満たされる視野基準を含み、前記判定されたオフセット角度は、
ユーザの凝視の視線と、
前記ユーザから前記電子デバイスへの算出された視線と
の間に形成される角度である、請求項１乃至７のいずれか一項に記載の方法。
【請求項９】
前記ユーザの前記凝視の前記視線が、前記ユーザの頭部位置に基づくものである、請求項８に記載の方法。
【請求項１０】
前記１つ以上のアクティブ化基準のセットは、前記第１の凝視情報から判定された前記凝視の静止時間が閾値時間を超えるときに満たされる静止時間基準を含む、請求項１乃至９のいずれか一項に記載の方法。
【請求項１１】
電子デバイスの１つ以上のプロセッサによって実行されるように構成されたコンピュータプログラムであって、前記コンピュータプログラムは、請求項１乃至１０のいずれか一項に記載の方法を実行する命令を含む、コンピュータプログラム。
【請求項１２】
１つ以上のプロセッサと、
前記１つ以上のプロセッサによって実行されるように構成された１つ以上のプログラムを記憶するメモリと、
を備え、前記１つ以上のプログラムは、請求項１乃至１０のいずれか一項に記載の方法を実行するための命令を含む、電子デバイス。
【請求項１３】
請求項１乃至１０のいずれか一項に記載の方法を実行する手段を備える、電子デバイス。
【国際調査報告】
2021521496.tif 000049
2021521496.tif 000050
2021521496.tif 000051
2021521496.tif 000052
2021521496.tif 000053