(57)【特許請求の範囲】
【請求項１】
第１の入力装置と可搬型表示装置と当該第１の入力装置から得られたデータを処理する情報処理装置とを含む情報処理システムであって、
前記第１の入力装置は、
当該第１の入力装置に加わる荷重を逐次検出する荷重検出手段と、
前記荷重に基づいた荷重データを前記情報処理装置へ逐次出力する荷重データ出力手段とを備え、
前記情報処理装置は、
前記第１の入力装置から出力された荷重データを逐次取得する操作データ取得手段と、
前記可搬型表示装置に表示するための仮想世界を示す第１の表示画像を逐次生成する表示画像生成手段と、
前記表示画像生成手段が生成した第１の表示画像を示す画像データを前記可搬型表示装置へ逐次出力する画像データ出力手段とを備え、
前記可搬型表示装置は、
前記情報処理装置から出力された画像データを逐次取得する画像データ取得手段と、
前記画像データ取得手段が取得した画像データが示す前記第１の表示画像を逐次表示する表示手段と、
前記可搬型表示装置に設けられた所定の入力装置に対するユーザ操作および／または前記可搬型表示装置本体の姿勢や前記可搬型表示装置本体を動かすユーザ操作を示す第１の操作データを逐次生成する第１操作データ生成手段と、
前記第１の操作データを前記情報処理装置へ逐次出力する第１操作データ出力手段とを備え、
前記操作データ取得手段は、さらに前記可搬型表示装置から出力された第１の操作データを逐次取得し、
前記表示画像生成手段は、前記操作データ取得手段が取得した荷重データおよび前記第１の操作データの両方に基づいて、前記仮想世界の少なくとも一部を変化させることによって前記第１の表示画像を逐次生成する、情報処理システム。
【請求項２】
前記表示画像生成手段は、少なくとも前記荷重データに基づいて、前記情報処理装置に接続された別の表示装置に表示するための第２の表示画像をさらに逐次生成し、
前記画像データ出力手段は、前記表示画像生成手段が生成した第１の表示画像を示す画像データを前記可搬型表示装置へ逐次出力するとともに、前記表示画像生成手段が生成した第２の表示画像を示す画像データを前記別の表示装置へ逐次出力する、請求項１に記載の情報処理システム。
【請求項３】
前記表示画像生成手段は、少なくとも前記荷重データに基づいて、前記第１の表示画像とは異なる画像を前記第２の表示画像として逐次生成する、請求項２に記載の情報処理システム。
【請求項４】
前記表示画像生成手段は、少なくとも前記荷重データに基づいて、仮想世界における第１の範囲を示す画像を前記第１の表示画像として生成し、当該第１の範囲とは異なる当該仮想世界における第２の範囲を示す画像を前記第２の表示画像として生成する、請求項３に記載の情報処理システム。
【請求項５】
前記表示画像生成手段は、少なくとも前記荷重データに基づいて、仮想世界を第１の視点から見た様子を示す画像を前記第１の表示画像として生成し、当該仮想世界を当該第１の視点とは異なる第２の視点から見た様子を示す画像を前記第２の表示画像として生成する、請求項３に記載の情報処理システム。
【請求項６】
前記第１操作データ生成手段は、前記可搬型表示装置本体の動きに応じたデータを前記第１の操作データとして逐次生成する、請求項１に記載の情報処理システム。
【請求項７】
前記可搬型表示装置は、前記表示手段の表示画面に設けられるタッチパネルを、さらに備え、
前記第１操作データ生成手段は、前記タッチパネルにタッチされた位置を示すデータを前記第１の操作データとして逐次生成する、請求項１に記載の情報処理システム。
【請求項８】
前記画像データ出力手段は、前記第１の表示画像を示す画像データを前記可搬型表示装置へ無線で送信し、
前記画像データ取得手段は、前記情報処理装置から無線で送信された画像データを受信することによって当該画像データを逐次取得する、請求項１乃至７のいずれか１つに記載の情報処理システム。
【請求項９】
前記情報処理装置は、前記表示画像生成手段が生成した第１の表示画像を示す画像データを、逐次圧縮して圧縮画像データを生成する圧縮画像生成手段を、さらに備え、
前記画像データ出力手段は、前記圧縮画像生成手段が生成した圧縮画像データを前記可搬型表示装置へ逐次出力し、
前記画像データ取得手段は、前記情報処理装置から出力された圧縮画像データを逐次取得し、
前記可搬型表示装置は、前記圧縮画像データを逐次伸張して前記第１の表示画像を示す画像データを得る表示画像伸張手段を、さらに備え、
前記表示手段は、前記画像データ取得手段が取得して前記表示画像伸張手段が伸張した画像データが示す前記第１の表示画像を逐次表示する、請求項１乃至８の何れか１つに記載の情報処理システム。
【請求項１０】
前記荷重検出手段は、前記第１の入力装置における異なる位置に複数設けられ、
前記荷重データ出力手段は、前記荷重検出手段がそれぞれ検出した荷重に基づいた複数の荷重データを前記情報処理装置へ逐次出力する、請求項１乃至９の何れか１つに記載の情報処理システム。
【請求項１１】
前記操作データ取得手段は、前記荷重データ出力手段が出力した複数の荷重データを逐次取得し、
前記情報処理装置は、前記複数の荷重データがそれぞれ示す荷重に基づいて、前記第１の入力装置に掛かる荷重の重心位置を算出する重心位置算出手段を、さらに備え、
前記表示画像生成手段は、前記重心位置算出手段が算出した重心位置に基づいて、前記仮想世界の少なくとも一部を変化させることによって前記第１の表示画像を逐次生成する、請求項１０に記載の情報処理システム。
【請求項１２】
前記情報処理装置は、少なくとも前記操作データ取得手段が取得した荷重データに基づいて、所定のゲーム処理を行うゲーム処理手段を、さらに備え、
前記表示画像生成手段は、前記所定のゲーム処理に基づいて、前記仮想世界の少なくとも一部を変化させることによって前記第１の表示画像を逐次生成する、請求項１乃至１１の何れか１つに記載の情報処理システム。
【請求項１３】
前記情報処理装置は、前記荷重データおよび前記第１の操作データに基づいて、仮想世界に配置されるプレイヤオブジェクトの動作を設定するプレイヤオブジェクト動作設定手段を、さらに備え、
前記表示画像生成手段は、前記プレイヤオブジェクトを少なくとも含む範囲の仮想世界の画像または前記プレイヤオブジェクトの主観視点とした仮想世界の画像を前記第１の表示画像として逐次生成する、請求項１乃至１２の何れか１つに記載の情報処理システム。
【請求項１４】
第１の入力装置から出力されるデータが利用可能であり、当該第１の入力装置から得られたデータを処理する情報処理装置のコンピュータで実行される情報処理プログラムであって、
前記コンピュータを、
前記第１の入力装置に加わる荷重に基づいた荷重データを、当該第１の入力装置から逐次取得する操作データ取得手段と、
可搬型表示装置に表示するための仮想世界を示す第１の表示画像および前記情報処理装置に接続された別の表示装置に表示するための仮想世界を示す第２の表示画像をそれぞれ逐次生成する表示画像生成手段と、
前記表示画像生成手段が生成した第１の表示画像を示す画像データを前記可搬型表示装置へ逐次出力するとともに、前記表示画像生成手段が生成した第２の表示画像を示す画像データを前記別の表示装置へ逐次出力する画像データ出力手段として機能させ、
前記情報処理装置は、前記可搬型表示装置から出力されるデータをさらに利用可能であり、
前記操作データ取得手段は、前記可搬型表示装置に設けられた所定の入力装置に対するユーザ操作および／または前記可搬型表示装置本体の姿勢や前記可搬型表示装置本体を動かすユーザ操作を示す第１の操作データを、当該可搬型表示装置からさらに逐次取得し、
前記表示画像生成手段は、前記操作データ取得手段が取得した荷重データおよび前記第１の操作データの両方に基づいて、前記仮想世界の少なくとも一部を変化させることによって前記第１の表示画像および前記第２の表示画像をそれぞれ逐次生成する、情報処理プログラム。
【請求項１５】
前記表示画像生成手段は、前記第１の表示画像とは異なる画像を前記第２の表示画像として逐次生成する、請求項１４に記載の情報処理プログラム。
【請求項１６】
前記表示画像生成手段は、仮想世界における第１の範囲を示す画像を前記第１の表示画像として生成し、当該第１の範囲とは異なる当該仮想世界における第２の範囲を示す画像を前記第２の表示画像として生成する、請求項１５に記載の情報処理プログラム。
【請求項１７】
前記表示画像生成手段は、仮想世界を第１の視点から見た様子を示す画像を前記第１の表示画像として生成し、当該仮想世界を当該第１の視点とは異なる第２の視点から見た様子を示す画像を前記第２の表示画像として生成する、請求項１５に記載の情報処理プログラム。
【請求項１８】
前記情報処理プログラムは、前記表示画像生成手段が生成した第１の表示画像を示す画像データを、逐次圧縮して圧縮画像データを生成する圧縮画像生成手段として、さらに前記コンピュータを機能させ、
前記画像データ出力手段は、前記圧縮画像生成手段が生成した圧縮画像データを前記第１の表示画像を示す画像データとして前記可搬型表示装置へ逐次出力し、前記表示画像生成手段が生成した第２の表示画像を示す画像データを前記別の表示装置へ逐次出力する、請求項１５乃至１７のいずれか１つに記載の情報処理プログラム。
【請求項１９】
前記操作データ取得手段は、前記第１の入力装置に加わる複数箇所の荷重にそれぞれ基づいた複数の荷重データを、当該第１の入力装置から逐次取得し、
前記情報処理プログラムは、前記複数の荷重データがそれぞれ示す荷重に基づいて、前記第１の入力装置に掛かる荷重の重心位置を算出する重心位置算出手段として、さらに前記コンピュータを機能させ、
前記表示画像生成手段は、前記重心位置算出手段が算出した重心位置に基づいて、前記第１の表示画像および前記第２の表示画像を逐次生成する、請求項１５乃至１７のいずれか１つに記載の情報処理プログラム。
【請求項２０】
前記情報処理プログラムは、少なくとも前記操作データ取得手段が取得した荷重データに基づいて、所定のゲーム処理を行うゲーム処理手段として、さらに前記コンピュータを機能させ、
前記表示画像生成手段は、前記所定のゲーム処理に基づいて、前記第１の表示画像および前記第２の表示画像を逐次生成する、請求項１５乃至１９の何れか１つに記載の情報処理プログラム。
【請求項２１】
前記情報処理プログラムは、前記荷重データおよび前記第１の操作データに基づいて、仮想世界に配置されるプレイヤオブジェクトの動作を設定するプレイヤオブジェクト動作設定手段として、さらに前記コンピュータを機能させ、
前記表示画像生成手段は、前記プレイヤオブジェクトを少なくとも含む範囲の仮想世界の画像または前記プレイヤオブジェクトの主観視点とした仮想世界の画像を前記第１の表示画像および前記第２の表示画像として逐次生成する、請求項１４乃至２０の何れか１つに記載の情報処理プログラム。
【請求項２２】
第１の入力装置から出力されるデータを処理する情報処理方法であって、
前記第１の入力装置に加わる荷重を逐次検出する荷重検出ステップと、
可搬型表示装置に表示するための仮想世界を示す第１の表示画像を逐次生成する表示画像生成ステップと、
前記表示画像生成ステップにおいて生成された第１の表示画像を前記可搬型表示装置に逐次表示する表示制御ステップと、
前記可搬型表示装置に設けられた所定の入力装置に対するユーザ操作および／または前記可搬型表示装置本体の姿勢や前記可搬型表示装置本体を動かすユーザ操作を逐次検出する操作検出ステップとを含み、
前記表示画像生成ステップでは、前記荷重検出ステップにおいて検出された荷重および前記操作検出ステップにおいて検出されたユーザ操作の両方に基づいて、前記仮想世界の少なくとも一部を変化させることによって前記第１の表示画像が逐次生成される、情報処理方法。
【請求項２３】
第１の入力装置と可搬型表示装置とを含む情報処理システムであって、
前記第１の入力装置は、
当該第１の入力装置に加わる荷重を逐次検出する荷重検出手段と、
前記荷重に基づいた荷重データを前記可搬型表示装置へ逐次出力する荷重データ出力手段とを備え、
前記可搬型表示装置は、
前記第１の入力装置から出力された荷重データを逐次取得する操作データ取得手段と、
前記可搬型表示装置に表示するための仮想世界を示す第１の表示画像を逐次生成する表示画像生成手段と、
前記表示画像生成手段が生成した第１の表示画像を逐次表示する表示手段と、
当該可搬型表示装置に設けられた所定の入力装置に対するユーザ操作および／または当該可搬型表示装置本体の姿勢や当該可搬型表示装置本体を動かすユーザ操作を示す第１の操作データを逐次生成する第１操作データ生成手段とを備え、
前記表示画像生成手段は、前記操作データ取得手段が取得した荷重データおよび前記第１の操作データの両方に基づいて、前記仮想世界の少なくとも一部を変化させることによって前記第１の表示画像を逐次生成する、情報処理システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、情報処理システム、情報処理プログラム、および情報処理方法に関し、特に例えば、ユーザの動作に基づいた処理を行う情報処理システム、情報処理プログラム、および情報処理方法に関する。
【背景技術】
【０００２】
従来、ユーザの荷重に基づいてゲームを行うことができるゲームシステムがある（例えば、特許文献１参照）。例えば、上記特許文献１に記載のゲームシステムは、荷重センサを備えたボード型コントローラを含み、当該ボード型コントローラ上にユーザが乗ることによって当該荷重センサが検出した荷重値を操作データとしてゲーム装置へ送信している。そして、上記操作データを受信したゲーム装置では、上記ボード型コントローラから送信された操作データが示す荷重値に基づいてゲーム処理が実行され、当該ゲーム装置に接続されたモニタにゲーム処理内容が表示される。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００８−２６４１９５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記特許文献１で開示されたゲームシステムでは、上記操作データが示す荷重値に基づいたゲーム処理結果が、当該ゲーム装置に接続されたモニタに表示される。ここで、上記モニタは、既存のテレビ受像機等を用いることが前提となっており、一般的に据置型のディスプレイが用いられる。一方、ユーザが上記ボード型コントローラ上で操作する際には、ユーザ自身の動きが伴うことや据置型のモニタの正面で操作できないことも多いが、上記モニタが固定的に設置されているために、ユーザ自身の動きに合わせた好適な位置やユーザの操作位置に適した位置に表示してゲーム処理結果を見ることができなかった。
【０００５】
それ故に、本発明の目的は、ユーザ自身の動作に基づいた操作を行って当該ユーザ動作に基づいた処理を行う場合に、ユーザが当該処理結果を好適な状況で見ることが可能な情報処理システム、情報処理プログラム、および情報処理方法を提供することである。
【課題を解決するための手段】
【０００６】
上記目的を達成するために、本発明は例えば以下のような構成を採用し得る。なお、特許請求の範囲の記載を解釈する際に、特許請求の範囲の記載によってのみその範囲が解釈されるべきであることが理解され、特許請求の範囲の記載と本欄の記載とが矛盾する場合には、特許請求の範囲の記載が優先する。
【０００７】
本発明の情報処理システムの一構成例は、第１の入力装置と可搬型表示装置と当該第１の入力装置から得られたデータを処理する情報処理装置とを含む。第１の入力装置は、荷重検出手段、および荷重データ出力手段を備える。荷重検出手段は、第１の入力装置に加わる荷重を逐次検出する。荷重データ出力手段は、荷重に基づいた荷重データを情報処理装置へ逐次出力する。情報処理装置は、操作データ取得手段、表示画像生成手段、および画像データ出力手段を備える。操作データ取得手段は、第１の入力装置から出力された荷重データを逐次取得する。表示画像生成手段は、少なくとも操作データ取得手段が取得した荷重データに基づいて、可搬型表示装置に表示するための第１の表示画像を逐次生成する。画像データ出力手段は、表示画像生成手段が生成した第１の表示画像を示す画像データを可搬型表示装置へ逐次出力する。可搬型表示装置は、画像データ取得手段および表示手段を備える。画像データ取得手段は、情報処理装置から出力された画像データを逐次取得する。表示手段は、画像データ取得手段が取得した画像データが示す第１の表示画像を逐次表示する。
【０００８】
なお、上記情報処理装置は、ゲーム処理を実行して当該ゲーム処理に基づいた画像を生成する装置であってもいいし、一般的なパーソナルコンピュータのような多用途の装置であってもよい。上記可搬型表示装置は、ユーザによって持ち運び可能なサイズであればよく、典型的にはユーザが両手で把持した姿勢で当該可搬型表示装置に表示される画像を視認できるような表示装置であってもよい。また、上記可搬型表示装置は、後述する実施形態における端末装置のように、画像データ取得手段および表示手段以外の他の構成を備えていてもよいし、備えていなくてもよい。上記第１の入力装置は、加えられた荷重を検出できる装置であればよく、例えば、ユーザの身体の少なくとも一部を台部に乗せて当該台部に加わる荷重を検出できる装置（ユーザが上面に両足裏を接面させて乗って操作するものや、ユーザが上面に片足だけを乗せて操作するものや、ユーザが他の身体の部位（例えば、手）を乗せて操作するもの等）であってもよい。
【０００９】
上記によれば、第１の入力装置を用いてユーザ自身の動作に基づいた操作を行って当該ユーザ動作に基づいた処理を行う場合に、ユーザが当該処理結果を可搬型表示装置で見ることができるため、当該可搬型表示装置を把持したり、ユーザ自身が動作する際に好適な位置に当該可搬型表示装置を配置したりすることによって、ユーザにとって好適な状況で処理結果を見ることが可能となる。
【００１０】
また、上記可搬型表示装置は、第１操作データ生成手段および第１操作データ出力手段を、さらに備えてもよい。第１操作データ生成手段は、可搬型表示装置を用いたユーザ操作を示す第１の操作データを逐次生成する。第１操作データ出力手段は、第１の操作データを情報処理装置へ逐次出力する。この場合、上記操作データ取得手段は、さらに可搬型表示装置から出力された第１操作データを逐次取得してもよい。上記表示画像生成手段は、操作データ取得手段が取得した荷重データおよび第１操作データに基づいて、第１の表示画像を逐次生成してもよい。
【００１１】
なお、上記第１操作データ生成手段は、ユーザが可搬型表示装置を用いて操作したことに応じたデータを生成するものであればよく、可搬型表示装置本体を動かす操作に応じたデータを作成してもいいし、可搬型表示装置に設けられた入力部が操作されることに応じたデータを作成してもよい。例えば、第１操作データ生成手段は、後述する実施形態における端末装置に設けられたタッチパネル、アナログスティック、操作ボタン、磁気センサ、加速度センサ、ジャイロセンサ、およびカメラから成る群から選ばれた少なくとも１つであってもよい。
【００１２】
上記によれば、第１の入力装置だけでなく、可搬型表示装置を用いたユーザ操作が可能であるため、第１の入力装置を用いてユーザ自身の動作に基づいた操作を行うとともに、可搬型表示装置を用いて操作しながら当該可搬型表示装置に表示される画像を見ることができる。したがって、ユーザは、今までにない操作環境で操作が可能であり、当該操作環境に合わせたユーザにとって好適な状況で処理結果を見ることが可能となる。
【００１３】
また、上記表示画像生成手段は、少なくとも荷重データに基づいて、情報処理装置に接続された別の表示装置に表示するための第２の表示画像をさらに逐次生成してもよい。上記画像データ出力手段は、表示画像生成手段が生成した第１の表示画像を示す画像データを可搬型表示装置へ逐次出力するとともに、表示画像生成手段が生成した第２の表示画像を示す画像データを別の表示装置へ逐次出力してもよい。
【００１４】
なお、上記別の表示装置は、後述する実施形態におけるモニタ２のように情報処理装置に接続された表示装置であり、上記可搬型表示装置と別体であればよく、情報処理装置によって生成された第２の表示画像を表示することが可能なものであればどのようなものであってもよい。例えば、上記別の表示装置は、情報処理装置と一体に（１つの筐体内に）構成されるものであってもよい。
【００１５】
上記によれば、第１の入力装置を用いてユーザ自身の動作に基づいた操作を行って当該ユーザ動作に基づいた処理を行う場合に、当該処理結果が可搬型表示装置だけでなく情報処理装置に接続された別の表示装置にも表示することができる。したがって、ユーザは、２つの装置に表示される画像を操作状況や好みに応じて使い分けることが可能となり、ユーザ操作に好適な画像を見ることも可能となる。また、情報処理装置に接続された別の表示装置に表示する画像を、ユーザとは異なる他の人が見るための画像として用いることもでき、複数の人が処理結果を見る場合にも好適な視聴環境となり得る。
【００１６】
また、上記表示画像生成手段は、少なくとも荷重データに基づいて、第１の表示画像とは異なる画像を第２の表示画像として逐次生成してもよい。
【００１７】
上記によれば、可搬型表示装置に表示される画像とは異なる画像が情報処理装置に接続された別の表示装置に表示されるため、例えば少なくとも荷重データに基づいて使用目的に応じて作成された画像を、それぞれユーザにとって好適となる表示装置に表示することが可能となる。
【００１８】
また、上記表示画像生成手段は、少なくとも荷重データに基づいて、仮想世界における第１の範囲を示す画像を第１の表示画像として生成し、当該第１の範囲とは異なる当該仮想世界における第２の範囲を示す画像を第２の表示画像として生成してもよい。
【００１９】
上記によれば、可搬型表示装置に表示される仮想世界の画像とは表示範囲が異なる同じ仮想世界の画像が情報処理装置に接続された別の表示装置に表示されるため、仮想世界の様子をユーザに提示する際にユーザ操作において好適となる画像を、それぞれの表示装置に表示することが可能となる。
【００２０】
また、上記表示画像生成手段は、少なくとも荷重データに基づいて、仮想世界を第１の視点から見た様子を示す画像を第１の表示画像として生成し、当該仮想世界を当該第１の視点とは異なる第２の視点から見た様子を示す画像を第２の表示画像として生成してもよい。
【００２１】
上記によれば、可搬型表示装置に表示される仮想世界の画像とは視点が異なる同じ仮想世界の画像が情報処理装置に接続された別の表示装置に表示されるため、仮想世界の様子をユーザに提示する際にユーザ操作において好適となる画像を、それぞれの表示装置に表示することが可能となる。
【００２２】
また、上記第１操作データ生成手段は、可搬型表示装置本体の動きに応じたデータを第１の操作データとして逐次生成してもよい。
【００２３】
上記によれば、ユーザは、可搬型表示装置を動かすことによって操作することができる。
【００２４】
また、上記可搬型表示装置は、表示手段の表示画面に設けられるタッチパネルを、さらに備えていてもよい。この場合、上記第１操作データ生成手段は、タッチパネルにタッチされた位置を示すデータを第１の操作データとして逐次生成してもよい。
【００２５】
上記によれば、ユーザは、処理結果が表示される可搬型表示装置の表示画面をタッチすることによって操作することができる。
【００２６】
また、上記情報処理システムは、ユーザによって把持可能な第２の入力装置を、さらに含んでいてもよい。第２の入力装置は、第２操作データ生成手段および第２操作データ出力手段を備える。第２操作データ生成手段は、第２の入力装置を用いたユーザ操作を示す第２の操作データを逐次生成する。第２操作データ出力手段は、第２の操作データを情報処理装置へ逐次出力する。この場合、上記操作データ取得手段は、さらに第２の入力装置から出力された第２操作データを逐次取得してもよい。上記表示画像生成手段は、操作データ取得手段が取得した荷重データおよび第２操作データに基づいて、第１の表示画像を逐次生成してもよい。
【００２７】
上記によれば、ユーザは、第１の入力装置だけでなく、第２の入力装置を把持して操作することができる。第１の入力装置および第２の入力装置を用いて操作するユーザは、少なくとも可搬型表示装置に表示される画像を見ながら操作することができるので、当該操作に応じた好適な位置に可搬型表示装置を置いて操作することも可能となる。
【００２８】
また、上記第２操作データ生成手段は、第２の入力装置本体の動きに応じたデータを第２の操作データとして逐次生成してもよい。
【００２９】
上記によれば、ユーザは、第２の入力装置を動かすことによって操作することができる。
【００３０】
また、上記画像データ出力手段は、第１の表示画像を示す画像データを可搬型表示装置へ無線で送信してもよい。上記画像データ取得手段は、情報処理装置から無線で送信された画像データを受信することによって当該画像データを逐次取得してもよい。
【００３１】
上記によれば、可搬型表示装置と情報処理装置との間が無線接続されるため、ユーザは、可搬型表示装置を自由に動かすことができる。
【００３２】
また、上記情報処理装置は、圧縮画像生成手段を、さらに備えていてもよい。圧縮画像生成手段は、表示画像生成手段が生成した第１の表示画像を示す画像データを、逐次圧縮して圧縮画像データを生成する。この場合、上記画像データ出力手段は、圧縮画像生成手段が生成した圧縮画像データを可搬型表示装置へ逐次出力してもよい。上記画像データ取得手段は、情報処理装置から出力された圧縮画像データを逐次取得してもよい。上記可搬型表示装置は、表示画像伸張手段を、さらに備えていてもよい。表示画像伸張手段は、圧縮画像データを逐次伸張して第１の表示画像を示す画像データを得る。上記表示手段は、画像データ取得手段が取得して表示画像伸長手段が伸長した画像データが示す第１の表示画像を逐次表示してもよい。
【００３３】
上記によれば、第１の表示画像は、圧縮されて情報処理装置から可搬型表示装置へ出力されるので、第１の表示画像を高速に出力することができ、第１の表示画像が生成されてから第１の表示画像が可搬型表示装置に表示されるまでの遅延を少なくすることができる。
【００３４】
また、上記荷重検出手段は、第１の入力装置における異なる位置に複数設けられてもよい。上記荷重データ出力手段は、荷重検出手段がそれぞれ検出した荷重に基づいた複数の荷重データを情報処理装置へ逐次出力してもよい。
【００３５】
上記によれば、第１の入力装置に加わる荷重の位置を用いた処理も可能となるため、ユーザの動作をさらにより細かく判定することが可能となる。
【００３６】
また、上記操作データ取得手段は、荷重データ出力手段が出力した複数の荷重データを逐次取得してもよい。上記情報処理装置は、重心位置算出手段を、さらに備えていてもよい。重心位置算出手段は、複数の荷重データがそれぞれ示す荷重に基づいて、第１の入力装置に掛かる荷重の重心位置を算出する。上記表示画像生成手段は、重心位置算出手段が算出した重心位置に基づいて、第１の表示画像を逐次生成してもよい。
【００３７】
上記によれば、第１の入力装置に加わる荷重の重心位置を用いた処理も可能となるため、ユーザの動作をさらにより細かく判定することが可能となる。
【００３８】
また、上記情報処理装置は、ゲーム処理手段を、さらに備えていてもよい。ゲーム処理手段は、少なくとも操作データ取得手段が取得した荷重データに基づいて、所定のゲーム処理を行う。この場合、上記表示画像生成手段は、所定のゲーム処理に基づいて、第１の表示画像を逐次生成してもよい。
【００３９】
上記によれば、第１の入力装置を用いた操作に基づいたゲーム処理が可能となり、当該ゲーム処理結果を可搬型表示装置で見ることができる。
【００４０】
また、上記情報処理装置は、プレイヤオブジェクト動作設定手段を、さらに備えていてもよい。プレイヤオブジェクト動作設定手段は、荷重データおよび第１操作データに基づいて、仮想世界に配置されるプレイヤオブジェクトの動作を設定する。上記表示画像生成手段は、プレイヤオブジェクトを少なくとも含む範囲の仮想世界の画像またはプレイヤオブジェクトの主観視点とした仮想世界の画像を第１の表示画像として逐次生成してもよい。
【００４１】
上記によれば、可搬型表示装置を操作して仮想世界のプレイヤオブジェクトを動作させながら、第１の入力装置に掛ける荷重によっても仮想世界のプレイヤオブジェクトを動作させることができるため、それぞれの操作を組み合わせて様々な動作制御が可能となる。また、可搬型表示装置を操作することによって動作を制御したプレイヤオブジェクトが操作手段でもある可搬型表示装置に表示される、または可搬型表示装置を操作することによって動作を制御したプレイヤオブジェクトから見た仮想世界が操作手段でもある可搬型表示装置に表示されることになるため、ユーザ自身がプレイヤオブジェクトを動かしているかのような臨場感をユーザに与えることができる。
【００４２】
本発明の情報処理システムの他の構成例は、第１の入力装置と可搬型表示装置とを含む。第１の入力装置は、荷重検出手段、および荷重データ出力手段を備える。荷重検出手段は、第１の入力装置に加わる荷重を逐次検出する。荷重データ出力手段は、荷重に基づいた荷重データを可搬型表示装置へ逐次出力する。可搬型表示装置は、操作データ取得手段、表示画像生成手段、および表示手段を備える。操作データ取得手段は、第１の入力装置から出力された荷重データを逐次取得する。表示画像生成手段は、少なくとも操作データ取得手段が取得した荷重データに基づいて、可搬型表示装置に表示するための第１の表示画像を逐次生成する。表示手段は、表示画像生成手段が生成した第１の表示画像を逐次表示する。
【００４３】
上記によれば、第１の入力装置を用いてユーザ自身の動作に基づいた操作を行って当該ユーザ動作に基づいた処理を行う場合に、ユーザが当該処理結果を可搬型表示装置で見ることができるため、当該可搬型表示装置を把持したり、ユーザ自身が動作する際に好適な位置に当該可搬型表示装置を配置したりすることによって、ユーザにとって好適な状況で処理結果を見ることが可能となる。また、表示画像生成手段を可搬型表示装置に設けることによって、第１の入力装置と可搬型表示装置とによって、情報処理システムを構成することができる。
【００４４】
また、本発明は、上記構成要素の少なくとも一部としてコンピュータを機能させる情報処理プログラムおよび上記構成要素の少なくとも一部で行われる動作を含む情報処理方法の形態で実施されてもよい。
【発明の効果】
【００４５】
本発明によれば、第１の入力装置を用いてユーザ自身の動作に基づいた操作を行って当該ユーザ動作に基づいた処理を行う場合に、ユーザが当該処理結果を可搬型表示装置で見ることができるため、当該可搬型表示装置を把持したり、ユーザ自身が動作する際に好適な位置に当該可搬型表示装置を配置したりすることによって、ユーザにとって好適な状況で処理結果を見ることが可能となる。
【図面の簡単な説明】
【００４６】
【図１】本発明の一実施形態に係るゲームシステム１の一例を示す外観図
【図２】図１のゲーム装置本体５の一例を示す機能ブロック図
【図３】図１のコントローラ７の上面後方から見た一例を示す斜視図
【図４】図３のコントローラ７を下面前方から見た一例を示す斜視図
【図５】図３のコントローラ７の上筐体を外した状態の一例を示す斜視図
【図６】図４のコントローラ７の下筐体を外した状態の一例を示す斜視図
【図７】図３のコントローラ７の構成の一例を示すブロック図
【図８】図１の端末装置６の外観構成の一例を示す図
【図９】ユーザが端末装置６を把持した様子の一例を示す図
【図１０】図８の端末装置６の内部構成の一例を示すブロック図
【図１１】図１のボード型コントローラ９の外観の一例を示す斜視図
【図１２】図１１に示したボード型コントローラ９のＡ−Ａ断面図の一例を示すとともに、荷重センサ９４が配置された隅の部分が拡大表示された一例を示す図
【図１３】図１１のボード型コントローラ９の電気的な構成の一例を示すブロック図
【図１４】第１のゲーム例において、端末装置６およびボード型コントローラ９を用いて操作するユーザの様子の一例を示す図
【図１５Ａ】第１のゲーム例において、端末装置６のＬＣＤ６１に表示される画像の一例を示す図
【図１５Ｂ】第１のゲーム例において、モニタ２に表示される画像の一例を示す図
【図１６】図１のゲーム装置本体５のメインメモリに記憶される主なデータおよびプログラムの一例を示す図
【図１７】図１のゲーム装置本体５において実行される処理の一例を示すフローチャート
【図１８】図１７におけるステップ４４のゲーム制御処理の一例を示すサブルーチン
【図１９】第２のゲーム例において、端末装置６、コントローラ７、およびボード型コントローラ９を用いて操作するユーザの様子の一例を示す図
【図２０Ａ】第２のゲーム例において、端末装置６のＬＣＤ６１に表示される画像の一例を示す図
【図２０Ｂ】第２のゲーム例において、モニタ２に表示される画像の一例を示す図
【図２１】第３のゲーム例において、端末装置６およびボード型コントローラ９を用いて操作するユーザの様子の一例を示す図
【図２２Ａ】第３のゲーム例において、端末装置６のＬＣＤ６１に表示される画像の一例を示す図
【図２２Ｂ】第３のゲーム例において、モニタ２に表示される画像の一例を示す図
【図２３Ａ】第３のゲーム例において、プレイヤオブジェクトＰｏに付着したように表現されたオブジェクト画像の一例を示す図
【図２３Ｂ】第３のゲーム例において、プレイヤオブジェクトＰｏに付着したように表現されたオブジェクトをタッチ操作によって除去している画像の一例を示す図
【図２４】第１〜第１０のゲーム例それぞれにおける表示画像および操作制御の一例を示す図
【発明を実施するための形態】
【００４７】
図１を参照して、本発明の一実施形態に係る情報処理プログラムを実行する情報処理装置および当該情報処理装置を含む情報処理システムについて説明する。以下、説明を具体的にするために、当該情報処理装置の一例として据置型のゲーム装置本体５を用い、ゲーム装置本体５を含むゲームシステムを用いて説明する。なお、図１は、据置型のゲーム装置３を含むゲームシステム１の一例を示す外観図である。図２は、ゲーム装置本体５の一例を示すブロック図である。以下、当該ゲームシステム１について説明する。
【００４８】
図１において、ゲームシステム１は、表示手段の一例である家庭用テレビジョン受像機（以下、モニタと記載する）２と、モニタ２に接続コードを介して接続する据置型のゲーム装置３とから構成される。モニタ２は、ゲーム装置３から出力された音声信号を音声出力するためのスピーカ２ａを備える。また、ゲーム装置３は、本願発明の情報処理プログラムの一例となるプログラム（例えば、ゲームプログラム）を記録した光ディスク４と、光ディスク４のプログラムを実行してゲーム画面をモニタ２に表示出力させるためのコンピュータを搭載したゲーム装置本体５と、端末装置６と、表示画面に表示されたオブジェクト等を操作するために必要な操作情報をゲーム装置本体５に与えるためのコントローラ７と、ボード型コントローラ９とを含む。ゲームシステム１は、端末装置６、コントローラ７、およびボード型コントローラ９の少なくとも１つを用いたゲーム操作に基づいて、ゲーム装置本体５においてゲーム処理を実行し、ゲーム処理によって得られるゲーム画像をモニタ２および／または端末装置６に表示するものである。なお、ゲーム装置本体５と端末装置６、コントローラ７、およびボード型コントローラ９とは、無線によって無線通信可能に接続される。例えば、上記無線通信は、Ｂｌｕｅｔｏｏｔｈ（登録商標）規格やＩＥＥＥ８０２．１１ｎ規格に従って実行されるが、赤外線など他の規格に従って実行されてもよい。
【００４９】
ゲーム装置本体５には、当該ゲーム装置本体５に対して交換可能に用いられる情報記憶媒体の一例である光ディスク４が脱着可能に挿入される。光ディスク４には、ゲーム装置本体５において実行されるための情報処理プログラム（典型的にはゲームプログラム）が記憶されている。ゲーム装置本体５の前面には、光ディスク４の挿入口が設けられている。ゲーム装置本体５は、挿入口に挿入された光ディスク４に記憶されている情報処理プログラムを読み出して実行することによってゲーム処理を実行する。
【００５０】
ゲーム装置本体５には、モニタ２が接続コードを介して接続される。モニタ２は、ゲーム装置本体５において実行されるゲーム処理によって得られるゲーム画像を表示する。モニタ２はスピーカ２ａを有しており、スピーカ２ａは、上記ゲーム処理の結果得られるゲーム音声を出力する。なお、他の実施形態においては、ゲーム装置本体５と据置型の表示装置とは一体となっていてもよい。また、ゲーム装置本体５とモニタ２との通信は無線通信であってもよい。
【００５１】
ゲーム装置本体５には、セーブデータ等のデータを固定的に記憶するバックアップメモリとして機能するフラッシュメモリ１７（図２参照）が搭載される。ゲーム装置本体５は、光ディスク４に記憶されたゲームプログラム等を実行することによって、その結果をゲーム画像としてモニタ２および／または端末装置６に表示する。ゲームプログラム等は、光ディスク４に限らず、フラッシュメモリ１７に予め記録されたものを実行するようにしてもよい。また、ゲーム装置本体５は、フラッシュメモリ１７に記憶されたセーブデータを用いて、過去に実行されたゲーム状態を再現して、ゲーム画像をモニタ２および／または端末装置６に表示することもできる。そして、ゲーム装置３のユーザは、モニタ２および／または端末装置６に表示されたゲーム画像を見ながら、端末装置６、コントローラ７、およびボード型コントローラ９の少なくとも１つを操作することによって、ゲーム進行を楽しむことができる。
【００５２】
コントローラ７およびボード型コントローラ９は、コントローラ通信モジュール１９を内蔵するゲーム装置本体５へ、例えばＢｌｕｅｔｏｏｔｈの技術を用いて操作情報等の送信データをそれぞれ無線送信する。コントローラ７は、主にモニタ２の表示画面に表示された選択肢の選択等をするための操作手段である。コントローラ７は、片手で把持可能な程度の大きさのハウジングと、当該ハウジングの表面に露出して設けられた複数個の操作ボタン（十字キー等を含む）とが設けられている。また、後述により明らかとなるが、コントローラ７は、コントローラ７から見た画像を撮像する撮像情報演算部７４を備えている。そして、撮像情報演算部７４の撮像対象の一例として、モニタ２の表示画面近傍（図１では画面の上側）に２つのＬＥＤモジュール（以下、マーカと記載する）８Ｌおよび８Ｒが設置される。詳細は後述するが、ユーザ（プレイヤ）は、コントローラ７を動かすゲーム操作を行うことができ、マーカ８は、コントローラ７の動きや位置や姿勢等をゲーム装置本体５が算出するために用いられる。マーカ８は、その両端に２つのマーカ８Ｌおよび８Ｒを備えている。マーカ８Ｒ（マーカ８Ｌも同様）は、具体的には１以上の赤外ＬＥＤ（Ｌｉｇｈｔ  Ｅｍｉｔｔｉｎｇ  Ｄｉｏｄｅ）であり、モニタ２の前方に向かって赤外光を出力する。マーカ８はゲーム装置本体５に接続されており、ゲーム装置本体５はマーカ８が備える各赤外ＬＥＤの点灯を制御することが可能である。なお、マーカ８は可搬型であり、ユーザはマーカ８を自由な位置に設置することができる。図１ではマーカ８がモニタ２の上に設置された態様を表しているが、マーカ８を設置する位置および向きは任意である。また、コントローラ７は、ゲーム装置本体５のコントローラ通信モジュール１９から無線送信された送信データを通信部７５で受信して、当該送信データに応じた音や振動を発生させることもできる。
【００５３】
なお、他の実施形態においてはコントローラ７および／またはボード型コントローラ９とゲーム装置本体５とは有線で接続されてもよい。また、本実施形態では、ゲームシステム１に含まれるコントローラ７およびボード型コントローラ９はそれぞれ１つとするが、ゲーム装置本体５は複数のコントローラ７および複数のボード型コントローラ９と通信可能であり、所定台数のコントローラ７およびボード型コントローラ９をそれぞれ同時に使用することによって複数人でゲームをプレイすることが可能である。コントローラ７およびボード型コントローラ９の詳細な構成については後述する。
【００５４】
端末装置６は、ユーザが把持可能な程度の大きさであり、ユーザは端末装置６を手に持って動かしたり、あるいは、端末装置６を自由な位置に配置したりして使用することが可能な可搬型の装置である。詳細な構成は後述するが、端末装置６は、表示手段であるＬＣＤ（Ｌｉｑｕｉｄ  Ｃｒｙｓｔａｌ  Ｄｉｓｐｌａｙ：液晶表示装置）６１、および入力手段（後述するタッチパネル６２やジャイロセンサ６０４等）を備える。端末装置６とゲーム装置本体５（端末通信モジュール２８（図２参照））とは無線（有線であってもよい）によって通信可能である。端末装置６は、ゲーム装置本体５で生成された画像（例えばゲーム画像）のデータをゲーム装置本体５から受信し、当該データが示す画像をＬＣＤ６１に表示する。なお、本実施形態では表示装置としてＬＣＤを用いているが、端末装置６は、例えばＥＬ（Ｅｌｅｃｔｒｏ  Ｌｕｍｉｎｅｓｃｅｎｃｅ：電界発光）を利用した表示装置等、他の任意の表示装置を有していてもよい。また、端末装置６は、端末通信モジュール２８を内蔵するゲーム装置本体５へ、自機に対して行われた操作の内容を表す操作データを送信する。
【００５５】
次に、図２を参照して、ゲーム装置本体５の内部構成について説明する。図２は、ゲーム装置本体５の構成の一例を示すブロック図である。ゲーム装置本体５は、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）１０、システムＬＳＩ（Ｌａｒｇｅ  Ｓｃａｌｅ  Ｉｎｔｅｇｒａｔｉｏｎ）１１、外部メインメモリ１２、ＲＯＭ／ＲＴＣ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ／Ｒｅａｌ  Ｔｉｍｅ  Ｃｌｏｃｋ）１３、ディスクドライブ１４、およびＡＶ−ＩＣ（Ａｕｄｉｏ  Ｖｉｄｅｏ−Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ）１５等を有する。
【００５６】
ＣＰＵ１０は、光ディスク４に記憶されたプログラムを実行することによって処理を実行するものであり、ゲームプロセッサとして機能する。ＣＰＵ１０は、システムＬＳＩ１１に接続される。システムＬＳＩ１１には、ＣＰＵ１０の他、外部メインメモリ１２、ＲＯＭ／ＲＴＣ１３、ディスクドライブ１４、およびＡＶ−ＩＣ１５が接続される。システムＬＳＩ１１は、それに接続される各構成要素間のデータ転送の制御、表示すべき画像の生成、外部装置からのデータの取得等の処理を行う。なお、システムＬＳＩ１１の内部構成については、後述する。揮発性の外部メインメモリ１２は、光ディスク４から読み出されたプログラムや、フラッシュメモリ１７から読み出されたプログラムを記憶したり、各種データを記憶したりするものであり、ＣＰＵ１０のワーク領域やバッファ領域として用いられる。ＲＯＭ／ＲＴＣ１３は、ゲーム装置本体５の起動用のプログラムが組み込まれるＲＯＭ（いわゆるブートＲＯＭ）と、時間をカウントするクロック回路（ＲＴＣ）とを有する。ディスクドライブ１４は、光ディスク４からプログラムデータやテクスチャデータ等を読み出し、後述する内部メインメモリ３５または外部メインメモリ１２に読み出したデータを書き込む。
【００５７】
システムＬＳＩ１１には、入出力プロセッサ（Ｉ／Ｏプロセッサ）３１、ＧＰＵ（Ｇｒａｐｈｉｃｓ  Ｐｒｏｃｅｓｓｏｒ  Ｕｎｉｔ）３２、ＤＳＰ（Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ）３３、ＶＲＡＭ（Ｖｉｄｅｏ  ＲＡＭ）３４、および内部メインメモリ３５が設けられる。図示は省略するが、これらの構成要素３１〜３５は、内部バスによって互いに接続される。
【００５８】
ＧＰＵ３２は、描画手段の一部を形成し、ＣＰＵ１０からのグラフィクスコマンド（作画命令）に従って画像を生成する。ＶＲＡＭ３４は、ＧＰＵ３２がグラフィクスコマンドを実行するために必要なデータ（ポリゴンデータやテクスチャデータ等のデータ）を記憶する。画像が生成される際には、ＧＰＵ３２は、ＶＲＡＭ３４に記憶されたデータを用いて画像データを作成する。なお、本実施形態においては、ゲーム装置本体５は、モニタ２に表示するゲーム画像と、端末装置６に表示するゲーム画像との両方を生成することがある。以下では、モニタ２に表示されるゲーム画像を「モニタ用ゲーム画像」と呼び、端末装置６に表示されるゲーム画像を「端末用ゲーム画像」と呼ぶことがある。
【００５９】
ＤＳＰ３３は、オーディオプロセッサとして機能し、内部メインメモリ３５や外部メインメモリ１２に記憶されるサウンドデータや音波形（音色）データを用いて、音声データを生成する。なお、本実施形態においては、ゲーム音声についてもゲーム画像と同様、モニタ２のスピーカ２ａから出力するゲーム音声と、端末装置６のスピーカから出力するゲーム音声との両方が生成されることがある。以下では、モニタ２から出力されるゲーム音声を「モニタ用ゲーム音声」と呼び、端末装置６から出力されるゲーム音声を「端末用ゲーム音声」と呼ぶことがある。
【００６０】
上記のようにゲーム装置本体５において生成される画像および音声のうち、モニタ２に出力される画像データおよび音声のデータは、ＡＶ−ＩＣ１５によって読み出される。ＡＶ−ＩＣ１５は、ＡＶコネクタ１６を介して、読み出した画像データをモニタ２に出力するとともに、読み出した音声データをモニタ２に内蔵されるスピーカ２ａに出力する。これによって、モニタ２に画像が表示されるとともにスピーカ２ａから音が出力される。
【００６１】
また、ゲーム装置本体５において生成される画像および音声のうち、端末装置６に出力される画像データおよび音声のデータは、入出力プロセッサ３１等によって端末装置６へ送信される。入出力プロセッサ３１等による端末装置６へのデータの送信については後述する。
【００６２】
入出力プロセッサ３１は、それに接続される構成要素との間でデータの送受信を実行したり、外部装置からのデータのダウンロードを実行したりする。入出力プロセッサ３１は、フラッシュメモリ１７、ネットワーク通信モジュール１８、コントローラ通信モジュール１９、拡張コネクタ２０、メモリカード用コネクタ２１、コーデックＬＳＩ２７に接続される。また、ネットワーク通信モジュール１８にはアンテナ２２が接続される。コントローラ通信モジュール１９にはアンテナ２３が接続される。コーデックＬＳＩ２７は端末通信モジュール２８に接続され、端末通信モジュール２８にはアンテナ２９が接続される。
【００６３】
ゲーム装置本体５は、インターネット等のネットワークに接続して外部情報処理装置（例えば他のゲーム装置や、各種サーバ等）と通信を行うことが可能である。すなわち、入出力プロセッサ３１は、ネットワーク通信モジュール１８およびアンテナ２２を介してネットワークに接続し、ネットワークに接続される外部情報処理装置と通信することができる。入出力プロセッサ３１は、定期的にフラッシュメモリ１７にアクセスし、ネットワークへ送信する必要があるデータの有無を検出し、当該データがある場合には、ネットワーク通信モジュール１８およびアンテナ２２を介して当該データをネットワークに送信する。また、入出力プロセッサ３１は、外部情報処理装置から送信されてくるデータやダウンロードサーバからダウンロードしたデータを、ネットワーク、アンテナ２２、およびネットワーク通信モジュール１８を介して受信し、受信したデータをフラッシュメモリ１７に記憶する。ＣＰＵ１０は、プログラムを実行することにより、フラッシュメモリ１７に記憶されたデータを読み出してプログラムで利用する。フラッシュメモリ１７には、ゲーム装置本体５と外部情報処理装置との間で送受信されるデータの他、ゲーム装置本体５を利用してプレイしたゲームのセーブデータ（処理の結果データまたは途中データ）が記憶されてもよい。また、フラッシュメモリ１７には、ゲームプログラム等のプログラムが記憶されてもよい。
【００６４】
また、ゲーム装置本体５は、コントローラ７および／またはボード型コントローラ９からの操作データを受信することが可能である。すなわち、入出力プロセッサ３１は、アンテナ２３およびコントローラ通信モジュール１９を介して、コントローラ７および／またはボード型コントローラ９から送信される操作データ等を受信し、内部メインメモリ３５または外部メインメモリ１２のバッファ領域に記憶（一時記憶）する。なお、内部メインメモリ３５には、外部メインメモリ１２と同様に、光ディスク４から読み出されたプログラムや、フラッシュメモリ１７から読み出されたプログラムを記憶したり、各種データを記憶したりしてもよく、ＣＰＵ１０のワーク領域やバッファ領域として用いられてもかまわない。
【００６５】
また、ゲーム装置本体５は、端末装置６との間で画像や音声等のデータを送受信することが可能である。入出力プロセッサ３１は、端末装置６へゲーム画像（端末用ゲーム画像）を送信する場合、ＧＰＵ３２が生成したゲーム画像のデータをコーデックＬＳＩ２７へ出力する。コーデックＬＳＩ２７は、入出力プロセッサ３１からの画像データに対して所定の圧縮処理を行う。端末通信モジュール２８は、端末装置６との間で無線通信を行う。したがって、コーデックＬＳＩ２７によって圧縮された画像データは、端末通信モジュール２８によってアンテナ２９を介して端末装置６へ送信される。なお、本実施形態では、ゲーム装置本体５から端末装置６へ送信される画像データはゲームに用いるものであり、ゲームにおいては表示される画像に遅延が生じるとゲームの操作性に悪影響が出る。そのため、ゲーム装置本体５から端末装置６への画像データの送信に関しては、できるだけ遅延が生じないようにすることが好ましい。したがって、本実施形態では、コーデックＬＳＩ２７は、例えばＨ．２６４規格といった高効率の圧縮技術を用いて画像データを圧縮する。なお、それ以外の圧縮技術を用いてもよいし、通信速度が十分である場合には無圧縮で画像データを送信する構成であってもよい。また、端末通信モジュール２８は、例えばＷｉ−Ｆｉの認証を受けた通信モジュールであり、例えばＩＥＥＥ８０２．１１ｎ規格で採用されるＭＩＭＯ（Ｍｕｌｔｉｐｌｅ  Ｉｎｐｕｔ  Ｍｕｌｔｉｐｌｅ  Ｏｕｔｐｕｔ）の技術を用いて端末装置６との間の無線通信を高速に行うようにしてもよいし、他の通信方式を用いてもよい。
【００６６】
また、ゲーム装置本体５は、画像データの他、音声データを端末装置６へ送信する。すなわち、入出力プロセッサ３１は、ＤＳＰ３３が生成した音声データを、コーデックＬＳＩ２７を介して端末通信モジュール２８へ出力する。コーデックＬＳＩ２７は、音声データに対しても画像データと同様に圧縮処理を行う。音声データに対する圧縮の方式は、どのような方式であってもよいが、圧縮率が高く、音声の劣化が少ない方式が好ましい。また、他の実施形態においては、音声データは圧縮されずに送信されてもよい。端末通信モジュール２８は、圧縮された画像データおよび音声データを、アンテナ２９を介して端末装置６へ送信する。
【００６７】
さらに、ゲーム装置本体５は、上記画像データおよび音声データの他に、必要に応じて各種の制御データを端末装置６へ送信する。制御データは、端末装置６が備える構成要素に対する制御指示を表すデータであり、例えばマーカ部（図１０に示すマーカ部６５）の点灯を制御する指示や、カメラ（図１０に示すカメラ６６）の撮像を制御する指示等を表す。入出力プロセッサ３１は、ＣＰＵ１０の指示に応じて制御データを端末装置６へ送信する。なお、この制御データに関して、本実施形態ではコーデックＬＳＩ２７はデータの圧縮処理を行わないが、他の実施形態においては圧縮処理を行うようにしてもよい。なお、ゲーム装置本体５から端末装置６へ送信される上述のデータは、必要に応じて暗号化がされていてもよいし、されていなくてもよい。
【００６８】
また、ゲーム装置本体５は、端末装置６から各種データを受信可能である。詳細は後述するが、本実施形態では、端末装置６は、操作データ、画像データ、および音声データを送信する。端末装置６から送信される各データは、アンテナ２９を介して端末通信モジュール２８によって受信される。ここで、端末装置６からの画像データおよび音声データは、ゲーム装置本体５から端末装置６への画像データおよび音声データと同様の圧縮処理が施されている。したがって、これら画像データおよび音声データについては、端末通信モジュール２８からコーデックＬＳＩ２７に送られ、コーデックＬＳＩ２７によって伸張処理が施されて入出力プロセッサ３１に出力される。一方、端末装置６からの操作データに関しては、画像や音声に比べてデータ量が少ないので、圧縮処理が施されていなくともよい。また、必要に応じて暗号化がされていてもよいし、されていなくてもよい。したがって、操作データは、端末通信モジュール２８で受信された後、コーデックＬＳＩ２７を介して入出力プロセッサ３１に出力される。入出力プロセッサ３１は、端末装置６から受信したデータを、内部メインメモリ３５または外部メインメモリ１２のバッファ領域に記憶（一時記憶）する。
【００６９】
また、ゲーム装置本体５は、他の機器や外部記憶媒体に接続することが可能である。すなわち、入出力プロセッサ３１には、拡張コネクタ２０およびメモリカード用コネクタ２１が接続される。拡張コネクタ２０は、ＵＳＢやＳＣＳＩのようなインタフェースのためのコネクタであり、外部記憶媒体のようなメディアを接続したり、他のコントローラのような周辺機器を接続したり、有線の通信用コネクタを接続することによってネットワーク通信モジュール１８に替えてネットワークとの通信を行ったりすることができる。メモリカード用コネクタ２１は、メモリカードのような外部記憶媒体を接続するためのコネクタである。例えば、入出力プロセッサ３１は、拡張コネクタ２０やメモリカード用コネクタ２１を介して、外部記憶媒体にアクセスし、データを保存したり、データを読み出したりすることができる。
【００７０】
ゲーム装置本体５（例えば、前部主面）には、電源ボタン２４、リセットボタン２５、光ディスク４を脱着する投入口、およびゲーム装置本体５の投入口から光ディスク４を取り出すイジェクトボタン２６等が設けられている。電源ボタン２４およびリセットボタン２５は、システムＬＳＩ１１に接続される。電源ボタン２４がオンされると、ゲーム装置本体５の各構成要素に対して電力が供給される。リセットボタン２５が押されると、システムＬＳＩ１１は、ゲーム装置本体５の起動プログラムを再起動する。イジェクトボタン２６は、ディスクドライブ１４に接続される。イジェクトボタン２６が押されると、ディスクドライブ１４から光ディスク４が排出される。
【００７１】
なお、他の実施形態においては、ゲーム装置本体５が備える各構成要素のうちでいくつかの構成要素は、ゲーム装置本体５とは別体の拡張機器として構成されてもよい。このとき、拡張機器は、例えば拡張コネクタ２０を介してゲーム装置本体５と接続されるようにしてもよい。具体的には、拡張機器は、例えばコーデックＬＳＩ２７、端末通信モジュール２８、およびアンテナ２９の各構成要素を備えており、拡張コネクタ２０に対して着脱可能であってもよい。これによれば、上記各構成要素を備えていないゲーム装置本体に対して上記拡張機器を接続することによって、当該ゲーム装置本体を端末装置６と通信可能な構成とすることができる。
【００７２】
図３および図４を参照して、コントローラ７について説明する。なお、図３は、コントローラ７の上側後方から見た一例を示す斜視図である。図４は、コントローラ７を下側前方から見た一例を示す斜視図である。
【００７３】
図３および図４において、コントローラ７は、例えばプラスチック成型によって形成されたハウジング７１を有しており、当該ハウジング７１に複数の操作部７２が設けられている。ハウジング７１は、その前後方向を長手方向とした略直方体形状を有しており、全体として大人や子供の片手で把持可能な大きさである。ユーザは、コントローラ７に設けられた操作部７２（操作ボタン）を押下すること、およびコントローラ７自体を動かしてその位置や姿勢（傾き）を変えることによってゲーム操作を行うことができる。
【００７４】
ハウジング７１には、複数の操作ボタンが設けられる。図３に示すように、ハウジング７１の上面には、十字ボタン７２ａ、１番ボタン７２ｂ、２番ボタン７２ｃ、Ａボタン７２ｄ、マイナスボタン７２ｅ、ホームボタン７２ｆ、プラスボタン７２ｇ、および電源ボタン７２ｈが設けられる。本明細書では、これらの操作ボタン７２ａ〜７２ｈが設けられるハウジング７１の上面を「ボタン面」と呼ぶことがある。一方、図４に示すように、ハウジング７１の下面には凹部が形成されており、当該凹部の後面側傾斜面にはＢボタン７２ｉが設けられる。これらの各操作ボタン７２ａ〜７２ｉには、ゲーム装置本体５が実行する情報処理プログラムに応じた機能が適宜割り当てられる。また、電源ボタン７２ｈは、遠隔からゲーム装置本体５本体の電源をオン／オフするためのものである。ホームボタン７２ｆおよび電源ボタン７２ｈは、その上面がハウジング７１の上面に埋没している。これによって、ユーザがホームボタン７２ｆまたは電源ボタン７２ｈを誤って押下することを防止することができる。
【００７５】
ハウジング７１の後面にはコネクタ７３が設けられている。コネクタ７３は、コントローラ７に他の機器（例えば、他のセンサユニットやコントローラ）を接続するために利用される。また、ハウジング７１の後面におけるコネクタ７３の両側には、上記他の機器が容易に離脱することを防止するために係止穴が設けられている。
【００７６】
ハウジング７１上面の後方には複数（図３では４つ）のＬＥＤ７０２が設けられる。ここで、コントローラ７には、他のコントローラと区別するためにコントローラ種別（番号）が付与される。各ＬＥＤ７０２は、コントローラ７に現在設定されている上記コントローラ種別をユーザに通知したり、コントローラ７の電池残量をユーザに通知したりする等の目的で用いられる。具体的には、コントローラ７を用いてゲーム操作が行われる際、上記コントローラ種別に応じて複数のＬＥＤ７０２のいずれか１つが点灯する。
【００７７】
また、コントローラ７は撮像情報演算部７４（図６）を有しており、図４に示すように、ハウジング７１前面には撮像情報演算部７４の光入射面７１ａが設けられる。光入射面７１ａは、マーカ部６５やマーカ８からの赤外光を少なくとも透過する材質で構成される。
【００７８】
ハウジング７１上面における１番ボタン７２ｂとホームボタン７２ｆとの間には、コントローラ７に内蔵されるスピーカ７０６（図５）からの音を外部に放出するための音抜き孔が形成されている。
【００７９】
次に、図５および図６を参照して、コントローラ７の内部構造について説明する。図５および図６は、コントローラ７の内部構造を示す図である。なお、図５は、コントローラ７の上筐体（ハウジング７１の一部）を外した状態の一例を示す斜視図である。図６は、コントローラ７の下筐体（ハウジング７１の一部）を外した状態の一例を示す斜視図である。図６に示す斜視図は、図５に示す基板７００を裏面から見た斜視図となっている。
【００８０】
図５において、ハウジング７１の内部には基板７００が固設されており、当該基板７００の上主面上に各操作ボタン７２ａ〜７２ｈ、各ＬＥＤ７０２、加速度センサ７０１、アンテナ７５４、およびスピーカ７０６等が設けられる。これらは、基板７００等に形成された配線（図示せず）によってマイクロコンピュータ（Ｍｉｃｒｏ  Ｃｏｍｐｕｔｅｒ：マイコン）７５１（図６参照）に接続される。本実施形態では、加速度センサ７０１は、Ｘ軸方向に関してコントローラ７の中心からずれた位置に配置されている。これによって、コントローラ７をＺ軸回りに回転させたときのコントローラ７の動きが算出しやすくなる。また、加速度センサ７０１は、長手方向（Ｚ軸方向）に関してコントローラ７の中心よりも前方に配置されている。また、無線モジュール７５３（図６）およびアンテナ７５４によって、コントローラ７がワイヤレスコントローラとして機能する。
【００８１】
一方、図６において、基板７００の下主面上の前端縁に撮像情報演算部７４が設けられる。撮像情報演算部７４は、コントローラ７の前方から順に赤外線フィルタ７４１、レンズ７４２、撮像素子７４３、および画像処理回路７４４を備えている。これらの部材７４１〜７４４はそれぞれ基板７００の下主面に取り付けられる。
【００８２】
さらに、基板７００の下主面上には、上記マイコン７５１およびバイブレータ７０４が設けられている。バイブレータ７０４は、例えば振動モータやソレノイドであり、基板７００等に形成された配線によってマイコン７５１と接続される。マイコン７５１の指示によりバイブレータ７０４が作動することによってコントローラ７に振動が発生する。これによって、コントローラ７を把持しているユーザの手にその振動が伝達される、いわゆる振動対応ゲームを実現することができる。本実施形態では、バイブレータ７０４は、ハウジング７１のやや前方寄りに配置される。つまり、バイブレータ７０４がコントローラ７の中心よりも端側に配置することによって、バイブレータ７０４の振動によりコントローラ７全体を大きく振動させることができる。また、コネクタ７３は、基板７００の下主面上の後端縁に取り付けられる。なお、図５および図６に示す他、コントローラ７は、マイコン７５１の基本クロックを生成する水晶振動子、スピーカ７０６に音声信号を出力するアンプ等を備えている。
【００８３】
なお、図３〜図６に示したコントローラ７の形状や、各操作ボタンの形状、加速度センサやバイブレータの数および設置位置等は単なる一例に過ぎず、他の形状、数、および設置位置であってもよい。また、本実施形態では、撮像手段による撮像方向はＺ軸正方向であるが、撮像方向はいずれの方向であってもよい。すなわち、コントローラ７における撮像情報演算部７４の位置（撮像情報演算部７４の光入射面７１ａ）は、ハウジング７１の前面でなくてもよく、ハウジング７１の外部から光を取り入れることができれば他の面に設けられてもかまわない。
【００８４】
図７は、コントローラ７の構成の一例を示すブロック図である。コントローラ７は、操作部７２（各操作ボタン７２ａ〜７２ｉ）、撮像情報演算部７４、通信部７５、加速度センサ７０１、およびジャイロセンサ７０３等を備えている。コントローラ７は、自機に対して行われた操作内容を表すデータを操作データとしてゲーム装置本体５へ送信するものである。なお、以下では、コントローラ７が送信する操作データを「コントローラ操作データ」と呼び、端末装置６が送信する操作データを「端末操作データ」と呼び、ボード型コントローラ９が送信する操作データを「ボード操作データ」と呼ぶことがある。
【００８５】
操作部７２は、上述した各操作ボタン７２ａ〜７２ｉを含み、各操作ボタン７２ａ〜７２ｉに対する入力状態（各操作ボタン７２ａ〜７２ｉが押下されたか否か）を表す操作ボタンデータを通信部７５のマイコン７５１へ出力する。
【００８６】
撮像情報演算部７４は、撮像手段が撮像した画像データを解析してその中で輝度が高い領域を判別してその領域の重心位置やサイズなどを算出するためのシステムである。撮像情報演算部７４は、例えば最大２００フレーム／秒程度のサンプリング周期を有するので、比較的高速なコントローラ７の動きでも追跡して解析することができる。
【００８７】
撮像情報演算部７４は、赤外線フィルタ７４１、レンズ７４２、撮像素子７４３、および画像処理回路７４４を含んでいる。赤外線フィルタ７４１は、コントローラ７の前方から入射する光から赤外線のみを通過させる。レンズ７４２は、赤外線フィルタ７４１を透過した赤外線を集光して撮像素子７４３へ入射させる。撮像素子７４３は、例えばＣＭＯＳセンサやあるいはＣＣＤセンサのような固体撮像素子であり、レンズ７４２が集光した赤外線を受光して画像信号を出力する。ここで、撮像対象となる端末装置６のマーカ部６５およびマーカ８は、それぞれ赤外光を出力するマーカで構成される。したがって、赤外線フィルタ７４１を設けることによって、撮像素子７４３は、赤外線フィルタ７４１を通過した赤外線だけを受光して画像データを生成するので、撮像対象（マーカ部６５および／またはマーカ８）の画像をより正確に撮像することができる。以下では、撮像素子７４３によって撮像された画像を撮像画像と呼ぶ。撮像素子７４３によって生成された画像データは、画像処理回路７４４で処理される。画像処理回路７４４は、撮像画像内における撮像対象の位置を算出する。画像処理回路７４４は、算出された位置を示す座標を通信部７５のマイコン７５１へ出力する。この座標のデータは、マイコン７５１によって操作データとしてゲーム装置本体５に送信される。以下では、上記座標を「マーカ座標」と呼ぶ。マーカ座標は、コントローラ７自体の向き（傾斜角度）や位置に対応して変化するので、ゲーム装置本体５はこのマーカ座標を用いてコントローラ７の向きや位置を算出することができる。
【００８８】
なお、他の実施形態においては、コントローラ７は、画像処理回路７４４を備えていない構成であってもよく、撮像画像自体がコントローラ７からゲーム装置本体５へ送信されてもよい。このとき、ゲーム装置本体５は、画像処理回路７４４と同様の機能を有する回路あるいはプログラムを有しており、上記マーカ座標を算出するようにしてもよい。
【００８９】
加速度センサ７０１は、コントローラ７の加速度（重力加速度を含む）を検出する、すなわち、コントローラ７に加わる力（重力を含む）を検出する。加速度センサ７０１は、当該加速度センサ７０１の検出部に加わっている加速度のうち、センシング軸方向に沿った直線方向の加速度（直線加速度）の値を検出する。例えば、２軸以上の多軸加速度センサの場合には、加速度センサの検出部に加わっている加速度として、各軸に沿った成分の加速度をそれぞれ検出する。なお、加速度センサ７０１は、例えば静電容量式のＭＥＭＳ（Ｍｉｃｒｏ  Ｅｌｅｃｔｒｏ  Ｍｅｃｈａｎｉｃａｌ  Ｓｙｓｔｅｍ）型加速度センサであるとするが、他の方式の加速度センサを用いるようにしてもよい。
【００９０】
本実施形態では、加速度センサ７０１は、コントローラ７を基準とした上下方向（図３に示すＹ軸方向）、左右方向（図３に示すＸ軸方向）および前後方向（図３に示すＺ軸方向）の３軸方向に関してそれぞれ直線加速度を検出する。加速度センサ７０１は、各軸に沿った直線方向に関する加速度を検出するものであるため、加速度センサ７０１からの出力は３軸それぞれの直線加速度の値を表すものとなる。すなわち、検出された加速度は、コントローラ７を基準に設定されるＸＹＺ座標系（コントローラ座標系）における３次元のベクトルとして表される。
【００９１】
加速度センサ７０１が検出した加速度を表すデータ（加速度データ）は、通信部７５へ出力される。なお、加速度センサ７０１が検出した加速度は、コントローラ７自体の向き（傾斜角度）や動きに対応して変化するので、ゲーム装置本体５は取得された加速度データを用いてコントローラ７の向きや動きを算出することができる。例えば、ゲーム装置本体５は、取得された加速度データに基づいてコントローラ７の姿勢や傾斜角度等を算出することができる。
【００９２】
なお、加速度センサ７０１（後述する加速度センサ６０３についても同様）から出力される加速度の信号に基づいて、ゲーム装置本体５のプロセッサ（例えばＣＰＵ１０）またはコントローラ７のプロセッサ（例えばマイコン７５１）等のコンピュータが処理を行うことによって、コントローラ７に関するさらなる情報を推測または算出（判定）することができることは、当業者であれば本明細書の説明から容易に理解できるであろう。例えば、加速度センサ７０１を搭載するコントローラ７が静止状態であることを前提としてコンピュータ側の処理が実行される場合（すなわち、加速度センサ７０１によって検出される加速度が重力加速度のみであるとして処理が実行される場合）、コントローラ７が現実に静止状態であれば、検出された加速度に基づいてコントローラ７の姿勢が重力方向に対して傾いているか否かまたはどの程度傾いているかを知ることができる。具体的には、加速度センサ７０１が単軸方向への加速度のみ検出できる場合であっても、当該検出軸が鉛直下方向を向いている状態を基準としたとき、１Ｇ（重力加速度）がかかっているか否かによって、コントローラ７が基準に対して傾いているか否かを知ることができるし、その大きさによって基準に対してどの程度傾いているかも知ることができる。また、多軸の加速度センサ７０１の場合には、さらに各軸の加速度の信号に対して処理を施すことによって、重力方向に対してコントローラ７がどの程度傾いているかをより詳細に知ることができる。この場合において、プロセッサは、加速度センサ７０１からの出力に基づいてコントローラ７の傾斜角度を算出してもよいし、当該傾斜角度を算出せずに、コントローラ７の傾斜方向を算出するようにしてもよい。このように、加速度センサ７０１をプロセッサと組み合わせて用いることによって、コントローラ７の傾斜角度または姿勢を判定することができる。
【００９３】
一方、コントローラ７が動的な状態（コントローラ７が動かされている状態）であることを前提とする場合には、加速度センサ７０１が重力加速度に加えてコントローラ７の動きに応じた加速度を検出するので、検出された加速度から重力加速度の成分を所定の処理により除去することによってコントローラ７の動き方向を知ることができる。また、コントローラ７が動的な状態であることを前提とする場合であっても、検出された加速度から、加速度センサ７０１の動きに応じた加速度の成分を所定の処理により除去することによって、重力方向に対するコントローラ７の傾きを知ることが可能である。なお、他の実施例では、加速度センサ７０１は、内蔵の加速度検出手段で検出された加速度信号をマイコン７５１に出力する前に当該加速度信号に対して所定の処理を行うための、組込み式の処理装置または他の種類の専用の処理装置を備えていてもよい。組込み式または専用の処理装置は、例えば、加速度センサ７０１が静的な加速度（例えば、重力加速度）を検出するために用いられる場合、加速度信号を傾斜角（あるいは、他の好ましいパラメータ）に変換するものであってもよい。
【００９４】
ジャイロセンサ７０３は、３軸（本実施形態では、ＸＹＺ軸）回りの角速度をそれぞれ検出する。本明細書では、コントローラ７の撮像方向（Ｚ軸正方向）を基準として、Ｘ軸回りの回転方向をピッチ方向、Ｙ軸回りの回転方向をヨー方向、Ｚ軸回りの回転方向をロール方向と呼ぶ。ジャイロセンサ７０３は、３軸回りの角速度をそれぞれ検出することができればよく、用いるジャイロセンサの数および組み合わせはどのようなものであってもよい。例えば、ジャイロセンサ７０３は、３軸ジャイロセンサであってもよいし、２軸ジャイロセンサと１軸ジャイロセンサとを組み合わせて３軸周りの角速度をそれぞれ検出するものであってもよい。ジャイロセンサ７０３で検出された角速度を表すデータは、通信部７５へ出力される。また、ジャイロセンサ７０３は、１軸または２軸回りの角速度を検出するものであってもよい。
【００９５】
通信部７５は、マイコン７５１、メモリ７５２、無線モジュール７５３、およびアンテナ７５４を含んでいる。マイコン７５１は、処理を行う際にメモリ７５２を記憶領域として用いながら、マイコン７５１が取得したデータをゲーム装置本体５へ無線送信する無線モジュール７５３を制御する。
【００９６】
操作部７２、撮像情報演算部７４、加速度センサ７０１、およびジャイロセンサ７０３からそれぞれマイコン７５１へ出力されたデータは、一時的にメモリ７５２に格納される。これらのデータは、操作データ（コントローラ操作データ）としてゲーム装置本体５へ送信される。すなわち、マイコン７５１は、ゲーム装置本体５のコントローラ通信モジュール１９への送信タイミングが到来すると、メモリ７５２に格納されている操作データを無線モジュール７５３へ出力する。無線モジュール７５３は、例えばＢｌｕｅｔｏｏｔｈ（ブルートゥース）の技術を用いて、所定周波数の搬送波を操作データで変調し、その微弱電波信号をアンテナ７５４から放射する。つまり、操作データは、無線モジュール７５３で微弱電波信号に変調されてコントローラ７から送信される。上記微弱電波信号は、ゲーム装置本体５側のコントローラ通信モジュール１９で受信される。そして、受信された微弱電波信号について復調や復号を行うことによって、ゲーム装置本体５はコントローラ７からの操作データを取得することができる。ゲーム装置本体５のＣＰＵ１０は、コントローラ７から取得した操作データを用いてゲーム処理を行う。なお、通信部７５からコントローラ通信モジュール１９への無線送信は所定の周期毎に逐次行われるが、ゲームの処理は１／６０秒を単位として（１フレーム時間として）行われることが一般的であるので、この時間以下の周期で送信を行うことが好ましい。コントローラ７の通信部７５は、例えば１／２００秒に１回の割合で操作データをゲーム装置本体５のコントローラ通信モジュール１９へ出力する。
【００９７】
以上のように、コントローラ７は、自機に対する操作を表す操作データとして、マーカ座標データ、加速度データ、角速度データ、および操作ボタンデータをそれぞれ送信可能である。また、ゲーム装置本体５は、上記操作データをゲーム入力として用いてゲーム処理を実行することが可能である。したがって、コントローラ７を用いることによって、ユーザは、各操作ボタンを押下する従来の一般的なゲーム操作に加えて、コントローラ７自体を動かすゲーム操作を行うことができる。例えば、コントローラ７を任意の姿勢に傾ける操作、コントローラ７によって画面上の任意の位置を指示する操作、および、コントローラ７自体を動かす操作等を行うことが可能となる。
【００９８】
また、本実施形態において、コントローラ７は、ゲーム画像を表示する表示手段を有しないが、例えば電池残量を表す画像等を表示するための表示手段を有していてもよい。
【００９９】
次に、図８〜図１０を参照して、端末装置６の構成について説明する。なお、図８は、端末装置６の外観構成の一例を示す図である。図８の（ａ）部は端末装置６の正面図であり、（ｂ）部は上面図であり、（ｃ）部は右側面図であり、（ｄ）部は下面図である。図９は、ユーザが端末装置６を把持した様子の一例を示す図である。
【０１００】
図８に示されるように、端末装置６は、大略的には横長の長方形の板状形状であるハウジング６０を備える。ハウジング６０は、ユーザが把持することができる程度の大きさである。したがって、ユーザは、端末装置６を持って動かしたり、端末装置６の配置位置を変更したりすることができる。
【０１０１】
端末装置６は、ハウジング６０の表面にＬＣＤ６１を有する。ＬＣＤ６１は、ハウジング６０の表面の中央付近に設けられる。したがって、ユーザは、図９に示すようにＬＣＤ６１の両側部分のハウジング６０を持つことによって、ＬＣＤ６１の画面を見ながら端末装置６を持って動かすことができる。なお、図９では、ユーザがＬＣＤ６１の左右両側の部分のハウジング６０を持つことで端末装置６を横持ちで持つ（すなわち、長辺方向を横にして端末装置６を持つ）例を示しているが、端末装置６を縦持ちで持つ（すなわち、長辺方向を縦にして端末装置６を持つ）ことも可能である。
【０１０２】
図８の（ａ）部に示すように、端末装置６は、操作手段として、ＬＣＤ６１の画面上にタッチパネル６２を有する。本実施形態では、タッチパネル６２は、抵抗膜方式のタッチパネルである。ただし、タッチパネル６２は、抵抗膜方式に限らず、例えば静電容量方式等、任意の方式のタッチパネルを用いることができる。また、タッチパネル６２は、シングルタッチ方式でもよいし、マルチタッチ方式であってもよい。本実施形態では、タッチパネル６２として、ＬＣＤ６１の解像度と同解像度（検出精度）のものを利用する。ただし、必ずしもタッチパネル６２の解像度とＬＣＤ６１の解像度とが一致している必要はない。タッチパネル６２に対する入力は、通常タッチペンを用いて行われるが、タッチペンに限らずユーザの指でタッチパネル６２に対する入力をすることも可能である。なお、ハウジング６０には、タッチパネル６２に対する操作を行うために用いられるタッチペンを収納するための収納穴が設けられていてもよい。このように、端末装置６がタッチパネル６２を備えているため、ユーザは、端末装置６を動かしながらタッチパネル６２を操作することができる。つまり、ユーザは、ＬＣＤ６１の画面を動かしつつ、その画面に対して直接（タッチパネル６２によって）入力を行うことができる。
【０１０３】
図８に示すように、端末装置６は、操作手段として、２つのアナログスティック６３Ａおよび６３Ｂと、複数の操作ボタン６４Ａ〜６４Ｌとを備えている。各アナログスティック６３Ａおよび６３Ｂは、方向を指示するデバイスである。各アナログスティック６３Ａおよび６３Ｂは、ユーザの指で操作されるスティック部がハウジング６０の表面に対して任意の方向（上下左右および斜め方向の任意の角度）にスライドまたは傾倒することができるように構成されている。また、左アナログスティック６３Ａは、ＬＣＤ６１の画面の左側に、右アナログスティック６３Ｂは、ＬＣＤ６１の画面の右側にそれぞれ設けられる。したがって、ユーザは、左右いずれの手でもアナログスティック６３Ａまたは６３Ｂを用いて方向を指示する入力を行うことができる。また、図９に示すように、各アナログスティック６３Ａおよび６３Ｂは、ユーザが端末装置６の左右部分を把持した状態で操作可能な位置に設けられるので、ユーザは、端末装置６を持って動かす場合においても各アナログスティック６３Ａおよび６３Ｂを容易に操作することができる。
【０１０４】
各操作ボタン６４Ａ〜６４Ｌは、所定の入力を行うための操作手段である。以下に示すように、各操作ボタン６４Ａ〜６４Ｌは、ユーザが端末装置６の左右部分を把持した状態で操作可能な位置に設けられる（図９参照）。したがって、ユーザは、端末装置６を持って動かす場合においてもこれらの操作手段を容易に操作することができる。
【０１０５】
図８の（ａ）部に示すように、ハウジング６０の表面には、各操作ボタン６４Ａ〜６４Ｌのうち、十字ボタン（方向入力ボタン）６４Ａと、操作ボタン６４Ｂ〜６４Ｈとが設けられる。これらの操作ボタン６４Ａ〜６４Ｇは、ユーザの親指で操作可能な位置に配置されている（図９参照）。
【０１０６】
十字ボタン６４Ａは、ＬＣＤ６１の左側であって、左アナログスティック６３Ａの下側に設けられる。つまり、十字ボタン６４Ａは、ユーザの左手で操作可能な位置に配置されている。十字ボタン６４Ａは、十字の形状を有しており、上下左右の方向を指示することが可能なボタンである。また、操作ボタン６４Ｂ〜６４Ｄは、ＬＣＤ６１の下側に設けられる。これら３つの操作ボタン６４Ｂ〜６４Ｄは、左右両方の手で操作可能な位置に配置されている。また、４つの操作ボタン６４Ｅ〜６４Ｈは、ＬＣＤ６１の右側であって、右アナログスティック６３Ｂの下側に設けられる。つまり、４つの操作ボタン６４Ｅ〜６４Ｈは、ユーザの右手で操作可能な位置に配置されている。さらに、４つの操作ボタン６４Ｅ〜６４Ｈは、（４つの操作ボタン６４Ｅ〜６４Ｈの中心位置に対して）上下左右の位置関係となるように配置されている。したがって、端末装置６は、ユーザに上下左右の方向を指示させるためのボタンとして４つの操作ボタン６４Ｅ〜６４Ｈを機能させることも可能である。
【０１０７】
また、図８の（ａ）部、（ｂ）部、および（ｃ）部に示すように、第１Ｌボタン６４Ｉおよび第１Ｒボタン６４Ｊは、ハウジング６０の斜め上部分（左上部分および右上部分）に設けられる。具体的には、第１Ｌボタン６４Ｉは、板状のハウジング６０における上側の側面の左端に設けられ、上側および左側の側面から突設されている。また、第１Ｒボタン６４Ｊは、ハウジング６０における上側の側面の右端に設けられ、上側および右側の側面から突設されている。このように、第１Ｌボタン６４Ｉは、ユーザの左手人差し指で操作可能な位置に配置され、第１Ｒボタン６４Ｊは、ユーザの右手人差し指で操作可能な位置に配置される（図９参照）。
【０１０８】
また、図８の（ｂ）部および（ｃ）部に示すように、第２Ｌボタン６４Ｋおよび第２Ｒボタン６４Ｌは、板状のハウジング６０の裏面（すなわちＬＣＤ６１が設けられる表面の反対側の面）に突出して設けられた足部６８Ａおよび６８Ｂにそれぞれ突設される。具体的には、第２Ｌボタン６４Ｋは、ハウジング６０の裏面の左側（表面側から見たときの左側）のやや上方に設けられ、第２Ｒボタン６４Ｌは、ハウジング６０の裏面の右側（表面側から見たときの右側）のやや上方に設けられる。換言すれば、第２Ｌボタン６４Ｋは、表面に設けられる左アナログスティック６３Ａの概ね反対側の位置に設けられ、第２Ｒボタン６４Ｌは、表面に設けられる右アナログスティック６３Ｂの概ね反対側の位置に設けられる。第２Ｌボタン６４Ｋは、ユーザの左手中指で操作可能な位置に配置され、第２Ｒボタン６４Ｌは、ユーザの右手中指で操作可能な位置に配置される（図９参照）。また、第２Ｌボタン６４Ｋおよび第２Ｒボタン６４Ｌは、図８の（ｃ）部に示すように、上記足部６８Ａおよび６８Ｂの斜め上方を向く面に設けられ、斜め上方を向くボタン面を有する。ユーザが端末装置６を把持した場合には、中指が上下方向に動くと考えられるので、ボタン面を上方に向けることで、ユーザは第２Ｌボタン６４Ｋおよび第２Ｒボタン６４Ｌを押下しやすくなる。また、ハウジング６０の裏面に足部６８Ａおよび６８Ｂが設けられることにより、ユーザはハウジング６０を把持しやすくなり、かつ、足部６８Ａおよび６８Ｂに操作ボタンが設けられることで、ハウジング６０を把持したまま操作しやすくなる。
【０１０９】
なお、図８に示す端末装置６に関しては、第２Ｌボタン６４Ｋおよび第２Ｒボタン６４Ｌが裏面に設けられるので、ＬＣＤ６１の画面（ハウジング６０の表面）が上を向いた状態で端末装置６を載置させる場合、画面が完全に水平にはならない場合がある。そのため、他の実施形態においては、ハウジング６０の裏面に３つ以上の足部が形成されてもよい。これによれば、ＬＣＤ６１の画面が上を向いた状態では３つ以上の足部が床面と接するように端末装置６を載置できるので、画面が水平になるように端末装置６を載置することができる。また、着脱可能な足部を装着することで端末装置６を水平に載置可能にしてもよい。
【０１１０】
各操作ボタン６４Ａ〜６４Ｌには、ゲームプログラムに応じた機能が適宜割り当てられる。例えば、十字ボタン６４Ａおよび操作ボタン６４Ｅ〜６４Ｈは、方向指示操作や選択操作等に用いられてもよいし、各操作ボタン６４Ｂ〜６４Ｅは、決定操作やキャンセル操作等に用いられてもよい。
【０１１１】
なお、図示しないが、端末装置６は、端末装置６の電源をオン／オフするための電源ボタンを有している。また、端末装置６は、ＬＣＤ６１の画面表示をオン／オフするための操作ボタンや、ゲーム装置本体５との接続設定（ペアリング）を行うための操作ボタンや、スピーカ（図１０に示すスピーカ６０７）の音量を調節するための操作ボタンを有していてもよい。
【０１１２】
図８の（ａ）部に示すように、端末装置６は、マーカ６５Ａおよびマーカ６５Ｂからなるマーカ部（図１０に示すマーカ部６５）をハウジング６０の表面に備えている。一例として、マーカ部６５は、ＬＣＤ６１の上側に設けられる。マーカ６５Ａおよびマーカ６５Ｂは、マーカ８のマーカ８Ｌおよび８Ｒと同様、それぞれ１以上の赤外ＬＥＤで構成される。マーカ部６５は、上述したマーカ８と同様、マーカ部６５に対するコントローラ７の動き等をゲーム装置本体５が算出するために用いられる。また、ゲーム装置本体５は、マーカ部６５が備える各赤外ＬＥＤの点灯を制御することが可能である。
【０１１３】
端末装置６は、撮像手段であるカメラ６６を備えている。カメラ６６は、所定の解像度を有する撮像素子（例えば、ＣＣＤイメージセンサやＣＭＯＳイメージセンサ等）と、レンズとを含む。例えば、カメラ６６は、ハウジング６０の表面に設けられる。したがって、カメラ６６は、端末装置６を持っているユーザの顔を撮像することができ、一例としてＬＣＤ６１を見ながらゲームを行っている状態におけるユーザを撮像することができる。
【０１１４】
なお、端末装置６は、音声入力手段であるマイク（図１０に示すマイク６０９）を備えている。ハウジング６０の表面には、マイクロフォン用孔６０ｂが設けられる。マイク６０９は、マイクロフォン用孔６０ｂの内側となるハウジング６０内部に設けられる。マイク６０９は、ユーザの音声等、端末装置６の周囲の音を検出する。
【０１１５】
端末装置６は、音声出力手段であるスピーカ（図１０に示すスピーカ６０７）を備えている。図８の（ｄ）部に示すように、ハウジング６０の下側側面にはスピーカ孔６０ａが設けられる。スピーカ６０７の出力音は、スピーカ孔６０ａから出力される。本実施形態では、端末装置６は、２つのスピーカを備えており、左スピーカおよび右スピーカのそれぞれの位置にスピーカ孔６０ａが設けられる。
【０１１６】
また、端末装置６は、他の装置を端末装置６に接続するための拡張コネクタ６７を備えている。本実施形態においては、図８の（ｄ）部に示すように、拡張コネクタ６７は、ハウジング６０の下側側面に設けられる。なお、拡張コネクタ６７に接続される他の装置はどのようなものであってもよく、例えば、特定のゲームに用いるコントローラ（銃型のコントローラ等）やキーボード等の入力装置であってもよい。他の装置を接続する必要がなければ、拡張コネクタ６７は設けられていなくともよい。
【０１１７】
なお、図８に示した端末装置６に関して、各操作ボタンやハウジング６０の形状や、各構成要素の数および設置位置等は単なる一例に過ぎず、他の形状、数、および設置位置であってもよい。
【０１１８】
次に、図１０を参照して、端末装置６の内部構成について説明する。図１０は、端末装置６の内部構成の一例を示すブロック図である。図１０に示すように、端末装置６は、図８に示した構成の他、タッチパネルコントローラ６０１、磁気センサ６０２、加速度センサ６０３、ジャイロセンサ６０４、ユーザインタフェースコントローラ（ＵＩコントローラ）６０５、コーデックＬＳＩ６０６、スピーカ６０７、サウンドＩＣ６０８、マイク６０９、無線モジュール６１０、アンテナ６１１、赤外線通信モジュール６１２、フラッシュメモリ６１３、電源ＩＣ６１４、電池６１５、およびバイブレータ６１９を備える。これらの電子部品は、電子回路基板上に実装されてハウジング６０内に収納される。
【０１１９】
ＵＩコントローラ６０５は、各種の入出力部に対するデータの入出力を制御するための回路である。ＵＩコントローラ６０５は、タッチパネルコントローラ６０１、アナログスティック６３（アナログスティック６３Ａおよび６３Ｂ）、操作ボタン６４（各操作ボタン６４Ａ〜６４Ｌ）、マーカ部６５、磁気センサ６０２、加速度センサ６０３、ジャイロセンサ６０４、およびバイブレータ６１９に接続される。また、ＵＩコントローラ６０５は、コーデックＬＳＩ６０６と拡張コネクタ６７とに接続される。また、ＵＩコントローラ６０５には電源ＩＣ６１４が接続され、ＵＩコントローラ６０５を介して各部に電力が供給される。電源ＩＣ６１４には内蔵の電池６１５が接続され、電力が供給される。また、電源ＩＣ６１４には、コネクタ等を介して外部電源から電力を取得可能な充電器６１６またはケーブルを接続することが可能であり、端末装置６は、充電器６１６またはケーブルを用いて外部電源からの電力供給と充電とを行うことができる。なお、端末装置６は、図示しない充電機能を有するクレイドルに端末装置６を装着することで充電を行うようにしてもよい。
【０１２０】
タッチパネルコントローラ６０１は、タッチパネル６２に接続され、タッチパネル６２の制御を行う回路である。タッチパネルコントローラ６０１は、タッチパネル６２からの信号に基づいて所定の形式のタッチ位置データを生成してＵＩコントローラ６０５へ出力する。タッチ位置データは、タッチパネル６２の入力面において入力が行われた位置の座標を表す。なお、タッチパネルコントローラ６０１は、タッチパネル６２からの信号の読み込み、および、タッチ位置データの生成を所定時間に１回の割合で行う。また、ＵＩコントローラ６０５からタッチパネルコントローラ６０１へは、タッチパネル６２に対する各種の制御指示が出力される。
【０１２１】
アナログスティック６３は、ユーザの指で操作されるスティック部がスライドした（または傾倒した）方向および量を表すスティックデータをＵＩコントローラ６０５へ出力する。また、操作ボタン６４は、各操作ボタン６４Ａ〜６４Ｌに対する入力状況（押下されたか否か）を表す操作ボタンデータをＵＩコントローラ６０５へ出力する。
【０１２２】
磁気センサ６０２は、磁界の大きさおよび方向を検知することで方位を検出する。検出された方位を示す方位データは、ＵＩコントローラ６０５へ出力される。また、ＵＩコントローラ６０５から磁気センサ６０２へは、磁気センサ６０２に対する制御指示が出力される。磁気センサ６０２に関しては、ＭＩ（磁気インピーダンス）素子、フラックスゲートセンサ、ホール素子、ＧＭＲ（巨大磁気抵抗）素子、ＴＭＲ（トンネル磁気抵抗）素子、あるいはＡＭＲ（異方性磁気抵抗）素子等を用いたセンサがあるが、方位を検出することができればどのようなものが用いられてもよい。なお、厳密には、地磁気以外に磁界が発生している場所においては、得られた方位データは方位を示さないことになるが、そのような場合であっても、端末装置６が動いた場合には方位データが変化するため、端末装置６の姿勢の変化を算出することができる。
【０１２３】
加速度センサ６０３は、ハウジング６０の内部に設けられ、３軸（図８の（ａ）部に示すｘｙｚ軸）方向に沿った直線加速度の大きさを検出する。具体的には、加速度センサ６０３は、ハウジング６０の長辺方向をｘ軸、ハウジング６０の短辺方向をｙ軸、ハウジング６０の表面に対して垂直な方向をｚ軸として、各軸の直線加速度の大きさを検出する。検出された加速度を表す加速度データはＵＩコントローラ６０５へ出力される。また、ＵＩコントローラ６０５から加速度センサ６０３へは、加速度センサ６０３に対する制御指示が出力される。加速度センサ６０３は、本実施形態では例えば静電容量式のＭＥＭＳ型加速度センサであるとするが、他の実施形態においては他の方式の加速度センサを用いるようにしてもよい。また、加速度センサ６０３は１軸または２軸方向を検出する加速度センサであってもよい。
【０１２４】
ジャイロセンサ６０４は、ハウジング６０の内部に設けられ、上記ｘ軸、ｙ軸、およびｚ軸の３軸周りの角速度をそれぞれ検出する。検出された角速度を表す角速度データは、ＵＩコントローラ６０５へ出力される。また、ＵＩコントローラ６０５からジャイロセンサ６０４へは、ジャイロセンサ６０４に対する制御指示が出力される。なお、３軸の角速度を検出するために用いられるジャイロセンサの数および組み合わせはどのようなものであってもよく、ジャイロセンサ６０４はジャイロセンサ７０３と同様、２軸ジャイロセンサと１軸ジャイロセンサとで構成されてもよい。また、ジャイロセンサ６０４は１軸または２軸方向を検出するジャイロセンサであってもよい。
【０１２５】
バイブレータ６１９は、例えば振動モータやソレノイドであり、ＵＩコントローラ６０５と接続される。ＵＩコントローラ６０５からバイブレータ６１９へ出力される制御指示に応じて、バイブレータ６１９が作動することによって端末装置６に振動が発生する。これによって、端末装置６を把持しているユーザの手にその振動が伝達される、いわゆる振動対応ゲームを実現することができる。
【０１２６】
ＵＩコントローラ６０５は、上記の各構成要素から受け取ったタッチ位置データ、スティックデータ、操作ボタンデータ、方位データ、加速度データ、および角速度データを含む操作データをコーデックＬＳＩ６０６に出力する。なお、拡張コネクタ６７を介して端末装置６に他の装置が接続される場合には、当該他の装置に対する操作を表すデータが上記操作データにさらに含まれていてもよい。
【０１２７】
コーデックＬＳＩ６０６は、ゲーム装置本体５へ送信するデータに対する圧縮処理、およびゲーム装置本体５から送信されたデータに対する伸張処理を行う回路である。コーデックＬＳＩ６０６には、ＬＣＤ６１、カメラ６６、サウンドＩＣ６０８、無線モジュール６１０、フラッシュメモリ６１３、および赤外線通信モジュール６１２が接続される。また、コーデックＬＳＩ６０６は、ＣＰＵ６１７と内部メモリ６１８とを含む。例えば、端末装置６は、ゲーム処理自体を行わない構成であるが、端末装置６の管理や通信のための最小限のプログラムを実行する必要がある。一例として、電源投入時にフラッシュメモリ６１３に格納されたプログラムを内部メモリ６１８に読み出してＣＰＵ６１７が実行することで、端末装置６が起動する。また、内部メモリ６１８の一部の領域は、ＬＣＤ６１のためのＶＲＡＭとして使用される。
【０１２８】
カメラ６６は、ゲーム装置本体５からの指示に従って画像を撮像し、撮像した画像データをコーデックＬＳＩ６０６へ出力する。また、コーデックＬＳＩ６０６からカメラ６６へは、画像の撮像指示等、カメラ６６に対する制御指示が出力される。なお、カメラ６６は、動画の撮影も可能である。すなわち、カメラ６６は、繰り返し撮像を行って画像データをコーデックＬＳＩ６０６へ繰り返し出力することも可能である。
【０１２９】
サウンドＩＣ６０８は、スピーカ６０７およびマイク６０９に接続され、スピーカ６０７およびマイク６０９への音声データの入出力を制御する回路である。すなわち、コーデックＬＳＩ６０６から音声データを受け取った場合、サウンドＩＣ６０８は、当該音声データに対してＤ／Ａ変換を行って得られる音声信号をスピーカ６０７へ出力し、スピーカ６０７から音を出力させる。また、マイク６０９は、端末装置６に伝わる音（ユーザの音声等）を検知して、当該音を示す音声信号をサウンドＩＣ６０８へ出力する。サウンドＩＣ６０８は、マイク６０９からの音声信号に対してＡ／Ｄ変換を行い、所定の形式の音声データをコーデックＬＳＩ６０６へ出力する。
【０１３０】
コーデックＬＳＩ６０６は、カメラ６６からの画像データ、マイク６０９からの音声データ、およびＵＩコントローラ６０５からの操作データを、端末操作データとして無線モジュール６１０を介してゲーム装置本体５へ送信する。本実施形態では、コーデックＬＳＩ６０６は、画像データおよび音声データに対して、コーデックＬＳＩ２７と同様の圧縮処理を行う。圧縮された画像データおよび音声データと上記端末操作データとは、送信データとして無線モジュール６１０に出力される。無線モジュール６１０にはアンテナ６１１が接続されており、無線モジュール６１０はアンテナ６１１を介してゲーム装置本体５へ上記送信データを送信する。無線モジュール６１０は、ゲーム装置本体５の端末通信モジュール２８と同様の機能を有している。すなわち、無線モジュール６１０は、例えばＩＥＥＥ８０２．１１ｎの規格に準拠した方式により、無線ＬＡＮに接続する機能を有する。無線モジュール６１０から送信されるデータは、必要に応じて暗号化されていてもよいし、されていなくてもよい。
【０１３１】
以上のように、端末装置６からゲーム装置本体５へ送信される送信データには、操作データ（端末操作データ）、画像データ、および音声データが含まれる。なお、拡張コネクタ６７を介して端末装置６に他の装置が接続される場合には、当該他の装置から受け取ったデータが上記送信データにさらに含まれていてもよい。また、赤外線通信モジュール６１２は、他の装置との間で例えばＩＲＤＡの規格に従った赤外線通信を行う。コーデックＬＳＩ６０６は、赤外線通信によって受信したデータを、必要に応じて上記送信データに含めてゲーム装置本体５へ送信してもよい。
【０１３２】
また、上述のように、ゲーム装置本体５から端末装置６へは、圧縮された画像データおよび音声データが送信される。これらのデータは、アンテナ６１１および無線モジュール６１０を介してコーデックＬＳＩ６０６で受信される。コーデックＬＳＩ６０６は、受信した画像データおよび音声データを伸張する。伸張された画像データは、ＬＣＤ６１へ出力され、当該画像データに応じた画像がＬＣＤ６１に表示される。また、伸張された音声データは、サウンドＩＣ６０８へ出力され、当該音声データに応じた音がスピーカ６０７から出力される。
【０１３３】
また、ゲーム装置本体５から受信されるデータに制御データが含まれる場合、コーデックＬＳＩ６０６およびＵＩコントローラ６０５は、制御データに従った制御指示を各部に行う。上述のように、制御データは、端末装置６が備える各構成要素（本実施形態では、カメラ６６、タッチパネルコントローラ６０１、マーカ部６５、各センサ６０２〜６０４、バイブレータ６１９、および赤外線通信モジュール６１２）に対する制御指示を表すデータである。本実施形態では、制御データが表す制御指示としては、上記各構成要素を動作させたり、動作を休止（停止）させたりする指示が考えられる。すなわち、ゲームで使用しない構成要素については電力消費を抑えるために休止させてもよく、その場合、端末装置６からゲーム装置本体５へ送信される送信データには、休止した構成要素からのデータが含まれないようにする。なお、マーカ部６５は、赤外ＬＥＤであるので、制御は単に電力の供給のＯＮ／ＯＦＦでよい。
【０１３４】
以上のように、端末装置６は、タッチパネル６２、アナログスティック６３、および操作ボタン６４といった操作手段を備えるが、他の実施形態においては、これらの操作手段に代えて、または、これらの操作手段とともに、他の操作手段を備える構成であってもよい。
【０１３５】
また、端末装置６は、端末装置６の動き（位置や姿勢、あるいは、位置や姿勢の変化を含む）を算出するためのセンサとして、磁気センサ６０２、加速度センサ６０３、およびジャイロセンサ６０４を備えるが、他の実施形態においては、これらのセンサのうち１つまたは２つのみを備える構成であってもよい。また、他の実施形態においては、これらのセンサに代えて、または、これらのセンサとともに、他のセンサを備える構成であってもよい。
【０１３６】
また、端末装置６は、カメラ６６およびマイク６０９を備える構成であるが、他の実施形態においては、カメラ６６およびマイク６０９を備えていなくてもよく、また、いずれか一方のみを備えていてもよい。
【０１３７】
また、端末装置６は、端末装置６とコントローラ７との位置関係（コントローラ７から見た端末装置６の位置および／または姿勢等）を算出するための構成としてマーカ部６５を備える構成であるが、他の実施形態ではマーカ部６５を備えていない構成としてもよい。また、他の実施形態では、端末装置６は、上記位置関係を算出するための構成として他の手段を備えていてもよい。例えば、他の実施形態においては、コントローラ７がマーカ部を備え、端末装置６が撮像素子を備える構成としてもよい。さらにこの場合、マーカ８は赤外ＬＥＤに代えて、撮像素子を備える構成としてもよい。
【０１３８】
次に、図１１〜図１３を参照して、ボード型コントローラ９の構成について説明する。なお、図１１は、図１に示したボード型コントローラ９の外観の一例を示す斜視図である。図１１に示されるように、ボード型コントローラ９は、ユーザがその上に乗る（ユーザの足を乗せる）台９ａ、台９ａに掛かる荷重を検出するための少なくとも４つの荷重センサ９４ａ〜９４ｄを備える。各荷重センサ９４ａ〜９４ｄは、それぞれ台９ａに内包されており（図１２参照）、図１１においてはそれらの配置位置がそれぞれ破線で示されている。なお、以下の説明において、４つの荷重センサ９４ａ〜９４ｄを総称して説明する場合、荷重センサ９４と記載することがある。
【０１３９】
台９ａは、略直方体に形成されており、上面視で略長方形状である。例えば、台９ａは、長方形状の短辺が３０ｃｍ程度に設定され、長辺が５０ｃｍ程度に設定される。台９ａの上面は、平坦に形成され、ユーザが両足裏をそれぞれ置いて乗るための一対の面が設定されている。具体的には、台９ａの上面には、ユーザが左足を乗せるための面（図１１における左奥側に２重線で囲まれた領域）および左足を乗せるための面（図１１における右手前側に２重線で囲まれた領域）がそれぞれ設定されている。そして、台９ａの４隅の側面は、例えば部分的に円柱状に張り出すように形成されている。
【０１４０】
台９ａにおいて、４つの荷重センサ９４ａ〜９４ｄは、所定の間隔を置いて配置される。当該実施例では、４つの荷重センサ９４ａ〜９４ｄは、台９ａの周縁部に、具体的には４隅にそれぞれ配置される。荷重センサ９４ａ〜９４ｄの間隔は、台９ａに対するユーザの荷重のかけ方によるゲーム操作の意図をより精度良く検出できるように適宜な値に設定される。
【０１４１】
図１２は、図１１に示したボード型コントローラ９のＡ−Ａ断面図の一例を示すとともに、荷重センサ９４が配置された隅の部分が拡大表示された一例を示している。図１２において、台９ａは、ユーザが乗るための支持板９０と脚９２とを含む。荷重センサ９４ａ〜９４ｄは、脚９２が配置される箇所にそれぞれ設けられる。この実施例では、４つの脚９２が４隅に設けられているので、４つの荷重センサ９４ａ〜９４ｄがそれぞれ４隅に配置されることになる。脚９２は、例えばプラスチック成型によって略有底円筒状に形成されており、荷重センサ９４は、脚９２内の底面に設けられた球面部品９２ａ上に配置される。支持板９０は、荷重センサ９４を介して脚９２に支持される。
【０１４２】
支持板９０は、上面と側面上部とを形成する上層板９０ａ、下面と側面下部とを形成する下層板９０ｂ、および上層板９０ａと下層板９０ｂとの間に設けられる中層板９０ｃを含む。上層板９０ａと下層板９０ｂとは、例えばプラスチック成型により形成されており、接着等により一体化される。中層板９０ｃは、例えば１枚の金属板のプレス成型により形成されている。中層板９０ｃは、４つの荷重センサ９４ａ〜９４ｄの上に固定される。上層板９０ａは、その下面に格子状のリブ（図示しない）を有しており、当該リブを介して中層板９０ｃに支持されている。したがって、台９ａにユーザが乗ったときには、その荷重は、支持板９０および荷重センサ９４ａ〜９４ｄを介して、４つの脚９２に伝達する。図１２に矢印で示したように、入力された荷重によって生じた床からの反作用は、脚９２から、球面部品９２ａ、荷重センサ９４ａ〜９４ｄ、および中層板９０ｃを介して、上層板９０ａに伝達する。
【０１４３】
荷重センサ９４は、例えば歪ゲージ（歪センサ）式ロードセルであり、入力された荷重を電気信号に変換する荷重変換器である。荷重センサ９４では、荷重入力に応じて、起歪体９５が変形して歪が生じる。この歪が、起歪体９５に貼り付けられた歪センサ９６によって電気抵抗の変化に変換され、さらに電圧変化に変換される。したがって、荷重センサ９４は、入力荷重を示す電圧信号を出力端子から出力することができる。
【０１４４】
なお、荷重センサ９４は、音叉振動式、弦振動式、静電容量式、圧電式、磁歪式、またはジャイロ式のような他の方式の荷重センサであってもよい。
【０１４５】
図１１に戻って、ボード型コントローラ９には、さらに、電源ボタン９ｃが設けられる。ボード型コントローラ９が起動していない状態で電源ボタン９ｃが操作（例えば、電源ボタン９ｃの押下）されると、ボード型コントローラ９の各回路コンポーネント（図１３参照）に電力が供給される。ただし、ボード型コントローラ９は、ゲーム装置本体５からの指示に従って電源オンされて各回路コンポーネントに電力供給が開始される場合もある。なお、ボード型コントローラ９は、ユーザが乗っていない状態が一定時間（例えば、３０秒）以上継続すると、自動的に電源がオフされてもよい。また、ボード型コントローラ９が起動している状態で、電源ボタン９ｃが再度操作された場合、電源がオフされて各回路コンポーネントへの電力供給が停止されてもよい。
【０１４６】
図１３は、ボード型コントローラ９の電気的な構成の一例を示すブロック図である。なお、図１３では、信号およびデータの流れは実線矢印で示され、電力の供給が破線矢印で示されている。
【０１４７】
図１３において、ボード型コントローラ９は、その動作を制御するためのマイクロコンピュータ（マイコン）１００を含む。マイコン１００は、図示しないＣＰＵ、ＲＯＭ、およびＲＡＭ等を含み、ＣＰＵがＲＯＭに記憶されたプログラムに従ってボード型コントローラ９の動作を制御する。
【０１４８】
マイコン１００には、電源ボタン９ｃ、ＡＤコンバータ１０２、ＤＣ−ＤＣコンバータ１０４、および無線モジュール１０６が接続される。さらに、無線モジュール１０６には、アンテナ１０６ａが接続される。４つの荷重センサ９４ａ〜９４ｄは、それぞれ増幅器１０８を介してＡＤコンバータ１０２に接続される。
【０１４９】
また、ボード型コントローラ９には、各回路コンポーネントへの電力供給のために電池１１０が収容されている。他の実施例では、電池１１０に代えてＡＣアダプタをボード型コントローラ９に接続し、商用電力を各回路コンポーネントに供給するようにしてもよい。この場合、ＤＣ−ＤＣコンバータ１０４に代えて、交流を直流に変換し、直流電圧を降圧および整流する電源回路をボード型コントローラ９内に設ける必要がある。この実施例では、マイコン１００および無線モジュール１０６への電力供給は、電池１１０から直接的に行われる。つまり、マイコン１００内部の一部のコンポーネント（ＣＰＵ）と無線モジュール１０６とには、常に電池１１０からの電力が供給されており、電源ボタン９ｃがオンされたか否か、ゲーム装置本体５から電源オンを指示するコマンドが送信されたか否かを検出する。一方、荷重センサ９４ａ〜９４ｄ、ＡＤコンバータ１０２、および増幅器１０８には、ＤＣ−ＤＣコンバータ１０４を介して電池１１０からの電力が供給される。ＤＣ−ＤＣコンバータ１０４は、電池１１０からの直流電流の電圧値を異なる電圧値に変換して、荷重センサ９４ａ〜９４ｄ、ＡＤコンバータ１０２、および増幅器１０８に与える。
【０１５０】
これら荷重センサ９４ａ〜９４ｄ、ＡＤコンバータ１０２、および増幅器１０８への電力供給は、マイコン１００によるＤＣ−ＤＣコンバータ１０４の制御によって、必要に応じて行われるようにしてもよい。つまり、マイコン１００は、荷重センサ９４ａ〜９４ｄを動作させて荷重を検出する必要があると判断される場合に、ＤＣ−ＤＣコンバータ１０４を制御して、荷重センサ９４ａ〜９４ｄ、ＡＤコンバータ１０２、および増幅器１０８に電力を供給するようにしてよい。
【０１５１】
電力が供給されると、荷重センサ９４ａ〜９４ｄは、入力された荷重を示す信号をそれぞれ出力する。これらの信号は、各増幅器１０８で増幅され、ＡＤコンバータ１０２でアナログ信号からデジタルデータに変換されて、マイコン１００に入力される。荷重センサ９４ａ〜９４ｄの検出値には荷重センサ９４ａ〜９４ｄの識別情報が付与されて、いずれの荷重センサ９４ａ〜９４ｄの検出値であるかが識別可能にされる。このようにして、マイコン１００は、同一時刻における４つの荷重センサ９４ａ〜９４ｄそれぞれの荷重検出値を示すデータを取得することができる。
【０１５２】
一方、マイコン１００は、荷重センサ９４ａ〜９４ｄを動作させる必要がないと判断される場合、つまり、荷重検出タイミングでない場合、ＤＣ−ＤＣコンバータ１０４を制御して、荷重センサ９４ａ〜９４ｄ、ＡＤコンバータ１０２、および増幅器１０８への電力の供給を停止する。このように、ボード型コントローラ９は、必要な場合にだけ、荷重センサ９４ａ〜９４ｄを動作させて荷重や距離の検出を行うことができるので、荷重検出のための電力消費を抑制することができる。
【０１５３】
荷重検出が必要な場合とは、典型的には、ゲーム装置本体５（図１）が荷重データを取得したいときである。例えば、ゲーム装置本体５が荷重情報を必要とするとき、ゲーム装置本体５は、ボード型コントローラ９に対して情報取得命令を送信する。マイコン１００は、ゲーム装置本体５から情報取得命令を受信したときに、ＤＣ−ＤＣコンバータ１０４を制御して、荷重センサ９４ａ〜９４ｄ等に電力を供給し、荷重を検出する。一方、マイコン１００は、ゲーム装置本体５から情報取得命令を受信していないときには、ＤＣ−ＤＣコンバータ１０４を制御して、荷重センサ９４ａ〜９４ｄ等への電力供給を停止する。
【０１５４】
なお、マイコン１００は、一定時間ごとに荷重検出タイミングが到来すると判断して、ＤＣ−ＤＣコンバータ１０４を制御するようにしてもよい。このような周期的な荷重検出を行う場合、周期情報は、例えば、ゲーム開始時点においてゲーム装置本体５からボード型コントローラ９のマイコン１００に与えられて記憶されてもよいし、予めマイコン１００にプリインストールされてもよい。
【０１５５】
荷重センサ９４ａ〜９４ｄからの検出値を示すデータは、ボード型コントローラ９のボード操作データ（入力データ）として、マイコン１００から無線モジュール１０６およびアンテナ１０６ａを介してゲーム装置本体５に送信される。例えば、ゲーム装置本体５からの命令を受けて荷重検出を行った場合、マイコン１００は、ＡＤコンバータ１０２から荷重センサ９４ａ〜９４ｄの検出値データを受信したことに応じて、当該検出値データをゲーム装置本体５に送信する。なお、マイコン１００は、一定時間ごとに上記検出値データをゲーム装置本体５に送信するようにしてもよい。荷重の検出周期よりも送信周期が長い場合には、送信タイミングまでに検出された複数の検出タイミングの荷重値を含むデータを送信すればよい。
【０１５６】
なお、無線モジュール１０６は、ゲーム装置本体５のコントローラ通信モジュール１９と同じ無線規格（Ｂｌｕｅｔｏｏｔｈ、無線ＬＡＮなど）で通信可能にされる。したがって、ゲーム装置本体５のＣＰＵ１０は、コントローラ通信モジュール１９等を介して情報取得命令をボード型コントローラ９に送信することができる。このように、ボード型コントローラ９は、無線モジュール１０６およびアンテナ１０６ａを介して、ゲーム装置本体５からの命令を受信することができる。また、ボード型コントローラ９は、荷重センサ９４ａ〜９４ｄの荷重検出値（または荷重算出値）を含むボード操作データをゲーム装置本体５に送信することができる。
【０１５７】
例えば４つの荷重センサ９４ａ〜９４ｄで検出される４つの荷重値の単なる合計値を用いて実行されるようなゲームの場合には、ユーザはボード型コントローラ９の４つの荷重センサ９４ａ〜９４ｄに対して任意の位置をとることができる。つまり、ユーザは、台９ａの上の任意の位置に任意の向きで乗ってゲームをプレイすることができる。しかしながら、ゲームの種類によっては、４つの荷重センサ９４で検出される荷重値がユーザから見ていずれの方向の荷重値であるかを識別して処理を行う必要がある。つまり、ボード型コントローラ９の４つの荷重センサ９４とユーザとの位置関係が把握されている必要がある。この場合、例えば、４つの荷重センサ９４とユーザとの位置関係を予め規定しておき、当該所定の位置関係が得られるようにユーザが台９ａ上に乗ることが前提とされてもよい。典型的には、台９ａの中央に乗ったユーザの前後左右にそれぞれ荷重センサ９４ａ〜９４ｄが２つずつ存在するような位置関係、つまり、ユーザがボード型コントローラ９の台９ａの中央に乗った位置関係が規定される。この場合、この実施例では、ボード型コントローラ９の台９ａが平面視で矩形状に形成されるとともにその矩形の１辺（長辺）に電源ボタン９ｃが設けられているので、この電源ボタン９ｃを目印として利用して、ユーザには電源ボタン９ｃの設けられた長辺が所定の方向（前、後、左または右）に存在するようにして台９ａに乗ってもらうことを予め決めておく。このようにすれば、荷重センサ９４ａ〜９４ｄで検出される荷重値は、ユーザから見て所定の方向（右前、左前、右後および左後）の荷重値となる。したがって、ボード型コントローラ９およびゲーム装置本体５は、荷重検出値データに含まれる荷重センサ９４の識別情報と、予め設定（記憶）された荷重センサ９４のユーザに対する位置または方向を示す配置データとに基づいて、各荷重検出値がユーザから見ていずれの方向に対応するかを把握することができる。これにより、例えば前後左右の操作方向や上げている足の区別のようなユーザによるゲーム操作の意図を把握することが可能になる。
【０１５８】
次に、ゲーム装置本体５が行う具体的な処理を説明する前に、図１４、図１５Ａ、および図１５Ｂを用いてゲーム装置本体５で行う情報処理の概要について説明する。以下の情報処理の概要の説明においては、情報処理の一例として第１のゲーム例を用いる。なお、図１４は、第１のゲーム例において、端末装置６およびボード型コントローラ９を用いて操作するユーザの様子の一例を示す図である。図１５Ａは、第１のゲーム例において、端末装置６のＬＣＤ６１に表示される画像の一例を示す図である。図１５Ｂは、第１のゲーム例において、モニタ２に表示される画像の一例を示す図である。
【０１５９】
図１４に示すように、第１のゲーム例では、ユーザは、端末装置６およびボード型コントローラ９を用いて操作する。具体的には、ユーザは、端末装置６を把持しながら、ボード型コントローラ９上に乗って操作する。そして、ユーザは、モニタ２に表示された画像や端末装置６のＬＣＤ６１に表示された画像を見ながら、ボード型コントローラ９上で動作（例えば、足踏み動作や屈伸動作）するとともに、端末装置６自体を動かす操作をすることによってプレイする。そして、端末装置６のＬＣＤ６１およびモニタ２には、ユーザが把持する端末装置６の方向や姿勢と、ボード型コントローラ９上におけるユーザ動作とに応じて、仮想空間においてプレイヤオブジェクトＰｏが動作するように表現される。
【０１６０】
図１５Ａに示すように、端末装置６のＬＣＤ６１には仮想空間内を移動するプレイヤオブジェクトＰｏが表示される。図１５Ａに示した一例では、海中を泳ぐプレイヤオブジェクトＰｏの背後近傍から見た仮想空間内の様子がプレイヤオブジェクトＰｏとともに表示されている。このように、プレイヤオブジェクトＰｏの背後近傍から見た仮想空間をＬＣＤ６１に表示することによって、端末装置６を把持しているユーザに仮想空間の臨場感を与えるとともに、ユーザがプレイヤオブジェクトＰｏの移動方向や移動速度を直感的に知ることができる。
【０１６１】
また、図１５Ｂに示すように、モニタ２にもＬＣＤ６１に表示されている仮想空間と同じ仮想空間が表示される。図１５Ｂに示した一例では、海中を泳ぐプレイヤオブジェクトＰｏを遠方から鳥瞰した仮想空間内の様子がプレイヤオブジェクトＰｏとともに表示されている。また、図１５Ｂに示した一例では、海中を泳いだプレイヤオブジェクトＰｏの移動軌跡Ｌｐが仮想空間内に表示される。このように、プレイヤオブジェクトＰｏを遠方から鳥瞰した仮想空間内の様子をモニタ２に表示することによって、ユーザがプレイヤオブジェクトＰｏの周囲の状況が把握しやすくなるとともに、第１のゲーム例をユーザがプレイしている様子を見ている他の人が仮想空間をプレイヤオブジェクトＰｏが移動する様子を楽しむこともできる。
【０１６２】
一例として、ボード型コントローラ９上でユーザが足踏みするような動作をした場合、当該足踏み動作に応じた速度でプレイヤオブジェクトＰｏがバタ足して海中を泳ぐ動作をする。また、ボード型コントローラ９上でユーザが屈伸するような動作をした場合、当該屈伸動作に応じた速度でプレイヤオブジェクトＰｏがドルフィンキックして海中を泳ぐ動作をする。このように、ユーザは、ボード型コントローラ９上の動作によって、プレイヤオブジェクトＰｏの泳法や移動速度を変化させることができる。
【０１６３】
例えば、上述したように、ボード型コントローラ９からはボード型コントローラ９上のユーザ動作に応じた荷重検出値が出力される。そして、上記荷重検出値を用いれば、ボード型コントローラ９に加わっている合計荷重やボード型コントローラ９に加わっている荷重の重心位置の算出が可能である。また、上記合計荷重の変化や重心位置の変化を用いれば、ユーザがボード型コントローラ９上でどのような動作をしているのか推定することが可能となる。このようなボード型コントローラ９上で推定されるユーザ動作に応じて、プレイヤオブジェクトＰｏの泳法や移動速度が設定される。
【０１６４】
また、ユーザが把持する端末装置６の方向や姿勢に応じて、プレイヤオブジェクトＰｏが海中を泳ぐ方向が変化する。一例として、ユーザが端末装置６自体を上下左右方向へ向けることによって、当該方向変化に応じてプレイヤオブジェクトＰｏが泳ぐ方向も変化する。具体的には、ユーザが端末装置６の背面を上方向へ向けるように端末装置６自体の方向を変えた場合、プレイヤオブジェクトＰｏが海面方向へ上昇するように泳ぐ方向を変化させる。また、ユーザが端末装置６の背面を左方向へ向けるように端末装置６自体の方向を変えた場合、プレイヤオブジェクトＰｏから見た左方向へ泳ぐ方向を変化させる。このように、ユーザは、把持する端末装置６の方向や姿勢によって、プレイヤオブジェクトＰｏの移動方向を変化させることができる。
【０１６５】
例えば、端末装置６からは端末装置６の姿勢変化に応じた加速度データや角速度データが出力される。そして、上記加速度データが示す加速度を用いれば、端末装置６に作用している重力加速度の方向が算出できるため、実空間における鉛直方向を基準として端末装置６がどのような姿勢になっているのか推定することができる。また、上記角速度データが示す角速度および／または上記加速度データが示す加速度を用いれば、端末装置６に作用している角速度や動的な加速度がわかるため、これらの角速度および／または動的な加速度を用いて、実空間における端末装置６の初期姿勢からの姿勢変化（方向変化）を推定することができる。このように推定される端末装置６の姿勢変化（方向変化）に応じて、プレイヤオブジェクトＰｏの移動方向が設定される。
【０１６６】
次に、ゲームシステム１において行われる処理の詳細を説明する。まず、図１６を参照して、処理において用いられる主なデータについて説明する。なお、図１６は、ゲーム装置本体５の外部メインメモリ１２および／または内部メインメモリ３５（以下、２つのメインメモリを総称して、単にメインメモリと記載する）に記憶される主なデータおよびプログラムの一例を示す図である。
【０１６７】
図１６に示すように、メインメモリのデータ記憶領域には、ボード操作データＤａ、端末操作データＤｂ、荷重値データＤｃ、重心位置データＤｄ、端末装置方向姿勢データＤｅ、動作データＤｆ、移動ベクトルデータＤｇ、位置データＤｈ、移動軌跡データＤｉ、仮想カメラデータＤｊ、および画像データＤｋ等が記憶される。なお、メインメモリには、図１６に示す情報に含まれるデータの他、モニタ２やＬＣＤ６１に表示される各種オブジェクトの画像データやゲームに使用される音声データ等、ゲーム処理に必要なデータが適宜記憶される。また、メインメモリのプログラム記憶領域には、情報処理プログラムを構成する各種プログラム群Ｐａが記憶される。
【０１６８】
ボード操作データＤａは、ボード型コントローラ９から送信データとして送信されてくる一連の操作情報（ボード操作データ）が格納され、最新のボード操作データに更新される。例えば、ボード操作データＤａは、荷重データＤａ１等を含んでいる。荷重データＤａ１は、ボード型コントローラ９の荷重センサ９４ａ〜９４ｄがそれぞれ検出した荷重検出値を示すデータである。
【０１６９】
端末操作データＤｂは、端末装置６から送信データとして送信されてくる一連の操作情報（端末操作データ）が格納され、最新の端末操作データに更新される。例えば、端末操作データＤｂは、加速度データＤｂ１および角速度データＤｂ２等を含んでいる。加速度データＤｂ１は、加速度センサ６０３によって検出された加速度（加速度ベクトル）を表すデータである。例えば、加速度データＤｂ１は、図８に示すｘｙｚの３軸の方向に関する加速度を各成分とする３次元の加速度を表すものであるが、他の例においては、任意の１以上の方向に関する加速度を表すものであってもよい。角速度データＤｂ２は、ジャイロセンサ６０４によって検出された角速度を表すデータである。例えば、角速度データＤｂ２は、図８に示すｘｙｚの３軸回りのそれぞれの角速度を表すものであるが、他の例においては、任意の１軸以上の軸回り角速度を表すものであってもよい。
【０１７０】
なお、ゲーム装置本体５は、コントローラ７、ボード型コントローラ９、および端末装置６からそれぞれ所定周期毎（例えば、１／２００秒毎）に送信される操作情報に含まれるデータ（例えば、荷重検出値、加速度、および角速度を示すデータ）を逐次受信している。例えば、受信されたデータは、入出力プロセッサ３１によってメインメモリに逐次記憶される。後述する処理フローでは、ＣＰＵ１０が最新のボード操作データおよび端末操作データを１フレーム毎（例えば、１／６０秒毎）にメインメモリから読み出して、ボード操作データＤａおよび端末操作データＤｂをそれぞれ更新する例を用いる。
【０１７１】
なお、コントローラ７、ボード型コントローラ９、および端末装置６からそれぞれ所定周期毎に送信される操作情報は、コントローラ通信モジュール１９や端末通信モジュール２８等に備える図示しないバッファに一旦蓄えられてもよい。この場合、上記バッファに蓄えられたデータが、１フレーム毎に読み出されて、メインメモリのボード操作データＤａ（例えば、荷重データＤａ１）や端末操作データＤｂ（例えば、加速度データＤｂ１および角速度データＤｂ２）が更新されて用いられる。このとき、操作情報を受信する周期と処理周期とが異なるために、上記バッファには複数の時点に受信した操作情報が記述されていることになるが、複数の時点に受信した操作情報のうち最新の操作情報のみを用いて当該処理が実行される。
【０１７２】
荷重値データＤｃは、ボード型コントローラ９が検出する荷重値を示すデータの集合である。例えば、荷重値データＤｃは、荷重センサ９４ａ〜９４ｄがそれぞれ検出した荷重の合計値（合計荷重値）を示すデータの集合である。具体的には、荷重値データＤｃは、時系列的に算出された所定期間内の上記合計荷重値を示すデータの配列であり、配列の各要素に上記合計荷重値を示すデータが時系列に格納される。
【０１７３】
重心位置データＤｄは、ボード型コントローラ９に加わっている荷重の重心位置を示すデータの集合である。例えば、重心位置データＤｄは、荷重センサ９４ａ〜９４ｄがそれぞれ検出した荷重値から所定の数式を用いて算出される重心位置を示すデータの集合である。具体的には、重心位置データＤｄは、時系列的に算出された所定期間内の上記重心位置を示すデータの配列であり、配列の各要素に上記重心位置を示すデータが時系列に格納される。
【０１７４】
端末装置方向姿勢データＤｅは、実空間における端末装置６の方向および姿勢を示すデータである。例えば、端末装置方向姿勢データＤｅは、端末操作データＤｂに含まれる加速度データＤｂ１および角速度データＤｂ２に基づいて算出される。端末装置方向姿勢データＤｅの算出方法については後述する。
【０１７５】
動作データＤｆは、仮想世界におけるプレイヤオブジェクトＰｏの動作や姿勢を示すデータである。移動ベクトルデータＤｇは、仮想世界におけるプレイヤオブジェクトＰｏの移動速度および移動方向を示すデータ（例えば、仮想世界における移動ベクトルを示すデータ）である。位置データＤｈは、仮想世界におけるプレイヤオブジェクトＰｏの位置を示すデータである。移動軌跡データＤｉは、仮想世界においてプレイヤオブジェクトＰｏが移動した軌跡を示すデータである。仮想カメラデータＤｊは、仮想世界に設定される仮想カメラに関するデータである。例えば、仮想カメラデータＤｊは、端末装置６のＬＣＤ６１に表示するゲーム画像を生成するための第１仮想カメラに関するデータと、モニタ２に表示するゲーム画像を生成するための第２仮想カメラに関するデータとを含む。
【０１７６】
画像データＤｋは、プレイヤオブジェクトデータＤｋ１および背景画像データＤｋ２等を含んでいる。プレイヤオブジェクトデータＤｋ１は、仮想世界にプレイヤオブジェクトＰｏを配置してゲーム画像を生成するためのデータである。背景画像データＤｋ２は、仮想世界に背景を配置してゲーム画像を生成するためのデータである。
【０１７７】
次に、図１７および図１８を参照して、ゲーム装置本体５において行われる処理の詳細を説明する。なお、図１７は、ゲーム装置本体５において実行される処理の一例を示すフローチャートである。図１８は、図１７におけるステップ４４のゲーム制御処理の一例を示すサブルーチンである。ここで、図１７および図１８に示すフローチャートにおいては、処理のうち、端末装置６およびボード型コントローラ９を用いたユーザの操作に応じて、プレイヤオブジェクトＰｏが動作して表示される処理について主に説明し、本願発明と直接関連しない他の処理については詳細な説明を省略する。また、図１７および図１８では、ＣＰＵ１０が実行する各ステップを「Ｓ」と略称する。
【０１７８】
ゲーム装置本体５の電源が投入されると、ゲーム装置本体５のＣＰＵ１０は、ＲＯＭ／ＲＴＣ１３に記憶されている起動用のプログラムを実行し、これによってメインメモリ等の各ユニットが初期化される。そして、光ディスク４に記憶された情報処理プログラムがメインメモリに読み込まれ、ＣＰＵ１０によって当該プログラムの実行が開始される。図１７および図１８に示すフローチャートは、以上の処理が完了した後に行われる処理を示すフローチャートである。
【０１７９】
図１７において、ＣＰＵ１０は、初期処理を実行し（ステップ４１）、次のステップに処理を進める。例えば、上記ステップ４１における初期処理において、ＣＰＵ１０は、仮想空間を構築し、ゲーム空間に登場するプレイヤオブジェクトＰｏや各オブジェクトを初期位置に配置したり、ゲーム処理で用いる各種パラメータの初期値を設定したりする。
【０１８０】
上記ステップ４１の次にステップ４２の処理が実行される。以降、ステップ４２〜ステップ５１の一連の処理からなる処理ループが所定時間（１フレーム時間）に１回の割合で繰り返し実行される。
【０１８１】
ステップ４２において、ＣＰＵ１０は、ボード型コントローラ９から送信されてくるボード操作データを取得し、次のステップに処理を進める。ここで、ボード型コントローラ９は、ボード操作データをゲーム装置本体５へ繰り返し送信している。したがって、ゲーム装置本体５においては、コントローラ通信モジュール１９が上記ボード操作データを逐次受信し、受信されたボード操作データが入出力プロセッサ３１によってメインメモリに逐次記憶される。ボード型コントローラ９のボード操作データ送信の間隔は、ゲームの処理時間（１フレーム時間）よりも短い方が好ましく、例えば２００分の１秒である。上記ステップ４２においては、ＣＰＵ１０は、メインメモリから最新のボード操作データを読み出してボード操作データＤａを更新する。なお、上記ボード操作データには、荷重センサ９４ａ〜９４ｄの識別情報を示すデータおよび荷重センサ９４ａ〜９４ｄがそれぞれ検出した荷重検出値を示すデータが含まれており、当該識別情報によって区別されたデータをそれぞれ用いて、荷重データＤａ１が更新される。
【０１８２】
次に、ＣＰＵ１０は、端末装置６から送信されてくる各種のデータを取得し（ステップ４３）、次のステップに処理を進める。ここで、端末装置６は、上記データをゲーム装置本体５へ繰り返し送信している。したがって、ゲーム装置本体５においては、端末通信モジュール２８が上記データを逐次受信し、カメラ画像データおよびマイク音データについてはコーデックＬＳＩ２７によって伸張処理が逐次施される。そして、入出力プロセッサ３１は、端末操作データとカメラ画像データとマイク音データとをメインメモリに逐次記憶する。上記ステップ４３においては、ＣＰＵ１０は、メインメモリから最新の端末操作データを読み出して加速度データＤｂ１および角速度データＤｂ２を更新する。
【０１８３】
次に、ＣＰＵ１０は、ゲーム制御処理を行って（ステップ４４）、次のステップに処理を進める。上記ゲーム制御処理は、ユーザによるゲーム操作に従って仮想空間内のプレイヤオブジェクトＰｏを動作させる処理等を実行し、ゲームを進行させる処理である。第１のゲーム例においては、ユーザは、端末装置６およびボード型コントローラ９を用いて種々のゲームを行うことが可能である。以下、図１８を参照して、ゲーム制御処理について説明する。
【０１８４】
図１８において、ＣＰＵ１０は、荷重値および重心位置を算出して（ステップ８１）、次のステップに処理を進める。例えば、ＣＰＵ１０は、荷重データＤａ１が示す荷重検出値を合計して合計荷重値を算出し、当該合計荷重値を示すデータを用いて荷重値データＤｃにおける時系列データ配列のうち最新のデータを更新する。具体的には、荷重データＤａ１は、荷重センサ９４ａ〜９４ｄがそれぞれ検出した最新の荷重検出値を示しているため、当該荷重検出値を合計することによって、上記合計荷重値が算出される。また、ＣＰＵ１０は、荷重データＤａ１が示す荷重検出値を用いて重心位置を算出し、当該重心位置を示すデータを用いて重心位置データＤｄにおける時系列データ配列のうち最新のデータを更新する。以下、重心位置の算出方法の一例を説明する。
【０１８５】
上記重心位置は、ボード型コントローラ９の台９ａに加わる荷重の重心位置であり、各荷重センサ９４ａ〜９４ｄ（図１１参照）が検出する荷重値によって定められる。例えば、上記重心位置は、ボード型コントローラ９の台９ａ上の位置に対応する所定の座標系（例えば、台９ａの中心を原点、台９ａの長辺方向をＸ１軸方向、短辺方向をＹ１軸方向とするＸ１Ｙ１座標系）に基づいた座標値によって表される。そして、荷重センサ９４ａが検出する荷重値をａ、荷重センサ９４ｂが検出する荷重値をｂ、荷重センサ９４ｃが検出する荷重値をｃ、荷重センサ９４ｄが検出する荷重値をｄとした場合、重心のＸ１軸座標値（Ｘ１）およびＹ１軸座標値（Ｙ１）は、以下の数式を用いて算出することができる。
Ｘ１＝（（ａ＋ｃ）―（ｂ＋ｄ））×ｍ
Ｙ１＝（（ｃ＋ｄ）―（ａ＋ｂ））×ｎ
ここで、ｍおよびｎは、それぞれ予め定められた定数である。
【０１８６】
このようにして算出される合計荷重値および重心位置は、ボード型コントローラ９上のユーザ動作や体重移動（姿勢）に応じて変化する。一例として、ユーザがボード型コントローラ９上で足踏みを繰り返した場合、合計荷重値が足踏み周期に応じて変動するとともに、ユーザが左足を乗せる位置と右足を乗せる位置の間を、重心位置が足踏み周期に応じて往復移動するように変化する。他の例として、ユーザがボード型コントローラ９上で屈伸運動を繰り返した場合、合計荷重値が屈伸周期に応じて変動するが、重心位置の変化が相対的に少なくなる。
【０１８７】
次に、ＣＰＵ１０は、端末装置６の方向変化および姿勢を算出し（ステップ８２）、次のステップに処理を進める。例えば、ＣＰＵ１０は、加速度データＤｂ１が示す加速度および角速度データＤｂ２が示す角速度に基づいて、端末装置６の方向変化および姿勢を算出し、算出された端末装置６の方向変化および姿勢を示すデータを用いて端末装置方向姿勢データＤｅを更新する。ここで、ＣＰＵ１０は、角速度データＤｂ２が示す角速度を用いて、端末装置６の単位時間当たりにおける実空間での回転量（方向変化量）を算出することができる。また、実空間において端末装置６がほぼ静止している状態（静的な状態）では、端末装置６に対して加えられる加速度が重力加速度となるため、加速度データＤｂ１が示す加速度によって端末装置６に加えられる重力方向（すなわち、実空間における鉛直方向を基準とした端末装置６の姿勢）を算出することができる。したがって、ＣＰＵ１０は、加速度データＤｂ１が示す加速度および角速度データＤｂ２が示す角速度に基づいて端末装置６の方向変化や姿勢を算出することができる。
【０１８８】
なお、本実施形態においては、端末装置６で検出される加速度および角速度を示すデータに基づいて端末装置６の方向変化や姿勢を算出するが、他の実施形態においては、何れか１つのデータや３つ以上のデータを用いて端末装置６の方向変化や姿勢を算出してもよい。例えば、端末装置６に設けられた磁気センサ６０２は、端末装置６に加わる磁気を検出しており、端末装置６に加わる地磁気の方向から端末装置６を基準とした所定の方位（すなわち、所定の方位を基準とした端末装置６の姿勢）を算出することができる。なお、端末装置６が配置されている実空間に、地磁気以外の磁界が発生している場合であっても、端末装置６の回転量を算出することができる。したがって、ＣＰＵ１０は、端末装置６で検出される加速度、角速度、および磁気を示すデータの少なくとも１つを用いれば、端末装置６の方向変化や姿勢を算出することができる。
【０１８９】
また、端末装置６の姿勢の具体的な算出方法はどのような方法であってもよいが、例えば、角速度データＤｂ２が示す角速度に基づいて算出される端末装置６の姿勢を、加速度データＤｂ１が示す加速度および磁気センサ６０２が検出した磁気の方向を用いて補正する方法が考えられる。
【０１９０】
具体的には、ＣＰＵ１０は、まず、角速度データＤｂ２が示す角速度に基づいて端末装置６の姿勢を算出する。端末装置６の姿勢を角速度から算出する方法はどのような方法であってもよいが、一例として、前回の姿勢（前回に算出された姿勢）と今回の角速度（今回の処理ループにおけるステップ４２で取得された角速度）とを用いて算出される。ＣＰＵ１０は、前回の姿勢を今回の角速度で単位時間分だけ回転させることによって新たな姿勢を算出する。なお、前回の姿勢は、端末装置方向姿勢データＤｅにより表され、今回の角速度は、角速度データＤｂ２により表される。したがって、ＣＰＵ１０は、端末装置方向姿勢データＤｅおよび角速度データＤｂ２を読み出して、端末装置６の姿勢を算出する。
【０１９１】
なお、角速度を用いて端末装置６の姿勢を算出する場合、初期姿勢を定めておいてもよい。つまり、端末装置６の姿勢を角速度から算出する場合には、ＣＰＵ１０は、最初に端末装置６の初期姿勢を算出しておく。端末装置６の初期姿勢は、加速度データＤｂ１が示す加速度に基づいて算出されてもよいし、磁気センサ６０２が検出した磁気の方向に基づいて算出されてもよいし、端末装置６を特定の姿勢にした状態でユーザに所定の操作を行わせることで、所定の操作が行われた時点における特定の姿勢を初期姿勢として用いるようにしてもよい。なお、実空間における所定方向を基準とした絶対的な姿勢として端末装置６の姿勢を算出する場合には上記初期姿勢を算出することが必要となるが、例えばゲーム開始時点における端末装置６の姿勢を基準とした相対的な姿勢として端末装置６の姿勢を算出する場合には、上記初期姿勢は算出されなくてもよい。
【０１９２】
次に、ＣＰＵ１０は、角速度に基づいて算出した端末装置６の姿勢を、加速度データＤｂ１が示す加速度を用いて補正する。具体的には、ＣＰＵ１０は、加速度データＤｂ１が示す加速度に基づいて端末装置６の姿勢を算出する。ここで、端末装置６がほぼ静止している状態では、端末装置６に対して加えられている加速度は重力加速度となる。したがって、この状態においては、加速度データＤｂ１が示す加速度の方向を用いて重力加速度の方向（重力方向）を算出することができるので、重力方向に対する端末装置６の向き（姿勢）を算出することができる。
【０１９３】
加速度に基づく端末装置６の姿勢が算出されると、ＣＰＵ１０は、加速度に基づく姿勢を用いて、角速度に基づく姿勢を補正する。具体的には、ＣＰＵ１０は、角速度に基づいて算出された端末装置６の姿勢を、加速度に基づいて算出された端末装置６の姿勢へ所定の割合で近づける補正を行う。上記所定の割合は、予め定められた固定値であってもよいし、加速度データＤｂ１が示す加速度等に応じて設定されてもよい。また、加速度に基づいて算出された端末装置６の姿勢に関しては、重力方向を軸とする回転方向については姿勢を算出することができないので、ＣＰＵ１０は、当該回転方向に関して補正を行わないようにしてもよい。なお、角速度に基づいて算出された端末装置６の姿勢を、磁気センサ６０２が検出した磁気の方向に基づいて補正する場合には、ＣＰＵ１０は、角速度に基づいて算出された端末装置６の姿勢を、磁気の方向に基づいて算出された端末装置６の姿勢へと所定の割合で近づけるようにすればよい。以上によれば、ＣＰＵ１０は、端末装置６の姿勢を正確に算出することができる。
【０１９４】
次に、ＣＰＵ１０は、プレイヤオブジェクトＰｏの動作を設定し（ステップ８３）、次のステップに処理を進める。例えば、ＣＰＵ１０は、荷重値データＤｃが示す合計荷重値の時系列的な配列（合計荷重値の変化履歴）および重心位置データＤｄが示す重心位置の時系列的な配列（重心位置の変化履歴）に基づいて、プレイヤオブジェクトＰｏの動作を設定し、設定された動作を用いて動作データＤｆを更新する。一例として、ＣＰＵ１０は、合計荷重値の変化履歴において当該合計荷重値の変化幅が所定の閾値以上であり、かつ重心位置の変化履歴において当該重心位置の移動距離が所定の閾値未満である場合、ボード型コントローラ９の上でユーザが屈伸運動していると判断する。この場合、ＣＰＵ１０は、プレイヤオブジェクトＰｏの動作をドルフィンキック泳法で泳ぐ動作に設定する。他の例として、ＣＰＵ１０は、合計荷重値の変化履歴において当該合計荷重値の変化幅が所定の閾値以上であり、かつ重心位置の変化履歴において当該重心位置の移動距離が所定の閾値以上で当該重心位置が往復移動している場合、ボード型コントローラ９の上でユーザが足踏み運動していると判断する。この場合、ＣＰＵ１０は、プレイヤオブジェクトＰｏの動作をバタ足泳法で泳ぐ動作に設定する。
【０１９５】
次に、ＣＰＵ１０は、プレイヤオブジェクトＰｏの移動ベクトルを設定し（ステップ８４）、次のステップに処理を進める。例えば、ＣＰＵ１０は、荷重値データＤｃが示す合計荷重値の時系列的な配列（合計荷重値の変化履歴）および上記ステップ８３で設定されたプレイヤオブジェクトＰｏの動作（泳法）に基づいて、プレイヤオブジェクトＰｏの移動速度を算出する。一例として、ＣＰＵ１０は、合計荷重値が変化する周期が短いほど、プレイヤオブジェクトＰｏが移動する速度を速く算出するとともに、合計荷重値の最大値や変化幅が大きいほど、プレイヤオブジェクトＰｏが移動する速度を速く算出する。つまり、ユーザがボード型コントローラ９上で足踏みしたり屈伸したりするピッチが短いほどプレイヤオブジェクトＰｏの移動速度が速くなり、ユーザがボード型コントローラ９上で足踏みしたり屈伸したりする強さが強いほどプレイヤオブジェクトＰｏの移動速度が速くなることになる。そして、ＣＰＵ１０は、算出された移動速度を設定されている泳法による係数で補正して、プレイヤオブジェクトＰｏの移動速度を決定する。
【０１９６】
また、ＣＰＵ１０は、端末装置方向姿勢データＤｅが示す端末装置６の方向変化および姿勢に基づいて、仮想空間におけるプレイヤオブジェクトＰｏの移動方向を算出する。一例として、ＣＰＵ１０は、端末装置方向姿勢データＤｅが示す端末装置６の姿勢に基づいて、仮想空間における上下方向の移動方向を算出する。具体的には、端末装置６が背面を上方向に向けた姿勢である場合、ＣＰＵ１０は、当該背面が鉛直方向に対して仰向いている角度に応じた仰角に仮想空間における移動方向を設定する。一方、端末装置６が背面を下方向に向けた姿勢である場合、ＣＰＵ１０は、当該背面が鉛直方向に対して俯けられている角度に応じた俯角に仮想空間における移動方向を設定する。また、ＣＰＵ１０は、端末装置方向姿勢データＤｅが示す端末装置６の方向変化（実空間での回転量（方向変化量））に基づいて、プレイヤオブジェクトＰｏの移動方向を変化させる。例えば、端末装置６がｙ軸回りの回転方向であるヨー方向（図８参照）に回転している場合、当該回転量に応じてプレイヤオブジェクトＰｏの移動方向を変化させる。具体的には、端末装置６がｙ軸負方向からみて左方向へｙ軸周りの回転をしている場合、当該回転量に応じてプレイヤオブジェクトＰｏの移動方向をプレイヤオブジェクトＰｏから見て左方向へ変化させる。
【０１９７】
そして、ＣＰＵ１０は、上述したように算出されたプレイヤオブジェクトＰｏの移動速度および移動方向を用いて、仮想空間における移動ベクトルを算出し、算出された移動ベクトルを用いて移動ベクトルデータＤｇを更新する。例えば、ＣＰＵ１０は、算出されたプレイヤオブジェクトＰｏの移動速度を移動ベクトルの長さとし、算出されたプレイヤオブジェクトＰｏの移動方向を移動ベクトルの方向とする。
【０１９８】
次に、ＣＰＵ１０は、プレイヤオブジェクトＰｏの位置を設定し（ステップ８５）、次のステップに処理を進める。例えば、ＣＰＵ１０は、移動ベクトルデータＤｇが示す移動ベクトルに基づいて、位置データＤｈが示すプレイヤオブジェクトＰｏの位置を仮想空間内で移動させ、移動後の位置を用いて位置データＤｈを更新する。
【０１９９】
次に、ＣＰＵ１０は、仮想カメラに関するパラメータを設定し（ステップ８６）、次のステップに処理を進める。例えば、端末用ゲーム画像およびモニタ用ゲーム画像は、仮想空間内に仮想カメラを配置して、仮想カメラから見たゲーム空間を計算することによって得られる３次元のＣＧ画像等によってそれぞれ生成される。具体的には、端末用ゲーム画像を生成するための第１仮想カメラは、仮想空間に配置されているプレイヤオブジェクトＰｏの背後近傍から見た仮想空間内の様子が含まれるように設定される。また、モニタ用ゲーム画像を生成するための第２仮想カメラは、上記第１仮想カメラが設定されている同じ仮想空間に設定され、当該仮想空間に配置されているプレイヤオブジェクトＰｏを遠方から鳥瞰した仮想空間内の様子が含まれるように設定される。ＣＰＵ１０は、位置データＤｈが示すプレイヤオブジェクトＰｏの位置や動作データＤｆおよび移動ベクトルデータＤｇに応じたプレイヤオブジェクトＰｏの方向に基づいて、第１仮想カメラおよび第２仮想カメラの仮想空間における位置（第１仮想カメラおよび第２仮想カメラに関するパラメータ）を設定する。このように、端末用ゲーム画像およびモニタ用ゲーム画像がそれぞれ異なる視点から見た仮想空間のゲーム画像となるため、それらが表示されるＬＣＤ６１およびモニタ２にもそれぞれ異なる視点から見た仮想空間のゲーム画像が表示されることになる。
【０２００】
次に、ＣＰＵ１０は、プレイヤオブジェクトＰｏの移動軌跡を設定し（ステップ８７）、当該サブルーチンによる処理を終了する。例えば、ＣＰＵ１０は、移動軌跡データＤｉが示す移動軌跡に、位置データＤｈが示すプレイヤオブジェクトＰｏの現在位置を追加し、現在位置が追加された移動軌跡を用いて移動軌跡データＤｉを更新する。
【０２０１】
図１７に戻り、上記ステップ４４におけるゲーム制御処理の後、ＣＰＵ１０およびＧＰＵ３２は、モニタ２に表示するためのモニタ用ゲーム画像を生成し（ステップ４５）、次のステップに処理を進める。例えば、ＣＰＵ１０およびＧＰＵ３２は、上記ステップ４４のゲーム制御処理の結果を表す各データをメインメモリから読み出し、モニタ用ゲーム画像を生成するために必要なデータをＶＲＡＭ３４から読み出してゲーム画像を生成し、生成されたモニタ用ゲーム画像をＶＲＡＭ３４に記憶する。上記モニタ用ゲーム画像は、上記ステップ４４のゲーム制御処理の結果を表すものであればよく、どのような方法で生成されてもよい。例えば、モニタ用ゲーム画像は、仮想カメラデータＤｊが示す第２仮想カメラに関するパラメータに基づいて仮想空間に第２仮想カメラを配置し、動作データＤｆおよび位置データＤｈに基づいて仮想空間にプレイヤオブジェクトＰｏを配置し、移動軌跡データＤｉに基づいて仮想空間に移動軌跡Ｌｐを配置して、当該第２仮想カメラから見た仮想空間を計算することによって得られる３次元のＣＧ画像によって生成される。
【０２０２】
次に、ＣＰＵ１０およびＧＰＵ３２は、端末装置６に表示するための端末用ゲーム画像を生成し（ステップ４６）、次のステップに処理を進める。例えば、ＣＰＵ１０およびＧＰＵ３２は、上記ステップ４４のゲーム制御処理の結果を表す各データをメインメモリから読み出し、端末用ゲーム画像を生成するために必要なデータをＶＲＡＭ３４から読み出してゲーム画像を生成し、生成されたモニタ用ゲーム画像をＶＲＡＭ３４に記憶する。端末用ゲーム画像についても、上記モニタ用ゲーム画像と同様に上記ステップ４４のゲーム制御処理の結果を表すものであればよく、どのような方法で生成されてもよい。また、端末用ゲーム画像は、上記モニタ用ゲーム画像と同様の方法で生成されてもよいし、異なる方法で生成されてもよい。例えば、端末用ゲーム画像は、仮想カメラデータＤｊが示す第１仮想カメラに関するパラメータに基づいて仮想空間に第１仮想カメラを配置し、動作データＤｆおよび位置データＤｈに基づいて仮想空間にプレイヤオブジェクトＰｏを配置して、当該第１仮想カメラから見た仮想空間を計算することによって得られる３次元のＣＧ画像によって生成される。なお、ゲームの内容によってはモニタ用ゲーム画像と端末用ゲーム画像とが同一のゲーム画像であってもよく、この場合、上記ステップ４６において端末用ゲーム画像の生成処理が実行されなくてもよい。
【０２０３】
次に、ＣＰＵ１０は、モニタ２のスピーカ２ａに出力するためのモニタ用ゲーム音声を生成し（ステップ４７）、次のステップに処理を進める。例えば、ＣＰＵ１０は、上記ステップ４４のゲーム制御処理の結果に応じてスピーカ２ａから出力するためのモニタ用ゲーム音声をＤＳＰ３３に生成させる。一例として、ＣＰＵ１０は、上記ステップ４４のゲーム制御処理の結果に応じて設定された仮想空間において、第２仮想カメラの位置を基準として聞こえると想定される各オブジェクトの声、動作音、および効果音等に、モニタ２から出力させたいＢＧＭ等を加えたモニタ用ゲーム音声を、ＤＳＰ３３に生成させる。
【０２０４】
次に、ＣＰＵ１０は、端末装置６のスピーカ６０７に出力するための端末用ゲーム音声を生成し（ステップ４８）、次のステップに処理を進める。例えば、ＣＰＵ１０は、上記ステップ４４のゲーム制御処理の結果に応じてスピーカ６０７から出力するための端末用ゲーム音声をＤＳＰ３３に生成させる。一例として、ＣＰＵ１０は、上記ステップ４４のゲーム制御処理の結果に応じて設定された仮想空間において、第１仮想カメラの位置を基準として聞こえると想定される各オブジェクトの声、動作音、および効果音等に、端末装置６から出力させたいＢＧＭ等を加えた端末用ゲーム音声を、ＤＳＰ３３に生成させる。なお、上記端末用ゲーム音声は、上記モニタ用ゲーム音声と同じであってもよいし、異なっていてもよい。また、上記端末用ゲーム音声は、上記モニタ用ゲーム音声に対して、一部の音声が異なる（例えば効果音は異なるが、ＢＧＭが同じ）ものでもよい。なお、モニタ用ゲーム音声と端末用ゲーム音声とが同一である場合、ステップ４８において端末用ゲーム音声の生成処理が実行されなくてもよい。
【０２０５】
次に、ＣＰＵ１０は、モニタ２へモニタ用ゲーム画像およびモニタ用ゲーム音声を出力し（ステップ４９）、次のステップに処理を進める。例えば、ＣＰＵ１０は、ＶＲＡＭ３４に記憶されたモニタ用ゲーム画像のデータと、ＤＳＰ３３によって生成されたモニタ用ゲーム音声のデータとを、ＡＶ−ＩＣ１５へ送る。これに応じて、ＡＶ−ＩＣ１５は、モニタ用ゲーム画像およびモニタ用ゲーム音声を示すデータを、ＡＶコネクタ１６を介してモニタ２へ出力する。これによって、モニタ用ゲーム画像がモニタ２に表示されるとともに、モニタ用ゲーム音声がスピーカ２ａから出力される。
【０２０６】
次に、ＣＰＵ１０は、端末装置６へ端末用ゲーム画像および端末用ゲーム音声を送信し（ステップ５０）、次のステップに処理を進める。例えば、ＣＰＵ１０は、ＶＲＡＭ３４に記憶された端末用ゲーム画像のデータおよびＤＳＰ３３によって生成された端末用ゲーム音声のデータは、ＣＰＵ１０によってコーデックＬＳＩ２７に送られ、コーデックＬＳＩ２７によって所定の圧縮処理が行われる。さらに、圧縮処理が施された端末用ゲーム画像のデータおよび端末用ゲーム音声のデータは、コーデックＬＳＩ２７によって端末通信モジュール２８に送られ、アンテナ２９を介して端末通信モジュール２８によって端末装置６へ送信される。ゲーム装置本体５から送信された端末用ゲーム画像のデータおよび端末用ゲーム音声のデータは、端末装置６の無線モジュール６１０によって受信され、コーデックＬＳＩ６０６によって所定の伸張処理が行われる。そして、伸張処理が行われた端末用ゲーム画像のデータは、ＬＣＤ６１に出力され、伸張処理が行われた端末用ゲーム音声のデータ音声データは、サウンドＩＣ６０８に出力される。これによって、端末用ゲーム画像がＬＣＤ６１に表示されるとともに、端末用ゲーム音声がスピーカ６０７から出力される。
【０２０７】
次に、ＣＰＵ１０は、ゲームを終了するか否かを判定する（ステップ５１）。ゲームを終了する条件としては、例えば、ゲームオーバーやゲームクリアとなる条件が満たされたことや、ユーザがゲームを終了する操作を行ったこと等がある。ＣＰＵ１０は、ゲームを終了しない場合に上記ステップ４２に戻って処理を繰り返し、ゲームを終了する場合に当該フローチャートによる処理を終了する。以降、ステップ４２〜ステップ５１の一連の処理は、ステップ５１でゲームを終了すると判定されるまで繰り返し実行される。
【０２０８】
このように、上述した処理によれば、ボード型コントローラ９上でユーザ自身の動作に基づいた操作を行って当該ユーザ動作に基づいた処理を行う場合に、ユーザが当該処理結果を可搬型の端末装置６のＬＣＤ６１で見ることができるため、端末装置６を把持して動作することによって好適な状況で処理結果を見ることが可能となる。
【０２０９】
なお、端末装置６およびボード型コントローラ９を用いて操作するゲームは、上記第１のゲーム例に限らず、種々のゲーム例が考えられる。以下、図１９、図２０Ａ、および図２０Ｂを用いてゲーム装置本体５で行う第２のゲーム例について説明する。なお、図１９は、第２のゲーム例において、端末装置６、コントローラ７、およびボード型コントローラ９を用いて操作するユーザの様子の一例を示す図である。図２０Ａは、第２のゲーム例において、端末装置６のＬＣＤ６１に表示される画像の一例を示す図である。図２０Ｂは、第２のゲーム例において、モニタ２に表示される画像の一例を示す図である。
【０２１０】
第２のゲーム例は、端末装置６およびボード型コントローラ９に加えて、コントローラ７を用いて操作することによって、仮想世界におけるプレイヤオブジェクトＰｏを動作させるゲームである。図１９に示すように、ユーザは、コントローラ７の姿勢を変化させる操作と、ボード型コントローラ９に加える荷重を変化させる操作を行う。具体的には、ユーザは、椅子に着席した姿勢でコントローラ７を把持し、両足をボード型コントローラ９上に乗せる。また、ユーザは、ＬＣＤ６１に表示される画像が見えるように、ユーザ自身の前方（例えば、前方床面）に端末装置６のＬＣＤ６１をユーザの方へ向けて起立させて配置する。そして、ユーザは、モニタ２に表示された画像や端末装置６のＬＣＤ６１に表示された画像を見ながら、ボード型コントローラ９上で動作（例えば、ユーザがボード型コントローラ９にかける体重を強弱する動作を繰り返す操作）するとともに、コントローラ７自体を動かす操作をすることによってプレイする。そして、端末装置６のＬＣＤ６１およびモニタ２には、ユーザが把持するコントローラ７の方向や姿勢と、ボード型コントローラ９上におけるユーザ動作とに応じて、仮想空間においてプレイヤオブジェクトＰｏが動作するように表現される。
【０２１１】
図２０Ａに示すように、端末装置６のＬＣＤ６１には仮想空間内においてボート（例えば、レガッタ）を漕いで移動するプレイヤオブジェクトＰｏが表示される。図２０Ａに示した一例では、水面を進むレガッタを漕いでいるプレイヤオブジェクトＰｏの背後近傍から見た仮想空間内の様子がプレイヤオブジェクトＰｏとともに表示されている。このように、プレイヤオブジェクトＰｏの背後近傍から見た仮想空間をＬＣＤ６１に表示することによって、端末装置６を前方に配置してＬＣＤ６１に表示を見ているユーザが実際のレガッタの選手と同じような視点でゲームプレイが可能となり、仮想空間の臨場感を与えることができる。また、第２のゲーム例では、ボード型コントローラ９に足を乗せてユーザ自身の動作に基づいた操作が行われるが、ユーザが当該操作に基づいたゲーム画像を可搬型の端末装置６で見ることができるため、ユーザ自身が操作する際に好適な位置に端末装置６を配置することができ、ユーザにとって好適な状況でゲーム画像を見ることが可能となる。
【０２１２】
また、図２０Ｂに示すように、モニタ２にもＬＣＤ６１に表示されている仮想空間と同じ仮想空間が表示される。図２０Ｂに示した一例では、レガッタを漕いでいるプレイヤオブジェクトＰｏの左横遠方から見た仮想空間内の様子がプレイヤオブジェクトＰｏとともに表示されている。このように、プレイヤオブジェクトＰｏの横遠方から見た仮想空間内の様子をモニタ２に表示することによって、ユーザがプレイヤオブジェクトＰｏの周囲の状況や他のレガッタとの位置関係が把握しやすくなるとともに、第２のゲームをユーザがプレイしている様子を見ている他の人が仮想空間をプレイヤオブジェクトＰｏが移動する様子を楽しむこともできる。
【０２１３】
一例として、ユーザがボード型コントローラ９上に体重をかける動作をした場合、当該プレイヤオブジェクトＰｏが身体を前方に傾けるとともに、プレイヤオブジェクトＰｏが握っているオールを押す（すなわち、握っているシャフト部が押し出されてブレード部が水面上で後方へ引かれる）動作をする。また、ユーザがボード型コントローラ９上にかける体重を弱める動作をした場合、当該プレイヤオブジェクトＰｏが身体を後方に傾けるとともに、プレイヤオブジェクトＰｏが握っているオールを引く（すなわち、握っているシャフト部を引いてブレード部が水中で前方へ押し出される）動作をする。このように、ユーザは、ボード型コントローラ９上の動作によって、プレイヤオブジェクトＰｏがボートを漕ぐ動作を行わせることができ、ボード型コントローラ９上にかける体重を強弱するピッチによって漕ぐ速度（ボートの移動速度）を変化させることができる。
【０２１４】
例えば、上述したように、ボード型コントローラ９からはボード型コントローラ９上のユーザ動作に応じた荷重検出値が出力される。そして、上記荷重検出値を用いれば、ボード型コントローラ９に加わっている合計荷重の算出が可能である。上記合計荷重の変化を用いれば、ユーザがボード型コントローラ９上に体重をかけているのか、ボード型コントローラ９にかけている体重を弱めているのか推定することが可能となる。このようなボード型コントローラ９上で推定されるユーザ動作に応じて、プレイヤオブジェクトＰｏの漕ぐ動作が設定される。
【０２１５】
また、ユーザが把持するコントローラ７の姿勢（方向）に応じて、プレイヤオブジェクトＰｏが握っているオールの角度（ブレードの角度）が変化する。第１の例として、ユーザがコントローラ７を第１の姿勢（例えば、初期姿勢）で把持している場合に、プレイヤオブジェクトＰｏが握っているオールのブレードが水平になる状態（すなわち、ブレードが寝た状態となったフェザー状態）となる。また、ユーザがコントローラ７の長軸方向（Ｚ軸方向）を中心に上記第１の姿勢から９０°回転させた姿勢で把持している場合に、プレイヤオブジェクトＰｏが握っているオールのブレードが垂直になる状態（すなわち、ブレードが立った状態となったスクウェア状態）となる。第２の例として、ユーザがコントローラ７の上面を上方（例えば、図２に示すＹ軸方向が鉛直方向となる方向）に向けることによって、プレイヤオブジェクトＰｏが握っているオールのブレードが水平になる状態となる。また、ユーザがコントローラ７の上面を横方向（例えば、図２に示すＹ軸方向が水平となる方向）に向けることによって、プレイヤオブジェクトＰｏが握っているオールのブレードが垂直になる状態となる。なお、第２のゲーム例では、オールを漕ぐ際のブレードの角度によってボードの推進力が変わるボート競技における一般的な操作技術（ボートの力学環境）を採用することも可能であり、この場合、ユーザが把持するコントローラ７の姿勢（方向）によって、ボートの推進力、すなわちプレイヤオブジェクトＰｏが漕いでいるボートの移動速度を変化させることができる。
【０２１６】
例えば、コントローラ７からはコントローラ７の姿勢変化に応じた加速度データや角速度データが出力される。上記角速度データが示す角速度を用いれば、コントローラ７に作用している角速度がわかるため、これらの角速度を用いて、実空間におけるコントローラ７の初期姿勢からの姿勢変化（方向変化）を推定することができる。そして、この姿勢変化を用いれば、上記第１の例におけるコントローラ７の第１の姿勢および第２の姿勢を区別することが可能となる。また、上記加速度データが示す加速度を用いれば、コントローラ７に作用している重力加速度の方向が算出できるため、実空間における鉛直方向を基準としてコントローラ７がどのような姿勢になっているのか推定することができる。そして、この鉛直方向を基準とした姿勢を用いれば、上記第２の例におけるコントローラ７の姿勢を判別することが可能となる。さらに、上記角速度データが示す角速度および上記加速度データが示す加速度を用いれば、コントローラ７に作用している角速度や動的な加速度がわかるため、これらの角速度および動的な加速度を用いて、実空間におけるコントローラ７の初期姿勢からの姿勢変化（方向変化）や鉛直方向を基準とした姿勢を推定することができる。このように推定されるコントローラ７の姿勢変化（方向変化）に応じて、プレイヤオブジェクトＰｏが握っているオールの角度（ブレードの角度）が設定される。
【０２１７】
次に、図２１、図２２Ａ、図２２Ｂ、図２３Ａ、および図２３Ｂを用いてゲーム装置本体５で行う第３のゲーム例について説明する。なお、図２１は、第３のゲーム例において、端末装置６およびボード型コントローラ９を用いて操作するユーザの様子の一例を示す図である。図２２Ａは、第３のゲーム例において、端末装置６のＬＣＤ６１に表示される画像の一例を示す図である。図２２Ｂは、第３のゲーム例において、モニタ２に表示される画像の一例を示す図である。図２３Ａは、第３のゲーム例において、プレイヤオブジェクトＰｏに付着したように表現されたオブジェクト画像の一例を示す図である。図２３Ｂは、第３のゲーム例において、プレイヤオブジェクトＰｏに付着したように表現されたオブジェクトをタッチ操作によって除去している画像の一例を示す図である。
【０２１８】
第３のゲーム例は、第１のゲーム例と同様に端末装置６およびボード型コントローラ９を用いて操作することによって、仮想世界におけるプレイヤオブジェクトＰｏを動作させるゲームである。図２１に示すように、ユーザは、端末装置６の姿勢や方向を変化させる操作と、ボード型コントローラ９に加える荷重を変化させる操作を行う。具体的には、ユーザは、端末装置６を把持した状態で、片足をボード型コントローラ９上に乗せる。そして、ユーザは、モニタ２に表示された画像や端末装置６のＬＣＤ６１に表示された画像を見ながら、ボード型コントローラ９上で動作（例えば、ユーザがボード型コントローラ９上の片足で踏むような動作をすることによって、ボード型コントローラ９上の片足にかける体重を強弱する操作）するとともに、端末装置６のタッチパネル６２をタッチ操作したり、端末装置６自体を動かす操作をしたりすることによってプレイする。そして、端末装置６のＬＣＤ６１およびモニタ２には、ユーザが把持する端末装置６の方向や姿勢と、ボード型コントローラ９上におけるユーザ動作とに応じて、仮想空間においてプレイヤオブジェクトＰｏが動作するように表現される。また、端末装置６のタッチパネル６２をタッチ操作することによって、プレイヤオブジェクトＰｏに付着したように表現されたオブジェクトに対する操作が可能となっている。
【０２１９】
図２２Ａに示すように、端末装置６のＬＣＤ６１には仮想空間内においてプレイヤオブジェクトＰｏが水鉄砲を発射している様子がプレイヤオブジェクトＰｏの主観視点で表示される。図２２Ａに示した一例では、プレイヤオブジェクトＰｏが操作している水鉄砲の先端部を含む主観視点による仮想空間内が表示され、当該水鉄砲から水Ｗを噴き出している様子が表示されている。また、上記仮想空間内には複数の敵オブジェクトＥｏが配置されており、敵オブジェクトＥｏの１つが敵弾ＢをプレイヤオブジェクトＰｏに向かって投げつけている様子も表示されている。このように、プレイヤオブジェクトＰｏの主観視点による仮想空間をＬＣＤ６１に表示することによって、端末装置６を把持してＬＣＤ６１に表示を見ているユーザがプレイヤオブジェクトＰｏと同じ視点でゲームプレイが可能となり、仮想空間の臨場感を与えることができる。
【０２２０】
また、図２２Ｂに示すように、モニタ２にもＬＣＤ６１に表示されている仮想空間と同じ仮想空間が表示される。図２２Ｂに示した一例では、水鉄砲を操作しているプレイヤオブジェクトＰｏの背後上方遠方から仮想空間内の様子がプレイヤオブジェクトＰｏとともに表示されている。このように、プレイヤオブジェクトＰｏの背後上方遠方から見た仮想空間内の様子をモニタ２に表示することによって、ユーザがプレイヤオブジェクトＰｏの周囲の状況や敵オブジェクトＥｏとの位置関係が把握しやすくなるとともに、第３のゲームをユーザがプレイしている様子を見ている他の人がプレイヤオブジェクトＰｏの攻撃動作を楽しむこともできる。
【０２２１】
一例として、ユーザがボード型コントローラ９上に片足で体重をかける動作をした場合、プレイヤオブジェクトＰｏが水鉄砲から水Ｗを発射する動作を行う。このとき、ユーザがボード型コントローラ９上にかける荷重が大きいほど噴き出す水Ｗの水量が多くなり、ボード型コントローラ９上にかける荷重の増加する変化量が大きいほど噴き出す水Ｗの水勢が増加（単位時間当たりに噴き出す水量が多い）する。また、ユーザがボード型コントローラ９上にかける体重を弱める（例えば、０にする）動作をした場合、プレイヤオブジェクトＰｏが水鉄砲から噴き出ている水Ｗを止める動作を行う。このように、ユーザは、ボード型コントローラ９上の動作によって、プレイヤオブジェクトＰｏが水Ｗを発射する動作（すなわち、水Ｗの発射有無、水Ｗの水量および水勢）を制御することができる。
【０２２２】
例えば、上述したように、ボード型コントローラ９からはボード型コントローラ９上のユーザ動作に応じた荷重検出値が出力される。そして、上記荷重検出値を用いれば、ボード型コントローラ９に加わっている合計荷重の算出が可能である。上記合計荷重を用いれば、ユーザがボード型コントローラ９上に体重をかけているのか、ボード型コントローラ９にかけている体重を弱めているのか推定することが可能となる。また、上記合計荷重を用いれば、ユーザがボード型コントローラ９上にかけている荷重の大きさや、ボード型コントローラ９にかけてられている荷重の変化量も算出することが可能となる。このようなボード型コントローラ９上で推定されるユーザ動作に応じて、プレイヤオブジェクトＰｏが水Ｗを発射する動作が設定される。
【０２２３】
また、ユーザが把持する端末装置６の姿勢（方向）に応じて、プレイヤオブジェクトＰｏが仮想空間内を見る方向が変化するとともに、プレイヤオブジェクトＰｏが水Ｗを発射させる方向（水鉄砲の方向）が変化する。例えば、ユーザが端末装置６の背面を上下左右に向けることに応じて、水鉄砲が水Ｗを発射する方向も仮想空間内で上下左右に変化する。また、ユーザが端末装置６の背面を上下左右に向けることに応じて、プレイヤオブジェクトＰｏが仮想空間内を見る方向も上下左右に変化するため、プレイヤオブジェクトＰｏの主観視点で表示されているＬＣＤ６１のゲーム画像も当該方向変化に応じて変化する。このように、ユーザは、把持する端末装置６の方向や姿勢によって、プレイヤオブジェクトＰｏの動作を変化させることができる。
【０２２４】
例えば、端末装置６からは端末装置６の姿勢変化に応じた加速度データや角速度データが出力される。そして、上記加速度データが示す加速度を用いれば、端末装置６に作用している重力加速度の方向が算出できるため、実空間における鉛直方向を基準として端末装置６がどのような姿勢になっているのか推定することができる。また、上記角速度データが示す角速度および／または上記加速度データが示す加速度を用いれば、端末装置６に作用している角速度や動的な加速度がわかるため、これらの角速度および／または動的な加速度を用いて、実空間における端末装置６の初期姿勢からの姿勢変化（方向変化）を推定することができる。このように推定される端末装置６の姿勢変化（方向変化）に応じて、プレイヤオブジェクトＰｏが見る方向や水Ｗが発射される方向が設定される。
【０２２５】
また、図２３Ａに示すように、第３のゲーム例では敵オブジェクトＥｏが投げつけた敵弾ＢがプレイヤオブジェクトＰｏに命中した場合、敵弾Ｂの命中によってプレイヤオブジェクトＰｏが汚れた様子を表現するために、ＬＣＤ６１の表面に敵弾Ｂによる汚れＢｄが付着したように表現される。この汚れＢｄの付着によって、図２３Ａに示すようにＬＣＤ６１を用いた仮想空間への視界が妨げられるため、ユーザは、第３のゲーム例におけるプレイが不利な状況となってしまう。
【０２２６】
ＬＣＤ６１の表面に付着した汚れＢｄは、端末装置６のタッチパネル６２をタッチ操作することによって、除去することができる。例えば、図２３Ｂに示すように、ユーザがＬＣＤ６１の表面を覆うタッチパネル６２をタッチ操作した場合、当該タッチした位置に対応するＬＣＤ６１の表面に付着した汚れＢｄが除去される。一例として、汚れＢｄは、タッチパネル６２に対するユーザのタッチ位置を中心とする所定範囲がＬＣＤ６１の表面から除去される。したがって、ユーザがタッチパネル６２をドラッグするようにタッチ操作（例えば、図２３Ｂに示す破線上をなぞるようにタッチ操作）した場合、当該ドラッグした線上および当該線上から所定の線幅分の領域に対応するＬＣＤ６１の表面の汚れＢｄが除去されることになる。なお、ＬＣＤ６１の表面に付着した汚れＢｄを除去する動作は、プレイヤオブジェクトＰｏが自身に付着した汚れＢｄを取り除いている動作と考えることもできるため、この場合、ユーザが端末装置６のタッチパネル６２を操作することによってプレイヤオブジェクトＰｏを動作させていることになる。
【０２２７】
次に、図２４を用いてゲーム装置本体５で行う他のゲーム例について説明する。なお、図２４は、第１〜第１０のゲーム例それぞれにおける表示画像および操作制御の一例を示す図である。
【０２２８】
第４のゲーム例は、第１のゲーム例等と同様に端末装置６およびボード型コントローラ９を用いて操作することによって、仮想世界における戦車（プレイヤオブジェクト）を動作させるゲームである。第４のゲーム例では、端末装置６のＬＣＤ６１には仮想空間内において上記戦車の背後近傍から見た仮想空間の様子が表示され、モニタ２には上記戦車を遠方から見た仮想空間の全体がわかる画像が表示される。
【０２２９】
第４のゲーム例では、ユーザは、端末装置６の姿勢や方向を変化させる操作と、ボード型コントローラ９に加える荷重の位置を変化させる操作とを行う。具体的には、ユーザは、端末装置６を把持した状態で、ボード型コントローラ９上に乗る。そして、ユーザは、モニタ２に表示された画像や端末装置６のＬＣＤ６１に表示された画像を見ながら、ボード型コントローラ９上で動作（例えば、ユーザがボード型コントローラ９上でユーザの体重をかける重心を前後に変化させる操作）するとともに、端末装置６自体を動かす操作をしたりすることによってプレイする。そして、ユーザがボード型コントローラ９上でユーザの体重をかける重心を前にした場合、上記戦車が前進して移動し、体重をかける重心を後ろにした場合、上記戦車が後退して移動する。また、ユーザが把持する端末装置６の姿勢（上下左右の方向変化）に応じて、上記戦車の砲塔方向が変化する。また、端末装置６の左右方向変化が所定の角度以上である場合、当該左右方向変化に応じて上記戦車の車体方向（進行方向）も左右に変化する。さらに、ユーザが端末装置６の攻撃ボタン（例えば、操作ボタン６４Ｅ）を押下した場合、設定されている砲塔の方向へ上記戦車が砲塔から砲弾を発射する。
【０２３０】
このように、第４のゲーム例において、ユーザは、把持する端末装置６の姿勢や操作ボタン６４の操作、およびボード型コントローラ９に与える荷重変化によって、戦車（プレイヤオブジェクト）の動作を変化させることができる。また、戦車の背後近傍から見た仮想空間をＬＣＤ６１に表示することによって、端末装置６を把持しているユーザに仮想空間の臨場感を与えるとともに、砲塔の照準や戦車の移動方向を直感的に知ることができる。さらに、戦車を含む仮想空間の全体像をモニタ２に表示することによって、ユーザが戦車の周囲の状況が把握しやすくなるとともに、第４のゲーム例をユーザがプレイしている様子を見ている他の人が仮想空間を戦車が移動して砲撃する様子を楽しむこともできる。
【０２３１】
第５のゲーム例は、第１のゲーム例等と同様に端末装置６およびボード型コントローラ９を用いて操作することによって、仮想世界におけるパズルピース（プレイヤオブジェクト）を集めて完成させるゲームである。第５のゲーム例では、端末装置６を把持するユーザの床面に仮想床面が設定され、当該仮想床面に上記パズルピースがばらまかれて配置される。そして、端末装置６のＬＣＤ６１には、ユーザが端末装置６の背面を下方に向けた場合に、実空間におけるユーザの位置（すなわち、実空間における端末装置６の位置）に応じて当該下方の仮想床面に配置されているパズルピースが表示される。また、モニタ２には、パズルの全体像を示す画像が表示される。
【０２３２】
第５のゲーム例では、ユーザは、端末装置６の方向や位置を変化させる操作と、端末装置６のタッチパネル６２へのタッチ操作と、ボード型コントローラ９に乗ったり降りたりする操作とを行う。具体的には、ユーザが端末装置６を把持した状態でボード型コントローラ９上に乗った場合、ユーザの位置（端末装置６の位置）が上記仮想床面における基準位置にあると設定する。そして、ユーザが端末装置６のＬＣＤ６１に表示された仮想床面の画像を見ながら、ボード型コントローラ９上から降りて移動することによって、当該仮想床面から所望のパズルピースを探し出し、ＬＣＤ６１に表示されたパズルピースと重なる位置をタッチ操作することによって、当該パズルピースを取得する。その後、ユーザが上記タッチ操作を継続した状態でボード型コントローラ９上に再び乗って、当該タッチ操作を解除（タッチオフ）した場合、取得したパズルピースが本体パズルにはめ込まれる。
【０２３３】
このように、第５のゲーム例において、ユーザは、把持する端末装置６の方向や位置、タッチパネル６２へのタッチ操作、およびボード型コントローラ９への昇降によって、仮想床面に配置されたパズルピースの探索、パズルピースの取捨、およびパズルピースのはめ込みを行うことができる。また、ユーザから見た仮想床面上のパズルピースをＬＣＤ６１に表示することによって、端末装置６を把持しているユーザに実空間にパズルピースがばらまかれているかのようなゲーム状況を与えるとともに、仮想床面にパズルピースが配置されている場所をユーザが直感的に知ることができる。さらに、パズルピースをはめ込むパズル全体像をモニタ２に表示することによって、ユーザがパズルの完成状況や必要なパズルピース等の把握がしやすくなる。
【０２３４】
第６のゲーム例は、第１のゲーム例等と同様に端末装置６およびボード型コントローラ９を用いて操作することによって、仮想世界における布（プレイヤオブジェクト）を動作させてミシンで縫うゲームである。第６のゲーム例では、端末装置６のＬＣＤ６１には仮想世界においてミシンで縫う対象となっている布の一部が表示され、モニタ２には上記布全体がわかる画像が表示される。
【０２３５】
第６のゲーム例では、ユーザは、端末装置６の方向を変化させる操作と、端末装置６のタッチパネル６２へのタッチ操作と、ボード型コントローラ９に荷重を加える操作とを行う。具体的には、ユーザは、端末装置６を机の上等に載置した状態で着席し、ボード型コントローラ９上に片足または両足が乗せられる状態で操作する。そして、ユーザは、モニタ２に表示された画像や端末装置６のＬＣＤ６１に表示された画像を見ながら、ボード型コントローラ９に荷重をかける動作をするとともに、端末装置６自体を机上で回転させる操作をしてプレイする。そして、ユーザがボード型コントローラ９上に荷重をかけた場合に、ＬＣＤ６１に表示されている布の一部が端末装置６を操作するユーザに方に向かってミシンで縫われるように表現される。ここで、ユーザが端末装置６の方向を机上で変えたとしても、ＬＣＤ６１に表示されている布の方向は変わらないが、ＬＣＤ６１に表示されている布が端末装置６を操作するユーザに方に向かってミシンで引き続き縫われるように表現されるため、結果的に布が縫われる方向が変わることになる。つまり、ユーザは、端末装置６をミシンで縫う布のように扱ってミシンで縫うゲームを行うことができる。また、ユーザがボード型コントローラ９上に荷重をかけた場合に、ミシンによってＬＣＤ６１に表示されている布の一部が縫われている状況を模した振動が端末装置６に与えられる。具体的には、ユーザがボード型コントローラ９上に荷重をかけた場合、ゲーム装置本体５は、バイブレータ６１９を作動させる制御データを端末装置６へ送信する。そして、端末装置６は、ゲーム装置本体５から受信されるデータにバイブレータ６１９を作動させる制御データが含まれる場合、コーデックＬＳＩ６０６およびＵＩコントローラ６０５が制御データに従った制御指示をバイブレータ６１９に行い、当該制御指示に応じてバイブレータ６１９が作動することによって端末装置６に振動が発生する。また、ユーザは、端末装置６のタッチパネル６２へのタッチ操作によって、上記布全体に対してＬＣＤ６１に表示する布の位置を変更することができる。例えば、ＬＣＤ６１に布の一部が表示された状態でユーザがドラッグ操作することによって、ＬＣＤ６１に表示される布の範囲が当該ドラッグ方向に移動する。これによって、ユーザは、上記ミシンで縫いたい布の位置を変更することができる。
【０２３６】
このように、第６のゲーム例において、ユーザは、机上で載置する端末装置６の方向、タッチパネル６２へのタッチ操作、およびボード型コントローラ９へ荷重をかける操作によって、仮想世界における布を回転させたり移動させたりミシンで縫ったりする操作を行うことができる。また、ユーザが縫う布の一部をＬＣＤ６１に表示するとともに、当該布が縫われる方向を常に端末装置６を操作するユーザの方向にすることによって、あたかも端末装置６をミシンで縫う布のように扱うことができるため、端末装置６を操作しているユーザに実空間でミシンの作業をしているかのようなゲーム状況を与えるとともに、布が縫われる位置や方向をユーザが直感的に知ることができる。さらに、ミシンで縫われる布の全体像をモニタ２に表示することによって、ユーザは、布全体に対して縫う箇所を構想したり縫い終わった箇所の状況を把握したりしやすくなる。
【０２３７】
第７のゲーム例は、ボード型コントローラ９を用いて操作することによって、仮想世界におけるもぐら（プレイヤオブジェクト）を動作させるゲームである。第７のゲーム例では、端末装置６のＬＣＤ６１には仮想空間内における地下の画像が表示され、モニタ２には仮想空間内における地上の画像が表示される。
【０２３８】
第７のゲーム例では、ユーザは、端末装置６を床面等に配置し、ボード型コントローラ９上に乗って動作する操作を行う。具体的には、ユーザは、モニタ２に表示された画像や端末装置６のＬＣＤ６１に表示された画像を見ながら、ボード型コントローラ９上で進行方向へ重心をかけながら土をかくような動作（例えば、ユーザがボード型コントローラ９上で進みたい方向に重心をかけながら、交互または同時に両腕を上下にかくような動作）や屈伸するような動作を行ってプレイする。そして、ユーザがボード型コントローラ９上で土をかく動作に応じてもぐらが仮想空間内を移動するとともに、ユーザがボード型コントローラ９に体重をかける重心位置に応じてもぐらが仮想空間内を移動する方向が変化する。また、ユーザがボード型コントローラ９上で屈伸する動作をした場合、もぐらが地下から地上へ移動、または地上から地下へ移動する。
【０２３９】
このように、第７のゲーム例において、ユーザは、ボード型コントローラ９に与える荷重変化によって、もぐら（プレイヤオブジェクト）の動作を変化させることができる。また、仮想空間内における地下の画像をＬＣＤ６１に表示し、仮想空間内における地上の画像をモニタ２に表示することによって、仮想空間が表示装置によって２分して表示されるため他方の仮想空間の様子がわからないプレイヤオブジェクトの状況を的確に表現することができ、２分された仮想空間の臨場感をユーザに与えることができる。
【０２４０】
第８のゲーム例は、第７のゲーム例と同様に、ボード型コントローラ９を用いて操作することによって、仮想世界において一輪車に乗るプレイヤオブジェクトを動作させるゲームである。第８のゲーム例では、端末装置６のＬＣＤ６１には仮想空間内において一輪車に乗るプレイヤオブジェクトを遠方から鳥瞰した画像が表示され、モニタ２には一輪車に乗るプレイヤオブジェクトの背後近傍から見た仮想空間の様子を示す画像が表示される。
【０２４１】
第８のゲーム例では、ユーザは、端末装置６を把持または床面等に配置し、ボード型コントローラ９上に乗って動作する操作を行う。具体的には、ユーザは、モニタ２に表示された画像や端末装置６のＬＣＤ６１に表示された画像を見ながら、ボード型コントローラ９上で荷重をかける重心位置を調整しながら足踏みするような動作や屈伸するような動作を行ってプレイする。そして、ユーザがボード型コントローラ９上で足踏みする動作に応じて、プレイヤオブジェクトが一輪車のペダルを漕ぐ動作をするとともに、ユーザがボード型コントローラ９に体重をかけている重心位置に応じて、一輪車に乗るプレイヤオブジェクトがバランスをとって仮想空間内を一輪車で移動する方向が変化する。また、ユーザがボード型コントローラ９上で屈伸する動作をした場合、一輪車に乗った状態でプレイヤオブジェクトが仮想空間内でジャンプする動作を行う。
【０２４２】
このように、第８のゲーム例において、ユーザは、ボード型コントローラ９に与える荷重変化によって、一輪車に乗るプレイヤオブジェクトの動作を変化させることができる。また、一輪車に乗るプレイヤオブジェクトの背後近傍から見た仮想空間をモニタ２に表示することによって、モニタ２を見ているユーザに仮想空間の臨場感を与えるとともに、プレイヤオブジェクトの移動方向やバランスを相対的に大きな画面に表示される画像で直感的に知ることができる。さらに、一輪車に乗るプレイヤオブジェクトを遠方から鳥瞰した画像を端末装置６に表示することによって、ユーザがプレイヤオブジェクトの周囲の状況が把握しやすくなる。
【０２４３】
第９のゲーム例は、第２のゲーム例等と同様にコントローラ７およびボード型コントローラ９を用いて操作することによって、仮想世界においてトランポリンをする選手（プレイヤオブジェクト）を動作させるゲームである。第９のゲーム例では、端末装置６のＬＣＤ６１には上記選手を上方から鳥瞰した仮想空間の様子を示す画像が表示され、モニタ２には上記選手を横遠方から見た仮想空間の様子を示す画像が表示される。
【０２４４】
第９のゲーム例では、ユーザは、端末装置６を例えばＬＣＤ６１が上方に向いた状態で床面に配置し、コントローラ７の姿勢や方向を変化させる操作と、ボード型コントローラ９に加える荷重の位置を変化させる操作とを行う。具体的には、ユーザは、コントローラ７を把持した状態で、ボード型コントローラ９上に乗る。そして、ユーザは、モニタ２に表示された画像や端末装置６のＬＣＤ６１に表示された画像を見ながら、コントローラ７を把持してボード型コントローラ９上で動作（例えば、ユーザがボード型コントローラ９上にかける荷重の重心位置を調整しながら、ボード型コントローラ９上で屈伸したりジャンプしたりする操作）することによってプレイする。そして、ユーザがボード型コントローラ９上で伸び上がるまたはジャンプしたタイミングに合わせて、上記選手も仮想空間内のトランポリン上で跳躍する。また、ユーザが屈伸動作中やジャンプ動作中においてボード型コントローラ９上に掛かる荷重の重心位置に応じて、上記選手がトランポリン上で跳躍する方向が変化したり、上記選手が跳躍中に身体をひねったり宙返りしたりする。さらに、ユーザが把持するコントローラ７の姿勢（方向）に応じて上記選手の腕の位置が変化し、例えばユーザがコントローラ７を把持する腕を上げた場合に上記選手も腕を上げて跳躍し、コントローラ７を把持する腕を下げた場合に上記選手も腕を下げて跳躍する。
【０２４５】
このように、第９のゲーム例において、ユーザは、把持するコントローラ７の姿勢およびボード型コントローラ９に与える荷重変化によって、トランポリンをする選手（プレイヤオブジェクト）の動作を変化させることができる。また、上記選手を上方から鳥瞰した仮想空間をＬＣＤ６１に表示することによって、上記選手がトランポリンに対して着地している位置をユーザが正確に知ることができる。さらに、上記選手を横から見た仮想空間をモニタ２に表示することによって、上記選手がトランポリンを跳躍している状態や跳躍中の技などをユーザが見ることができるとともに、第９のゲーム例をユーザがプレイして上記選手が跳躍している様子を他の人が楽しむこともできる。
【０２４６】
第１０のゲーム例は、第１のゲーム例等と同様に端末装置６およびボード型コントローラ９を用いて操作することによって、仮想世界においてホッピングをする遊技者（プレイヤオブジェクト）を動作させるゲームである。第１０のゲーム例では、端末装置６のＬＣＤ６１には、端末装置６の姿勢に応じた方向から仮想空間内における上記遊技者を見た画像が表示される。また、モニタ２には、上記遊技者を遠方から見た仮想空間の様子を示す画像が表示される。
【０２４７】
第１０のゲーム例では、ユーザは、端末装置６の姿勢や方向を変化させる操作と、ボード型コントローラ９に加える荷重の位置を変化させる操作とを行う。具体的には、ユーザは、端末装置６を把持した状態で、ボード型コントローラ９上に乗る。そして、ユーザは、モニタ２に表示された画像や端末装置６のＬＣＤ６１に表示された画像を見ながら、端末装置６を把持してボード型コントローラ９上で動作（例えば、ユーザがボード型コントローラ９上にかける荷重の重心位置を調整しながら、ボード型コントローラ９上で屈伸したりジャンプしたりする操作）することによってプレイする。そして、ユーザがボード型コントローラ９上で伸び上がるまたはジャンプしたタイミングに合わせて、上記遊技者も仮想空間内においてホッピングでジャンプする。また、ユーザが屈伸動作中やジャンプ動作中においてボード型コントローラ９上に掛かる荷重の重心位置に応じて、上記遊技者がホッピングによって移動する方向が変化したり、上記遊技者のホッピングするバランスが変化したりする。さらに、ユーザが把持する端末装置６の姿勢（方向）に応じて、ＬＣＤ６１にゲーム画像を表示するための仮想カメラの位置が変化する。例えば、ユーザが端末装置６の背面を下方に向けて実質的に水平に把持した場合、上記遊技者を上方から鳥瞰する位置に仮想空間における仮想カメラが移動する。また、ユーザが端末装置６の背面を前方に向けて実質的に垂直に把持した場合、上記遊技者を背後から見る位置に仮想空間における仮想カメラが移動する。
【０２４８】
このように、第１０のゲーム例において、ユーザは、把持する端末装置６の姿勢およびボード型コントローラ９に与える荷重変化によって、ホッピングをする遊技者（プレイヤオブジェクト）の動作や仮想カメラの位置を変化させることができる。また、端末装置６の姿勢に応じた方向から上記遊技者を見た仮想空間をＬＣＤ６１に表示することによって、ユーザは自分が上記遊技者を見たい方向から見た画像をＬＣＤ６１に表示することができる。例えば、上記遊技者がホッピングした着地点をユーザが見たい場合、端末装置６の背面を下方に向けることによって上記遊技者が着地する地点を見ることができる。また、上記遊技者がホッピングで進む方向をユーザが見たい場合、端末装置６の背面を前方に向けることによって上記遊技者がホッピングで進む方向の様子を見ることができる。さらに、上記遊技者を遠方から見た仮想空間をモニタ２に表示することによって、ユーザが上記遊技者の周囲の状況が把握しやすくなる。
【０２４９】
このように、上述した第１〜第１０のゲーム例では、ボード型コントローラ９上でユーザ自身の動作に基づいた操作を少なくとも行って当該ユーザ動作に基づいた処理を行う場合に、ユーザが当該処理結果を少なくとも可搬型の端末装置６のＬＣＤ６１で見ることができるため、端末装置６を把持したり適切な位置に配置したりしてボード型コントローラ９上で動作することによって好適な状況で処理結果を見ることが可能となる。
【０２５０】
また、上述した第１〜第１０のゲーム例では、端末装置６のＬＣＤ６１に表示されるゲーム画像と、モニタ２に表示されるゲーム画像とは、何れも同じ仮想世界（仮想空間）の様子を示す画像であるが、当該仮想世界（仮想空間）を見る視点や範囲が異なる画像である。したがって、ユーザは、２つの表示画面に表示された異なる視界による仮想世界（仮想空間）を見ることが可能となり、ゲーム状況等に応じて適宜好適なゲーム画像を見ることが可能となる。また、ユーザが端末装置６を把持して操作する場合（第１、第３〜第６、および第１０のゲーム例）、実空間における端末装置６の姿勢や位置に応じてプレイヤオブジェクトや仮想カメラを移動させるとともに、ＬＣＤ６１に表示される画像もプレイヤオブジェクトや仮想カメラの移動に応じて変化する。したがって、端末装置６を把持しながらＬＣＤ６１に表示される画像を見るユーザに、仮想世界（仮想空間）の臨場感を与えることができる。その一方で、ＬＣＤ６１に表示される画像だけを見ていると仮想世界（仮想空間）全体に対する位置やプレイヤオブジェクトの周囲の状況の把握が難しくなるが、モニタ２に相対的に広い範囲の仮想世界（仮想空間）を表示することによって、このような問題を解消することができる。また、ユーザが端末装置６を床面等に配置してゲーム操作する場合（第２、第７〜第９のゲーム例）、端末装置６が可搬型であるため据置型のモニタ２に対してユーザの好みの位置に端末装置６を配置することができる。したがって、ユーザは、ボード型コントローラ９上で操作するにあたって、好適な位置に端末装置６を配置することが可能となる。また、モニタ２に表示される仮想世界（仮想空間）の方向に対して、ＬＣＤ６１に表示される仮想世界（仮想空間）の方向が異なる場合、当該異なる方向と一致するような位置に端末装置６を配置することによって、実空間が仮想世界（仮想空間）となったような位置関係でゲーム画像を見ることが可能となる。一例として、第２のゲーム例では、ユーザの横方向にモニタ２の表示画面が配置される位置をユーザの操作位置とし、当該操作位置に着席するユーザの正面に端末装置６のＬＣＤ６１を配置する。これによって、ユーザの正面にはプレイヤオブジェクトの背後近傍から見た画像が表示され、ユーザの横にプレイヤオブジェクトを横遠方から見た画像が表示されるため、ユーザ自身があたかも仮想世界（仮想空間）にいるかのような感覚を与えることが可能となる。
【０２５１】
また、上述した第１、第３〜第６および第１０のゲーム例では、ユーザは、ボード型コントローラ９にかける荷重変化によって操作が可能であるとともに、プレイヤオブジェクトを含むゲーム画像が表示される端末装置６を把持して行う操作（本体姿勢や位置による操作、タッチ操作、ボタン操作等）も可能となっている。そして、端末装置６に表示されるプレイヤオブジェクトは、ボード型コントローラ９にかける荷重変化によって操作および／または端末装置６を用いた操作に応じて、仮想世界（仮想空間）内で動作する。したがって、ユーザ自身がプレイヤオブジェクトとなって動作して仮想世界（仮想空間）を見ているような感覚をユーザに与えたり、プレイヤオブジェクトを実世界で触っているような感覚をユーザに与えたりすることが可能となる。
【０２５２】
ここで、上述したボード型コントローラ９を用いた操作では、ボード型コントローラ９に掛かる荷重の有無、荷重変化、および荷重の重心位置を用いて、プレイヤオブジェクトの様々な動作制御に用いられている。例えば、第３、第５、および第６のゲーム例では、ボード型コントローラ９に掛かる荷重の有無によって、ユーザがボード型コントローラ９を操作したか否か（第３および第６のゲーム例）の判定や、ユーザがボード型コントローラ９上に乗っているか否か（第５のゲーム例）の判定に用いられている。そして、前者の判定では、当該判定をトリガとしてプレイヤオブジェクトが所定の動作を開始し、後者の判定では、当該判定が肯定である場合に実空間における基準位置にユーザがいると判断している。また、第１〜第３および第７〜第１０のゲーム例では、ボード型コントローラ９に掛かる荷重変化によって、プレイヤオブジェクトの動作や移動速度を変化させている。さらに、第４および第７〜第１０のゲーム例では、ボード型コントローラ９に掛かる荷重の重心位置によって、プレイヤオブジェクトの動作や移動方向を変化させている。なお、第１〜第６のゲーム例では、ユーザの操作方向に応じて仮想世界（仮想空間）における方向（例えば、プレイヤオブジェクトの移動方向や攻撃方向等）が設定されるゲーム例ではあるが、当該方向が端末装置６の姿勢（方向）に基づいて設定されている。これは、ボード型コントローラ９に掛かる荷重の重心位置から方向を設定するより操作が容易である場合やよりゲームの臨場感が増す場合等であり、端末装置６の姿勢およびボード型コントローラ９に掛かる荷重の重心位置の適切な方をゲーム内容に応じて選択することができる。このように、端末装置６およびボード型コントローラ９を操作手段として用いる場合、ユーザの操作に応じて仮想世界（仮想空間）における方向を設定する際、複数の操作を選択肢として好適な方式を選択することが可能となる。
【０２５３】
なお、ゲームシステム１は、上記で説明したように種々のゲームを行うための動作を行うことが可能である。端末装置６は、可搬形のディスプレイや第２のディスプレイとしても使用することができる一方で、本体の動きによる操作、タッチ操作、ボタン操作等による入力を行うコントローラとしても使用することができ、ゲームシステム１によれば、幅広いゲームを実施することが可能となる。つまり、端末装置６は、表示装置として機能するものであるため、モニタ２およびコントローラ７を使用せずに端末装置６を表示手段として使用し、ボード型コントローラ９を操作手段として使用するようなゲームシステムのような形態もあり得る。また、端末装置６は、表示装置として機能するとともに、操作装置としても機能するものであるため、モニタ２およびコントローラ７を使用せずに端末装置６を表示手段として使用し、端末装置６およびボード型コントローラ９を操作手段として使用するようなゲームシステムのような形態もあり得る。
【０２５４】
また、上記実施形態においては、端末装置６は、ゲーム処理を実行しない、いわゆるシンクライアント端末として機能するものであった。しかしながら、端末装置６は、上記実施形態においてゲーム装置本体５によって実行される一連のゲーム処理のうち、少なくとも一部の処理が端末装置６によって実行されてもよい。一例として、一部の処理（例えば、端末用ゲーム画像の生成処理）を端末装置６が実行するようにしてもよい。他の例として、ゲーム装置本体５によって実行される一連のゲーム処理全てを端末装置６が実行するようにしてもよい。この場合、端末装置６は、表示装置として機能するとともに、ゲーム処理を実行する処理装置としても機能するものであるため、モニタ２、ゲーム装置本体５、およびコントローラ７を使用せずに端末装置６を表示手段として使用し、ボード型コントローラ９を操作手段として使用し、端末装置６を処理手段として使用するようなゲームシステムのような形態もあり得る。当該ゲームシステムでは、端末装置６およびボード型コントローラ９のみが無線または有線によって接続され、ボード型コントローラ９からボード操作データを端末装置６へ出力することによって、種々のゲームを行うことができる。
【０２５５】
なお、上述した説明では、端末装置６とゲーム装置本体５との間、コントローラ７とゲーム装置本体５との間、およびボード型コントローラ９とゲーム装置本体５との間がそれぞれ無線通信によって接続された態様を用いたが、他の態様によって装置間の無線通信が行われてもかまわない。第１の例として、端末装置６が他の無線通信の中継装置として機能する。この場合、コントローラ７のコントローラ操作データおよび／またはボード型コントローラ９のボード操作データが端末装置６へ無線送信され、受信したコントローラ操作データおよび／またはボード操作データと共に端末装置６の端末操作データを、端末装置６がゲーム装置本体５へ無線送信する。この場合、端末装置６とゲーム装置本体５とが無線通信によって直接的に接続されるが、コントローラ７および／またはボード型コントローラ９は、端末装置６を介してゲーム装置本体５と無線通信によって接続されることになる。第２の例として、コントローラ７が他の無線通信の中継装置として機能する。この場合、端末装置６の端末操作データおよび／またはボード型コントローラ９のボード操作データがコントローラ７へ無線送信され、受信した端末操作データおよび／またはボード操作データと共にコントローラ７のコントローラ操作データを、コントローラ７がゲーム装置本体５へ無線送信する。この場合、コントローラ７とゲーム装置本体５とが無線通信によって直接的に接続されるが、端末装置６および／またはボード型コントローラ９は、コントローラ７を介してゲーム装置本体５と無線通信によって接続されることになる。第３の例として、ボード型コントローラ９が他の無線通信の中継装置として機能する。この場合、端末装置６の端末操作データおよび／またはコントローラ７のコントローラ操作データがボード型コントローラ９へ無線送信され、受信した端末操作データおよび／またはコントローラ操作データと共にボード型コントローラ９のボード操作データを、ボード型コントローラ９がゲーム装置本体５へ無線送信する。この場合、ボード型コントローラ９とゲーム装置本体５とが無線通信によって直接的に接続されるが、端末装置６および／またはコントローラ７は、ボード型コントローラ９を介してゲーム装置本体５と無線通信によって接続されることになる。なお、他の装置が中継してゲーム装置本体５に操作データを送信する場合、ケーブルを介して当該操作データを生成する装置と当該操作データを中継する他の装置との間を電気的に接続してもかまわない。
【０２５６】
また、端末装置６、コントローラ７、および／またはボード型コントローラ９と、ゲーム装置本体５とがケーブルを介して電気的に接続されてもかまわない。この場合、端末装置６、コントローラ７、および／またはボード型コントローラ９に接続されたケーブルをゲーム装置本体５の接続端子に接続する。第１の例として、端末装置６とゲーム装置本体５とが第１のケーブルを介して電気的に接続され、コントローラ７とゲーム装置本体５とが第２のケーブルを介して電気的に接続され、ボード型コントローラ９とゲーム装置本体５とが第３のケーブルを介して電気的に接続される。第２の例として、端末装置６および／またはコントローラ７とゲーム装置本体５との間がケーブルを介して電気的に接続される。この場合、ボード型コントローラ９のボード操作データは、端末装置６および／またはコントローラ７へ無線送信された後に上記ケーブルを介してゲーム装置本体５に送信されてもいいし、ボード型コントローラ９から直接ゲーム装置本体５に無線送信されてもよい。第３の例として、端末装置６および／またはボード型コントローラ９とゲーム装置本体５との間がケーブルを介して電気的に接続される。この場合、コントローラ７のコントローラ操作データは、端末装置６および／またはボード型コントローラ９へ無線送信された後に上記ケーブルを介してゲーム装置本体５に送信されてもいいし、コントローラ７から直接ゲーム装置本体５に無線送信されてもよい。第４の例として、コントローラ７および／またはボード型コントローラ９とゲーム装置本体５との間がケーブルを介して電気的に接続される。この場合、端末装置６の端末操作データは、コントローラ７および／またはボード型コントローラ９へ無線送信された後に上記ケーブルを介してゲーム装置本体５に送信されてもいいし、端末装置６から直接ゲーム装置本体５に無線送信されてもよい。
【０２５７】
また、上記実施形態においては、ゲームシステム１が端末装置６およびボード型コントローラ９をそれぞれ１つ有する構成であったが、ゲームシステム１は、複数組の端末装置６およびボード型コントローラ９を有する構成であってもよい。すなわち、ゲーム装置本体５は、複数組の端末装置６およびボード型コントローラ９とそれぞれ無線通信可能であり、ゲーム画像のデータとゲーム音声のデータと制御データとを各端末装置６へ送信し、端末操作データとカメラ画像データとマイク音データとボード操作データとを各端末装置６およびボード型コントローラ９から受信するものであってもよい。なお、ゲーム装置本体５は、複数の端末装置６およびボード型コントローラ９のそれぞれと無線通信を行うが、このとき、ゲーム装置本体５は、各端末装置６およびボード型コントローラ９との無線通信を時分割で行ってもよいし、周波数帯域を分割して行ってもよい。
【０２５８】
上記のように複数組の端末装置６およびボード型コントローラ９を有する場合には、ゲームシステム１を用いてより多くの種類のゲームを行うことができる。例えば、ゲームシステム１が２組の端末装置６およびボード型コントローラ９を有する場合には、２人のユーザが同時にゲームを行うことができる。また、ゲームシステム１が２組の端末装置６およびボード型コントローラ９を有する場合には、ゲームシステム１は３つの表示装置を有することになるので、３人のユーザのそれぞれのためのゲーム画像を生成し、各表示装置に表示させることができる。
【０２５９】
また、上述した説明では、ボード型コントローラ９に複数の荷重センサ９４を設けているが、上記処理においてボード型コントローラ９に加わっている荷重の重心位置の情報が不要であれば、荷重センサ９４を少なくとも１つボード型コントローラ９に設けてもかまわない。
【０２６０】
また、上記実施例では、据置型のゲーム装置３を用いて説明したが、携帯型のゲーム装置や一般的なパーソナルコンピュータ等の情報処理装置で本発明の情報処理プログラムを実行して、本発明を実現してもかまわない。また、他の実施形態では、ゲーム装置に限らず任意の携帯型電子機器、例えば、ＰＤＡ（Ｐｅｒｓｏｎａｌ  Ｄｉｇｉｔａｌ  Ａｓｓｉｓｔａｎｔ）や携帯電話、パーソナルコンピュータ、カメラ等であってもよい。何れの装置であっても、当該装置と端末装置６およびボード型コントローラ９とを無線または有線で接続することによって、本発明を実現することができる。
【０２６１】
また、上述した説明では情報処理をゲーム装置本体５で行う例を用いたが、上記情報処理における処理ステップの少なくとも一部をゲームシステム１の外部に設けられた他の装置で行ってもかまわない。例えば、ゲーム装置本体５が他の装置（例えば、サーバや他のゲーム装置）と通信可能に構成されている場合、上記情報処理における処理ステップは、ゲーム装置本体５および当該他の装置が協働することによって実行してもよい。一例として、他の装置において、プレイヤオブジェクトおよび仮想世界等を設定する処理が行われ、ゲーム装置本体５からプレイヤオブジェクトの動作に関するデータが他の装置へ送信されて、上記情報処理が行われることが考えられる。そして、他の装置で生成された仮想世界を示す画像データがゲーム装置本体５へ送信され、当該仮想世界がモニタ２やＬＣＤ６１に表示される。このように、上記情報処理における処理ステップの少なくとも一部を他の装置で行うことによって、上述した情報処理と同様の処理が可能となる。なお、上記情報処理における処理ステップの少なくとも一部をボード型コントローラ９（マイコン１００）で行ってもよい。また、上述した情報処理は、少なくとも１つの情報処理装置により構成される情報処理システムに含まれる１つのプロセッサまたは複数のプロセッサ間の協働により実行されることが可能である。また、上記実施形態においては、ゲーム装置本体５のＣＰＵ１０が所定のプログラムを実行することによって、上述したフローチャートによる処理が行われたが、ゲーム装置本体５が備える専用回路によって上記処理の一部または全部が行われてもよい。
【０２６２】
また、上述したゲーム装置本体５の形状や、端末装置６、コントローラ７、およびボード型コントローラ９の形状および各種操作ボタンやセンサの形状、数、および設置位置等は、単なる一例に過ぎず他の形状、数、および設置位置であっても、本発明を実現できることは言うまでもない。また、上述した情報処理で用いられる処理順序、設定値、表示態様、判定に用いられる値等は、単なる一例に過ぎず他の順序、表示態様、値であっても、本発明を実現できることは言うまでもない。
【０２６３】
また、上記情報処理プログラム（ゲームプログラム）は、光ディスク４等の外部記憶媒体を通じてゲーム装置本体５に供給されるだけでなく、有線または無線の通信回線を通じてゲーム装置本体５に供給されてもよい。また、情報処理プログラムは、ゲーム装置本体５内部の不揮発性記憶装置に予め記録されていてもよい。なお、情報処理プログラムを記憶する情報記憶媒体としては、ＣＤ−ＲＯＭ、ＤＶＤ、あるいはそれらに類する光学式ディスク状記憶媒体、フレキシブルディスク、ハードディスク、光磁気ディスク、磁気テープなどでもよい。また、上記情報処理プログラムを記憶する情報記憶媒体としては、不揮発性半導体メモリや揮発性メモリでもよい。このような記憶媒体は、コンピュータ等が読み取り可能な記録媒体ということができる。例えば、コンピュータ等に、これらの記録媒体のプログラムを読み込ませて実行させることにより、上述で説明した各種機能を提供させることができる。
【０２６４】
以上、本発明を詳細に説明してきたが、前述の説明はあらゆる点において本発明の例示に過ぎず、その範囲を限定しようとするものではない。本発明の範囲を逸脱することなく種々の改良や変形を行うことができることは言うまでもない。本発明は、特許請求の範囲によってのみその範囲が解釈されるべきであることが理解される。また、当業者は、本発明の具体的な実施形態の記載から、本発明の記載および技術常識に基づいて等価な範囲を実施することができることが理解される。また、本明細書において使用される用語は、特に言及しない限り、当該分野で通常用いられる意味で用いられることが理解されるべきである。したがって、他に定義されない限り、本明細書中で使用される全ての専門用語および技術用語は、本発明の属する分野の当業者によって一般的に理解されるのと同じ意味を有する。矛盾する場合、本明細書（定義を含めて）が優先する。
【産業上の利用可能性】
【０２６５】
本発明に係る情報処理システム、情報処理プログラム、および情報処理方法は、ユーザ自身の動作に基づいた操作を行って当該ユーザ動作に基づいた処理を行う場合に、ユーザが当該処理結果を好適な状況で見ることができ、ユーザの動作に基づいた処理等を行う情報処理システム、情報処理プログラム、および情報処理方法として有用である。
【符号の説明】
【０２６６】
１…ゲームシステム
２…モニタ
３…ゲーム装置
４…光ディスク
５…ゲーム装置本体
１０、６１７…ＣＰＵ
１１…システムＬＳＩ
１２…外部メインメモリ
１３…ＲＯＭ／ＲＴＣ
１４…ディスクドライブ
１５…ＡＶ−ＩＣ
１６…ＡＶコネクタ
１７…フラッシュメモリ
１８…ネットワーク通信モジュール
１９…コントローラ通信モジュール
２０…拡張コネクタ
２１…メモリカード用コネクタ
２２、２３、２９、６１１、７５４…アンテナ
２４…電源ボタン
２５…リセットボタン
２６…イジェクトボタン
２７…コーデックＬＳＩ
２８…端末通信モジュール
３１…入出力プロセッサ
３２…ＧＰＵ
３３…ＤＳＰ
３４…ＶＲＡＭ
３５…内部メインメモリ
６…端末装置
６０、７１…ハウジング
６１…ＬＣＤ
６２…タッチパネル
６３…アナログスティック
６４…操作ボタン
６５…マーカ部
６６…カメラ
６７…拡張コネクタ
６８…足部
６０１…タッチパネルコントローラ
６０２…磁気センサ
６０３、７０１…加速度センサ
６０４、７０３…ジャイロセンサ
６０５…ＵＩコントローラ
６０６…コーデックＬＳＩ
６０７、７０６…スピーカ
６０８…サウンドＩＣ
６０９…マイク
６１２…赤外線通信モジュール
６１３…フラッシュメモリ
６１４…電源ＩＣ
６１６…充電器
６１８…内部メモリ
６１９、７０４…バイブレータ
７…コントローラ
７２…操作部
７３…コネクタ
７４…撮像情報演算部
７００…基板
７０２…ＬＥＤ
７４１…赤外線フィルタ
７４２…レンズ
７４３…撮像素子
７４４…画像処理回路
７５…通信部
７５２…メモリ
８…マーカ
９…ボード型コントローラ
９０…支持板
９２…脚
９４…荷重センサ
９５…起歪体
９６…歪センサ
１０２…ＡＤコンバータ
１０４…ＤＣ−ＤＣコンバータ
１０６、６１０、７５３…無線モジュール
１０８…増幅器
１００、７５１…マイコン
１１０、６１５…電池
【図１】
0005792971.tif 000002
【図２】
0005792971.tif 000003
【図３】
0005792971.tif 000004
【図４】
0005792971.tif 000005
【図５】
0005792971.tif 000006
【図６】
0005792971.tif 000007
【図７】
0005792971.tif 000008
【図８】
0005792971.tif 000009
【図９】
0005792971.tif 000010
【図１０】
0005792971.tif 000011
【図１１】
0005792971.tif 000012
【図１２】
0005792971.tif 000013
【図１３】
0005792971.tif 000014
【図１４】
0005792971.tif 000015
【図１５Ａ】
0005792971.tif 000016
【図１５Ｂ】
0005792971.tif 000017
【図１６】
0005792971.tif 000018
【図１７】
0005792971.tif 000019
【図１８】
0005792971.tif 000020
【図１９】
0005792971.tif 000021
【図２０Ａ】
0005792971.tif 000022
【図２０Ｂ】
0005792971.tif 000023
【図２１】
0005792971.tif 000024
【図２２Ａ】
0005792971.tif 000025
【図２２Ｂ】
0005792971.tif 000026
【図２３Ａ】
0005792971.tif 000027
【図２３Ｂ】
0005792971.tif 000028
【図２４】
0005792971.tif 000029