(57)【要約】【課題】複数のオブジェクトを使用する電子ゲームをプレイする人工知能エージェントにおいて適切な強さを発揮させる。【解決手段】複数のオブジェクトを使用する電子ゲームにおいてオブジェクトの使用に対する電子ゲーム上の戦略を評価値として評価するための機械学習をさせた戦略評価手段と、戦略評価手段を用いて電子ゲームにおいて適用可能であるオブジェクトの使用に対する評価値の出力結果を得て、当該評価値を昇順又は降順に並べて合計した累積値を所定の範囲に正規化し、当該正規化された累積値において基準範囲に該当する評価値に対応するオブジェクトの使用から実際に電子ゲームに適用するオブジェクトの使用を決定する戦略決定手段と、を備える情報処理装置とする。【選択図】図５
2020115957.tif 000002
【特許請求の範囲】
【請求項１】
複数のオブジェクトを使用する電子ゲームにおいて前記オブジェクトの使用に対する電子ゲーム上の戦略を評価値として評価するための機械学習をさせた戦略評価手段と、
前記戦略評価手段を用いて電子ゲームにおいて適用可能である前記オブジェクトの使用に対する評価値の出力結果を得て、当該評価値を昇順又は降順に並べて合計した累積値において基準範囲に該当する評価値に対応する前記オブジェクトの使用から実際に電子ゲームに適用する前記オブジェクトの使用を決定する戦略決定手段と、
を備えることを特徴とする情報処理装置。
【請求項２】
請求項１に記載の情報処理装置であって、
前記戦略決定手段は、前記累積値を所定の範囲に正規化し、当該正規化された累積値において基準範囲に該当する評価値に対応する前記オブジェクトの使用から実際に電子ゲームに適用する前記オブジェクトの使用を決定することを特徴とする情報処理装置。
【請求項３】
請求項１に記載の情報処理装置であって、
前記戦略決定手段は、前記基準範囲を所定の範囲に正規化し、前記累積値において当該正規化された基準範囲に該当する評価値に対応する前記オブジェクトの使用から実際に電子ゲームに適用する前記オブジェクトの使用を決定することを特徴とする情報処理装置。
【請求項４】
請求項１〜３のいずれか１項に記載の情報処理装置であって、
前記戦略評価手段は、電子ゲームにおける過去のプレイ履歴を用いて前記オブジェクトの使用に対する電子ゲーム上の戦略を評価値として評価するための機械学習をさせたものであることを特徴とする情報処理装置。
【請求項５】
請求項１〜４のいずれか１項に記載の情報処理装置であって、
前記戦略決定手段は、前記戦略評価手段を用いて電子ゲームにおいて適用可能である前記オブジェクトの使用に対する評価値のすべてを用いて前記累積値を算出することを特徴とする情報処理装置。
【請求項６】
請求項１〜４のいずれか１項に記載の情報処理装置であって、
前記戦略決定手段は、前記戦略評価手段を用いて電子ゲームにおいて適用可能である前記オブジェクトの使用に対する評価値の一部のみを用いて前記累積値を算出することを特徴とする情報処理装置。
【請求項７】
請求項１〜６のいずれか１項に記載の情報処理装置であって、
前記基準範囲は、電子ゲームの難易度に応じて設定変更が可能であることを特徴とする情報処理装置。
【請求項８】
請求項１〜７のいずれか１項に記載の情報処理装置であって、
前記基準範囲の幅は変更可能であることを特徴とする情報処理装置。
【請求項９】
請求項１〜８のいずれか１項に記載の情報処理装置であって、
前記基準範囲は、電子ゲームのプレイの経過時間に応じて設定変更されることを特徴とする情報処理装置。
【請求項１０】
請求項１〜９のいずれか１項に記載の情報処理装置であって、
前記基準範囲を複数設定し、前記基準範囲の各々に対する前記オブジェクトの使用を決定することによって複数のプレイヤによる電子ゲームのプレイの戦略を決定することを特徴とする情報処理装置。
【請求項１１】
請求項１〜１０のいずれか１項に記載の情報処理装置であって、
前記戦略決定手段は、前記基準範囲に該当する評価値から均一な確率分布に応じて選択された評価値に対応する前記オブジェクトの使用を実際に電子ゲームに適用する前記オブジェクトの使用として決定することを特徴とする情報処理装置。
【請求項１２】
請求項１〜１０のいずれか１項に記載の情報処理装置であって、
前記戦略決定手段は、前記基準範囲に該当する評価値から所定の確率分布に応じて選択された評価値に対応する前記オブジェクトの使用を実際に電子ゲームに適用する前記オブジェクトの使用として決定することを特徴とする情報処理装置。
【請求項１３】
請求項１２に記載の情報処理装置であって、
前記確率分布は、前記基準範囲の最大値又は最小値において確率分布の最大値をとる正規分布であることを特徴とする情報処理装置。
【請求項１４】
コンピュータを、
複数のオブジェクトを使用する電子ゲームにおいて前記オブジェクトの使用に対する電子ゲーム上の戦略を評価値として評価するための機械学習をさせた戦略評価手段と、
前記戦略評価手段を用いて電子ゲームにおいて適用可能である前記オブジェクトの使用に対する評価値の出力結果を得て、当該評価値を昇順又は降順に並べて合計した累積値において基準範囲に該当する評価値に対応する前記オブジェクトの使用から実際に電子ゲームに適用する前記オブジェクトの使用を決定する戦略決定手段と、
して機能させることを特徴とする情報処理プログラム。
【請求項１５】
複数のオブジェクトを使用する電子ゲームにおいて前記オブジェクトの使用に対する電子ゲーム上の戦略を評価値として評価するための機械学習をさせる戦略学習工程と、
前記戦略学習工程で学習されたエージェントを用いて電子ゲームにおいて適用可能である前記オブジェクトの使用に対する評価値の出力結果を得て、当該評価値を昇順又は降順に並べて合計した累積値において基準範囲に該当する評価値に対応する前記オブジェクトの使用から実際に電子ゲームに適用する前記オブジェクトの使用を決定する戦略決定工程と、
をコンピュータによって実行することを特徴とする情報処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、情報処理装置、情報処理プログラム及び情報処理方法に関し、特に、電子ゲームを提供する情報処理装置、情報処理プログラム及び情報処理方法に関する。
【背景技術】
【０００２】
従来、電子ゲームを提供する情報処理装置が知られている。このような情報処理装置によって提供される電子ゲームとしては、キャラクタやカードといった複数のオブジェクト（ゲーム内オブジェクト）を使用する電子ゲームが知られている。その一例として、プレイヤが複数のオブジェクトを使用しながら、コンピュータあるいは他のプレイヤである対戦相手と戦う対戦ゲームがある。
【０００３】
一方、近年、機械学習の研究が盛んに行われている。例えば、多層のニューラルネットワークを用いたディープラーニングに関する研究が行われている。このようなディープラーニングを用いて、電子ゲームをプレイする人工知能（ＡＩ；Artificial Intelligence）エージェントを学習させ、従来よりも高い性能を有する（すなわちゲームが「うまい」）ＡＩエージェントが実現されている。例えば、非特許文献１には、囲碁をプレイするＡＩエージェントに適用されたディープニューラルネットワークに関する技術が開示されている。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】David Silver, et al, “Mastering the Game of Go with Deep Neural Networks and Tree Search”Nature 529,484-489,(28 January 2016)
【発明の概要】
【発明が解決しようとする課題】
【０００５】
対戦型ゲームにおいて、ＡＩ等によって得られた評価値に基づいて仮想の対戦相手（ＮＰＣ）としてユーザ（プレイヤ）がプレイする際に興趣を感じさせるためには適切な強さに設定できることが望まれる。例えば、ユーザ（プレイヤ）が初心者である場合にはＮＰＣが強すぎると電子ゲームに対する興味を失ってしまうことがある。一方、熟練度が高いユーザ（プレイヤ）の場合にはＮＰＣが弱すぎると電子ゲームに対する満足感が得られないことがある。
【０００６】
本発明は、複数のオブジェクトを使用する電子ゲームをプレイする人工知能エージェントにおいて適切な強さを発揮できる技術を提供することを目的とする。
【課題を解決するための手段】
【０００７】
本発明の１つの態様は、複数のオブジェクトを使用する電子ゲームにおいて前記オブジェクトの使用に対する電子ゲーム上の戦略を評価値として評価するための機械学習をさせた戦略評価手段と、前記戦略評価手段を用いて電子ゲームにおいて適用可能である前記オブジェクトの使用に対する評価値の出力結果を得て、当該評価値を昇順又は降順に並べて合計した累積値において基準範囲に該当する評価値に対応する前記オブジェクトの使用から実際に電子ゲームに適用する前記オブジェクトの使用を決定する戦略決定手段と、を備えることを特徴とする情報処理装置である。
【０００８】
ここで、前記戦略決定手段は、前記累積値を所定の範囲に正規化し、当該正規化された累積値において基準範囲に該当する評価値に対応する前記オブジェクトの使用から実際に電子ゲームに適用する前記オブジェクトの使用を決定することが好適である。
【０００９】
また、前記戦略決定手段は、前記基準範囲を所定の範囲に正規化し、前記累積値において当該正規化された基準範囲に該当する評価値に対応する前記オブジェクトの使用から実際に電子ゲームに適用する前記オブジェクトの使用を決定することが好適である。
【００１０】
また、前記戦略評価手段は、電子ゲームにおける過去のプレイ履歴を用いて前記オブジェクトの使用に対する電子ゲーム上の戦略を評価値として評価するための機械学習をさせたものであることが好適である。
【００１１】
また、前記戦略決定手段は、前記戦略評価手段を用いて電子ゲームにおいて適用可能である前記オブジェクトの使用に対する評価値のすべてを用いて前記累積値を算出することが好適である。
【００１２】
また、前記戦略決定手段は、前記戦略評価手段を用いて電子ゲームにおいて適用可能である前記オブジェクトの使用に対する評価値の一部のみを用いて前記累積値を算出することが好適である。
【００１３】
また、前記基準範囲は、電子ゲームの難易度に応じて設定変更が可能であることが好適である。
【００１４】
また、前記基準範囲の幅は変更可能であることが好適である。
【００１５】
また、前記基準範囲は、電子ゲームのプレイの経過時間に応じて設定変更されることが好適である。
【００１６】
また、前記基準範囲を複数設定し、前記基準範囲の各々に対する前記オブジェクトの使用を決定することによって複数のプレイヤによる電子ゲームのプレイの戦略を決定することが好適である。
【００１７】
また、前記戦略決定手段は、前記基準範囲に該当する評価値から均一な確率分布に応じて選択された評価値に対応する前記オブジェクトの使用を実際に電子ゲームに適用する前記オブジェクトの使用として決定することが好適である。
【００１８】
また、前記戦略決定手段は、前記基準範囲に該当する評価値から所定の確率分布に応じて選択された評価値に対応する前記オブジェクトの使用を実際に電子ゲームに適用する前記オブジェクトの使用として決定することが好適である。ここで、前記確率分布は、前記基準範囲の最大値又は最小値において確率分布の最大値をとる正規分布であることが好適である。
【００１９】
本発明の別の態様は、コンピュータを、複数のオブジェクトを使用する電子ゲームにおいて前記オブジェクトの使用に対する電子ゲーム上の戦略を評価値として評価するための機械学習をさせた戦略評価手段と、前記戦略評価手段を用いて電子ゲームにおいて適用可能である前記オブジェクトの使用に対する評価値の出力結果を得て、当該評価値を昇順又は降順に並べて合計した累積値において基準範囲に該当する評価値に対応する前記オブジェクトの使用から実際に電子ゲームに適用する前記オブジェクトの使用を決定する戦略決定手段と、して機能させることを特徴とする情報処理プログラムである。
【００２０】
本発明の別の態様は、複数のオブジェクトを使用する電子ゲームにおいて前記オブジェクトの使用に対する電子ゲーム上の戦略を評価値として評価するための機械学習をさせる戦略学習工程と、前記戦略学習工程で学習されたエージェントを用いて電子ゲームにおいて適用可能である前記オブジェクトの使用に対する評価値の出力結果を得て、当該評価値を昇順又は降順に並べて合計した累積値において基準範囲に該当する評価値に対応する前記オブジェクトの使用から実際に電子ゲームに適用する前記オブジェクトの使用を決定する戦略決定工程と、を備えることを特徴とする情報処理方法である。
【発明の効果】
【００２１】
本発明によれば、複数のオブジェクトを使用する電子ゲームをプレイする人工知能エージェントにおいて適切な強さを発揮できる情報処理装置及び情報処理プログラムを提供することができる。
【図面の簡単な説明】
【００２２】
【図１】本発明の実施の形態におけるゲームシステムの構成概略図である。
【図２】本発明の実施の形態におけるゲームシステムが提供するゲームのゲーム画面の例を示す図である。
【図３】本発明の実施の形態におけるプランナ端末の構成概略図である。
【図４】本発明の実施の形態におけるプレイヤ端末の構成概略図である。
【図５】本発明の実施の形態におけるゲームサーバの構成概略図である。
【図６】キャラクタＤＢの内容例を示す図である。
【図７】プレイヤログＤＢの内容例を示す図である。
【図８】本発明の実施の形態におけるＡＩ対戦処理部の構成概略図である。
【図９】本発明の実施の形態におけるキャラクタの使用と評価値との関係を示す図である。
【図１０】本発明の実施の形態における評価値の累積値に対する正規化処理を説明するための図である。
【図１１】本発明の実施の形態における基準範囲の設定例を示す図である。
【図１２】本発明の実施の形態におけるキャラクタの使用の選択処理を説明するための図である。
【図１３】本発明の実施の形態における基準範囲の設定例を示す図である。
【図１４】本発明の実施の形態における基準範囲の設定例を示す図である。
【図１５】本発明の実施の形態におけるキャラクタの使用の選択処理を説明するための図である。
【図１６】本発明の実施の形態におけるキャラクタの使用の選択処理を説明するための図である。
【図１７】本発明の変形例におけるＡＩ対戦処理部の構成概略図である。
【図１８】本発明の変形例における基準範囲の設定例を示す図である。
【発明を実施するための形態】
【００２３】
以下、本発明の実施形態について説明する。
【００２４】
図１に、本実施形態に係るゲームシステム１０の構成概略図が示されている。ゲームシステム１０は、ゲームシステム１０により提供される電子ゲーム（以下単に「本ゲーム」と記載する）の開発者、より詳しくは、本ゲームで使用されるオブジェクト（キャラクタ）の作成者であるプランナが使用するプランナ端末１２、本ゲームのプレイヤが使用するプレイヤ端末１４、及び、情報処理装置としてのゲームサーバ１６を含んで構成されている。プランナ端末１２とゲームサーバ１６との間、及び、プレイヤ端末１４とゲームサーバ１６との間は、通信回線１８を介して互いに通信可能に接続されている。通信回線１８は、例えばインターネットあるいはローカルエリアネットワーク（ＬＡＮ）などによって構成される。なお、図１には、プランナ端末１２及びプレイヤ端末１４がそれぞれ１つずつ示されているが、これらはそれぞれ複数設けられてよい。
【００２５】
ゲームシステム１０においては、プランナがプランナ端末１２を用いてゲームサーバ１６にアクセスすることで、オブジェクトの作成を含む本ゲームの開発を行うことができる。また、ユーザ（プレイヤ）がプレイヤ端末１４を用いてゲームサーバ１６にアクセスすることで、ユーザはＮＰＣ（Non Player Character）との電子ゲームの対戦を行うことができる。また、ゲームサーバ１６においてＮＰＣ（Non Player Character）同士を対戦させることもできる。
【００２６】
ここで、本ゲームの内容について説明する。図２に、プレイヤ端末１４に表示されるゲーム画面の例が示されている。本ゲームは、複数のオブジェクトとしての複数のキャラクタを使用して、敵プレイヤと対戦を行うものである。敵プレイヤとしては、自プレイヤ以外の他のプレイヤであってもよいし、コンピュータ（ゲームサーバ１６）であってもよい。具体的には、ゲームフィールドとしての、複数のマスが定義された盤２０上に、オセロ（登録商標）の要領で自プレイヤと敵プレイヤとが交互にキャラクタを配置していくものである。図２においては、各マスの行が数字「１」〜「６」で、列が英字「Ａ」〜「Ｆ」で示されている。
【００２７】
盤２０上の白丸は自プレイヤの石（白石）を示し、黒丸は敵プレイヤの石（黒石）を示す。そして、盤２０上の白丸の中にキャラクタ名（例えば「Ｃ００５５」）が記載されたものは自プレイヤのキャラクタ（自キャラクタ）を示し、黒丸の中にキャラクタ名が記載されたものは敵プレイヤのキャラクタ（敵キャラクタ）を示す。２つの自キャラクタ、又は、１つの白石と１つの自キャラクタで、敵キャラクタあるいは黒石を挟み込むと、敵キャラクタあるいは黒石を白石に変化させる（ひっくり返す）ことができる。また、２つの敵キャラクタ、又は、１つの黒石と１つの敵キャラクタで、自キャラクタあるいは白石が挟み込まれると、自キャラクタあるいは白石が黒石に変化させられる。なお、通常のオセロ同様、ゲーム開始時において、盤２０の中央部４つのマスには白石と黒石が２つずつ置かれていてよい。すなわち、３Ｃのマス及び４Ｄのマスには白石が、３Ｄのマス及び４Ｃのマスには黒石が置かれていてよい。
【００２８】
プレイヤは、本ゲーム内において定義された複数のキャラクタであって、当該プレイヤが取得した（本ゲーム内で使用可能となった）キャラクタの中から複数のキャラクタを選択する。例えば、本実施形態では１６個のキャラクタを選択する。プレイヤによって選択された１６個のキャラクタ群をデッキと呼ぶ。プレイヤは、ゲームの進行に応じて、あるいは、課金することによって新たなキャラクタを取得することができる。図２に示すように、デッキの中から選択された４つのキャラクタが画面に表示される。当該４つのキャラクタを手駒２２と呼ぶ。なお、手駒２２は、ゲームサーバ１６によってデッキの中からランダムに選択されてもよいし、プレイヤがデッキの中から選択可能となっていてもよい。ユーザは、４つの手駒２２の中から任意のキャラクタを選択し、選択したキャラクタを盤２０上のマスに配置する。手駒２２の中から１つのキャラクタが盤２０上に配置されると、デッキの中から選択された１つのキャラクタが新たに手駒２２に加えられる。
【００２９】
詳細は後述するが、各キャラクタには複数のパラメータが設定されている。例えば、攻撃力、スキル効果、スキル発動条件といったパラメータが設定されている。キャラクタが盤２０上に配置されると、当該キャラクタの攻撃力に応じたダメージを対戦相手に与えることができる。あるいは、当該キャラクタのスキル発動条件が満たされると、当該キャラクタが有する特殊効果としてのスキル（技）が実行され、スキル効果（あるいはスキル効果及び攻撃力）に応じたゲーム上の効果が発動される。
【００３０】
自プレイヤ及び敵プレイヤにはそれぞれＨＰ（ヒットポイント）が設定されている。図２においては、自プレイヤの最大ＨＰが２５０であり、現在のＨＰが１８０であることが示されている。キャラクタが盤２０上に配置されたことや、スキルを実行することなどによって対戦相手のＨＰを減らすことができる。また、キャラクタのスキルによってＨＰが回復できるようになっていてもよい。そして、先にＨＰが０になった方が負けであり、他方が勝ちとなる。
【００３１】
このように、ゲームシステム１０により提供されるゲームは、プレイヤが複数のキャラクタを使用しながら対戦相手と対戦を行うゲームである。
【００３２】
図３には、プランナ端末１２の構成概略図が示されている。プランナ端末１２は、例えば一般的なコンピュータであってよい。
【００３３】
制御部１２ａは、例えばＣＰＵ（Central Processing Unit）あるいはマイクロコンピュータなどを含んで構成され、後述の記憶部１２ｅに記憶されたプログラムに従ってプランナ端末１２の各部を制御するものである。通信部１２ｂは、例えばネットワークアダプタなどを含んで構成され、通信回線１８を介してゲームサーバ１６と通信する機能を有するものである。入力部１２ｃは、例えばマウス、キーボード、あるいはタッチパネルなどを含んで構成される。入力部１２ｃは、プランナの指示をプランナ端末１２に入力するためのものである。表示部１２ｄは、例えば液晶ディスプレイなどを含んで構成され、各種画面を表示するものである。特に、表示部１２ｄには、ゲームの開発画面などが表示される。記憶部１２ｅは、例えばハードディスク、ＲＡＭ（Random Access Memory）、あるいはＲＯＭ（Read Only Memory）などを含んで構成される。記憶部１２ｅには、プランナ端末１２の各部を動作させるためのプログラムが記憶される。あるいは、記憶部１２ｅには、各種の制御データあるいは各種の処理結果データなどが記憶される。
【００３４】
図４には、プレイヤ端末１４の構成概略図が示されている。本実施形態においては、プレイヤ端末１４としてはスマートフォンやタブレット端末といった携帯型の端末が用いられるが、プレイヤ端末１４は据え置き型のコンピュータであってもよい。
【００３５】
制御部１４ａは、例えばＣＰＵあるいはマイクロコンピュータなどを含んで構成され、後述の記憶部１４ｅに記憶されたゲームのクライアントプログラムに従ってプレイヤ端末１４の各部を制御するものである。通信部１４ｂは、例えばネットワークアダプタなどを含んで構成され、通信回線１８を介してゲームサーバ１６と通信する機能を有するものである。入力部１４ｃは、例えばタッチパネルあるいはボタンなどを含んで構成される。入力部１４ｃは、プレイヤの指示をプレイヤ端末１４に入力するためのものである。表示部１４ｄは、例えば液晶ディスプレイなどを含んで構成され、各種画面を表示するものである。特に、表示部１４ｄにはゲーム画面などが表示される。記憶部１４ｅは、例えばＲＡＭあるいはＲＯＭなどを含んで構成される。記憶部１４ｅには、ゲームのクライアントプログラムが記憶される。あるいは、記憶部１４ｅには、各種の制御データあるいは各種のゲーム処理結果データなどが記憶される。
【００３６】
図５には、ゲームサーバ１６の構成概略図が示されている。
【００３７】
通信部３０は、例えばネットワークアダプタなどを含んで構成され、通信回線１８を介してプランナ端末１２及びプレイヤ端末１４と通信する機能を有するものである。記憶部３２は、例えばハードディスク、ＲＡＭ、あるいはＲＯＭなどを含んで構成される。記憶部３２には、情報処理プログラムとしての、ゲームのホストプログラムが記憶される。当該ホストプログラムが実行されることで、ゲームが進行すると共に、ゲームサーバ１６の各部が動作する。また、図５に示される通り、記憶部３２には、キャラクタＤＢ３４、プレイヤログＤＢ３６、分散表現ＤＢ３８、ＡＩログＤＢ４０、ＡＩエージェント４２、及び、複数の統計データ４４ａからなる統計データ群４４が記憶される。
【００３８】
キャラクタＤＢ３４は、本ゲームにおいて（すなわちホストプログラムによって）定義され、本ゲーム内で自プレイヤあるいは敵プレイヤが使用可能なキャラクタに関するデータが格納されたデータベースである。具体的には、キャラクタＤＢ３４には、各キャラクタに設定された各パラメータが格納されている。なお、本ゲームにおいては、千数百のキャラクタを使用することが可能となっており、また、新規キャラクタが逐次追加されていく仕様になっている。
【００３９】
図６に、キャラクタＤＢ３４の内容例が示されている。図６においては、キャラクタＤＢ３４がテーブル形式で示されているが、キャラクタＤＢ３４のデータ形式はこれに限られるものではない。図６においては、１つのレコードが１つのキャラクタに対応している。本実施形態では、各キャラクタは、キャラクタ名、当該キャラクタの特徴を示す属性、当該キャラクタの入手困難度を示すレア度、当該キャラクタが盤２０上に配置されたときに対戦相手に与えるダメージの基準となる攻撃力、スキル名、当該キャラクタのスキルが発動する条件を示すスキル発動条件、及び、スキルが発動したときの効果であるスキル効果のパラメータを有している。なお、スキル効果の欄にある「通常攻撃」とは、キャラクタが盤２０上に配置され、スキルを発動せずに攻撃力の値に基づいて対戦相手にダメージを与えることを意味する。
【００４０】
これらのパラメータはプランナによって定義することができる。もちろん、パラメータの項目としては、これらに限られず、各キャラクタは、その他の項目に対するパラメータを有していてもよい。
【００４１】
図６に示すように、本実施形態においては、各キャラクタのスキル発動条件が、例えば「ＨＰが最大ＨＰの５％以下」あるいは「盤上に属性がＰ１の自キャラクタが３つ以上」といったように、ゲーム状況に関する条件で規定されている。したがって、プレイヤとして、各キャラクタのスキル発動条件がゲーム状況に関する条件で規定されているために、デッキに入れるキャラクタを適切に選択することが難しくなっている。すなわち、プレイヤとして、キャラクタのスキル発動条件を見ても、当該キャラクタがどの程度の確率でスキルを発動するのかを把握することが容易でないからである。
【００４２】
図５に戻り、プレイヤログＤＢ３６、分散表現ＤＢ３８、及びＡＩログＤＢ４０には、それぞれ各種データが格納される。これらのデータベースに格納されるデータの詳細については後述する。
【００４３】
ＡＩエージェント４２は、本ゲームをプレイする人工知能プログラムである。ＡＩエージェント４２は、戦略評価手段として機能する。ＡＩエージェント４２は、後述のディープラーニングを用いた方法によって学習される。ＡＩエージェント４２の学習手法の詳細については後述する。本実施形態におけるＡＩエージェント４２は、多層ニューラルネットワークを含んで構成される。多層ニューラルネットワークは、各種パラメータ（層構造、各層におけるニューロン構造、各ニューロンの重みあるいはバイアスなど）により定義されるため、記憶部３２は、これらのパラメータが記憶される。
【００４４】
統計データ４４ａは、キャラクタの使用結果に関する統計データである。本実施形態においては、統計データ４４ａはキャラクタ毎に生成され、各キャラクタに対応した複数の統計データ４４ａが統計データ群４４である。なお、統計データ４４ａは、後述の統計データ生成部６４により生成されるものであり、その詳細については後述する。
【００４５】
制御部５０は、例えばＣＰＵ、ＧＰＵ（Graphics Processing Unit）あるいはマイクロコンピュータなどを含んで構成され、記憶部３２に記憶されたゲームのホストプログラムに従ってゲームサーバ１６の各部を制御する。また、図５に示される通り、制御部５０は、ホストプログラムによって、プレイヤログ収集部５２、表現学習部５４、教師あり学習部５６、ＡＩ対戦処理部５８、強化学習部６０、ＡＩログ収集部６２、統計データ生成部６４、及び、表示制御部６６としても機能する。以下、制御部５０が有するこれらの機能について説明する。
【００４６】
プレイヤログ収集部５２は、本ゲームに関するプレイヤのゲーム進行履歴を示すデータであるプレイヤログを取得して、プレイヤログＤＢ３６に格納する。プレイヤログ収集部５２は、プレイヤによるゲームプレイが終了した時、あるいはゲームプレイ中にプレイヤログを取得する。ちなみに、ここでいうプレイヤには、本ゲームの開発者も含まれていてよく、プレイヤログ収集部５２は、開発者によるテストプレイに関するログを取得するようにしてもよい。いずれにしても、プレイヤログは、人間による実際のゲームプレイに関するログである。
【００４７】
図７に、プレイヤログＤＢ３６の内容例が示されている。図７においては、プレイヤログＤＢ３６もテーブル形式で示されているが、プレイヤログＤＢ３６のデータ形式はこれに限られるものではない。上述の通り、本ゲームは第１プレイヤと第２プレイヤとが交互にキャラクタを盤２０上に配置していくものであるから、プレイヤログＤＢ３６には、「ターン数」、当該ターンで第１プレイヤ又は第２プレイヤが盤２０上に配置したキャラクタを示す「配置キャラクタ」、当該ターンで当該キャラクタが配置された場所を示す「配置場所」、当該ターンで相手の石又は敵キャラクタをひっくり返した枚数を示す「ひっくり返した枚数」、当該ターンで配置されたキャラクタのスキルが発動したか否かを示す「スキル発動」、及び、当該スキル発動により生じた効果（例えばダメージ量）を示す「スキル効果値」の項目を含む。もちろん、図７に示された項目は一例であり、プレイヤログにはその他の項目が含まれていてもよい。例えば、キャラクタの通常攻撃によって相手に与えた実績ダメージ量などの項目が含まれていてもよい。
【００４８】
このように、プレイヤログには、第１プレイヤあるいは第２プレイヤが各キャラクタを用いた（つまり盤２０上に置いた）場合における使用結果（「ひっくり返した枚数」、「スキル発動」、あるいは「スキル効果値」）が含まれている。
【００４９】
表現学習部５４は、プレイヤログＤＢ３６に格納された、ゲームログとしてのプレイヤログに基づいて、表現学習を行う。これにより、キャラクタＤＢ３４に登録された各キャラクタの特徴を表す特徴ベクトルを学習する。すなわち、表現学習部５４は、本ゲームで用いられる各キャラクタの分散表現を学習する。表現学習部５４により学習された各キャラクタの特徴ベクトル（分散表現）は、分散表現ＤＢ３８に格納される。また、表現学習部５４は、プレイヤログに代えて、あるいはプレイヤログと併せて、後述するＡＩ対戦処理部５８によるＡＩエージェント４２によるゲーム進行履歴を示す、ゲームログとしてのＡＩログを用いて表現学習を行ってもよい。
【００５０】
本実施形態に係る特徴ベクトルは、例えば５次元のベクトルであり、各要素は本ゲームにおける戦略上の特徴（例えば、「角に置きたい」、「序盤に使いたい」など）を示すものである。
【００５１】
表現学習部５４は、例えばニューラルネットワークから構成される表現学習用の学習器を用いて表現学習を行う。具体的には、プレイヤログのうち、あるキャラクタが使用される前のゲーム状態（盤２０上の石あるいはキャラクタの配置状態など）と、当該キャラクタが使用された結果（次状態）とに基づいて、当該キャラクタの特徴ベクトルの各要素の値を学習していく。
【００５２】
このように、各キャラクタを分散表現することで、多数のキャラクタをより低次元のベクトルで表現することが可能となる。また、本ゲームにおける戦略上の特徴が似ているキャラクタが、似た特徴ベクトルで表現されることになる。なお、表現学習の方法としては、様々な既知の学習方法を用いることができる。
【００５３】
教師あり学習部５６は、プレイヤログＤＢ３６に格納されたプレイヤログと、表現学習部５４が学習した各キャラクタの特徴ベクトルとを少なくとも用いて、ＡＩエージェント４２に各キャラクタの使用に関する戦略を機械学習させる。教師あり学習部５６は、後述する強化学習部６０と併せて戦略学習手段として機能する。
【００５４】
ここで、各キャラクタの使用に関する戦略とは、あるゲーム状態において、どのような特徴を有するキャラクタを使用すべきか、あるいは、キャラクタを盤２０上のどの位置に配置すべきかなどを含む戦略である。
【００５５】
具体的には、教師あり学習部５６は、あるゲーム時点における盤面上あるいは手駒内に存在するキャラクタの特徴ベクトル、配置位置、ターン数、行動可能手、ヒットポイントといったゲーム状態、及び行動情報（特定のキャラクタをあるマスに配置すること）などを入力とし、入力されたゲーム状態における入力された行動情報の評価値を出力とした学習データを用いてＡＩエージェント４２を学習させる。なお、当該評価値は、プレイヤログに基づいて予め算出される。すなわち、教師あり学習部５６は教師あり学習によってＡＩエージェント４２を学習させる。
【００５６】
教師あり学習部５６における学習においては、各キャラクタが特徴ベクトルで表現した上で学習を行うから、各キャラクタを個別にラベル付けした場合に比して、学習における演算量を低下させることができる。また、特徴が似ているキャラクタは、似た特徴ベクトルで表現されているから、あるキャラクタに関する学習が、当該キャラクタに似たキャラクタに関する学習をすることになる。つまり、学習の汎化の効果が期待できる。
【００５７】
ＡＩ対戦処理部５８は、教師あり学習部５６によって学習された、あるいは、後述の強化学習部６０によってさらに学習されたＡＩエージェント４２を利用して対戦処理を行う。すなわち、ＡＩ対戦処理部５８は、戦略学習手段である教師あり学習部５６及び後述の強化学習部６０によって学習されたＡＩエージェント４２を用いた電子ゲームに対する戦略決定手段として機能する。
【００５８】
ＡＩ対戦処理部５８では、ＡＩエージェント４２とユーザ（プレイヤ）との対戦処理を行う。また、ＡＩ対戦処理部５８は、ＡＩエージェント４２同士を対戦させる処理を行うようにしてもよい。対戦においては、デッキに入れるキャラクタの選択からＡＩエージェント４２に任せてもよい。ＡＩ対戦処理部５８における対戦処理については後述する。
【００５９】
強化学習部６０は、ＡＩエージェント４２を強化するための学習である強化学習を行う。強化学習とは、教師あり学習とは異なる手法であり、強化学習としては例えばＱ学習などを用いることができる。具体的には、強化学習においては、あるゲーム状態からのＡＩエージェント４２が選択した一連の行動の結果（例えば勝ちあるいは負け）に基づいてＡＩエージェント４２に報酬が与えられ、ＡＩエージェント４２は、当該報酬に基づいて取るべき行動を学習する。
【００６０】
本実施形態においては、強化学習部６０は、ＡＩ対戦処理部５８による対戦結果に基づいて学習を行う。なお、強化学習部６０は、プレイヤログＤＢ３６に格納されたプレイヤログに基づいて強化学習を行うようにしてもよい。また、強化学習部６０は、強化学習において、ＡＩエージェント４２と他のＮＰＣ（Non Player Character；ＡＩエージェント４２ではないルールベースのＡＩ）との対戦結果に基づいて学習を行うようにしてもよい。
【００６１】
本ゲームにおいては、ゲーム状態によってＡＩエージェント４２が取り得る行動が異なる。例えば、盤２０の状態によってキャラクタを配置できる位置が異なるし、手駒２２の種類によってそもそも使用できるキャラクタが異なる。したがって、本実施形態においては、あるゲーム状態とＡＩエージェント４２が取ることができる行動とを両方入力し、入力された行動の価値を示す指標を出力するという方法で強化学習を行う。
【００６２】
なお、強化学習においても、表現学習部５４が学習した各キャラクタの特徴ベクトルを用いながら学習するのが好適である。これにより、教師あり学習部５６における効果と同様の効果を強化学習においても得ることができる。
【００６３】
本実施形態においては、教師あり学習部５６及び強化学習部６０の少なくとも一方が戦略学習手段に相当する。すなわち、各キャラクタの使用に関する戦略をＡＩエージェント４２に学習させる戦略学習は、教師あり学習と強化学習のどちらか一方又は両方である。
【００６４】
強化学習部６０において強化学習されたＡＩエージェント４２に基づいて、ＡＩ対戦処理部５８において対戦処理を行ってもよい。この場合、強化学習部６０によってさらに学習されたＡＩエージェント４２とユーザ（プレイヤ）との対戦処理を行う。また、ＡＩ対戦処理部５８は、ＡＩエージェント４２同士を対戦させる処理を行うようにしてもよい。対戦においては、デッキに入れるキャラクタの選択からＡＩエージェント４２に任せてもよい。ＡＩ対戦処理部５８における評価値に基づく対戦処理については後述する。
【００６５】
ＡＩログ収集部６２は、ＡＩ対戦処理部５８における本ゲームのゲーム進行履歴を示し、複数のキャラクタの使用結果を含むデータであるＡＩログを取得して、ＡＩログＤＢ４０に格納する。ＡＩログはプレイヤログと同等の項目を有するため、ここではＡＩログの詳細な説明は省略する。プレイヤログとＡＩログとの差異は、プレイヤによるゲーム進行の履歴を示すものであるか、少なくともプレイヤの一方がＡＩエージェント４２であるときのゲーム進行の履歴を示すものであるかのみである。なお、ＡＩログ収集部６２は、ＡＩエージェント４２とユーザ（プレイヤ）との対戦によるログのみならず、ＡＩエージェント４２同士の対戦やＡＩエージェント４２とＮＰＣとの対戦によるログをＡＩログとして取得するようにしてもよい。
【００６６】
統計データ生成部６４は、ＡＩログＤＢ４０に格納されたＡＩログに基づいて、統計データ４４ａを生成する。上述の通り、統計データ４４ａは、各キャラクタに応じて生成されるものであり、各キャラクタの使用結果に関するものである。例えば、統計データ４４ａは、キャラクタを使用した場合における勝率を含んでいてよい。この場合、統計データ生成部６４は、ＡＩログの中から、注目キャラクタと、注目キャラクタが使用された場合に使用したＡＩエージェント４２が勝ったか否かを抽出して、注目キャラクタに関する勝率を算出する。
【００６７】
また、統計データ４４ａは、キャラクタを使用した場合におけるスキルの発動確率を含んでいてよい。この場合、統計データ生成部６４は、ＡＩログの中から、注目キャラクタと、注目キャラクタが使用された場合にスキルが発動されたか否かを抽出して、注目キャラクタに関するスキル発動確率を算出する。
【００６８】
また、統計データ４４ａは、キャラクタを使用した場合に生じた効果の分布を含んでいてよい。この場合、統計データ生成部６４は、ＡＩログの中から、注目キャラクタと、注目キャラクタがスキルを発動した場合におけるスキル効果値を抽出して、注目キャラクタに関するスキル効果値の分布を算出する。あるいは、キャラクタを使用した場合に生じた効果には、キャラクタが通常攻撃をした場合に相手に与えたダメージ量が含まれていてもよく、すなわち、統計データ生成部６４は、ＡＩログの中から、注目キャラクタと、注目キャラクタの通常攻撃により相手に与えたダメージを抽出して、注目キャラクタの通常攻撃のダメージの分布を算出する。
【００６９】
以上の通り、本実施形態においては、統計データ４４ａは、キャラクタを使用した場合における勝率、キャラクタを使用した場合におけるスキルの発動確率、及び、キャラクタを使用した場合に生じた効果の分布の少なくとも１つを含むものである。もちろん、統計データ４４ａにはその他のデータが含まれていてもよい。
【００７０】
統計データ生成部６４は、上述の処理によって、キャラクタＤＢ３４に登録された複数のキャラクタ、理想的には、全てのキャラクタについての統計データ４４ａを生成する。これにより統計データ群４４が形成される。
【００７１】
表示制御部６６は、プランナ端末１２からの（すなわちプランナからの）要求に従って、統計データ生成部６４が生成した統計データ４４ａをプランナ端末１２の表示部１２ｄに表示させる。また、表示制御部６６は、プレイヤ端末１４からの（すなわちプレイヤからの）要求に従って、統計データ生成部６４が生成した統計データ４４ａをプレイヤ端末１４の表示部１４ｄに表示させる。なお、表示制御部６６は、開発中キャラクタに関する統計データ４４ａはプレイヤ端末１４の表示部１４ｄには表示させないものとする。
【００７２】
［ＡＩ対戦処理部］
以下、ＡＩ対戦処理部５８での対戦処理について説明する。上記のとおり、ＡＩ対戦処理部５８は、教師あり学習部５６及び強化学習部６０によって学習させたＡＩエージェント４２を用いて、ＡＩエージェント４２とユーザ（プレイヤ）、ＡＩエージェント４２同士の対戦処理を行う。
【００７３】
ＡＩ対戦処理部５８は、図８に示すように、評価値算出部５８ａ、評価値正規化部５８ｂ、基準範囲設定部５８ｃ及び処理決定部５８ｄを含んで構成される。
【００７４】
評価値算出部５８ａでは、教師あり学習部５６又は強化学習部６０で学習させたＡＩエージェント４２を適用して電子ゲームにおいて現状使用できるキャラクタに対する評価値を求める。
【００７５】
例えば、デッキに含まれる１６個のキャラクタのうち手駒２２と呼ばれる４のキャラクタ（キャラクタＡ〜Ｄ）をそれぞれ４つのマス（マスＢ４，Ｂ５，Ｄ２，Ｆ３）のうちいずれかに配置可能な場合、図９に示すように、４つのキャラクタに対してそれぞれ４つのマスに配置するという１６通りのキャラクタの使用のバリエーションがある。そこで、これら１６通りのキャラクタの使用の各々についてＡＩエージェント４２を用いて評価値を求める。図９では、例えば、キャラクタの使用（１）としてキャラクタＡをマスＢ４に配置することに対応して評価値が２０、キャラクタの使用（２）としてキャラクタＡをマスＢ５に配置することに対応して評価値が１５・・・というように、キャラクタの使用の各々についてＡＩエージェント４２を用いて評価値を求められている。
【００７６】
評価値正規化部５８ｂは、評価値を正規化する処理を行う。評価値正規化部５８ｂは、評価値算出部５８ａで求められた複数の評価値を昇順に並べて累積し、当該累積値が所定の数値範囲となるように正規化処理を行う。
【００７７】
以下、説明を簡潔にするために、評価値算出部５８ａにおいて５通りのキャラクタの使用のバリエーション（キャラクタの使用（１）〜（５））について５つの評価値が得られた例について示す。評価値正規化部５８ｂは、図１０に示すように、５つの評価値を小さい順（昇順）に並べて累積値を求め、当該累積値が０〜１００の数値範囲となるように正規化する。これによって、評価値算出部５８ａで得られた評価値に対して正規化された累積値が得られる。
【００７８】
なお、評価値正規化部５８ｂにおける正規化の数値範囲は、０〜１００に限定されるものではなく、複数の評価値の累積値を一定の値に正規化できるものであればよい。例えば、数値範囲は、０〜１、０〜１０等の範囲としてもよい。
【００７９】
また、評価値正規化部５８ｂにおいて累積対象とする評価値は、評価値算出部５８ａにおいて得られたすべての評価値を累積するものとしてもよいし、一部の評価値を累積するものとしてもよい。例えば、電子ゲームにおいて選択可能なすべてのキャラクタの使用を考慮して実際に電子ゲームに適用されるキャラクタの使用を決定したい場合には評価値算出部５８ａにおいて得られたすべての評価値を累積して正規化された累積値を算出する。また、例えば、電子ゲームにおいて所定基準値未満の評価値となったキャラクタの使用は避けて実際に電子ゲームに適用されるキャラクタの使用を決定したい場合には当該基準値以上の評価値のみを累積して正規化された累積値を算出してもよい。
【００８０】
基準範囲設定部５８ｃは、評価値正規化部５８ｂにおいて正規化された累積値に対して処理を選択するための基準範囲を設定する。基準範囲は、評価値正規化部５８ｂにおける正規化された累積値の数値範囲内に設定される。ＡＩエージェント４２は、正規化された累積値において基準範囲に含まれる評価値に対応するキャラクタの使用のみを選択することができる。すなわち、基準範囲は、電子ゲームにおいてＡＩエージェント４２が選択できるキャラクタの使用の範囲を決定する。
【００８１】
例えば、図１１に示すように、評価値の累積値を０〜１００の数値範囲に正規化する処理が行われた場合、基準範囲は０〜１００の範囲内において４０〜８０に設定される。この場合、ＡＩエージェント４２は、当該基準範囲４０〜８０に含まれる評価値に対応するキャラクタの使用（１：キャラクタＡをマスＢ４に配置），（５：キャラクタＢをマスＢ４に配置），（３：キャラクタＡをマスＤ２に配置）のうちいずれか１つを実際に適用するキャラクタの使用として決定できる。
【００８２】
処理決定部５８ｄは、電子ゲームで実際に適用される処理の決定が行われる。決定される処理は、例えば、電子ゲームにおいてどのキャラクタをどのマスに配置するか等の処理である。処理決定部５８ｄは、基準範囲設定部５８ｃで設定された基準範囲に該当する評価値に対応する処理を電子ゲームに適用する処理として決定する。具体的には、基準範囲設定部５８ｃで設定された基準範囲から所定の確率分布にしたがって選択値を選択し、当該選択値に該当する評価値に対応するキャラクタの使用を実際に適用されるキャラクタの使用として選択する。
【００８３】
例えば、評価値について正規化された累積値に対する基準範囲の全範囲に亘って均一な確率分布に基づいて選択値を決定する。正規化された累積値に対する基準範囲が４０〜８０に設定されている場合、図１２に示すように、当該基準範囲の全範囲に亘って均一な確率分布に基づいて選択値を決定する。そして、正規化された累積値において当該選択値に該当する評価値に対応するキャラクタの使用（５：キャラクタＢをマスＢ４に配置する）を実際に電子ゲームに適用するキャラクタの使用として選択する。すなわち、基準範囲の全範囲からランダムに選択値を決定し、当該選択値に対応するキャラクタの使用を実際に電子ゲームに適用するキャラクタの使用として選択する。
【００８４】
本実施の形態のように、正規化された累積値に対して基準範囲を設定することによって、当該基準範囲に該当する複数通りの候補からキャラクタの使用が選択されることになり、電子ゲームにおけるＡＩエージェント４２の強さを調節することができる。
【００８５】
ここで、電子ゲームの難易度に応じて基準範囲の設定が変更できるようにしてもよい。例えば、図１３に示すように、対戦相手のユーザ（プレイヤ）が初心者である場合には基準範囲を０以上３０未満に設定し、中級者である場合には基準範囲を３０以上６０未満に設定し、上級者である場合には基準範囲を６０以上９０未満に設定し、最上級者である場合には基準範囲を９０以上１００以下に設定してもよい。これによって、初心者に対しては正規化された累積値に含まれる評価値のうち相対的に低い評価値に対応するキャラクタの使用が選択され、上級になるにしたがって相対的により高い評価値に対応するキャラクタの使用が選択されるようにすることができる。
【００８６】
具体的には、電子ゲームのプレイを開始する際等にプレイヤ端末１４からユーザ（プレイヤ）が希望するレベル（難易度）の入力を受けて、当該入力結果をゲームサーバ１６へ送信することによって、ゲームサーバ１６において当該レベルに応じた基準範囲を設定するようにすればよい。また、統計データ生成部６４において得られた統計データ４４ａに基づいて基準範囲を設定するようにしてもよい。例えば、ＡＩエージェント４２とユーザ（プレイヤ）との対戦における過去の勝率に応じて基準範囲を設定するようにしてもよい。
【００８７】
また、図１４に示すように、基準範囲の幅を変更できるようにしてもよい。基準範囲の幅は、ＡＩエージェント４２によって選択され得るキャラクタの使用の選択幅に対応する。したがって、基準範囲の幅を拡げることによって、ＡＩエージェント４２が毎回適用するキャラクタの使用のばらつきも拡がり、ＡＩエージェント４２の強さに変化を持たせることができる。一方、基準範囲の幅を狭めることによって、ＡＩエージェント４２が毎回適用するキャラクタの使用のばらつきは小さくなり、ＡＩエージェント４２を一定の強さに安定させることができる。なお、基準範囲の代わりに１つの基準値を設定して、ＡＩエージェント４２の強さを完全に一定に維持するようにしてもよい。
【００８８】
具体的には、電子ゲームのプレイを開始する際等にプレイヤ端末１４を用いてユーザ（プレイヤ）に電子ゲームをプレイするときに希望する強さの安定性の入力を受けて、当該入力結果をゲームサーバ１６へ送信することによって、ゲームサーバ１６において当該安定性に応じて基準範囲の幅を設定するようにすればよい。また、統計データ生成部６４において得られた統計データ４４ａに基づいて基準範囲の幅を設定するようにしてもよい。例えば、ＡＩエージェント４２とユーザ（プレイヤ）との対戦における過去の勝率の変動に応じて基準範囲の幅を設定するようにしてもよい。
【００８９】
また、基準範囲は、電子ゲームのプレイの経過時間に応じて変更できるようにしてもよい。例えば、電子ゲームのプレイの経過時間が長くなるほど基準範囲がより高い数値範囲になるように設定することが好適である。これによって、電子ゲームをプレイした時間が長くなるにつれて、ＮＰＣとして対戦相手となるＡＩエージェント４２がより強くなったかのように調整することができる。また、例えば、電子ゲームのプレイの経過時間が長くなるほど基準範囲がより低い数値範囲になるように設定することが好適である。これによって、電子ゲームをプレイした時間が長くなるにつれて、ＮＰＣとして対戦相手となるＡＩエージェント４２が疲れによって弱くなったかのように調整することができる。また、例えば、電子ゲームのプレイの経過時間が長くなるほど基準範囲の幅がより広い数値範囲になるように設定することが好適である。これによって、電子ゲームをプレイした時間が長くなるにつれて、ＮＰＣとして対戦相手となるＡＩエージェント４２が疲れによって選択にぶれが生じたかのように調整することができる。また、例えば、電子ゲームのプレイの経過時間が長くなるほど基準範囲の幅がより狭い数値範囲になるように設定することが好適である。これによって、電子ゲームをプレイした時間が長くなるにつれて、ＮＰＣとして対戦相手となるＡＩエージェント４２の集中力が高まって選択にぶれが生じ難くなったかのように調整することができる。
【００９０】
また、基準範囲の全域に亘って均一な確率分布にしたがってランダムに選択値を決定することによって、基準範囲に含まれる複数のキャラクタの使用のいずれかがランダムに選択される。これによって、基準範囲で設定されるＡＩエージェント４２の強さの範囲内において強さにばらつきを持たせることができ、ＡＩエージェント４２においてより人間に近い自然な振る舞いを実現することができる。
【００９１】
なお、基準範囲に設定する確率分布は特に限定されるものではない。例えば、図１５に示すように、基準範囲の最大値において最大確率を有する正規分布に基づいて選択範囲から選択値を決定するようにしてもよい。この場合、設定された基準範囲においてより評価値が高いキャラクタの使用が選択され易くなり、より評価値が低いキャラクタの使用は選択され難くなる。したがって、ＡＩエージェント４２の強さをほぼ一定に維持しつつ、ときどき誤った選択をするような仕様を実現することができる。また、例えば、図１６に示すように、基準範囲の最小値において最大確率を有する正規分布に基づいて選択範囲から選択値を決定するようにしてもよい。この場合、設定された基準範囲においてより評価値が低いキャラクタの使用が選択され易くなり、より評価値が高いキャラクタの使用は選択され難くなる。したがって、ＡＩエージェント４２の強さをほぼ低いレベルに維持しつつ、ときどき評価値の高い選択をするような仕様を実現することができる。
【００９２】
また、正規分布の中心値や標準偏差を変更できるようにしてもよい。例えば、電子ゲームのプレイを開始する際等にプレイヤ端末１４からユーザ（プレイヤ）が希望するレベルの入力を受けて、当該入力結果をゲームサーバ１６へ送信することによって、ゲームサーバ１６において当該レベルに応じて正規分布の中心値や標準偏差を設定するようにすればよい。中心値を変更することによってＡＩエージェント４２の相対的な強さを調節することができ、標準偏差を変更することによってＡＩエージェント４２の相対的な安定性を調節することができる。
【００９３】
また、ＡＩエージェント４２によってＮＰＣとして複数のプレイヤを模擬することもできる。この場合、模擬する複数のプレイヤ毎に基準範囲を設定し、基準範囲の各々についてキャラクタの使用を決定することによって模擬する複数のプレイヤ毎にレベルや安定性を調整することができる。
【００９４】
なお、本実施の形態では、評価値を昇順に並べて累積値を算出して当該累積値を正規化する処理としたが、評価値を降順に並べて累積値を算出して当該累積値を正規化する処理としてもよい。この場合、正規化された累積値において低い値ほど評価値の高いキャラクタの使用が選択されることになる。
【００９５】
また、上記実施の形態では、評価値正規化部５８ｂにおいて評価値の累積値を所定の数値範囲に正規化するものとしたが、評価値の累積値に応じて基準範囲を正規化するように変形してもよい。
【００９６】
図１７は、当該変形例におけるＡＩ対戦処理部５８の構成を示す。基準範囲設定部５８ｃでは、予め定められた数値範囲において基準となる基準範囲を設定する。例えば、予め定められた数値範囲を０〜１００として基準となる基準範囲を３０以上６０以下に設定する。基準範囲正規化部５８ｅでは、基準範囲設定部５８ｃで定められた基準範囲を評価値算出部５８ａにおいて算出された評価値の累積値に応じて正規化する。例えば、図１８に示すように、評価値の累積値が３００である場合、当該累積値の範囲０〜３００と基準範囲がとり得る予め定められた数値範囲０〜１００とが一致するように基準範囲設定部５８ｃで定められた基準範囲を３倍して９０以上１８０以下に正規化する。
【００９７】
なお、当該変形例においても、上記実施の形態と同様に基準範囲を設定変更できるようにしてもよい。例えば、電子ゲームの難易度に応じて基準範囲やその幅を設定変更したり、電子ゲームのプレイの経過時間に応じて基準範囲を設定変更したりするようにしてもよい。
【００９８】
本実施形態に係るゲームシステム１０の概要は以上の通りである。本実施形態によれば、表現学習部５４によって各キャラクタが特徴ベクトルで表現された上で、教師あり学習部５６あるいは強化学習部６０によりＡＩエージェント４２の学習が行われる。これにより、ＡＩエージェント４２の学習をより効率的に行うことが可能となっている。具体的には、上述の通り、キャラクタを表現するベクトルの次元の圧縮による学習のための演算量の低減、及び学習の汎化が実現される。
【００９９】
また、本実施形態では、学習されたＡＩエージェント４２とユーザ（プレイヤ）又はＡＩエージェント４２同士の対戦において適切な強さを発揮するようにすることができる。すなわち、学習されたＡＩエージェント４２によって得られるキャラクタの使用に対する評価値に基づいてＡＩエージェント４２を適切な強さに設定することが可能となる。これによって、電子ゲームをプレイするユーザ（プレイヤ）により高い満足感を与えることができる。
【０１００】
以上、本発明に係る実施形態を説明したが、本発明は上記実施形態に限られるものではなく、本発明の趣旨を逸脱しない限りにおいて種々の変更が可能である。
【符号の説明】
【０１０１】
１０  ゲームシステム、１２  プランナ端末、１２ａ，１４ａ，５０  制御部、１２ｂ，１４ｂ，３０  通信部、１２ｃ，１４ｃ  入力部、１２ｄ，１４ｄ  表示部、１２ｅ，１４ｅ，３２  記憶部、１４  プレイヤ端末、１６  ゲームサーバ、３４  キャラクタＤＢ、３６  プレイヤログＤＢ、３８  分散表現ＤＢ、４０  ＡＩログＤＢ、４２  ＡＩエージェント、４４  統計データ群、４４ａ  統計データ、５２  プレイヤログ収集部、５４  表現学習部、５６  教師あり学習部、５８  ＡＩ対戦処理部、５８ａ  評価値算出部、５８ｂ  評価値正規化部、５８ｃ  基準範囲設定部、５８ｄ  処理決定部、５８ｅ  基準範囲正規化部、６０  強化学習部、６２  ＡＩログ収集部、６４  統計データ生成部、６６  表示制御部。
【図１】
2020115957.tif 000003
【図２】
2020115957.tif 000004
【図３】
2020115957.tif 000005
【図４】
2020115957.tif 000006
【図５】
2020115957.tif 000007
【図６】
2020115957.tif 000008
【図７】
2020115957.tif 000009
【図８】
2020115957.tif 000010
【図９】
2020115957.tif 000011
【図１０】
2020115957.tif 000012
【図１１】
2020115957.tif 000013
【図１２】
2020115957.tif 000014
【図１３】
2020115957.tif 000015
【図１４】
2020115957.tif 000016
【図１５】
2020115957.tif 000017
【図１６】
2020115957.tif 000018
【図１７】
2020115957.tif 000019
【図１８】
2020115957.tif 000020