(57)【特許請求の範囲】
【請求項１】
トレーニング用データ、モデルカテゴリ、目標個数、および評価指標を含むモデリングリクエストを受信するステップと、
前記トレーニング用データのタイプと前記モデルカテゴリに基づいて、モデルトレーニングに使用される前記目標個数の初期機械学習パイプラインを決定するステップと、
前記目標個数の初期機械学習パイプラインを使用して、モデル生成ステップを実行するステップと、を含み、
前記モデル生成ステップは、
前記目標個数の初期機械学習パイプラインに基づいて、目標個数の新規機械学習パイプラインを生成するステップと、
前記トレーニング用データ、前記目標個数の初期機械学習パイプライン、および前記目標個数の新規機械学習パイプラインに基づいてモデルトレーニングを実行して、トレーニング済みモデルを生成するステップと、
前記評価指標に基づいて、それぞれ取得したトレーニング済みモデルを評価するステップと、
事前に設定されたトレーニング終了条件に達しているかどうかを判定するステップと、
事前に設定されたトレーニング終了条件に達していると判定されたことに対応して、評価結果に基づいて、取得したトレーニング済みモデルからターゲットトレーニング済みモデルを決定するステップと、を含む、情報を生成するための方法。
【請求項２】
前記方法は、
事前に設定されたトレーニング終了条件に達していないと判定されたことに対応して、評価結果に基づいて、前記目標個数の初期機械学習パイプラインと前記目標個数の新規機械学習パイプラインから前記目標個数の機械学習パイプラインを初期機械学習パイプラインとして選択して、引き続き前記モデル生成ステップを実行するステップをさらに含む、請求項１に記載の方法。
【請求項３】
前記方法は、
前記ターゲットトレーニング済みモデルに対するモデルファイルを生成し、前記ターゲットトレーニング済みモデルを評価するステップと、
前記モデルファイルと前記ターゲットトレーニング済みモデルの評価結果をプッシュするステップと、をさらに含む、請求項１に記載の方法。
【請求項４】
前記モデリングリクエストは最大反復回数をさらに含み、
前記トレーニング終了条件は、
前記モデル生成ステップを実行する回数が前記最大反復回数に達していることと、
前記モデル生成ステップを実行する回数は前記最大反復回数に達していないと判定されたことに対応して、事前に設定された回数まで前記モデル生成ステップを連続して実行して取得した最適なトレーニング済みモデルの評価結果が変わらないことと、を含む、請求項１に記載の方法。
【請求項５】
前記目標個数の初期機械学習パイプラインに基づいて、前記目標個数の新規機械学習パイプラインを生成するステップは、
事前に設定された交換比率に基づいて、前記目標個数の初期機械学習パイプラインから初期機械学習パイプラインを選択して、初期機械学習パイプラインのサブセットを形成し、前記初期機械学習パイプラインのサブセットにおける２つずつの初期機械学習パイプラインに基づいて、データ交換ステップを実行するステップと、
前記目標個数の初期機械学習パイプラインにおける、前記初期機械学習パイプラインのサブセットに含まれる初期機械学習パイプライン以外の初期機械学習パイプラインについて、該初期機械学習パイプラインに基づいて、新規機械学習パイプラインを生成するステップと、を含み、
前記データ交換ステップは、
選択した２つの初期機械学習パイプラインに対応する２つのモデルが同じであるかどうかを判定するステップと、
同じであると判定されたことに対応して、２つのモデルのモデルパラメーターを交換し、２つの新規機械学習パイプラインを取得するステップと、
同じではないと判定されたことに対応して、選択した２つの初期機械学習パイプラインに対応するモデルを交換し、２つの新規機械学習パイプラインを取得するステップと、を含む、請求項１に記載の方法。
【請求項６】
前記目標個数の初期機械学習パイプラインに基づいて、目標個数の新規機械学習パイプラインを生成するステップは、
前記目標個数の初期機械学習パイプラインから２つの初期機械学習パイプラインを選択し、データ交換ステップを実行するステップと、
前記目標個数の初期機械学習パイプラインから、前記データ交換ステップを実行していない２つの初期機械学習パイプラインを選択し、引き続き前記データ交換ステップを実行するステップと、を含み、
前記データ交換ステップは、
選択した２つの初期機械学習パイプラインに対応する２つのモデルが同じであるかどうかを判定するステップと、
同じであると判定されたことに対応して、２つのモデルのモデルパラメーターを交換し、２つの新規機械学習パイプラインを取得するステップと、
同じではないと判定されたことに対応して、選択した２つの初期機械学習パイプラインに対応するモデルを交換し、２つの新規機械学習パイプラインを取得するステップと、を含む、請求項１に記載の方法。
【請求項７】
初期機械学習パイプラインは、少なくとも１つのデータ処理フェーズと１つのモデルトレーニングフェーズとを含み、
前記目標個数の初期機械学習パイプラインに基づいて、目標個数の新規機械学習パイプラインを生成するステップは、
前記目標個数の初期機械学習パイプラインにおける機械学習パイプラインについて、該初期機械学習パイプラインの少なくとも１つのデータ処理フェーズおよび／またはモデルトレーニングフェーズに対応するモデルにおける事前に設定された数のパーツを選択して変更し、新規機械学習パイプラインを生成することを含む、請求項１に記載の方法。
【請求項８】
トレーニング用データ、モデルカテゴリ、目標個数、および評価指標を含むモデリングリクエストを受信するように構成された受信ユニットと、
前記トレーニング用データのタイプと前記モデルカテゴリに基づいて、モデルトレーニングに使用される前記目標個数の初期機械学習パイプラインを決定するように構成された決定ユニットと、
前記目標個数の初期機械学習パイプラインを使用して、モデル生成ステップを実行するように構成された生成ユニットと、を含み、
前記生成ユニットは、
前記目標個数の初期機械学習パイプラインに基づいて、目標個数の新規機械学習パイプラインを生成するように構成された第１生成モジュールと、
前記トレーニング用データ、前記目標個数の初期機械学習パイプライン、および前記目標個数の新規機械学習パイプラインに基づいてモデルトレーニングを実行して、トレーニング済みモデルを生成するように構成された第２生成モジュールと、
前記評価指標に基づいて、それぞれ取得したトレーニング済みモデルを評価するように構成された評価モジュールと、
事前に設定されたトレーニング終了条件に達しているかどうかを判定するように構成された条件判定モジュールと、
事前に設定されたトレーニング終了条件に達していると判定されたことに対応して、評価結果に基づいて、取得したトレーニング済みモデルからターゲットトレーニング済みモデルを決定するように構成されたモデル決定モジュールと、を含む、情報を生成するための装置。
【請求項９】
前記装置は、
事前に設定されたトレーニング終了条件に達していないと判定されたことに対応して、評価結果に基づいて、前記目標個数の初期機械学習パイプラインと前記目標個数の新規機械学習パイプラインから前記目標個数の機械学習パイプラインを初期機械学習パイプラインとして選択して、引き続き前記モデル生成ステップを実行するように構成された選択ユニットをさらに含む、請求項８に記載の装置。
【請求項１０】
前記装置は、
前記ターゲットトレーニング済みモデルに対するモデルファイルを生成し、前記ターゲットトレーニング済みモデルを評価するように構成されたファイル生成ユニットと、
前記モデルファイルと前記ターゲットトレーニング済みモデルの評価結果をプッシュするように構成されたプッシュユニットと、をさらに含む、請求項８に記載の装置。
【請求項１１】
前記モデリングリクエストは最大反復回数をさらに含み、
前記トレーニング終了条件は、
前記モデル生成ステップを実行する回数が前記最大反復回数に達していることと、
前記モデル生成ステップを実行する回数は前記最大反復回数に達していないと判定されたことに対応して、事前に設定された回数まで前記モデル生成ステップを連続して実行して取得した最適なトレーニング済みモデルの評価結果が変わらないことと、を含む、請求項８に記載の装置。
【請求項１２】
前記第１生成モジュールはさらに、
事前に設定された交換比率に基づいて、前記目標個数の初期機械学習パイプラインから初期機械学習パイプラインを選択して、初期機械学習パイプラインのサブセットを形成し、前記初期機械学習パイプラインのサブセットにおける２つずつの初期機械学習パイプラインに基づいて、データ交換ステップを実行し、
前記目標個数の初期機械学習パイプラインにおける、前記初期機械学習パイプラインのサブセットに含まれる初期機械学習パイプライン以外の初期機械学習パイプラインについて、該初期機械学習パイプラインに基づいて、新規機械学習パイプラインを生成するように構成されており、
前記データ交換ステップは、
選択した２つの初期機械学習パイプラインに対応する２つのモデルが同じであるかどうかを判定するステップと、
同じであると判定されたことに対応して、２つのモデルのモデルパラメーターを交換し、２つの新規機械学習パイプラインを取得するステップと、
同じではないと判定されたことに対応して、選択した２つの初期機械学習パイプラインに対応するモデルを交換し、２つの新規機械学習パイプラインを取得するステップと、を含む、請求項８に記載の装置。
【請求項１３】
前記第１生成モジュールはさらに、
前記目標個数の初期機械学習パイプラインから２つの初期機械学習パイプラインを選択し、データ交換ステップを実行し、
前記目標個数の初期機械学習パイプラインから、前記データ交換ステップを実行していない２つの初期機械学習パイプラインを選択し、引き続き前記データ交換ステップを実行するように構成されており、
前記データ交換ステップは、
選択した２つの初期機械学習パイプラインに対応する２つのモデルが同じであるかどうかを判定するステップと、
同じであると判定されたことに対応して、２つのモデルのモデルパラメーターを交換し、２つの新規機械学習パイプラインを取得するステップと、
同じではないと判定されたことに対応して、選択した２つの初期機械学習パイプラインに対応するモデルを交換し、２つの新規機械学習パイプラインを取得するステップと、を含む、請求項８に記載の装置。
【請求項１４】
初期機械学習パイプラインは、少なくとも１つのデータ処理フェーズと１つのモデルトレーニングフェーズとを含み、
前記第１生成モジュールはさらに、前記目標個数の初期機械学習パイプラインにおける機械学習パイプラインについて、該初期機械学習パイプラインの少なくとも１つのデータ処理フェーズおよび／またはモデルトレーニングフェーズに対応するモデルにおける事前に設定された数のパーツを選択して変更し、新規機械学習パイプラインを生成するように構成されている、請求項８に記載の装置。
【請求項１５】
１つまたは複数のプロセッサと、
１つまたは複数のプログラムが格納されている記憶装置と、を含み、
前記１つまたは複数のプログラムが前記１つまたは複数のプロセッサによって実行されると、前記１つまたは複数のプロセッサに請求項１〜７のいずれか１項に記載の方法を実施させる機器。
【請求項１６】
コンピュータープログラムが格納されているコンピューター可読媒体であって、前記プログラムがプロセッサによって実行されると、請求項１〜７のいずれか１項に記載の方法を実施するコンピューター可読媒体。
【請求項１７】
コンピュータプログラムであって、
前記コンピュータプログラムがプロセッサにより実行されると、請求項１〜７のいずれか１項に記載の方法を実施するコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示の実施形態は、コンピューター技術の分野に関し、特に、情報を生成するための方法および装置に関する。
【背景技術】
【０００２】
機械学習の分野では、機械学習アルゴリズムを使用したモデリングのハードルが高く、モデルパラメーターを手動で調整するのに時間がかかるため、自動モデリングが注目されている。自動モデリングは使いやすく、機械学習が苦手な人でもすぐに使用できる。モデリングプロセスとパラメーターを手動で調整するのにかかる時間も大幅に短縮できる。ターゲット自動化モデリングはまだ発展途上にあり、多くの研究がまだ模索段階にある。
【発明の概要】
【課題を解決するための手段】
【０００３】
本開示の実施形態は、情報を生成する方法および装置を提案する。
【０００４】
第１の態様では、本開示の実施形態は、トレーニング用データ、モデルカテゴリ、目標個数、および評価指標を含むモデリングリクエストを受信するステップと、前記トレーニング用データのタイプと前記モデルカテゴリに基づいて、モデルトレーニングに使用される前記目標個数の初期機械学習パイプラインを決定するステップと、前記目標個数の初期機械学習パイプラインを使用して、モデル生成ステップを実行するステップと、を含み、前記モデル生成ステップは、前記目標個数の初期機械学習パイプラインに基づいて、目標個数の新規機械学習パイプラインを生成するステップと、前記トレーニング用データ、前記目標個数の初期機械学習パイプライン、および前記目標個数の新規機械学習パイプラインに基づいてモデルトレーニングを実行して、トレーニング済みモデルを生成するステップと、前記評価指標に基づいて、それぞれ取得したトレーニング済みモデルを評価するステップと、事前に設定されたトレーニング終了条件に達しているかどうかを判定するステップと、事前に設定されたトレーニング終了条件に達していると判定されたことに対応して、評価結果に基づいて、取得したトレーニング済みモデルからターゲットトレーニング済みモデルを決定するステップと、を含む、情報を生成するための方法を提供する。
【０００５】
いくつかの実施形態において、前記方法は、事前に設定されたトレーニング終了条件に達していないと判定されたことに対応して、評価結果に基づいて、前記目標個数の初期機械学習パイプラインと前記目標個数の新規機械学習パイプラインから前記目標個数の機械学習パイプラインを初期機械学習パイプラインとして選択して、引き続き前記モデル生成ステップを実行するステップをさらに含む。
【０００６】
いくつかの実施形態において、前記方法は、前記ターゲットトレーニング済みモデルに対するモデルファイルを生成し、前記ターゲットトレーニング済みモデルを評価するステップと、前記モデルファイルと前記ターゲットトレーニング済みモデルの評価結果をプッシュするステップと、をさらに含む。
【０００７】
いくつかの実施形態において、前記モデリングリクエストは最大反復回数をさらに含み、前記トレーニング終了条件は、前記モデル生成ステップを実行する回数が前記最大反復回数に達していることと、前記モデル生成ステップを実行する回数は前記最大反復回数に達していないと判定されたことに対応して、事前に設定された回数まで前記モデル生成ステップを連続して実行して取得した最適なトレーニング済みモデルの評価結果が変わらないことと、を含む。
【０００８】
いくつかの実施形態において、前記目標個数の初期機械学習パイプラインに基づいて、前記目標個数の新規機械学習パイプラインを生成するステップは、事前に設定された交換比率に基づいて、前記目標個数の初期機械学習パイプラインから初期機械学習パイプラインを選択して、初期機械学習パイプラインのサブセットを形成し、前記初期機械学習パイプラインのサブセットにおける２つずつの初期機械学習パイプラインに基づいて、データ交換ステップを実行するステップと、前記目標個数の初期機械学習パイプラインにおける、前記初期機械学習パイプラインのサブセットに含まれる初期機械学習パイプライン以外の初期機械学習パイプラインについて、該初期機械学習パイプラインに基づいて、新規機械学習パイプラインを生成するステップと、を含み、前記データ交換ステップは、選択した２つの初期機械学習パイプラインに対応する２つのモデルが同じであるかどうかを判定するステップと、同じであると判定されたことに対応して、２つのモデルのモデルパラメーターを交換し、２つの新規機械学習パイプラインを取得するステップと、同じではないと判定されたことに対応して、選択した２つの初期機械学習パイプラインに対応するモデルを交換し、２つの新規機械学習パイプラインを取得するステップと、を含む。
【０００９】
いくつかの実施形態において、前記目標個数の初期機械学習パイプラインに基づいて、目標個数の新規機械学習パイプラインを生成するステップは、前記目標個数の初期機械学習パイプラインから２つの初期機械学習パイプラインを選択し、データ交換ステップを実行するステップと、前記目標個数の初期機械学習パイプラインから、前記データ交換ステップを実行していない２つの初期機械学習パイプラインを選択し、引き続き前記データ交換ステップを実行するステップと、を含み、前記データ交換ステップは、選択した２つの初期機械学習パイプラインに対応する２つのモデルが同じであるかどうかを判定するステップと、同じであると判定されたことに対応して、２つのモデルのモデルパラメーターを交換し、２つの新規機械学習パイプラインを取得するステップと、同じではないと判定されたことに対応して、選択した２つの初期機械学習パイプラインに対応するモデルを交換し、２つの新規機械学習パイプラインを取得するステップと、を含む。
【００１０】
いくつかの実施形態において、初期機械学習パイプラインは、少なくとも１つのデータ処理フェーズと１つのモデルトレーニングフェーズとを含み、前記目標個数の初期機械学習パイプラインに基づいて、目標個数の新規機械学習パイプラインを生成するステップは、前記目標個数の初期機械学習パイプラインにおける機械学習パイプラインについて、該初期機械学習パイプラインの少なくとも１つのデータ処理フェーズおよび／またはモデルトレーニングフェーズに対応するモデルにおける事前に設定された数のパーツを選択して変更し、新規機械学習パイプラインを生成することを含む。
【００１１】
第２の態様では、本開示の実施形態は、トレーニング用データ、モデルカテゴリ、目標個数、および評価指標を含むモデリングリクエストを受信するように構成された受信ユニットと、前記トレーニング用データのタイプと前記モデルカテゴリに基づいて、モデルトレーニングに使用される前記目標個数の初期機械学習パイプラインを決定するように構成された決定ユニットと、前記目標個数の初期機械学習パイプラインを使用して、モデル生成ステップを実行するように構成された生成ユニットと、を含み、前記生成ユニットは、前記目標個数の初期機械学習パイプラインに基づいて、目標個数の新規機械学習パイプラインを生成するように構成された第１生成モジュールと、前記トレーニング用データ、前記目標個数の初期機械学習パイプライン、および前記目標個数の新規機械学習パイプラインに基づいてモデルトレーニングを実行して、トレーニング済みモデルを生成するように構成された第２生成モジュールと、前記評価指標に基づいて、それぞれ取得したトレーニング済みモデルを評価するように構成された評価モジュールと、事前に設定されたトレーニング終了条件に達しているかどうかを判定するように構成された条件判定モジュールと、事前に設定されたトレーニング終了条件に達していると判定されたことに対応して、評価結果に基づいて、取得したトレーニング済みモデルからターゲットトレーニング済みモデルを決定するように構成されたモデル決定モジュールと、を含む、情報を生成するための装置を提供する。
【００１２】
いくつかの実施形態において、前記装置は、事前に設定されたトレーニング終了条件に達していないと判定されたことに対応して、評価結果に基づいて、前記目標個数の初期機械学習パイプラインと前記目標個数の新規機械学習パイプラインから前記目標個数の機械学習パイプラインを初期機械学習パイプラインとして選択して、引き続き前記モデル生成ステップを実行するように構成された選択ユニットをさらに含む。
【００１３】
いくつかの実施形態において、前記装置は、前記ターゲットトレーニング済みモデルに対するモデルファイルを生成し、前記ターゲットトレーニング済みモデルを評価するように構成されたファイル生成ユニットと、前記モデルファイルと前記ターゲットトレーニング済みモデルの評価結果をプッシュするように構成されたプッシュユニットと、をさらに含む。
【００１４】
いくつかの実施形態において、前記モデリングリクエストは最大反復回数をさらに含み、前記トレーニング終了条件は、前記モデル生成ステップを実行する回数が前記最大反復回数に達していることと、前記モデル生成ステップを実行する回数は前記最大反復回数に達していないと判定されたことに対応して、事前に設定された回数まで前記モデル生成ステップを連続して実行して取得した最適なトレーニング済みモデルの評価結果が変わらないことと、を含む。
【００１５】
いくつかの実施形態において、前記第１生成モジュールはさらに、事前に設定された交換比率に基づいて、前記目標個数の初期機械学習パイプラインから初期機械学習パイプラインを選択して、初期機械学習パイプラインのサブセットを形成し、前記初期機械学習パイプラインのサブセットにおける２つずつの初期機械学習パイプラインに基づいて、データ交換ステップを実行し、前記目標個数の初期機械学習パイプラインにおける、前記初期機械学習パイプラインのサブセットに含まれる初期機械学習パイプライン以外の初期機械学習パイプラインについて、該初期機械学習パイプラインに基づいて、新規機械学習パイプラインを生成するように構成されており、前記データ交換ステップは、選択した２つの初期機械学習パイプラインに対応する２つのモデルが同じであるかどうかを判定するステップと、同じであると判定されたことに対応して、２つのモデルのモデルパラメーターを交換し、２つの新規機械学習パイプラインを取得するステップと、同じではないと判定されたことに対応して、選択した２つの初期機械学習パイプラインに対応するモデルを交換し、２つの新規機械学習パイプラインを取得するステップと、を含む。
【００１６】
いくつかの実施形態において、前記第１生成モジュールはさらに、前記目標個数の初期機械学習パイプラインから２つの初期機械学習パイプラインを選択し、データ交換ステップを実行し、前記目標個数の初期機械学習パイプラインから、前記データ交換ステップを実行していない２つの初期機械学習パイプラインを選択し、引き続き前記データ交換ステップを実行するように構成されており、前記データ交換ステップは、選択した２つの初期機械学習パイプラインに対応する２つのモデルが同じであるかどうかを判定するステップと、同じであると判定されたことに対応して、２つのモデルのモデルパラメーターを交換し、２つの新規機械学習パイプラインを取得するステップと、同じではないと判定されたことに対応して、選択した２つの初期機械学習パイプラインに対応するモデルを交換し、２つの新規機械学習パイプラインを取得するステップと、を含む。
【００１７】
いくつかの実施形態において、初期機械学習パイプラインは、少なくとも１つのデータ処理フェーズと１つのモデルトレーニングフェーズとを含み、
前記第１生成モジュールはさらに、前記目標個数の初期機械学習パイプラインにおける機械学習パイプラインについて、該初期機械学習パイプラインの少なくとも１つのデータ処理フェーズおよび／またはモデルトレーニングフェーズに対応するモデルにおける事前に設定された数のパーツを選択して変更し、新規機械学習パイプラインを生成するように構成されている。
【００１８】
第３の態様では、本開示の実施形態は、１つまたは複数のプロセッサと、１つまたは複数のプログラムが格納されている記憶装置と、を含み、前記１つまたは複数のプログラムが前記１つまたは複数のプロセッサによって実行されると、前記１つまたは複数のプロセッサに第１の態様のいずれかに記載された方法を実施させる機器を提供する。
【００１９】
第４の態様では、本開示の実施形態は、コンピュータープログラムが格納されているコンピューター可読媒体であって、前記プログラムがプロセッサによって実行されると、第１の態様のいずれかに記載された方法を実施するコンピューター可読媒体を提供する。
【００２０】
本開示の実施形態によって提供される情報を生成するための方法および装置は、モデリングリクエストを受信し、モデリングリクエストにおけるトレーニング用データのタイプとモデルカテゴリに基づいて目標個数の初期機械学習パイプラインを決定し、目標個数の初期機械学習パイプラインを使用して次のようなモデル生成ステップを実行する。モデル生成ステップにおいて、まず、目標個数の初期機械学習パイプラインに基づいて目標個数の新規機械学習パイプラインを生成し、次に、トレーニング用データ、目標個数の初期機械学習パイプライン、および目標個数の新規機械学習パイプラインに基づいてモデルトレーニングを実行し、トレーニング済みモデルを生成し、さらに、評価指標に基づいて、それぞれ取得したトレーニング済みモデルを評価し、最後に、事前に設定されたトレーニング終了条件に達しているかどうかを判定し、事前に設定されたトレーニング終了条件に達している場合、評価結果に基づいて、取得したトレーニング済みモデルからターゲットトレーニング済みモデルを決定する。これらにより、モデルの自動生成が実現される。
【００２１】
以下の図面を参照しながら行った非限定的な実施形態に関する詳細な説明を読むと、本開示の他の特徴、目的、および利点はより明らかになるであろう。
【図面の簡単な説明】
【００２２】
【図１】本開示の一実施形態が適用され得る例示的なシステムアーキテクチャ図である。
【図２】本開示による情報を生成するための方法の一実施形態のフローチャートである。
【図３】本開示による情報を生成するための方法の一適用シナリオの概略図。
【図４】本開示による情報を生成するための方法の別の実施形態のフローチャートである。
【図５】本開示による情報を生成するための装置の一実施形態の構造概略図である。
【図６】本開示の実施形態の実施に適する機器のコンピューターシステムの構造概略図である。
【発明を実施するための形態】
【００２３】
以下、添付の図面と実施形態を参照しながら本開示をさらに詳しく説明する。本明細書に記載される特定の実施形態は、関連する発明の説明に供するためのものであって、該発明に対する限定でないことを理解されたい。また、説明の便宜上、関連する発明に関連する部分しか図面に示されていないことにも留意されたい。
【００２４】
本開示の実施形態および実施形態の特徴は、矛盾しない前提で、相互に組み合わせることができることに留意されたい。以下、図面および実施形態を参照して、本開示を詳細に説明する。
【００２５】
図１は、本開示の実施形態が適用され得る、情報を生成するための方法または情報を生成するための装置の例示的なシステムアーキテクチャ１００を示している。
【００２６】
図１に示されるように、システムアーキテクチャ１００は、端末装置１０１、１０２、１０３と、ネットワーク１０４と、サーバー１０５と、を含むことができる。ネットワーク１０４は、端末装置１０１、１０２、１０３とサーバー１０５との間の通信リンクの媒体を提供する。ネットワーク１０４は、有線、無線通信リンクまたは光ファイバーケーブルなどのさまざまなタイプの接続を含むことができる。
【００２７】
ユーザーは、メッセージを送受信することなどのために、端末装置１０１、１０２、１０３を使用して、ネットワーク１０４を介してサーバー１０５と対話することができる。自動モデリングソフトウェア、Ｗｅｂブラウザアプリケーション、ソーシャルプラットフォームソフトウェアなどのさまざまな通信クライアントアプリケーションを、端末装置１０１、１０２、１０３にインストールすることができる。
【００２８】
端末装置１０１、１０２、１０３は、ハードウェアであってもソフトウェアであってもよい。端末装置１０１、１０２、１０３がハードウェアである場合、それらは、スマートフォン、タブレット、ラップトップポータブルコンピューター、デスクトップコンピューターなどを含むがこれらに限定されない、表示画面を有し情報入力をサポートするさまざまな電子機器であり得る。端末装置１０１、１０２、１０３がソフトウェアである場合、上記の電子機器にインストールすることができる。複数のソフトウェアもしくはソフトウェアモジュール（例えば、分散サービスを提供するため）として、または単一のソフトウェアもしくはソフトウェアモジュールとして実施することができる。ここでは特に限定されない。
【００２９】
サーバー１０５は、端末装置１０１、１０２、１０３によって送信されたモデリングリクエストに基づいてターゲットトレーニング済みモデルを生成するバックグラウンドサーバーなど、さまざまなサービスを提供するサーバーであり得る。バックグラウンドサーバーは、受信したモデリングリクエストなどについて分析などの処理を行い、処理結果（例えば、生成されたモデル）を端末装置１０１、１０２、１０３にフィードバックすることができる。サーバー１０５は、ハードウェアであってもソフトウェアであってもよいことに留意されたい。サーバー１０５がハードウェアである場合、複数のサーバーで構成される分散サーバークラスターとして実施することも、単一のサーバーとして実施することも可能である。サーバー１０５がソフトウェアである場合、複数のソフトウェアもしくはソフトウェアモジュール（例えば、分散サービスを提供するため）として、または単一のソフトウェアもしくはソフトウェアモジュールとして実施することができる。ここでは特に限定されない。
【００３０】
図１の端末装置、ネットワーク、およびサーバーの数は、単なる例示的なものであることを理解されたい。実施のニーズに応じて、任意の数の端末装置、ネットワーク、およびサーバーが存在してもよい。
【００３１】
本開示の実施形態によって提供される情報を生成するための方法は、端末装置１０１、１０２、１０３によって実行されることも、サーバー１０５によって実行されることも可能であることに留意されたい。同様に、情報を生成するための装置は、端末装置１０１、１０２、１０３に設けられることも、サーバー１０５に設けられることも可能である。
【００３２】
引き続き図２を参照すると、本開示による情報を生成するための方法の一実施形態のフロー２００が示されている。情報を生成するための方法は、次のステップ（ステップ２０１〜２０３）を含む。
【００３３】
ステップ２０１：モデリングリクエストを受信する。
【００３４】
本実施形態において、情報を生成するための方法の実行主体（例えば、図１に示される端末装置１０１、１０２、１０３またはサーバー１０５）は、モデリングリクエストを受信することができる。例えば、実行主体が端末装置である場合、実行主体はユーザーが入力したモデリングリクエストを直接受信することができる。実行主体がサーバーである場合、実行主体は有線接続方式または無線接続方式を通じて、ユーザーによる情報入力に使用された端末から、モデリングリクエストを受信することができる。ここで、モデリングリクエストは、トレーニング用データ、モデルカテゴリ、目標個数、評価指標などを含む。該トレーニング用データは、機械学習モデルをトレーニングするためのデータで有り得る。モデルカテゴリは、ユーザーの取得すべきモデルのタイプであり得る。例えば、モデルのタイプは、２カテゴリモデル、マルチカテゴリモデル、クラスターモデル、回帰モデルなどを含み得る。目標個数は、トレーニング用データのタイプに基づいて生成された初期機械学習パイプラインの数を示し得る。該トレーニング用データのタイプは、文字列タイプと数値タイプを含み得る。評価指標を使用して、モデルのトレーニングプロセスにおいて、トレーニングされたモデルを評価することができる。
【００３５】
実際には、各モデルのタイプについて、実行主体は、ユーザーがモデリングリクエストを入力する際にモデリングリクエストの１つを選択できるように、複数の異なる評価指標を事前に設定することができる。例えば、２カテゴリモデルについて設定された評価指標は、ＡＵＣ（Ａｒｅａ  Ｕｎｄｅｒ  Ｃｕｒｖｅ，ＲＯＣ曲線下の座標軸とによって囲まれる面積）、ａｃｃｕｒａｃｙ（精度）、ｐｒ曲線、ｌｏｇｌｏｓｓ（対数損失）、ｐｒｅｃｉｓｉｏｎ（精度率）、ｒｅｃａｌｌ（リコール率）、ｆ１値、ｋｓ値などを含むが、これらに限定されない。マルチカテゴリモデルについて事前に設定された評価指標は、ａｃｃｕｒａｃｙ、ｐｒｅｃｉｓｉｏｎ、ｒｅｃａｌｌ、ｆ１値などを含むが、これらに限定されない。クラスターモデルについて設定された評価指標は、輪郭係数を含むが、これに限定されない。回帰モデルについて設定された評価指標は、ＲＭＳＥ（Ｒｏｏｔ  Ｍｅａｎ  Ｓｑｕａｒｅｄ  Ｅｒｒｏｒ，  二乗平均平方根誤差）、ＭＳＥ（Ｍｅａｎ  Ｓｑｕａｒｅｄ  Ｅｒｒｏｒ，平均二乗誤差）、ＭＡＥ（Ｍｅａｎ  Ａｂｓｏｌｕｔｅ  Ｅｒｒｏｒ，平均絶対誤差）、ＭＡＰＥ（Ｍｅａｎ  Ａｂｓｏｌｕｔｅ  Ｐｅｒｃｅｎｔａｇｅ  Ｅｒｒｏｒ，平均絶対パーセント誤差）、ＳＳＲＥＧ（ｓｕｍ  ｏｆ  ｓｑｕａｒｅｓ  ｆｏｒ  ｒｅｇｒｅｓｓｉｏｎ，回帰平方和）、Ｒ２などを含むが、これらに限定されない。
【００３６】
ステップ２０２：トレーニング用データのタイプとモデルカテゴリに基づいて、目標個数の初期機械学習パイプラインを決定する。
【００３７】
本実施形態では、実行主体は、モデリングリクエストにおけるトレーニング用データのタイプとモデルカテゴリに基づいて、目標個数の初期機械学習パイプラインを決定することができる。例えば、トレーニング用データのタイプは、文字列タイプと数値タイプを含み得る。ここで、初期機械学習パイプラインを使用してモデルトレーニングを実行することができる。初期機械学習パイプラインは、少なくとも１つのデータ処理フェーズと１つのモデルトレーニングフェーズを含み得る。ここで、モデルトレーニングフェーズは、機械学習モデルのトレーニングに使用され、モデルトレーニングフェーズでトレーニングされたモデルのタイプは、上記のモデルカテゴリと同じである。
【００３８】
通常、１つの機械学習モデルの生成プロセスは、データ収集から始まり、ソースデータの抽出、変換、前処理、特徴エンジニアリング、特徴選択、モデルトレーニングなどのいくつかのフェーズを経てはじめて、トレーニング済み機械学習モデルを取得できる。全体のプロセスは、組み立てラインの作業に似ている。各フェーズは、組み立てラインの作業の１つのワークフローフェーズと見なすことができる。このような組み立てラインの作業は、機械学習パイプラインと見なすこともできる。機械学習パイプラインは、少なくとも１つのデータ処理フェーズとモデルトレーニングフェーズを整然と組み合わせて、機械学習モデルトレーニングのワークフローを形成することができる。
【００３９】
実際には、各タイプのトレーニング用データについては、実行主体の内部に複数のタイプのフェーズの組み合わせを事前に設定することができ、各タイプのフェーズの組み合わせに複数のフェーズが含まれており、各タイプのフェーズの組み合わせは１つの機械学習パイプラインを構築することができる。このようにして、実行主体は、受信したトレーニング用データのタイプとモデルカテゴリに基づいて、該タイプについて設定された複数のタイプのフェーズの組み合わせからフェーズの組み合わせを選択（例えば、ランダムに選択）して、機械学習パイプラインを構築することができる。例えば、数値タイプの場合、実行主体は次のような複数のタイプのフェーズの組み合わせを事前に設定することができる。１）特徴ベクトル化＋モデルトレーニング。２）データビニング＋特徴ベクトル化＋モデルトレーニング。３）特徴ベクトル化＋特徴エンジニアリング＋モデルトレーニング。４）特徴ベクトル化＋特徴選択＋モデルトレーニング。５）データビニング＋特徴ベクトル化＋特徴エンジニアリング＋モデルトレーニング。６）データビニング＋特徴ベクトル化＋特徴選択＋モデルトレーニング。７）特徴ベクトル化＋特徴選択＋特徴エンジニアリング＋モデルトレーニング。８）データビニング＋特徴ベクトル化＋特徴選択＋特徴エンジニアリング＋モデルトレーニング。例えば、文字列タイプの場合、実行主体は次のような複数のタイプのフェーズの組み合わせを事前に設定することができる。１）数値化＋ワンホットエンコーディング＋特徴ベクトル化＋モデルトレーニング。２）数値化＋ワンホットエンコーディング＋データビニング＋特徴ベクトル化＋モデルトレーニング。３）数値化＋ワンホットエンコーディング＋特徴ベクトル化＋特徴エンジニアリング＋モデルトレーニング。４）数値化＋ワンホットエンコーディング＋特徴ベクトル化＋特徴選択＋モデルトレーニング。５）数値化＋ワンホットエンコーディング＋データビニング＋特徴ベクトル化＋特徴エンジニアリング＋モデルトレーニング。６）数値化＋ワンホットエンコーディング＋データビニング＋特徴ベクトル化＋特徴選択＋モデルトレーニング。７）数値化＋ワンホットエンコーディング＋特徴ベクトル化＋特徴選択＋特徴エンジニアリング＋モデルトレーニング。８）数値化＋ワンホットエンコーディング＋データビニング＋特徴ベクトル化＋特徴選択＋特徴エンジニアリング＋モデルトレーニング。実際には、決定された目標個数の初期機械学習パイプラインにおける各初期機械学習パイプラインのモデルトレーニングフェーズに対応するモデルのタイプは、モデリングリクエストにおけるモデルカテゴリと同じである。
【００４０】
ここで、フェーズの組み合わせにおけるいくつかのフェーズは、実行主体による選択（例えば、ランダムな選択）に供するための複数の方法を含むこともできる。例えば、特徴エンジニアリングは、数値化、ワンホットエンコーディング、正規化、標準化、正則化、ＩＤＦ（Ｉｎｖｅｒｓｅ  Ｄｏｃｕｍｅｎｔ  Ｆｒｅｑｕｅｎｃｙ，逆文書頻度）計算などを含むが、これらに限定されない。データビニングは、等幅ビニング、等周波数ビニングを含むが、これらに限定されない。特徴選択は、ＰＣＡ（Ｐｒｉｎｃｉｐａｌ  Ｃｏｍｐｏｎｅｎｔｓ  Ａｎａｌｙｓｉｓ，主成分分析）による次元削減、カイ二乗特徴選択、多項式特徴非線形変換などを含むが、これらに限定されない。モデルトレーニングフェーズでトレーニングされたモデルは、２クラスモデル、マルチクラスモデル、回帰モデル、クラスターモデルなどを含み得る。うち、クラスモデルは、ロジスティック回帰、ランダムフォレスト、決定木、単純ベイズアルゴリズム、ｘｇｂｏｏｓｔ（ｅＸｔｒｅｍｅ  Ｇｒａｄｉｅｎｔ  Ｂｏｏｓｔｉｎｇ，極端な勾配ブースト）アルゴリズムなどを含み得る。回帰モデルは、線形回帰、ランダムフォレスト回帰、決定木回帰、ｘｇｂｏｏｓｔ回帰などを含み得る。クラスターリングモデルは、Ｋ平均クラスターリング、ガウス混合クラスターリングなどを含み得る。
【００４１】
ステップ２０３：目標個数の初期機械学習パイプラインを使用して、次のモデル生成ステップ２０３１〜２０３５を実行する。
【００４２】
本実施形態において、実行主体は、ステップ２０２で生成された目標個数の初期機械学習パイプラインを使用して、次のモデル生成ステップ２０３１〜２０３４を実行することができる。
【００４３】
ステップ２０３１：目標個数の初期機械学習パイプラインに基づいて、目標個数の新規機械学習パイプラインを生成する。
【００４４】
本実施形態において、実行主体は、目標個数の初期機械学習パイプラインに基づいて、目標個数の新規機械学習パイプラインを生成することができる。例えば、目標個数が１０であると仮定すると、実行主体は、１０個の初期機械学習パイプラインに基づいて１０個の新規機械学習パイプラインを生成することができる。
【００４５】
本実施形態のいくつかのオプションの実施方法では、上記のステップ２０３１は、次のように具体的に実行され得る。
【００４６】
ステップＳ１：事前に設定された交換比率に基づいて、目標個数の初期機械学習パイプラインから初期機械学習パイプラインを選択して、初期機械学習パイプラインのサブセットを形成し、初期機械学習パイプラインのサブセットにおける２つずつの初期機械学習パイプラインに基づいて次のデータ交換ステップＳ１１〜Ｓ１３を実行する。
【００４７】
この実施方法では、交換比率を実行主体に事前に設定することができる。このようにして、実行主体は、交換比率に基づいて、目標個数の初期機械学習パイプラインから偶数個の初期機械学習パイプラインを選択して、初期機械学習パイプラインのサブセットを構成することができる。例えば、実行主体は交換比率と目標個数の積を計算することができる。算出された積が偶数である場合、目標個数の初期機械学習パイプラインから積に相当する個数の初期機械学習パイプラインをランダムに選択して、初期機械学習パイプラインのサブセットを構成する。算出された積が奇数である場合、目標個数の初期機械学習パイプラインから積＋１（または積−１）個の初期機械学習パイプラインをランダムに選択して、初期機械学習パイプラインのサブセットを構成する。その後、実行主体は、初期機械学習パイプラインのサブセットにおける偶数個の初期機械学習パイプラインについて、２つずつをランダムにペアリングすることができる。初期機械学習パイプラインの各ペアは、次のデータ交換ステップＳ１１〜Ｓ１３を実行する。
【００４８】
ステップＳ１１：選択された２つの初期機械学習パイプラインに対応する２つのモデルが同じかどうかを判定する。
【００４９】
この実施方法では、実行主体は、初期機械学習パイプラインの各ペアにおける選択された２つの初期機械学習パイプラインに対応する２つのモデルが同じかどうかを判定することができる。ここで、１つの初期機械学習パイプラインに対応するモデルとは、該初期機械学習パイプラインのモデルトレーニングフェーズでトレーニングすべき機械学習モデルを指し得る。例えば、実行主体は、モデル構造に基づいて２つのモデルが同じかどうかを判定することができる。モデル構造が同じである場合は、２つのモデルが同じであると判定することができ、モデル構造が異なる場合は、２つのモデルが異なると判定することができる。
【００５０】
ステップＳ１２：同じであると判定されたことに対応して、２つのモデルのモデルパラメーターを交換し、２つの新規機械学習パイプラインを取得する。
【００５１】
この実施方法では、２つの初期機械学習パイプラインに対応する２つのモデルが同じである場合、実行主体は、２つのモデルのモデルパラメーターを交換することができる。例えば、２つのモデルのすべてのモデルパラメーターを交換してもよく、モデルパラメーターの一部をランダムに交換してもよい。その結果、２つの新規機械学習パイプラインを取得することができる。例えば、初期機械学習パイプライン１にはデータビニング＋特徴ベクトル化＋決定木モデルトレーニングが含まれ、初期機械学習パイプライン２には特徴ベクトル化＋特徴選択＋特徴エンジニアリング＋決定木モデルトレーニングが含まれているとする。初期機械学習パイプライン１と初期機械学習パイプライン２に対応するモデルはいずれも決定木モデルである場合、決定木モデルのモデルパラメーターを交換することにより、モデルパラメーターが変更された２つの新規機械学習パイプラインを取得することができる。
【００５２】
ステップＳ１３：同じではないと判定されたことに対応して、選択された２つの初期機械学習パイプラインに対応するモデルを交換し、２つの新規機械学習パイプラインを取得する。
【００５３】
この実施方法では、２つの初期機械学習パイプラインに対応する２つのモデルが異なる場合、実行主体は、選択された２つの初期機械学習パイプラインに対応するモデルを交換することにより、２つの新規機械学習パイプラインを取得することができる。
【００５４】
ステップＳ２：目標個数の初期機械学習パイプラインにおける、初期機械学習パイプラインのサブセットに含まれる初期機械学習パイプライン以外の初期機械学習パイプラインについて、該初期機械学習パイプラインに基づいて、新規機械学習パイプラインを生成する。
【００５５】
この実施方法では、上記の目標個数の初期機械学習パイプラインにおける、初期機械学習パイプラインのサブセットに含まれる初期機械学習パイプライン以外の各初期機械学習パイプラインについて、実行主体は、該初期機械学習パイプラインに基づいて、１つの新規機械学習パイプラインを生成することができる。例えば、実行主体は、該初期機械学習パイプラインにおける１つまたは複数のデータ処理フェーズをランダムに選択して、ランダムな方法変更、ランダムなパラメーター変更などを行うことができる。
【００５６】
この実施方法で新規機械学習パイプラインを生成する方法は、遺伝的アルゴリズム（Ｇｅｎｅｔｉｃ  Ａｌｇｏｒｉｔｈｍ，ＧＡ）における交叉と変異に似ている。遺伝的アルゴリズムにおける交叉の概念は、優秀な個体と優秀な個体の結合により、より良い個体を生み出す可能性が高く、それにより個体が最適な値になりやすいということである。遺伝的アルゴリズムにおける変異の概念は、個体の突然な変異により、より良い個体を生み出す可能性もあれば、より悪い個体を生み出す可能性もある。悪い個体は後の反復で捨てられ、良い個体はより良い個体を生み出すために保持される。変異により、最適化されたパスがローカル最適値から飛び出し、グローバル最適値になる傾向がある。遺伝的アルゴリズムにおける交叉と変異の概念に基づいて機械学習パイプラインに対応するモデルとパラメーターを変更することにより、新規機械学習パイプラインは、後続の選択と使用のために自動化モデリングプロセスで継続的に生成される。その後、モデル生成ステップのループ実行により、より良いモデルを生成することができる。
【００５７】
本実施形態のいくつかのオプションの実施方法では、上記のステップ２０３１は次のステップをさらに含むことができる。
【００５８】
ステップ１：目標個数の初期機械学習パイプラインから２つの初期機械学習パイプラインを選択し、次のデータ交換ステップ１）から３）を実行する。
【００５９】
この実施方法では、上記の目標個数は偶数である。実行主体は、目標個数の初期機械学習パイプラインから２つの初期機械学習パイプラインをランダムに選択し、データ交換ステップ１）〜３）を実行することができる。
【００６０】
ステップ１）：選択された２つの初期機械学習パイプラインに対応する２つのモデルが同じかどうかを判定する。
【００６１】
この実施方法では、実行主体は、選択された２つの初期機械学習パイプラインに対応する２つのモデルが同じかどうかを判定することができる。
【００６２】
ステップ２）：同じであると判定されたことに対応して、２つのモデルのモデルパラメーターを交換して、２つの新規機械学習パイプラインを取得する。
【００６３】
この実施方法では、２つの初期機械学習パイプラインに対応する２つのモデルが同じであると判定された場合、実行主体は、これら２つのモデルのモデルパラメーターを交換することにより、２つの新規機械学習パイプラインを取得することができる。
【００６４】
ステップ３）：同じではないと判定されたことに対応して、選択された２つの初期機械学習パイプラインに対応するモデルを交換し、２つの新規機械学習パイプラインを取得する。
【００６５】
この実施方法では、選択された２つの初期機械学習パイプラインに対応する２つのモデルが同じではないと判定された場合、実行主体は、選択された２つの初期機械学習パイプラインに対応するモデルを交換することにより、２つの新規機械学習パイプラインを取得することができる。
【００６６】
ステップ２：目標個数の初期機械学習パイプラインからデータ交換ステップを実行していない２つの初期機械学習パイプラインを選択して、引き続きデータ交換ステップを実行する。
【００６７】
この実施方法では、実行主体はさらに、目標個数の初期機械学習パイプラインがすべて上記のデータ交換ステップを実行するまで、目標個数の初期機械学習パイプラインから上記のデータ交換ステップを実行していない２つの初期機械学習パイプラインを改めて選択して、引き続き上記のデータ交換ステップを実行することができる。
【００６８】
本実施形態のいくつかのオプションの実施方法では、上記のステップ２０３１は、次のステップをさらに含むことができる。目標個数の初期機械学習パイプラインにおける機械学習パイプラインについて、該初期機械学習パイプラインの少なくとも１つのデータ処理フェーズおよび／またはモデルトレーニングフェーズに対応するモデルにおける事前に設定された数のパーツを選択して変更させ、新規機械学習パイプラインを生成する。
【００６９】
この実施方法では、上記の目標個数の初期機械学習パイプラインにおける各機械学習パイプラインについて、実行主体は、該初期機械学習パイプラインの少なくとも１つのデータ処理フェーズおよび／またはモデルトレーニングフェーズに対応するモデルにおける事前に設定された数のパーツをランダムに選択して変更させる（例えば、ランダムな方法変更、ランダムなパラメーター変更）ことにより、１つの新規機械学習パイプラインを生成することができる。
【００７０】
ステップ２０３２：トレーニングデータ、目標個数の初期機械学習パイプライン、および目標個数の新規機械学習パイプラインに基づいてモデルトレーニングを実行して、トレーニング済みモデルを生成する。
【００７１】
本実施形態では、実行主体は、トレーニングデータ、目標個数の初期機械学習パイプライン、および目標個数の新規機械学習パイプラインに基づいてモデルトレーニングを実行することにより、トレーニング済みモデルを生成することができる。具体的には、目標個数の初期機械学習パイプラインと目標個数の新規機械学習パイプラインにおける各機械学習パイプラインについて、実行主体は、トレーニング用データを入力データとして該機械学習パイプラインに入力することができる。入力データは、ストリーム方式で、順番に該機械学習パイプラインにおける各データ処理フェーズによって処理される。つまり、１つのデータ処理フェーズでデータが処理された後、処理結果が次のデータ処理フェーズに送信され、さらに処理される。これにより、モデルのトレーニングを完了し、トレーニング済みモデルを取得する。ここでは、１つの機械学習パイプラインを通じて、１つのトレーニング済みモデルを取得することができる。実際には、モデルトレーニングの効率を向上させるために、分散に基づいて、目標個数の初期機械学習パイプラインと目標個数の新規機械学習パイプラインについて、モデルトレーニングを実行することができる。例えば、本実施形態は、Ｓｐａｒｋフレームワークに基づいて設計することができる。Ｓｐａｒｋはもっぱら大規模なデータ処理用に設計された高速で汎用性の高いコンピューティングエンジンである。これにより、モデルのトレーニングの効率を大幅に向上させることができる。
【００７２】
ステップ２０３３：評価指標に基づいて、取得したトレーニング済みモデルをそれぞれ評価する。
【００７３】
本実施形態では、実行主体は、モデリングリクエストにおける評価指標に基づいて、取得した各トレーニング済みモデルをそれぞれ評価して、評価結果を取得することができる。
【００７４】
ステップ２０３４：事前に設定されたトレーニング終了条件に達しているかどうかを判定する。
【００７５】
本実施形態では、実行主体は、事前に設定されたトレーニング終了条件を記憶し、現在の条件がトレーニング終了条件に達しているかどうかを判定することができる。ここで、上記のトレーニング終了条件は、実際のニーズに応じて設定することができる。
【００７６】
本実施形態のいくつかのオプションの実施方式では、ステップ２０１で受信されたモデリングリクエストは、最大反復回数をさらに含むことができる。ここで、最大反復回数とは、ユーザーによって設定された、上記のモデル生成ステップを実行できる回数の最大値を指し得る。
【００７７】
ステップ２０３４におけるトレーニング終了条件は、１）モデル生成ステップを実行する回数は最大反復回数に達していること、２）モデル生成ステップの実行回数が最大反復回数に達していないと判定されたことに対応して、事前に設定された回数までモデル生成ステップを連続して実行して取得した最適なトレーニング済みモデルの評価結果が変わらないことと、を含み得る。
【００７８】
この実施方法では、モデル生成ステップを実行するたびに、実行主体は、モデル生成ステップの実行総回数が最大反復回数に達しているかどうかを判定することができる。最大反復回数に達している場合、実行主体は、現在が事前に設定されたトレーニング終了条件１）に達していると判定することができる。最大反復回数に達していない場合、実行主体はさらに、ステップ２０３３の評価結果に基づいて、事前に設定された回数までモデル生成ステップを連続して実行した度に取得した最適なトレーニング済みモデルそれぞれの評価結果が変わっているかどうかを判定することができる。変わっていない場合、実行主体は、現在が事前に設定されたトレーニング終了条件２）に達していると判定することができる。ここで、最適なトレーニング済みモデルとは、モデル生成ステップを実行した度に、モデリングリクエストにおける評価指標に基づいて決定された最適なトレーニング済みモデルを指し得る。
【００７９】
ステップ２０３５：事前に設定されたトレーニング終了条件に達していると判定されたことに対応して、評価結果に基づいて、取得したトレーニング済みモデルからターゲットトレーニング済みモデルを決定する。
【００８０】
本実施形態では、現在が事前に設定されたトレーニング終了条件に達していると判定された場合、実行主体は、評価結果に基づいて、取得したトレーニング済みモデルからターゲットトレーニング済みモデルを決定することができる。例えば、実行主体は、評価結果に基づいて、ステップ２０３２で取得したすべてのトレーニング済みモデルを優劣の順にソートし、１位にランク付けされたトレーニング済みモデルをターゲットトレーニング済みモデルとして選択することができる。
【００８１】
本実施形態のいくつかのオプションの実施方法では、上記の情報を生成する方法は、次のステップをさらに含み得る。
【００８２】
まず、ターゲットトレーニング済みモデルに対するモデルファイルを生成し、ターゲットトレーニング済みモデルを評価する。
【００８３】
本実施形態では、ターゲットトレーニング済みモデルを決定した後、実行主体はさらに、該ターゲットトレーニング済みモデルに対するモデルファイルを生成することができる。例えば、モデルファイルは、ｐｍｍｌ（Ｐｒｅｄｉｃｔｉｖｅ  Ｍｏｄｅｌ  Ｍａｒｋｕｐ  Ｌａｎｇｕａｇｅ，予測モデルマークアップ言語）ファイルであり得る。同時に、実行主体は、事前に設定されたさまざまな評価指標を使用して、ターゲットトレーニング済みモデルを評価することもできる。ここで、ターゲットトレーニング済みモデルの評価に使用される評価指標は、モデリングリクエストにおける評価指標と同じであってもよく、異なっていてもよい。
【００８４】
次に、モデルファイルとターゲットトレーニング済みモデルの評価結果をプッシュする。
【００８５】
本実施形態では、実行主体は、生成されたモデルファイルとターゲットトレーニング済みモデルの評価結果をプッシュすることができる。例えば、実行主体は、モデルファイルとターゲットトレーニング済みモデルの評価結果を、モデリングリクエストを送信したユーザーにプッシュすることができる。ここで、実行主体はさらに、ターゲットトレーニング済みモデルに対応する機械学習パイプラインの各データ処理フェーズの情報をユーザーにプッシュすることもできる。このターゲットトレーニング済みモデルに対応する機械学習パイプラインとは、ターゲットトレーニング済みモデルを生成する機械学習パイプラインを指す。
【００８６】
引き続き図３を参照すると、図３は、本実施形態による情報を生成するための方法の一適用シナリオの概略図である。図３の適用シナリオでは、サーバー３０１は、端末装置３０２を介してユーザーによって送信されたモデリングリクエストを受信する。ここで、モデリングリクエストは、トレーニング用データ、モデルカテゴリ、目標個数１５、および評価指標を含む。その後、サーバー３０１は、トレーニング用データのタイプとモデルカテゴリに基づいて、１５個の初期機械学習パイプラインを決定する。サーバー３０１は、１５個の初期機械学習パイプラインを使用して、次のモデル生成ステップを実行する。まず、１５個の初期機械学習パイプラインに基づいて、１５個の新規機械学習パイプラインを生成する。そして、トレーニング用データ、１５個の初期機械学習パイプライン、および１５個の新規機械学習パイプラインに基づいてモデルトレーニングを実行し、３０個のトレーニング済みモデルを生成する。さらに、評価指標に基づいて、取得した３０個のトレーニング済みモデルをそれぞれ評価する。最後に、事前に設定されたトレーニング終了条件に達しているかどうかを判定し、事前に設定されたトレーニング終了条件に達している場合、評価結果に基づいて、取得した３０個のトレーニング済みモデルから１つの最適なトレーニング済みモデルをターゲットトレーニング済みモデルとして選択して、ターゲットトレーニング済みモデルに対応するモデルファイルを端末装置３０２に送信する。
【００８７】
本開示の上記の実施形態によって提供される方法は、ユーザーによって送信されたモデリングリクエストに基づいてターゲットトレーニング済みモデルを自動的に生成することにより、モデルの自動生成を実現した。
【００８８】
さらに図４を参照すると、情報を生成するための方法の別の実施形態のフロー４００が示されている。この情報を生成するための方法のプロセス４００は、次のステップ（ステップ４０１〜４０４）を含む。
【００８９】
ステップ４０１：モデリングリクエストを受信する。
【００９０】
本実施形態では、ステップ４０１は図２に示された実施形態のステップ２０１に似ているため、詳細な説明はここで省略する。
【００９１】
ステップ４０２：トレーニング用データのタイプとモデルカテゴリに基づいて、目標個数の初期機械学習パイプラインを決定する。
【００９２】
本実施形態では、ステップ４０２は図２に示された実施形態のステップ２０２に似ているため、詳細な説明はここで省略する。
【００９３】
ステップ４０３：目標個数の初期機械学習パイプラインを使用して、次のモデル生成ステップ４０３１〜４０３５を実行する。
【００９４】
本実施形態では、実行主体は、目標個数の初期機械学習パイプラインを使用して、次のモデル生成ステップ４０３１〜４０３５を実行することができる。
【００９５】
ステップ４０３１：目標個数の初期機械学習パイプラインに基づいて、目標個数の新規機械学習パイプラインを生成する。
【００９６】
本実施形態では、ステップ４０３１は図２に示された実施形態のステップ２０３１に似ているため、詳細な説明はここで省略する。
【００９７】
ステップ４０３２：トレーニング用データ、目標個数の初期機械学習パイプライン、および目標個数の新規機械学習パイプラインに基づいてモデルトレーニングを実行して、トレーニング済みモデルを生成する。
【００９８】
本実施形態では、ステップ４０３２は図２に示された実施形態のステップ２０３２に似ているため、詳細な説明はここで省略する。
【００９９】
ステップ４０３３：評価指標に基づいて、取得したトレーニング済みモデルをそれぞれ評価する。
【０１００】
本実施形態では、ステップ４０３３は図２に示された実施形態のステップ２０３３に似ているため、詳細な説明はここで省略する。
【０１０１】
ステップ４０３４：事前に設定されたトレーニング終了条件に達しているかどうかを判定する。
【０１０２】
本実施形態では、ステップ４０３４は図２に示された実施形態のステップ２０３４に似ているため、詳細な説明はここで省略する。
【０１０３】
ステップ４０３５：事前に設定されたトレーニング終了条件に達していると判定されたことに対応して、評価結果に基づいて、取得したトレーニング済みモデルからターゲットトレーニング済みモデルを決定する。
【０１０４】
本実施形態では、ステップ４０３５は図２に示された実施形態のステップ２０３５に似ているため、詳細な説明はここで省略する。
【０１０５】
ステップ４０４：事前に設定されたトレーニング終了条件に達していないと判定されたことに対応して、評価結果に基づいて、目標個数の初期機械学習パイプラインと目標個数の新規機械学習パイプラインから目標個数の機械学習パイプラインを初期機械学習パイプラインとして選択して、引き続きモデル生成ステップを実行する。
【０１０６】
本実施形態では、事前に設定されたトレーニング終了条件に達していないと判定された場合、実行主体は、ステップ４０３３で取得した評価結果に基づいて、目標個数の初期機械学習パイプラインと目標個数の新規機械学習パイプラインから目標個数の機械学習パイプラインを新しい初期機械学習パイプラインとして選択して、引き続き上記のモデル生成ステップを実行することができる。例えば、実行主体は、生成されたトレーニング済みモデルの評価結果に基づいて、目標個数の初期機械学習パイプラインと目標個数の新規機械学習パイプラインを優劣の順にソートし、目標個数における順位が上の機械学習パイプラインを新しい初期機械学習パイプラインとすることができる。例えば、目標個数が１０であり、初期機械学習パイプラインが機械学習パイプライン０〜９を含み、新規機械学習パイプラインが機械学習パイプライン１０〜１９を含むと仮定すると、生成されたトレーニング済みモデルの評価結果に基づいて、機械学習パイプライン０〜９と機械学習パイプライン１０〜１９を優劣の順にソートし、上位１０にランク付けされた１０個の機械学習パイプラインを新しい初期機械学習パイプラインとして選択することができる。
【０１０７】
図４から分かるように、本実施形態における情報を生成するための方法のフロー４００は、図２に対応する実施形態と比較して、「トレーニング終了条件に達していないと判定されたことに対応して、目標個数の初期機械学習パイプラインと目標個数の新規機械学習パイプラインから目標個数の機械学習パイプラインを初期機械学習パイプラインとして選択して、引き続きモデル生成ステップを実行する」ステップを強調している。したがって、本実施形態で説明される技術的解決手段は、モデル生成ステップを繰り返し実行することができ、それにより、自動的に生成されたモデルの効果を改善することができる。
【０１０８】
さらに図５を参照すると、上記のさまざまな図に示された方法の実装として、本開示は、情報を生成するための装置の実施形態を提供する。該装置の実施形態は、図２に示された方法の実施形態に対応する。該装置は、具体的にさまざまな電子機器に適用できる。
【０１０９】
図５に示されるように、本実施形態の情報を生成するための装置５００は、受信ユニット５０１と、決定ユニット５０２と、生成ユニット５０３と、を含む。受信ユニット５０１は、モデリングリクエストを受信するように構成されている。該モデリングリクエストは、トレーニング用データと、モデルカテゴリと、目標個数と、評価指標と、を含む。決定ユニット５０２は、上記のトレーニング用データのタイプとモデルカテゴリに基づいて上記の目標個数の初期機械学習パイプラインを決定するように構成されている。該初期機械学習パイプラインは、モデルトレーニングに使用される。生成ユニット５０３は、上記の目標個数の初期機械学習パイプラインを使用してモデル生成ステップを実行するように構成されている。該生成ユニット５０３は、上記の目標個数の初期機械学習パイプラインに基づいて上記の目標個数の新規機械学習パイプラインを生成するように構成された第１生成モジュール５０３１と、上記のトレーニング用データ、上記の目標個数の初期機械学習パイプラインおよび上記の目標個数の新規機械学習パイプラインに基づいてモデルトレーニングを実行して、トレーニング済みモデルを生成するように構成された第２生成モジュール５０３２と、上記の評価指標に基づいて、取得したトレーニング済みモデルをそれぞれ評価するように構成された評価モジュール５０３３と、事前に設定されたトレーニング終了条件に達しているかどうかを判定するように構成された条件判定モジュール５０３４と、事前に設定されたトレーニング終了条件に達していると判定されたことに対応して、評価結果に基づいて、取得したトレーニング済みモデルからターゲットトレーニング済みモデルを決定するように構成されたモデル決定モジュール５０３５と、を含む。
【０１１０】
本実施形態では、情報を生成するための装置５００の受信ユニット５０１、決定ユニット５０２、および生成ユニット５０３の特定の処理およびその技術的効果は、それぞれ図２に対応する実施形態のステップ２０１、ステップ２０２、およびステップ２０３を参照することができる。ここでは詳細な説明は省略する。
【０１１１】
本実施形態のいくつかのオプションの実施方法では、上記の装置５００は、事前に設定されたトレーニング終了条件に達していないと判定されたことに対応して、評価結果に基づいて、上記の目標個数の初期機械学習パイプラインと上記の目標個数の新規機械学習パイプラインから上記の目標個数の機械学習パイプラインを初期機械学習パイプラインとして選択して、引き続き上記のモデル生成ステップを実行するように構成された選択ユニット（図示せず）をさらに含む。
【０１１２】
本実施形態のいくつかのオプションの実施方法では、上記の装置５００は、上記のターゲットトレーニング済みモデルに対するモデルファイルを生成し、上記のターゲットトレーニング済みモデルを評価するように構成されたファイル生成ユニット（図示せず）と、上記のモデルファイルと上記のターゲットトレーニング済みモデルの評価結果をプッシュするように構成されたプッシュユニット（図示せず）と、をさらに含む。
【０１１３】
本実施形態のいくつかのオプションの実施方法では、上記のモデリングリクエストは最大反復回数をさらに含み、上記のトレーニング終了条件は、上記のモデル生成ステップを実行する回数は最大反復回数に達していることと、上記のモデル生成ステップを実行する回数は上記の最大反復回数に達していないと判定されたことに対応して、事前に設定された回数まで上記のモデル生成ステップを連続して実行して取得した最適なトレーニング済みモデルの評価結果は変わらないことと、を含む。
【０１１４】
本実施形態のいくつかのオプションの実施方法では、上記の第１生成モジュール５０３１はさらに、事前に設定された交換比率に基づいて、上記の目標個数の初期機械学習パイプラインから初期機械学習パイプラインを選択して、初期機械学習パイプラインのサブセットを構成し、上記の初期機械学習パイプラインのサブセットにおける２つずつの初期機械学習パイプラインに基づいて、データ交換ステップを実行し、上記の目標個数の初期機械学習パイプラインにおける、上記の初期機械学習パイプラインのサブセットに含まれる初期機械学習パイプライン以外の初期機械学習パイプラインについて、該初期機械学習パイプラインに基づいて、新規機械学習パイプラインを生成するように構成されており、上記のデータ交換ステップは、選択した２つの初期機械学習パイプラインに対応する２つのモデルが同じかどうかを判定するステップと、同じであると判定されたことに対応して、２つのモデルのモデルパラメーターを交換し、２つの新規機械学習パイプラインを取得するステップと、同じではないと判定されたことに対応して、選択した２つの初期機械学習パイプラインに対応するモデルを交換し、２つの新規機械学習パイプラインを取得するステップと、を含む。
【０１１５】
本実施形態のいくつかのオプションの実施方法では、上記の第１生成モジュール５０３１はさらに、上記の目標個数の初期機械学習パイプラインから２つの初期機械学習パイプラインを選択し、データ交換ステップを実行し、上記の目標個数の初期機械学習パイプラインから、上記のデータ交換ステップを実行していない２つの初期機械学習パイプラインを選択し、引き続き上記のデータ交換ステップを実行するように構成されており、上記のデータ交換ステップは、選択した２つの初期機械学習パイプラインに対応する２つのモデルが同じかどうかを判定するステップと、同じであると判定されたことに対応して、２つのモデルのモデルパラメーターを交換し、２つの新規機械学習パイプラインを取得するステップと、同じではないと判定されたことに対応して、選択した２つの初期機械学習パイプラインに対応するモデルを交換し、２つの新規機械学習パイプラインを取得するステップと、を含む。
【０１１６】
本実施形態のいくつかのオプションの実施方法では、初期機械学習パイプラインは、少なくとも１つのデータ処理フェーズと１つのモデルトレーニングフェーズとを含み、上記の第１の生成モジュール５０３１はさらに、上記の目標個数の初期機械学習パイプラインにおける機械学習パイプラインについて、該初期機械学習パイプラインの少なくとも１つのデータ処理フェーズおよび／またはモデルトレーニングフェーズに対応するモデルにおける事前に設定された数のパーツを選択して変更させ、新規機械学習パイプラインを生成するように構成されている。
【０１１７】
ここで図６を参照すると、図６は、本開示の実施形態の実施に適する電子機器（例えば、図１のサーバーまたは端末装置）６００の構造概略図を示している。図６に示される電子機器は単なる一例であり、本開示の実施形態の機能と使用範囲に如何なる制限も課されるべきではない。
【０１１８】
図６に示されるように、電子機器６００は、読み取り専用メモリ（ＲＯＭ）６０２に記憶されたプログラム、または記憶装置６０８からランダムアクセスメモリ（ＲＡＭ）６０３にロードされたプログラムにより、さまざまな適切な動作および処理を実行できる処理装置（例えば、中央処理装置、グラフィックスプロセッサなど）６０１を含み得る。ＲＡＭ６０３には、電子機器６００の動作に必要な各種プログラムやデータも記憶されている。処理装置６０１、ＲＯＭ６０２、およびＲＡＭ６０３は、バス６０４を介して相互に接続されている。入出力（Ｉ／Ｏ）インターフェース６０５もバス６０４に接続されている。
【０１１９】
一般的に、Ｉ／Ｏインターフェース６０５に接続できる装置は、タッチスクリーン、タッチパッド、キーボード、マウス、カメラ、マイク、加速度計、ジャイロスコープなどの入力装置６０６と、液晶ディスプレイ（ＬＣＤ）、スピーカー、バイブレーターなどの出力装置６０７と、磁気テープ、ハードディスクなどの記憶装置６０８と、通信装置６０９と、を含む。通信装置６０９は、電子機器６００が他の装置と無線または有線で通信してデータを交換することを可能にする。図６は様々な装置を有する電子機器６００を示しているが、図示された装置のすべてを実装または有する必要はないことを理解されたい。代替的により多いまたはより少ない装置が実装されてもよい。図６に示される各ブロックは、１つの装置を表すことも、必要に応じて複数の装置を表すこともできる。
【０１２０】
特に、本開示の実施形態によると、フローチャートを参照して上述されたプロセスは、コンピューターソフトウェアプログラムとして実施され得る。例えば、本開示の実施形態には、コンピューター可読媒体に記憶されたコンピュータープログラムを含むコンピュータープログラム製品が含まれる。該コンピュータープログラムは、フローチャートに示される方法を実行するためのプログラムコードを含む。そのような実施形態では、該コンピュータープログラムは、通信装置６０９を介してネットワークからダウンロードしてインストールするか、記憶装置６０８からインストールするか、またはＲＯＭ６０２からインストールすることができる。該コンピュータープログラムが処理装置６０１によって実行されると、本開示の実施形態の方法において定義された上述の機能を実行する。
【０１２１】
本開示の実施形態で説明されたコンピューター可読媒体は、コンピューター可読信号媒体、コンピューター可読記憶媒体、またはこの２つの任意の組み合わせであり得ることに留意されたい。コンピューター可読記憶媒体は、例えば、電子、磁気、光学、電磁気、赤外線、または半導体のシステム、装置もしくは装置、または上記の任意の組み合わせであり得るが、これらに限定されない。コンピューター可読記憶媒体のより具体的な例は、１つまたは複数のワイヤを有する電気接続、ポータブルコンピューターディスク、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、読み取り専用メモリ（ＲＯＭ）、消去可能なプログラマブル読み取り専用メモリ（ＥＰＲＯＭまたはフラッシュメモリ）、光ファイバー、ポータブルコンパクトディスク読み取り専用メモリ（ＣＤ−ＲＯＭ）、光学記憶装置、磁気記憶装置、または上記の任意の適切な組み合わせを含むが、これらに限定されない。本開示の実施形態では、コンピューター可読記憶媒体は、プログラムを含むまたは記憶する任意の有形の媒体であり得る。該プログラムは、命令実行システム、装置またはデバイスによって、またはそれらに関連して使用されてもよい。本開示の実施形態では、コンピューター可読信号媒体はベースバンドで、またはキャリアの一部として伝播されるデータ信号を含み得る。コンピューター可読信号媒体には、コンピューターで読み取り可能なプログラムコードが記憶されている。そのような伝播されるデータ信号は、電磁信号、光信号、または上記の任意の適切な組み合わせを含むがこれらに限定されない様々な形態をとることができる。コンピューター可読信号媒体はさらに、命令実行システム、装置、またはデバイスによってまたはそれらに関連して使用されるプログラムを送信、伝播、または伝送できる、コンピューター可読記憶媒体以外の任意のコンピューター可読媒体であり得る。コンピューター可読媒体に記憶されているプログラムコードは、ワイヤ、光ファイバーケーブル、ＲＦ（無線周波数）など、または上記の任意の適切な組み合わせを含むがこれらに限定されない任意の適切な媒体によって送信され得る。
【０１２２】
上記のコンピューター可読媒体は、上記の電子機器に含まれていてもよく、別個に存在することで該電子機器に組み込まれていなくてもよい。上記のコンピューター可読媒体には、１つまたは複数のプログラムが記憶されており、上記の１つまたは複数のプログラムが電子機器によって実行されると、該電子機器は、トレーニング用データ、モデルカテゴリ、目標個数、および評価指標を含むモデリングリクエストを受信し、上記のトレーニング用データのタイプとモデルカテゴリに基づいて上記の目標個数の、モデルトレーニングに使用される初期機械学習パイプラインを決定し、上記の目標個数の初期機械学習パイプラインを使用してモデル生成ステップを実行する。該モデル生成ステップは、上記の目標個数の初期機械学習パイプラインに基づいて、目標個数の新規機械学習パイプラインを生成するステップと、上記のトレーニング用データ、上記の目標個数の初期機械学習パイプライン、および上記の目標個数の新規機械学習パイプラインに基づいてモデルトレーニングを実行して、トレーニング済みモデルを生成するステップと、上記の評価指標に基づいて、それぞれ取得したトレーニング済みモデルを評価するステップと、事前に設定されたトレーニング終了条件に達しているかどうかを判定するステップと、事前に設定されたトレーニング終了条件に達していると判定されたことに対応して、評価結果に基づいて、取得したトレーニング済みモデルからターゲットトレーニング済みモデルを決定するステップと、を含む。
【０１２３】
本開示の実施形態の動作を実行するためのコンピュータープログラムコードは、１つまたは複数のプログラミング言語、またはそれらの組み合わせで書くことができる。プログラミング言語は、Ｊａｖａ（登録商標）、Ｓｍａｌｌｔａｌｋ、Ｃ＋＋などのオブジェクト指向プログラミング言語や、「Ｃ」言語または類似するプログラミング言語などの従来の手続き型プログラミング言語を含む。プログラムコードは、完全にユーザーのコンピューター上で実行されることも、部分的にユーザーのコンピューター上で実行されることも、スタンドアロンソフトウェアパッケージとして実行されることも、部分的にユーザーのコンピューター上で実行されながら部分的にリモートコンピューター上で実行されることも、または完全にリモートコンピューターまたはサーバー上で実行されることも可能である。リモートコンピューターの場合、リモートコンピューターは、ローカルエリアネットワーク（ＬＡＮ）またはワイドエリアネットワーク（ＷＡＮ）を含む任意の種類のネットワークを介してユーザーのコンピューターに接続されてもよい。または、外部のコンピューターに接続されてもよい（例えば、インターネットサービスプロバイダーによるインターネット経由で接続される）。
【０１２４】
図に示されるフローチャートおよびブロック図は、本出願の様々な実施形態に係るシステム、方法、およびコンピュータープログラム製品の実施可能なアーキテクチャ、機能、および動作を示している。ここで、フローチャートまたはブロック図における各ブロックは、モジュール、プログラムセグメント、またはコードの一部を表すことができる。該モジュール、プログラムセグメント、またはコードの一部は、指定されたロジック関数を実施するための１つまたは複数の実行可能な命令を含む。また、いくつかの代替的な実施形態では、ブロックに記載されている機能は、図面に示されているものとは異なる順序で発生する場合があることにも留意されたい。例えば、連続して表されている２つのブロックは、実際にほぼ並行して実行されてもよく、時には逆の順序で実行されてもよい。これは関連する機能によって決まる。また、ブロック図および／またはフローチャートにおける各ブロック、およびブロック図および／またはフローチャートにおけるブロックの組み合わせは、指定された機能または動作を実行する専用のハードウェアベースのシステムで実施できることや、専用のハードウェアとコンピューターの命令の組み合わせで実施できることにも留意されたい。
【０１２５】
本出願の実施形態において説明されたユニットは、ソフトウェアまたはハードウェアによって実装され得る。説明されたユニットはプロセッサに内蔵されてもよい。例えば、「受信ユニットと、決定ユニットと、生成ユニットと、を含むプロセッサ」と説明することができる。ここで、これらのユニットの名称は、ユニット自体に対する制限を構成しない場合がある。例えば、受信ユニットは、「モデリングリクエストを受信するユニット」と説明することもできる。
【０１２６】
上記の説明は、あくまでも本出願の好ましい実施形態および応用技術原理の説明にすぎない。本出願に係る発明の範囲は、上記の技術的特徴の特定の組み合わせによって形成された技術的解決手段に限定されず、上記の発明の構想から逸脱しない範囲で上記の技術的特徴またはその同等の技術的特徴の任意の組み合わせによって形成されたその他の技術的解決手段、例えば、上記の特徴と本出願に開示された同様の機能を有する技術的特徴（それらに限定されない）とが相互に代替することによって形成された技術的解決手段もカバーしていることを当業者は理解すべきである。
【図１】
0006868677.tif 000002
【図２】
0006868677.tif 000003
【図３】
0006868677.tif 000004
【図４】
0006868677.tif 000005
【図５】
0006868677.tif 000006
【図６】
0006868677.tif 000007