(57)【要約】      （修正有）【課題】無数の仕方で回路網を内部で修正し得ることは、発生され得る実行可能なコンセプトの数に膨大な数値的卓越性を可能にする。タンデム配置はこの仕事での完全な自律性を可能にする。【解決手段】人間の創造力をシミュレートするための装置（２０）は、ある予め定められた知識領域のなかで入力‐出力マップを作るべく訓練された神経回路網（２２）と、予め定められた知識領域のなかに変化を生じさせる摂動を神経回路網に与えるための装置とを用いており、神経回路網（２２）は神経回路網（２２）の出力を第２の神経回路網（２４）に与えるためのオプション出力（２６）を有し、第２の神経回路網はそのなかでの訓練に基づいて出力を評価しかつ選択する。本装置は、前記神経回路網のなかで起こる変化にさらに影響を与えるべく第２の神経回路網（２４）から第１の神経回路網（２２）への相互フィードバック接続（２８）を含んでいてもよい。【選択図】図１
2007299387.tif 000002
【特許請求の範囲】
【請求項１】
ランダムノイズ刺激を受け、それへの人間の知的応答をシミュレートし、またそれから創造力出力を発生するための手段において、 ランダムノイズ源に接続されている第１の入力端と、出力端と、フィードバック入力端とを有する神経回路網と、 この神経回路網の出力端に接続されている入力端と、前記神経回路網のフィードバック入力端に接続されている出力端とを有するパトローリング神経回路網とを含んでおり、前記神経回路網が刺激のプログラム領域を含むとともにコンセプトの流れを連続的に出力し、また前記パトローリング神経回路網が、ランダムノイズにより生ずる入力刺激に起因する所望の出力を選ぶべく前記神経回路網からのコンセプトの流れを監視することを特徴とする人間の応答をシミュレートするための手段。
【請求項２】
前記神経回路網の刺激プログラム領域が対象の審美的特性に関する情報を表すことを特徴とする請求項１記載の人間の応答をシミュレートするための手段。
【請求項３】
前記神経回路網の刺激プログラム領域が音楽の選ばれた形式の特性に関する情報を表すことを特徴とする請求項１記載の人間の応答をシミュレートするための手段。
【請求項４】
前記神経回路網の刺激プログラム領域が自動車のような装置の機能的特性に関する情報を表すことを特徴とする請求項１記載の人間の応答をシミュレートするための手段。
【請求項５】
前記パトローリング神経回路網が、前記神経回路網により生じた特定の応答を選び、またその他の応答を拒否するべくプログラム領域により訓練されていることを特徴とする請求項１記載の人間の応答をシミュレートするための手段。
【請求項６】
前記パトローリング神経回路網が、前記神経回路網のフィードバック入力端にフィードバックされるいくつかの出力数を生ずることを特徴とする請求項１記載の人間の応答をシミュレートするための手段。
【請求項７】
ある知識領域のなかのトレーニングに基づいて入力‐出力マップを作るべく訓練された第１の神経回路網と、この第１の神経回路網にその重み、バイアスおよび能動化に影響する漸進的に増大する度合の摂動を受けさせ、それによって第１の神経回路網に第１の神経回路網の知識領域のなかの訓練された情報を漸進的に変更する出力を生じさせるための手段と、変更された情報を表示するための手段と、第１の神経回路網の予め定められた出力に応答するべく、またいくつかの有用なコンセプトが発生されるにつれてそれらのコンセプトを選ぶべく訓練された第２の神経回路網を含んでいる手段と、出現する情報の質および量の双方を調節するように第２の神経回路網のなかで発生された出力情報のいくつかを第２の神経回路網から第１の神経回路網へフィードバックするため手段を含んでいる第２の神経回路網からの出力を発生するための手段とを含んでいることを特徴とする人間の創造力をシミュレートするための装置。
【請求項８】
入力端と、出力端と、フィードバック入力端と、そのなかに情報領域を確立するべく人工神経回路網を訓練するための手段を含んでいる訓練情報源と、摂動データ源と、そのなかに確立された訓練領域に変化を生じさせるべく、また前記変化を反映する出力を前記人工神経回路網の出力端に生じさせるべく、前記摂動データを前記人工神経回路網に導入するための手段と、理解可能な仕方で前記変化を表す手段とを有することを特徴とする人工神経回路網。
【請求項９】
入力端と、出力端と、第２のデータペースと、そのなかに訓練領域を確立するべく第２のデータペースを与えるための手段とを有する第２の人工神経回路網と、この第２の人工神経回路網の出力を前記人工神経回路網のフィードバック入力端に与えるための手段と、前記第２の人工神経回路網からのフィードバックにより影響された前記人工神経回路網のなかの変化を表す出力を前記第２の人工神経回路網から有意義な仕方で発生するための手段とを含んでいることを特徴とする請求項８記載の人工神経回路網。
【請求項１０】
前記人工神経回路網のなかの情報領域を確立するのに使用される前記データベースがデザインを表すデータベースを含んでいることを特徴とする請求項８記載の人工神経回路網。
【請求項１１】
情報領域を確立するのに使用される前記データベースが音楽のトーンを表すことを特徴とする請求項８記載の人工神経回路網。
【請求項１２】
情報領域を確立するのに使用される前記データベースが問題の解決にバリエーションを含んでいることを特徴とする請求項８記載の人工神経回路網。
【請求項１３】
情報領域を確立するのに使用される前記データベースが電気装置の望ましい特性および望ましくない特性を含んでいることを特徴とする請求項８記載の人工神経回路網。
【請求項１４】
前記データベースが機械装置の特性に関する情報を含んでいることを特徴とする請求項８記載の人工神経回路網。
【請求項１５】
前記人工神経回路網がそれぞれ独立して作動可能な複数個のステージを含んでいることを特徴とする請求項８記載の人工神経回路網。
【請求項１６】
前記人工神経回路網が特定の情報領域を有するように訓練されており、また情報領域の特性を変更するための手段がそのなかにノイズおよび確立された情報のリラクゼーションの形態で導入される摂動を含んでいることを特徴とする請求項８記載の人工神経回路網。
【請求項１７】
前記人工神経回路網がノイズおよびリラクゼーションの形態で導入される摂動に対する入力端を有し、また前記第２の神経回路網が前記人工神経回路網に、摂動の導入により影響されてそのなかに確立された情報領域にさらに変化を生じさせるべく、フィードバックされる出力を生ずることを特徴とする請求項９記載の人工神経回路網。
【請求項１８】
予め定められた知識領域のなかで訓練された神経回路網システムの第１の部分を含んでおり、この第１の部分が知識領域に影響する摂動が導入される入力端と、出力端と、フィードバック入力端とを有し、また前記第１の部分の出力を受けるべく接続されておりまた前記第１の部分の出力の異なる選択性レベルに応答するべく訓練されている第２の部分を有し、この第２の部分が入力端と、前記第１の部分のフィードバック入力端に接続されている出力端とを有し、それによって第２の部分が第１の部分を監視するときに、それがユーティリティの目的に対する受容可能性および非受容可能性に関する異なる出力のなかから選ぶことを特徴とする人工神経回路網のなかの既存のデータベースを変更するための装置。
【請求項１９】
前記神経回路網システムの前記第１の部分が予め選ばれた音楽領域を表すべく訓練されており、また前記第２の部分の出力端が前記第１の部分の出力の選ばれた部分を表すサウンドを発生するための装置に接続されていることを特徴とする請求項１８記載の装置。
【請求項２０】
前記神経回路網システムの前記第１の部分が予め定められたデザイン形状に関して訓練されており、また前記第２の部分が前記第１の部分の出力デザインの審美的および実用的な値に関して訓練されていることを特徴とする請求項１８記載の装置。
【請求項２１】
前記神経回路網システムの前記第１の部分が自動車の予め定められた数の特性に関して訓練されており、また前記神経回路網システムの前記第２の部分が前記第１の部分のなかに訓練された異なる組み合わせの特性のなかから選ぶべく訓練されており、前記神経回路網システムの前記第２の部分がこの第２の部分により選ばれた前記第１の部分の出力の選ばれた一つを表示するためのディスプレイ装置を含んでいる出力端を有することを特徴とする請求項１８記載の装置。
【請求項２２】
前記第１の部分に与えられる摂動がノイズ、リラクゼーションおよび内部および／または外部で発生される摂動を含んでいることを特徴とする請求項１８記載の装置。
【請求項２３】
ある知識領域のなかの入力‐出力マップを作るべく訓練された神経回路網と、この神経回路網に漸進的に増大する度合の摂動を受けさせ、それによって知識領域のなかの変化および訓練された知識領域を漸進的に変更する特徴およびコンセプトを生じさせるための手段と、生じた変更を表示するための手段とを含んでいることを特徴とする人間の創造力をシミュレートするための装置。
【請求項２４】
予め定められたコンセプトをそれらが発生されるにつれて選ぶべく作動可能な神経回路網に接続されている手段と、このようなコンセプトを実行するための手段とを含んでいることを特徴とする請求項２３記載の装置。
【請求項２５】
出現するコンセプトの質および量を調節するように前記神経回路網の出力端からの情報をフィードバックする手段を含んでいることを特徴とする請求項２３記載の装置。
【請求項２６】
ある予め定められた知識領域のなかの情報を生ずるべく訓練されている神経回路網と、訓練された知識領域の重み、バイアス、内部および外部能動化に関する摂動の度合を、最初の知識領域のなかの特徴およびコンセプトから漸進的に変更された特徴およびコンセプトをついには生ずるように、増大させるための手段と、前記神経回路網に接続されており、また予め定められた出現するコンセプトの識別および選択を含めてその出力をパトロールするべく訓練されている第２の神経回路網と、選ばれたコンセプトを表示するための手段とを有することを特徴とする制約された人間の創造力をシミュレートするための手段。
【請求項２７】
電気的に発生される出力信号の形態で選ばれたコンセプトを実行する手段を含んでいることを特徴とする請求項２６記載の装置。
【請求項２８】
さらにその出力を変更するべく前記神経回路網に前記第２の神経回路網の出力を自律的にフィードバックする手段を含んでいることを特徴とする請求項２６記載の装置。
【請求項２９】
前記神経回路網が神経回路網の並列に分布したシステムの形態を有することを特徴とする請求項２６記載の装置。
【請求項３０】
ある知識領域のなかでそのなかで訓練された情報を再循環させるべく訓練された回帰神経回路網と、知識領域の重み、バイアス、内部および外部能動化に関する摂動の度合を漸進的に増大させるための手段と、回帰神経回路網の出力を表示するための手段と、有用なコンセプトが作り出されるにつれて有用なコンセプトを他のコンセプトから選ぶ手段とを含んでいることを特徴とする緩く制約された人間の創造力をシミュレートするための手段。
【請求項３１】
前記知識領域が手順に関係することを特徴とする請求項３０記載の装置。
【請求項３２】
前記神経回路網が神経回路網の並列に分布したシステムの形態を有することを特徴とする請求項３０記載の装置。
【請求項３３】
有用なコンセプトを他のコンセプトから選ぶ手段が神経回路網の並列に分布したシステムの形態であることを特徴とする請求項３０記載の装置。
【請求項３４】
前記第１の神経回路網がアルゴリズム計算機コードにより置換されていることを特徴とする請求項１ないし３３の１つに記載の装置。
【請求項３５】
前記第２の神経回路網がアルゴリズム計算機コードにより置換されていることを特徴とする請求項１ないし３３の１つに記載の装置。
【請求項３６】
予め訓練された第２の部分に接続されている予め訓練された第１の部分と、第１および第２の部分の一つを、そのなかの訓練に変化を生じさせるべく、切り詰めるためのアルゴリズムとを含んでおり、第１の部分のなかで生起する変化が第２の部分のなかに変化を生ずることを特徴とする神経回路網。
【請求項３７】
そのなかの訓練に変化を与えるため前記神経回路網の前記第１の部分を切り詰めるための第２のアルゴリズムを含んでいることを特徴とする請求項３６記載の神経回路網。
【発明の詳細な説明】
【発明の開示】
【０００１】
本発明は人間の心のなかの創造力を模倣する内的なイメージおよび追加的なメカニズムをシミュレートするためのプロセスに関する。本装置は人工神経回路網（ＡＮＮ）テクノロジーの領域の最近の進歩を使用して新しいコンセプト、デザイン、音楽、プロセス、発見および問題解決の完全に自律的な発生を可能にする。本テクノロジーを使用して得られる有用な情報の形式のいくつかの典型的な例を以下に説明し記載する。本装置は機械応答をそのつどの目的に適応させ、それにより計算機を、種々の刺激への人間の応答の仕方と通信し、またそれを解釈するのにあまり硬直的でなくするのに使用される。一層一般化された意味では、本装置または機械は自由意志および意識の連続的な流れと等価的な流れを供給し、それを通じて本装置は行動の新規なコンセプトまたはプランまたは他の有用な情報を定式化し得る。
【０００２】
本発明以前に人工神経回路網（ＡＮＮ）による生物学的システムの模倣はパターン認識、ニューラルコントロールおよび実験データの発生のような非創造的な仕事のために使用された。本装置はそのなかでシステムが行動の新規なプランおよびオリジナルなデザインまたは創作を合成するＡＮＮの新しいアプローチおよび新しい応用に相当する。われわれが自律的システムまたは“創造的機械”と呼ぶこれらのシステムは工学的発明を越えて審美または情緒の領域に入る想像力に富む行為を実行し得る。
【０００３】
本装置は２つの必須の構成要素を用いる。すなわち（１）ある問題領域におけるトレーニングを含んでおり、漸進的に摂動され、また摂動の結果としてコンセプトを連続的に出力する神経回路網、（２）有用な出力を識別しかつ分離するべく第１の回路網の出力を連続的にモニターする第２またはパトローリング神経回路網。このタンデム配置は創造力およびおそらく注意意識のモデルと考えられ、またこの内的なイメージは摂動される回路網のなかで自発的に発生され、他方において第２のパトローリング回路網は審美的アピールを含むユーティリティもしくは他の有用な特性を処理する特定のイメージに連続的に注意を払っている。用いられる摂動はノイズの導入、回路網のリラクゼーションまたはデグラデーションなどを含む任意の多数の異なる手段により達成され得る。以上に説明した２つの構成要素は後で一層詳細に説明する。
【０００４】
本システムが外部情報を受け取る必要がないことを強調することは重要である。その代わりに、情報は含まれている回路網の特性化パラメータに用いられる任意の数の確率論的および／または系統的なプロセスの結果として自発的に出現する。自走する神経回路網のこのタンデム配置およびそのポリシング‐カウンターパートにより、類似に露出または摂動される既知の装置または機械により発生されるものよりも質的に優れている概念を発生することが可能である。
【０００５】
従来の技術の説明 本発明者は、ＡＮＮの入力または重みにある種の形式のノイズが与えられると、もしベクトル完成プロセスが回路網のトレーニングの間に遭遇される出力ベクトルを能動化するのに失敗するならば、新規な出力が生じ得ることを実証してきた。このような出力は一般に既知のトレーニング出力の組み合わせの形態をとり、また一般にそれが訓練された環境を模倣する。従って、知られているマウンティン‐レンジのようないくつかの装置または対象物の表面プロフィルを発生するべく訓練された神経回路網は、もし入力がランダムなシミュレーションを受けるならば、非常に尤もらしいが見慣れないマウンテイン‐レンジを作り出す傾向があろう。同様に、クラシック音楽を作り出すことのみを訓練された神経回路網は、ランダムな入力にさらされる時に、潜在的な可能なクラシックテーマを作り出す傾向があろう。本発明者は、静的回路網が数学的研究において検出されてきたいくつかの非常に新規な出力を生じてきたことを示してきた。しかし、知られているすべてのケースでは、それらはそれらの新規性に対して人間のオペレータにより隔離されてきた。対照的に、本装置はこのような回路網の出力を自律的に監視し、また、ポリシングまたはパトローリング神経回路網のなかで確立されたいくつかの予め定められた規範に基づいて、出現するコンセプトを選ぶ。このようなコンセプトはいくつかの目的に対する音楽または音楽上のテーマを作り出すこと、またはコーヒー用マグカップのようないくつかの模様をデザインすること、またはプロセス計画オペレーションを作り出すこと、または問題を解決すること、および多くの他の応用を含んでいてよく、そのいくつかは後で一層詳細に説明する。
【０００６】
知られているＡＮＮはインプット‐アウトプット‐マッピングのようないくつかの領域で比較的高い精度を達成してきた。本発明は、有用な情報を生ずるべくＡＮＮの慎重なデグラデーション、従ってまたこのような精密なマッピングのコラプションの使用を教示する。こうしていくつかの知識領域を反復するべく訓練された回路網は回路網デグラデーションの低いレベルにおいて既知の模様のかなり代表的な例を発生し得る。たとえば、自動車のデザインの場合に、回路網のなかに存在する制約のゆえに回路網デグラデーションの低いレベルにおいて既存の車のかなり代表的な例を発生し得る。換言すれば、理にかなったデザインが作られる。回路網のデグラデーションの漸進的により高いレベルにおいて、このような回路網の制約は新規かつより珍しいハイブリッドな自動車のデザインを作るべくさらにリラックスし、そのいくつかは有用な応用ニッチまたはマーケットを満たし得る。通例から新規への移行を行う鍵は回路網のデグラデーションに関する制御および特定の回路網パラメータをそれらが訓練された値からリラックスまたは摂動する能力により達成される。こうして本発明による装置は通例の周囲または通例の付近をデザインし、また、いくつかの制約により制限されずに、創造的デザイナーがするのとほとんど同じ仕方で新しいデザインを創造する道を提供する。入力、内部活性化、重みおよびバイアスへの種々の形態の摂動の導入の結果として、このような既知のシステムはプロセスを制御し、またはオブジェクトまたはデザインを創造し得る。こうして本発明による装置により発生される情報はその後にプロセスなどを制御するのに使用するために蓄積され、および／またはある所望の仕方で発生されてきた出力を修正するその固有の決定に使用され得る。こうして本発明は、上記の２つの要素を含んでいる機械を使用してデザインまたは創造的な仕事を行うための他の道具および非常に広いベースの道具を提供する。しかし、１つの仕事の実行から別の仕事または別の目的の実行へその作動モードを自律的に変更することに対象装置を細同調またはトグルすることが意図されている。
【０００７】
無数の仕方で回路網を内部で修正し得ることは、発生され得る実行可能なコンセプトの数に膨大な数値的卓越性を可能にする。本発明によるタンデム配置はこの仕事での完全な自律性を可能にする。
【０００８】
発明の目的 創造力をシミュレートするための新規な手段の構成および作動を教示することが本発明の主要な目的である。
【０００９】
他の目的は有用かつ想像力に富む出力情報を発生するため、以前に訓練された人工神経回路網を摂動させることにある。
【００１０】
他の目的は、所望の出力を選び、また他の出力を排除するために、摂動させる神経回路網からの出力情報を監視することにある。
【００１１】
他の目的は神経回路網に与えられる摂動の程度を制御することにより神経回路網のなかに制御可能な変化を生じさせることにある。
【００１２】
本発明の上記および他の目的および利点は添付図面と結び付けての好ましい実施例の以下の詳細な説明を考察した後に明らかになろう。
【００１３】
好ましい実施例の詳細な説明 参照符号により一層詳細に図面を参照すると、図１中に参照符号２０を付されているのは本発明に従って構成されたシステムである。システム２０は２つの基本的な構成要素、一つはイマジネーション‐エンジン（ＩＥ）２２、もう一つはアラート連合センター（ＡＡＣ）２４を含んでいる。ＩＥ２２は、漸進的に摂動されて、ＡＡＣ２４に供給される出力を生ずる人工神経回路網（ＡＮＮ）である。ＡＡＣ２４も人工神経回路網であり、これはＩＥ２２への１つまたはそれ以上のフィードバック‐コネクション２８を有し得る。ＩＥまたはイマジネーション‐エンジンは、ＩＥの訓練に抗して与えられ、またその重み、バイアス、入力、出力または内部能動化に与えられる通常はランダムノイズまたは摂動の形態の入力情報を受ける本発明による装置の部分を成している。イマジネーション‐エンジンはこの回路網が内部もしくは外部で摂動され、また、摂動またはノイズの存在中にパターン完了をなし遂げる試みの結果として、回路網の訓練に包含されているある所与の知識領域を通じて自由にさまよう出力を発生するアイデアを運ぶために記述されている。出力はリサイクルされ得る。ＩＥの出力はＡＡＣにより監視またはパトロールされる。ＩＥおよびＡＡＣは、なにがなし遂げられるべきか、また必要とされる入力および出力端の性質に依存する複数個の関係の１つまたはそれ以上にグループ化または結合され得る。ＩＥおよびＡＡＣは複数個の結合されたＡＮＮを含んでいる一層複雑なシステムに組み合わせられ得るし、またある度合の創造力を必要とする問題を含む一層多くの含まれている仕事を実行し得る。
【００１４】
神経回路網が、ニューロンの間の接続強度が漸進的に変えられるシナプシスな摂動プロセスを受ける時には常に、このようなプロセスが回路網が既に見ているまたは訓練されている環境特徴のメモリを能動化することは、すべての神経回路網に共通であることが見い出されている。その後に、回路網がその最初に訓練された状態から展開し続けるにつれて、このような環境特徴はハイブリッド化または並置された特徴に組み合わされる。たとえば、牛および鳥のイメージを含む種々の動物のイメージを生ずるべく訓練された神経回路網は最初に低レベルのシナプシスな摂動の間にこれらの動物および鳥のランダムでインタクトなイメージを生ずる。シナプシスな接続強度の漸進的に強くなる摂動がいま、一部は牛であり、一部は鳥である飛んでいる牛のイメージを含むハイブリッド化されたイメージを生ずる。換言すれば、ＩＥのなかに包含されている同一のユニバースが、制約が次第に除かれるにつれて、解きほぐれ初め、また新しい聞いたことのない組み合わせが現れ出る。同様な理由で、インタクトな神経回路網は、人工神経回路網であろうと生物の神経回路網であろうと、それら自体の外部で生起するノイズまたは他のプロセスによって、新規な環境イメージを生ずるべく能動化され得る。このようなノイズは他の周囲の回路網の機能、リラクゼーションおよびデグラデーションおよび生物回路網または複雑な回路網実行の通信により発生される。結果は内部で発生される摂動を使用する時のそれと類似しており、まっすぐな環境特徴およびハイブリッド化された環境特徴の双方が自発的に現れる。
【００１５】
これは、処理ユニットのある部分が必要とされる訓練またはマッピングに補充されずにとどまるように、複数個のニューロンのＩＥを構成することによっても成就され得る。これらの束縛されていないニューロンに摂動の影響を与えると、ＡＡＣにより捕獲または処理または選択され得る有用なコンセプトの発生が有意義に増大される。本発明による装置の第２の主要な構成要素であるＡＡＣはＩＥにより発生される有用な情報または並置を識別するべく訓練されているＡＮＮに類似している。従って、ＡＡＣはわれわれの例では特定の動物に対するようないくつかの特徴または条件を眺めている日和見的な回路網である。典型的な状況では、ＡＡＣはＩＥにより合成されたハイブリッドに数値または他のスコアを割当てるべく訓練され得る。また、１つまたはそれ以上の分離したアルゴリズムが後での考察および洗練のために潜在的に有用なコンセプトを記憶し得るし、または代替的にハードウェア条件での結果に直ちに影響を与えるのに使用され得る。いくつかの実施例では、ＡＡＣへの入力端のいくつかがＩＥの入力端に接続され得ないが、他の目的に対しては自由に残されていることも意図されている。このようにしてＡＡＣ選択規範は最初にまたは図３に示されている例に対しては作動中に調節され得る。
【００１６】
組み合わされたＩＥおよびＡＡＣに対する３つの異なる作動モードを以下に説明する。これらのモードは別々にまたは種々の組み合わせで使用され得る。これらはモードＡ、ＢおよびＣとして説明される。モードＡでは、乱数発生を含む任意の数の技術がＩＥに新規な入力を与えるのに使用され得る。その結果、ＩＥは新規な入力に基づいてベクトルを完成しようと試み、通常その結果としてその確立された訓練出力の変更または並置が行われる。ＡＡＣは次いでこれらの結果としてのＩＥからのハイブリッド化された出力のユーティリティをチェックし、また図２中にＡ−Ｚとして示されている規範を選ぶべく値を割当てる。選択規範が満足される時、ハイブリッド化された出力は直ちに利用され、またはその後の使用のために記録され得る。
【００１７】
モードＢでは、固定された値がＩＥの入力端にクランプされているが、その重み、バイアスまたは内部能動化は、それらをそれらの最初の値から摂動させる乱数発生を含む任意の数の数値技術により摂動される。回路網相における内部完了プロセスは、ＩＥの出力端に出現する新しい条件または並置されたコンセプトを生ずる。ＡＡＣは次いでその固有の訓練に基づいてそれらをそれらの有用性に関して仕分けする。モードＡの場合のように、これらの新しいコンセプトは回路網がリラックスするにつれて実時間で利用され得るし、またはその後の使用のためにアーカイブ‐ファイルのなかに記憶され得る。
【００１８】
モードＣでは、ＩＥ摂動が作用のプランまたは所与の問題を解く手順を作り出すのに使用される。このようなシステムは図４に示されている。この場合には、ＩＥはその固有の出力をそれぞれの入力端にフィードバックし、また手順は一連のステップからなっており、その各々はさきのステップに付随的である。モードＣでは、ＡＡＣは各ステップが所望の結果の到達時に許容可能かつ有用なステップを形成するそのユーティリティを保証することを検査する。またモードＣでは、ＡＡＣはたとえば所与の重みまたはステップの除去、変更または交換により任意のスナージにおけるＩＥのアーキテクチュアを変更するのに使用され得る。モードＣでは、作動を支配するアルゴリズムはＩＥのなかでランダムに選ばれ、また一定の値、たとえば零に設定された重みを有する。ＡＡＣは次いでそのユーティリティまたは他の目的に対するシステム構成を評価する。もし評価された状態が許容可能なものでないならば、ＡＡＣは一時的に除去された重みを交換する決定を行い、また駆動アルゴリズムに除去のための新しい重みを選ぶべく通報する。一端所望のシステム構成が得られると、システムはＩＥからより多くの重みを除去し始める。ＡＡＣはオーパーオールなターゲット構成が得られたか否かをアラート（警報）している。もし肯定であれば、アルゴリズムは手順を成す成功裡の作動シーケンスを記憶し、またはある外部装置またはハードウェアメカニズムを制御するべくこの情報を直ちに運ぶ。この仕方で、ＩＥとしての役割をするＡＮＮは、人間の脳が働く仕方と若干類似の仕方で、計算機またはその類似物を使用してのコンセプトまたはアイデアの記憶を助ける。これはこの装置では関係者または機械のユーザがＩＥに対するフィードバックを作ることにより達成され、ＩＥでは異なる摂動がＩＥに対しその出力を上げるか変化するなどのいくつかの目的のために与えられる。多重のＩＥおよびＡＡＣの使用により一層複雑な出力が得られ、またいくつかの場合には一層正確かつ精密なデータが発生され得る。たとえば、この形式の多くの分離した回路網は、それにより多くの異なるＡＡＣの使用を必要とするコンセプト選択プロセスに使用され得る。
【００１９】
上記のモードまたは並置のいずれでも摂動因子の任意の組み合わせがＩＥのなかに新規なコンセプトを発生するのに使用され得る。このような摂動は（ａ）重み、（ｂ）バイアス、（ｃ）能動化、（ｄ）外部入力信号、（ｅ）回路網のなかの任意の所与のユニットへの内部入力信号、または（ｆ）回路網のなかの任意の所与のユニットからの内部出力信号のような種々の因子を組み合わせ得る。類似の仕方でパラメータａ〜ｆは（１）それらの値を零のようなある一定の値に連続的に設定すること、（２）乱数表により得られるようなある不規則な数をそれらの最初の値に連続的に追加すること、それらを乱数表から得られた乱数により置換することによりそれらの値を連続的に変更すること、（４）通常ある遅れ定数を有する時間依存性の因子によりそれらの値を多重倍すること、（５）これらのパラメータが最初の値の周りでランダム‐ウォークを行うことを許すべく乱数表を通じて得られる正および負の乱数を連続的に追加すること、（６）ある統計的な周波数分布に従う数を追加すること（ここで、このような数を選ぶ確率確率関数に従う）、（７）設定された時間依存性の統計的分布に従う数を追加すること、および／または（８）上記の因子のいずれかを、重みおよびバイアスがそれらの訓練値からさまようのにつれてＩＥがその最初の制約された条件から漸進的にリラックスした制約へ滑らかに移行するように、ある徐々に増大する振幅因子により漸進的に多重倍することにより種々の手段により摂動され得る。完全には回路網のマッピングまたはトレーニングにおいて補充されていないニューロンにこのような摂動を特別に与えることにより高められる結果が得られることが見い出されている。
【００２０】
要約すると、新規なコンセプトに到達する自律的探索手順が説明されてきた。
【００２１】
また、このような探索手順は種々の知識領域に応用可能であり、また２つの別々の神経回路網の相互作用により到達される。第１のＩＥ回路網はその訓練の知識領域のなかの出力を生ずるべく訓練されている。任意の数のＡＮＮ特徴への摂動の導入はその接続強度およびバイアスの制約のもとに有意味な出力を生ずる知識領域を通じてＩＥをさまよわせる。回路網摂動のレベルが増すにつれて、制約はそれらの訓練された値から一層劇的にリラックスし始める。また連合センターまたは出力装置に警報するのにＡＡＣにより検出かつ利用され得る非在来のコンセプト並置が出現する。この技術の主な強さはＩＥ回路網をその知識領域のなかのその知識の既知の特徴を簡単に複製する状態から常に少し新しい並置コンセプトが出現する摂動のその次の状態へ徐々にかつ系統的に摂動させ得るその能力である。在来のものから穏やかに非在来のものへの微妙な変化はＡＡＣにより自律的に識別かつ選択され得る新規かつ潜在的に有用な発明を生じ得る。こうして本発明による装置はその探索スペースを多くの異なる問題への解決を捜すことに制限し、またそれをユニークな仕方で行う。
【００２２】
コーヒー用マグカップ‐デザイン いま図５〜８を参照すると、新規なコーヒー用マグカップなどのような模様のデザインおよび製造に使用され得る本発明による装置の実施例が示されている。
【００２３】
本コーヒー用マグカップは審美的に望ましく、また有用な機能を提供し得る。しかし、本発明による装置がコーヒー用マグカップの製造に制限されることなく芸術的な仕事を含む多くの他のデザインおよび形状を作り出すのに使用され得ることは明らかである。本装置を本装置に三次元の形態で対象物、この場合にはコーヒー用マグカップを製造させるべく、レース、ステレオリソグラフィックまたはポッターホイールを含む他の作動装置とインタフェースすることも可能である。
【００２４】
図５中には本装置２０が右側に、またその上に取付けられた粘土の小山を有するポッターホイールが左側に示されている。また図５中には、図解的な形態で、コーヒー用マグカップを所望の形状に形成するべく粘土４６の塊にこうして作動する装置またはオペレータ部材４８も示されている。整形手段４８に対する制御はＩＥ出力に与えられる制御アルゴリズムを信号化する美しさおよび機能出力により選ばれるようなＩＥ２２の出力により行われる。
【００２５】
図６は図５に示されている手段の論理フローダイアグラムである。このダイアグラムはＩＥ２２と、ＡＡＣ２４と、導線５８を経てＩＥに戻されるノー出力とデザインを実行と記入されているステップ５４を経て導線５６を経てＩＥに戻されるイエス出力とを有する出力決定ブロック５２とを含んでいる。ブロック５２は、「ＩＥ出力がしきいを越えるか？」と記入されている。イエス出力５４は、マグカップの形状を整形するような仕方でテムプレートまたは可動ピンのような装置を制御する。
【００２６】
図７は、どのようにＩＥ２２の種々の部分の出力がこの場合には所望の形状を作り出すべく粘土４６のボディと係合する手段を有するソレノイド４８を制御するのに使用されるかを示す。ソレノイド６２は組立体４８の一部であり、またばね６０により発生され、またＩＥ出力に比例する電流により発生される磁気力によりオフセットされるばね張力により作動されるものとして示されている。
【００２７】
図８は、審美的に満足であり、また実用性のあるものと、最小のユーティリティ値を有するものとを含む種々のコーヒー用マグカップのデザインを示す。カップ‐デザインは参照符号４６Ａ〜４６Ｌを付されている。
【００２８】
コーヒー用マグカップのデザインにあたって、種々のオプションが審美的および実用的な好みに関してアセンブルされなければならず、またこの情報がＡＡＣのなかにエンコードされなければならない。これは、一緒になってプロフィルまたは潜在的に可能なマグカップ‐デザインをシミュレートする垂直に一列に並べられた種々の長さのストライプを発生する計算機コードを使用して行われ得る。
【００２９】
これらのデザインは不規則な長さおよび幅のストライプを使用して陰極線管などの上に表示され得る。またランキング‐スコアを使用して美しさおよび実用性に関する意見が集められ得る。こうして得られた情報は２つの別々の神経回路網、ＩＥおよびＡＡＣを訓練するために使用されるべきスプレッド‐シートの上に置かれ得る。ＩＥは入力およびＡＡＣが入力および出力の意義を反転するにつれて形状がいま入力および美しさ／ユーティリテイ‐レーティングとしての役割をし、またこれらが出力となるように美しさおよびユーティリティを使用して訓練されている。
【００３０】
音楽 図９〜１５は音楽作品または音楽フレーズを作り出すのに使用される本発明による装置７０を示す。図９を参照すると、装置７０は前記の構成のように一緒に結合されて示されているＩＥ７２およびＡＡＣ７４を含んでいる。ＡＡＣはＩＥの種々の出力のなかから選ぶように、またブロック７６で出力音楽レーティングを作り出すように訓練されており、このレーティングは「レーティングがしきいを越えるか？」と記入されているブロック７８に与えられる。もしレーティングがしきいを越えないならば、出力がリード８０上に発生され、この出力は「新しいノートを無視する」と記入されているブロック８２に与えられ、またこの出力端は「重みを更新」と記入されているブロック８４および「ランダムな重み切り詰めを実行」と記入されているブロック８６を含む他のブロックに与えられ、またリード９０上でＩＥにフィードバックされる。もしブロック７８の出力端がイエスであれば、出力は「バッファに新しいノートを加える」と記入されているブロック８８を通じてＩＥの条件をさらに変更するべくＩＥにフィードバックされる。図９とコーヒー用マグカップの製造と結び付けて先に説明したデザインとの間の差は、図９中では出力がＩＥおよびＡＡＣの訓練に関係する特定の仕方で配置されている音楽トーンであり、また出力端が説明されるように音楽フレーズまたはテーマであることである。音楽作品または音楽テーマを作り出す際に、本発明による装置は前記のモードＡ、ＢおよびＣを実施する類似のリラクゼーション技術を用い、またこうしてオリジナルな音楽テーマの有意義な合成を達成する。
【００３１】
この実施例でのＩＥは「トウィンクル・トウィンクル・リットル・スター」、「デイジィ」および「マリー・ハッド・ア・リットル・ラム」のような多数のソングを実行するべく学習する回帰回路網である。示されているような回路網は図９中に示されているように８−１０−８アーキテクチュアを利用しており、回路網の出力は入力としてフィードバックされている。最初の２つの入力はソング（Ｓ１）、（Ｓ２）をエンコードし、次の４つ（Ｎ１−Ｎ４）はノート‐オーダーを示し、また最後の２つ（Ｆ１）、（Ｄ１）は任意の所与のノートのピッチおよび継続時間を含んでいる。回路網の出力は音楽シーケンスのなかの次のノートに対する適切な値を持つ値のすべてと類似の意味を持つ。図１０中に示されているような回路網は（Ｌ１〜Ｌ４）で示されている４つの相（１〜４）を有する。回路網の出力は同一の意味を達成するが、いまはシーケンスのなかの次のノートを表す。いずれも所望のマッピングを達成するために必要なニューロンの２つの隠された相が存在する。これは図１０中にニューロンの２つの中央の列により示されている。最も左の入力Ｓ１−Ｓ２を（０、１）、（１、０）または（１、１）の値に設定することにより回帰回路網はそれぞれ「トウィンクル・トウィンクル・リットル・スター」、「デイジィ」および「マリー」を演奏する。回路網の入力端のすべて、特にＳ１およびＳ２への乱数の供給は回路網を１つのソングから他のソングへジャンプさせ、チューンを並置し、また音楽を作り出す。
【００３２】
再び図１０を参照すると、（１）異なったレベルの能動化による個々のニューロンの収縮および膨張の形態での回路網能動化、（２）それらのピッチを含むノートの最新の訓練の帯状記録紙記録、および（３）３つの訓練メロディのいずれかの線形組み合わせとして同時に作用する回路網の出力を分類するべく訓練されてきた別々の回路網の出力が示されている。この後者の特徴はハイブリッド化されたソングのなかの個々のチューンの重みを想像するのに助けになる。このような音楽のハイブリッド化は図１０中でわれわれがＡＡＣにより選択されておりまた実行されている「トウィンクル」および「マリー」の組み合わせを見るところで生起している。ＩＥの訓練は任意の特定のソングのなかで相い続くノートの間のマップを作り出すことにより成就される。入力として回路はソング‐ナンバーに対して２値コード化されたラベルを与えられている。たとえば、２値コード化されたソング‐ナンバー１−３はノードＳ１およびＳ２への入力であり、２値コード化されたノート‐オーダー１−３１はノードＮ１−Ｎ４への入力であり、また周波数および継続時間値はノードＦ１およびＤ１への入力である。訓練のためのターゲットは同一の２値コード化されたソング‐ナンバー（出力ノートＳ１およびＳ２）、１の値によりインクレメントされる２値コード化されたノート‐オーダー（出力ノードＮ１−Ｎ４）および出力ノードＦ１およびＤ１のなかのソングの次の周波数‐継続時間対を含んでいる。ソングのラップ‐アラウンドは音楽シーケンスのなかの最後のノートを最初のノートへマッピングすることにより達成される。これまでに説明してきたことはＩＥの作動に関する。いま、ＩＥからの出力端に作動するＡＡＣの機能および訓練を説明する必要がある。訓練目的に対して訓練計算機コードが１／ｆ分布に従うノートのシリーズから成る４つのノートのシリーズを発生するべく書かれ、その特徴はわれわれが音楽として受け入れるすべてのサウンドの特性である。このトーンのシリーズは評価を受け、その後に評価する人間が０−１０ポイントスケール上でその美的な値に応答することを要求された。この種の約１００の試行の後に、各々がメロディから成る周波数のシリーズがそれらのコンセンサス‐ランキングに沿ってスプレッドシートに通された。従って、入力は数値スコアから成る訓練に対するターゲット値に沿うノート‐シーケンスから成った。実際のメロディは訓練セットのなかで実現され、またそれらのアピールに対する１０の値でランク付けされた。他方においてランダム発生器からのノイズは０のランキング値でスプレッドシートのなかに埋められた。このデータでの訓練に続いて、訓練された神経回路網ＩＥおよびＡＡＣが同一の計算機コードのなかに埋められた。
【００３３】
ＩＥはループのなかに置かれ、その入力端に零と１との間の値が乱数発生器から供給され、こうしてＩＥの出力端に複合メロディを発生した。いつでも演奏されるたかだか４つのノート（４つの周波数‐継続時間の対）を含んでいるバッファがＡＡＣの８つの入力によりサンプルされ、各々がその音楽的受容可能性についてレーティングされた。１０ポイントスケール上で８のしきいを越える最良の音楽テーマが演奏され、また分離したファイルにアルカイブされた。本発明の装置により作曲された音楽の発生は図１１中に示されている要綱により達成された。ＡＡＣにより受容可能と思われるＩＥからの出力は計算機への相い続くノートの周波数および継続時間の双方を含むサウンド指令のシリーズとして連続的に伝達される。これらの全指令はディジタルからアナログ信号に変換され、またスピーカに供給され、そこでサウンドが聞かれ得る。従って、本発明による装置が受容可能なノート‐シーケンスを発生するにつれて、それは直ちに、装置のオペレータが作り出された音楽を聞くことができるように、それらをオーディオ出力装置に中継する。ＩＥにより発生される次の４つのノートは同様にバッファに加えられ、また演奏される（以下同様）。ＡＡＣにより捕獲されたこれらのメロディの１０のサンプルが図１２に示されている。それらの周波数ＦはＨｚで示されており（１オクターブが示されている）、また各ノートの継続時間Ｄは秒の１／１８の単位で与えられている。
【００３４】
オリジナルな音楽を合成する第２のアプローチは３−１６−２０のノーダルアーキテクチュアおよびＩＥ２０−１０−１のノーダルアーキテクチュアのＡＡＣから成るように変更された本発明による装置の使用を含んでいる。前者は音楽フレーズまたはテーマから成るノート‐シーケンスを生じた。続いて、ＡＡＣがこの試行メロディ‐フレーズをその音楽的受容可能性に関してチェックする。これは図１３中に示されている。この場合ＩＥは、所与の音楽フレーズのなかの最初の３つのノートのトーン周波数（すなわちＨｚで）に関するパターン完成を実行するべく訓練されている。訓練のための音楽フレーズは２０のよく知られたソングからの非常に理解しやすいセグメントから成っている。こうして最初の３つのノートが与えられると、回路網は音楽シーケンスの残りのものを供給するべく訓練された。出力は１０の相い続く周波数‐継続時間対から成っており、周波数はヘルツで、また継続時間は１／１８秒の単位で与えられた。
【００３５】
同一の装置のなかでＡＡＣはポピュラーなメロディ‐テーマからの２０のノート‐セグメント、乱数表から選ばれた周波数から発生されたトーンの５０例がおよびノイズおよび上記のポピュラーなメロディ‐テーマにのみ訓練された類似のＩＥへのノイズの導入により発生された約１００の試行メロディの演奏により訓練される。訓練のためのターゲット値はポピュラーなテーマに対して１の数値スコア、ＩＥが発生したメロディへの０−１の数値ランキング（ヒューマン‐パネリストにより決定されるような）および乱数表を使用して発生されるノイズに対する０の数値スコアから成っていた。
【００３６】
ＩＥの内部接続重みへの時変性入力および時変性摂動の双方のＩＥ切り詰め導入の種々の組み合わせを使用して本発明による創造力機械が、１１．０００の音楽的に受容可能なテーマまたはフレーズがあつめられるまで、自律的に運転することが可能にされた。このプロセスにより作り出された典型的な音楽フレーズが図１４に示されている。図１５には本発明による装置により作り出された５０の代表的な音楽フレーズが示されている。リストの最上段には各列のなかに示されているナンバーに対する周波数および継続時間に関する識別子が示されている。
【００３７】
換言すれば、図１５は各トーンの周波数および継続時間が指示されており、聴覚的に再現可能な音楽テーマのナンバーが示されている。
【００３８】
自動車デザイン 本発明による装置の他の応用は、モードＡおよびＢでＡＡＣがＩＥのアーキテクチュアを変更しまたＩＥ定数へのある種の入力を保持する決定を自律的に行うことを許される場合である。この例の趣旨は自動車または車をその主要な仕様および特性に関してデザインすることである。これはその所望の性能、保険適用、担保保証、盗難の確率および期待されるユーザーの満足度に関するいくつかの概念に基づいてなされる。本発明による装置を作り出すときの２９のデザイン仕様の性能特性は図１６中のＩＥへの可能な入力として示されている。ＡＡＣは他方においてマップをデザイン仕様から性能特性へ反転する。回路網ＩＥおよびＡＡＣの双方は２９−１０−２９のノーダル‐アーキテクチュアを利用する。図１６中に示されている構造１００はＩＥ１０２、ＡＡＣ１０４およびＡＡＣからの出力端１０６を含んでおり、出力端１０６は「カンディデート自動デザインがパーフォーマンス規範を満たすか？」と記入されている決定ブロック１０８と接続されている。ブロック１０８はイエス出力端１１０を有し、この出力端はアルカイブ‐デザイン‐ブロック１１２に接続されており、このブロック１１２は分岐１１６を通じて装置１００の入力端に接続されている。ブロック１０８の出力端は分岐１１８および１１６を経て装置１００の入力端に接続されている。分岐１１６は「ＩＥコネクション重みに摂動を与える」と記入されているブロック１２０を経てＩＥ１０２の入力端に接続されている。ブロック１２０は「探索がＮサイクル以上継続したか？」と記入されている他のブロック１２２に接続されており、このブロックは出力端１２４を有する。ブロック１２２の出力端１２４は「スケルトン化ＩＥ」と記入されているブロック１２６に接続されており、ブロック１２６の出力はＩＥ１０２への入力として与えられ、また「ランダム‐パフォーマンス‐ファクタをＩＥに入力」と記入されている入力ブロックに接続されている。
【００３９】
ブロック１２４は分岐１３０を通じてＩＥ１０２の入力端への同一の入力ランダム‐パフォーマンス‐ファクタ‐ブロックに接続されている他の出力端１２８を有する。
【００４０】
作動中ＩＥ入力は乱数表からの供給された値である。これらの２９のコンポーネント‐ベクトルの各々が回路網を通じて伝播されるにつれて、物理的に実現可能な自動車デザインが、その２９のデザイン仕様に関して規定されてその出力端に現れる。ＩＥからの出力の各集合は次いでＡＡＣ１０４の入力端に供給され、そこでフィードフォワード伝播により仕様の特定の集合からの結果としての性能特性を生ずる。これらの性能特性は次いで、適切なデザインが得られているか否かを決定するべく所望の性能特性と比較される。これはＡＡＣのなかに訓練されているものである。もしデザイン特性が規範を満足するならば、そのカー‐デザインが陰極線管のような周波数の上に表示される。もしそのデザインがこれらの要求を満足しないならば、追加的なランダム入力がＩＥ１０２に供給され、また、ＡＡＣ１０４により類似の仕方で評価されるべき他のカンディデデイト‐デザインを発生するべく、新しい摂動がＩＥコネクション重みに与えられる。図１７は少なくとも３０ｍｐｇのハイウェイ‐マイル数、たかだか２５．０００ドルの小売価格および本発明による装置により合成された（１）、０、（−１）レーティング‐スケール上の計画されたユーザー満足度を有する車のデザインを示す。
【００４１】
この場合重要なことは、ランダム‐コンポーネントならびにＩＥに与えられる内部摂動から成る入力ベクトル上でベクトルの完成を実行することにより、回路網が物理的に実現可能なカー‐デザインのみを作り出すことである。また、この例では、カーブ重量およびタイヤ寸法のような特性は馬力のような因子により現実的なスケールとされている。こうして無数のナンセンスな仕様が、訓練された神経回路網のなかでコネクション強度により与えられるソフトな制約により、ＩＥのなかで除去される。もし本発明による装置が数値性能規範を与えられるならば、探索時間が延長されよう。従って、もしＩＥ１０２を通じての１０の伝播のような予め定められた数のフォワード伝播の後に、性能規範が満足されていないならば、アルゴリズムが探索を局限しようと試みてＩＥ１０２からの重みの制御された切り詰めを指令する。この場合、所望の範囲を含む性能値の予め定められたエンベロープのなかに入っているか否かを見るべく、全体装置１００を通じてランダム化されたいくつかの入力ベクトルを伝播しながら、重みはＩＥから１つずつ除去される。この範囲の外側でＡＡＣ出力を発生する重みが除去されるべきであれば、それは置換される。一層ラジカルな自動車デザインが要求されるならば、このような仮説的な自動車の性能を予測するＡＡＣに関係して、ＩＥのコネクション重みにアルゴリズム摂動の振幅のシステマティックな増大が行われよう。
【００４２】
本発明がここに説明された目的に限定されずに多くの目的に使用され得ることは当業者に理解されよう。重要なことは、一方はＩＥとして作動し、他方はＡＣＣとして作動する２つの神経回路網または神経回路網の群を使用することにより無数の可能な用途が想像し得ることである。これらの用途はデザイン、問題解決、選択、製造プロセスの開発および多くの他の領域にわたり得る。
【００４３】
以上にいくつかの目的に対して創造力をシミュレートし、また有用な情報を自律的に発生する新規な装置を図示し説明してきたが、多くの変更および応用が当業者により可能であり、それらは下記の請求の範囲によってのみ限定される本発明の範囲に属するものとする。
【図面の簡単な説明】
【００４４】
【図１】図１は本発明の教示に従って作動するべく接続されているアラート連合センター（ＡＡＣ）と組み合わされたイマジネーション‐エンジン（ＩＥ）と呼ばれる装置のブロック図である。
【図２】図２はいずれか１つまたはそれ以上が所望の出力情報を表すべく選ばれ得る複数個の出力を生ずるべく外部源からの摂動が本発明による装置にどのようにして与えられるかを示す（モードＡ）。
【図３】図３はいずれか１つまたはそれ以上が所望の出力情報を表すべく選ばれ得る複数個の出力を生ずるべくコネクション重み切り詰めの形態の摂動が本発明による装置にどのようにして与えられるかを示す（モードＢ）。
【図４】図４は新規な処置を表すべく選ばれ得る複数個の出力を生ずるべくコネクション重み切り詰めの形態の摂動が回帰回路網にどのようにして与えられるかを示す（モードＣ）。
【図５】図５はコーヒー用マグカップに対する所望の形状をデザインおよび／または製造するのに使用される本発明による装置の１つの実施例を示す。
【図６】図６は図５のコーヒー用マグカップを製造するのに使用される手段のブロック図である。
【図７】図７はコーヒー用マグカップに対する所望の形状を製造する際に本発明による装置により制御される作動部材の１つの形態を示す図である。
【図８】図８は受容可能および受容不可能なコーヒー用マグカップのデザインの例を示す。
【図９】図９は回帰回路網を利用して音楽ヴァースを作り出すために使用される本発明による装置の入力および出力の実施例である。
【図１０】図１０は受容可能な音楽を作り出すのに用いられる回路網の能動化を示し、ここではトレーニングがソング「トウィンクル・トウィンクル・リットル・スター」、「デイジィ」および「マリー・ハッド・ア・リットル・ラム」の組み合わせを作り出す。
【図１１】図１１は本発明による装置が出力を音に変換する仕方を示す。
【図１２】図１２は図９に示されている装置により作り出される１０の音楽フレーズを示す。
【図１３】図１３は簡単なフィードフォワード回路網およびその回路網の入力およびコネクション重みの双方に与えられる摂動を利用して音楽フレーズを作り出すために使用される本発明による装置の入力および出力の組み合わせを示す。
【図１４】図１４は非回帰フィードフォワード回路網を使用して作り出された受容可能な形態の音楽フレーズを示す。
【図１５】図１５は図１３の装置により作り出された５０の新規な音楽テールまたはフレーズを示す。
【図１６】図１６は新規な自動車のデザインを作り出すために使用される時に本発明による装置により作り出される入力および出力を示す。
【図１７】図１７は本発明による装置により作り出される２つの自動車のデザインを示し、デザイン（１）は少なくとも３０ｍｐｇ、２５，０００．００ドル以下のコストを達成し、またユーザーの満足度に関して好ましいレーティングを有し、またデザイン（２）は８秒以内に６０ｍｐｈに加速可能であり、また少なくとも１５０ｍｐｈの最高速度を達成する。
【図１】
2007299387.tif 000003
【図２】
2007299387.tif 000004
【図３】
2007299387.tif 000005
【図４】
2007299387.tif 000006
【図５】
2007299387.tif 000007
【図６】
2007299387.tif 000008
【図７】
2007299387.tif 000009
【図８】
2007299387.tif 000010
【図９】
2007299387.tif 000011
【図１０】
2007299387.tif 000012
【図１１】
2007299387.tif 000013
【図１２】
2007299387.tif 000014
【図１３】
2007299387.tif 000015
【図１４】
2007299387.tif 000016
【図１５】
2007299387.tif 000017
【図１６】
2007299387.tif 000018
【図１７】
2007299387.tif 000019
【手続補正書】
【提出日】平成19年5月17日(2007.5.17)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
ランダムノイズ刺激を受け、それへの人間の知的応答をシミュレートし、またそれから創造力出力を発生するための手段において、 ランダムノイズ源に接続されている第１の入力端と、出力端と、フィードバック入力端とを有する神経回路網と、 この神経回路網の出力端に接続されている入力端と、前記神経回路網のフィードバック入力端に接続されている出力端とを有するパトローリング神経回路網とを含んでおり、前記神経回路網が刺激のプログラム領域を含むとともにコンセプトの流れを連続的に出力し、また前記パトローリング神経回路網が、ランダムノイズにより生ずる入力刺激に起因する所望の出力を選ぶべく前記神経回路網からのコンセプトの流れを監視することを特徴とする人間の応答をシミュレートするための手段。
【請求項２】
ある知識領域のなかのトレーニングに基づいて入力‐出力マップを作るべく訓練された第１の神経回路網と、この第１の神経回路網にその重み、バイアスおよび能動化に影響する漸進的に増大する度合の摂動を受けさせ、それによって第１の神経回路網に第１の神経回路網の知識領域のなかの訓練された情報を漸進的に変更する出力を生じさせるための手段と、変更された情報を表示するための手段と、第１の神経回路網の予め定められた出力に応答するべく、またいくつかの有用なコンセプトが発生されるにつれてそれらのコンセプトを選ぶべく訓練された第２の神経回路網を含んでいる手段と、出現する情報の質および量の双方を調節するように第２の神経回路網のなかで発生された出力情報のいくつかを第２の神経回路網から第１の神経回路網へフィードバックするため手段を含んでいる第２の神経回路網からの出力を発生するための手段とを含んでいることを特徴とする人間の創造力をシミュレートするための装置。
【請求項３】
入力端と、出力端と、フィードバック入力端と、そのなかに情報領域を確立するべく人工神経回路網を訓練するための手段を含んでいる訓練情報源と、摂動データ源と、そのなかに確立された訓練領域に変化を生じさせるべく、また前記変化を反映する出力を前記人工神経回路網の出力端に生じさせるべく、前記摂動データを前記人工神経回路網に導入するための手段と、理解可能な仕方で前記変化を表す手段とを有することを特徴とする人工神経回路網。
【請求項４】
予め定められた知識領域のなかで訓練された神経回路網システムの第１の部分を含んでおり、この第１の部分が知識領域に影響する摂動が導入される入力端と、出力端と、フィードバック入力端とを有し、また前記第１の部分の出力を受けるべく接続されておりまた前記第１の部分の出力の異なる選択性レベルに応答するべく訓練されている第２の部分を有し、この第２の部分が入力端と、前記第１の部分のフィードバック入力端に接続されている出力端とを有し、それによって第２の部分が第１の部分を監視するときに、それがユーティリティの目的に対する受容可能性および非受容可能性に関する異なる出力のなかから選ぶことを特徴とする人工神経回路網のなかの既存のデータベースを変更するための装置。
【請求項５】
ある知識領域のなかの入力‐出力マップを作るべく訓練された神経回路網と、この神経回路網に漸進的に増大する度合の摂動を受けさせ、それによって知識領域のなかの変化および訓練された知識領域を漸進的に変更する特徴およびコンセプトを生じさせるための手段と、生じた変更を表示するための手段とを含んでいることを特徴とする人間の創造力をシミュレートするための装置。
【請求項６】
ある予め定められた知識領域のなかの情報を生ずるべく訓練されている神経回路網と、訓練された知識領域の重み、バイアス、内部および外部能動化に関する摂動の度合を、最初の知識領域のなかの特徴およびコンセプトから漸進的に変更された特徴およびコンセプトをついには生ずるように、増大させるための手段と、前記神経回路網に接続されており、また予め定められた出現するコンセプトの識別および選択を含めてその出力をパトロールするべく訓練されている第２の神経回路網と、選ばれたコンセプトを表示するための手段とを有することを特徴とする制約された人間の創造力をシミュレートするための手段。
【請求項７】
ある知識領域のなかでそのなかで訓練された情報を再循環させるべく訓練された回帰神経回路網と、知識領域の重み、バイアス、内部および外部能動化に関する摂動の度合を漸進的に増大させるための手段と、回帰神経回路網の出力を表示するための手段と、有用なコンセプトが作り出されるにつれて有用なコンセプトを他のコンセプトから選ぶ手段とを含んでいることを特徴とする緩く制約された人間の創造力をシミュレートするための手段。
【請求項８】
予め訓練された第２の部分に接続されている予め訓練された第１の部分と、第１および第２の部分の一つを、そのなかの訓練に変化を生じさせるべく、切り詰めるためのアルゴリズムとを含んでおり、第１の部分のなかで生起する変化が第２の部分のなかに変化を生ずることを特徴とする神経回路網。
【手続補正書】
【提出日】平成19年5月29日(2007.5.29)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
所与の知識領域に関連する新規な出力パターンを決定するための人工神経回路網ベースシステムであって、
（イ）出力パターンが生成される出力部分を持つと共に人工神経回路網を持つ神経回路網部分を備え、この人工神経回路網は入力部分を持つと共に入力パターンが当該入力部分に印加された時に前記神経回路網部分の出力部分からの出力パターンの生成に影響するように操作可能であり、前記人工神経回路網は、前記所与の知識領域に関連する訓練例に基づいて予め訓練されており、通常は、その設計の中に埋め込まれた少なくとも一つの制約条件と訓練例に基づいて、前記予め訓練された人工神経回路網の入力部分に供給された入力パターンに応答する標準出力パターンを生成するように操作可能であり、
（ロ）前記神経回路網部分と協働して該神経回路部分の出力部分に生成される出力パターンを観察するモニター部分を備え、
（ハ）前記少なくとも一つの制約条件の下で出力パターンに変化を起こさせる、前記神経回路網部分を摂動するための回路網摂動部分を備え、
（ニ）前記回路網摂動部分は、前記神経回路網部分による出力パターンの生成が、その後、前記神経回路網部分の前記回路網摂動部分による摂動に影響を与えるように操作可能であり、かかる摂動は、前記人工神経回路網を駆動して、前記神経回路網部分からの次の出力パターンの生成に影響を与え、生成された前記次の出力パターンは、特別に変化する摂動に部分的に基づいて、対応する入力−摂動−出力対応関係を創成し、
（ホ）前記モニター部分は、前記神経回路部分が摂動された時に、前記神経回路網の出力部分においてある期間にわたって生成された出力パターンの中から、前記神経回路網部分の前記出力部分において生成された前記出力パターンを評価するための一セットの予め定義された選択基準を満足する、少なくとも一つの認容された出力パターンを検出し、同定するために、操作可能であり、前記一セットの予め定義された選択基準を満足する出力パターンが、認容された新規なコンセプトを含んでいることを特徴とする装置。
【請求項２】
前記モニター部分は、前記神経回路網部分の出力部分において発生させられる観察された出力パターンの中から予め定義された基準を満足するデータパターンを同定する比較部分を持つことを特徴とする請求項１記載の装置。
【請求項３】
前記回路摂動部分は、次なる手段、すなわち、
以前に訓練されている前記人工神経回路網に対して内部的な摂動を導入して設計の中に埋め込まれた有効な制約条件に従ってその操作における変化をもたらし、
前記神経回路網部分の出力部分において生成され前記訓練された人工神経回路網に供給された所与の入力パターンに対して、かかる回路網摂動が無いときに前もって訓練された人工神経回路網によって与えられた入力パターンに応答して生成されたであろう対応する標準出力パターンとは異なる出力パターンの生成に影響を及ぼし、
この異なる出力パターンは、前もって訓練された人工神経回路網の設計の中に埋め込まれた不変の制約条件に基づくが、しかし前記所与の知識領域に関連する異なるコンセプトに一致するデータとして残されることを特徴とする請求項２記載の装置。
【請求項４】
前記一セットの予め定義された選択基準は、これを満足する前記神経回路網部分からの出力パターンが、前記認容された新規なコンセプトを含むように、選択されることを特徴とする請求項３記載の装置。
【請求項５】
モニター部分が、ルーチンプログラムを含むことを特徴とする請求項４記載の装置。
【請求項６】
モニター部分が、第二の、前もって訓練された人工神経回路網を含むことを特徴とする請求項５記載の装置。
【請求項７】
前記神経回路網部分の引き続く摂動が、前記神経回路網部分の以前の出力パターンに対する前記モニター部分の応答によって少なくとも部分的に決定されることを特徴とする請求項３記載の装置。
【請求項８】
回路網摂動部分が、前記の前もって訓練された人工神経回路網に、この人工神経回路網の入力部分に存在する特別な入力パターンを変更するべく外部からの摂動を導入するための手段を含み、それによって、特別な入力パターンに応答する出力パターンの生成に基づいて、入力−出力パターンの対となる関係を創成することを特徴とする請求項２記載の装置。
【請求項９】
前記予め定義された基準が、前記神経回路網部分からの出力パターンの中で特別なタイプの所望の出力パターンを表現するために選択され、それによって、前記予め定義された基準を満足する前記認容された出力パターンを同定する際に、前記認容された出力パターンに対応する入力−摂動−出力対応関係が、前記認容された出力パターンに対応する入力パターンを同定することを特徴とする請求項８記載の装置。
【請求項１０】
前記モニター部分がルーチンプログラムを含むことを特徴とする請求項８記載の装置。
【請求項１１】
モニター部分が、第二の、前もって訓練された人工神経回路網を含むことを特徴とする請求項８記載の装置。
【請求項１２】
外部からの摂動を導入するための手段が、第二の前もって訓練された人工神経回路網と、当該人工神経回路網への変化した入力パターンを生成するための連携手段とを含むことを特徴とする請求項８記載の装置。
【請求項１３】
前記回路網摂動部分は、前記神経回路網部分の摂動に影響を与えるように操作可能であり、少なくとも一つの前記摂動がランダムに生成されることを特徴とする請求項１記載の装置。
【請求項１４】
前記人工神経回路網は、入力層、出力層及び少なくとも一つの秘密層を含むことを特徴とする請求項１記載の装置。
【請求項１５】
前記創成された入力−摂動−出力対応関係に相当するデータをモニター部分と協働して保存するための記憶媒体を含むことを特徴とする請求項１記載の装置。
【請求項１６】
前記前記モニター部分と協働する出力部分を含み、前記出力部分は、前記モニター部分から出力データセットを受け取り、少なくとも一つの外部システムで利用するべく前記出力データセットをフォーマットするように操作可能であり、前記出力データセットは、前記認容された出力パターンに対応する前記入力−摂動−出力対応関係に相当することを特徴とする請求項１記載の装置。
【請求項１７】
所与の知識領域に関連する新規な出力パターンを決定するための方法であって、
（ａ）出力パターンが生成される出力部分を持つと共に、入力部分を有する人工神経回路網を含む神経回路網オブジェクトを提供するステップであって、この人工神経回路網は、前記人工神経回路網の前記入力部分に供給される入力パターンに応答して前記神経回路網オブジェクトの前記出力部分における出力パターンの生成に影響を及ぼすように操作可能であり、かく生成された出力パターンは当該パターンと関連する特別なデータパターンを持ち、前記人工神経回路網は、前記所与の知識領域に関連する訓練例に基づいて予め訓練されており、前記所与の知識領域を有するものであり、この前もって訓練された神経回路網は、通常は、その設計内に埋め込まれた少なくとも一つの制約条件と訓練例に基づいて、神経回路網の入力部分に供給された入力パターンに応答して、その出力部分に、既知のコンセプトに相当する標準出力パターンを生成するように操作可能であり、そして関連する入力−摂動−出力対応関係を有するものであり、
（ｂ）前記神経回路網オブジェクトを摂動してこの神経回路網オブジェクトの操作を駆動しそれにより生成された出力パターン内に変化を生じさせるステップであって、かかる変化した出力パターンは、前記訓練例及び関連する標準出力データの入力−摂動−出力対応関係とは異なる入力−摂動−出力対応関係を有するものであり、
（ｃ）前記神経回路網オブジェクトをある期間にわたってモニターするステップであって、摂動に応答して生成された出力パターンを検出し、予め定義されたた受容基準を満足するデータパターンを出力パターンの中から同定し、この予め定義された基準を満足するデータパターンの同定は、新規なコンセプトを決定し、この新規なコンセプトは、特別な入力−摂動−出力対応関係と協働する、というステップからなることを特徴とする方法。
【請求項１８】
請求項１７記載の方法において、ステップ（ｂ）が、次のステップ、すなわち、
前記人工神経回路網を内部的に摂動して、設計の中に埋め込まれ有効に存在している制約条件に従ってその操作の中にある変化をもたらし、前記前もって訓練された人工神経回路網に供給される所与の入力パターンに対してかかる回路網摂動が無いときに前もって訓練された人工神経回路網によって与えられた入力パターンに応答して生成されたであろう対応する標準出力パターンとは異なる出力パターンの生成に影響を及ぼし、この異なる出力パターンは、前もって訓練された人工神経回路網の設計の中に埋め込まれた不変の制約条件に基づくが、しかし前記所与の知識領域における異なるコンセプトに一致するデータとして残される、というステップを含むことを特徴とする方法。
【請求項１９】
請求項１７記載の方法において、ステップ（ｂ）が、次のステップ、すなわち、
前記前もって訓練された人工神経回路網に外的摂動を与えて、前記前もって訓練された人工神経回路網の入力部分に存在する特別な入力パターンを変化させ、この存在する特別な入力パターンに応答して出力パターンを生成することにより入力−出力パターンの対となる関係を創成する、というステップを含むことを特徴とする方法。
【請求項２０】
請求項１７記載の方法において、予め定義された基準が、特別なタイプの所望の出力パターンを表現するために、前記前もって訓練された神経回路網からの出力パターンの中から選択され、それによって、前記予め定義された基準を満足する前記認容された出力パターンを同定する際に、前記認容された出力パターンに対応する入力−摂動−出力対応関係が、前記認容された出力パターンに対応する入力パターンを同定することを特徴とする方法。
【請求項２１】
所与の知識領域に関連する所望のコンセプトを得るための人工神経回路網システムであって、
（イ）多数の相互に密接な関係のあるノードが配列された少なくとも一つの入力層、一つの出力層、及び少なくとも一つの中間層を有する人工神経回路網オブジェクトを含む神経回路網部分を備え、前記入力層の前記ノードは供給される入力データを受信するために接続され、前記神経回路網オブジェクトの少なくとも一つのノードは選択基準入力を受信するために接続され、前記神経回路網オブジェクトは、その中に特別な知識領域を創成するために、該知識領域に関連して非制限的選択基準入力と共に前もって訓練され、前記神経回路網オブジェクトは、前記神経回路網オブジェクトの訓練と一致するコンセプトに相当する標準出力を生成するために、非制限的選択基準入力が供給されたときに、前記訓練の後に設計中に埋め込まれている少なくとも一つの制約条件及び創成された知識領域に従って操作可能であり、
（ロ）前記人工神経回路網オブジェクトを摂動するための神経回路網摂動部分を備え、この神経回路網摂動部分は前記神経回路網オブジェクトを駆動して、前記少なくとも一つの制約条件に従って、前期神経回路網オブジェクトにより生成された出力に変化を起こさせ、
（ハ）前記神経回路網オブジェクトは、通常は、一セットの予め定義された制限的選択基準が選択基準入力として供給され、かかる選択基準が満足されたとき、所望のコンセプトに相当する出力をその出力部分に生成するように操作可能であり、
（ニ）そして一セットの予め定義された制限的選択基準に従って所望のコンセプトに相当する出力を受信するためのシステム出力部分を備えることを特徴とするシステム。
【請求項２２】
前記神経回路網オブジェクトは第一及び第二の人工神経回路網を含み、この第一の人口神経回路網は、前記入力データを受信してこれに応答する出力パターンを生成すべく接続され、前記第二の人工神経回路網は、前記一セットの予め定義された選択基準と前記第一の人工神経回路網によって生成された出力パターンの少なくとも一部とを受信するべく接続されていることを特徴とする請求項２１記載のシステム。
【請求項２３】
所与の知識領域に関連する新規な出力パターンを決定するための人工神経回路網ベースシステムであって、
（イ）入力部分と出力部分を持ち、入力部分に入力が供給されたときにその出力部分に出力を生成するように操作可能である人工神経回路網を備え、この人工神経回路網は前記所与の知識領域に関連する訓練例に基づいて予め訓練されており、通常は、その設計の中に埋め込まれた少なくとも一つの制約条件と訓練例に基づいて、前記予め訓練された人工神経回路網の入力部分に供給された入力パターンに応答する標準出力パターンを生成するように操作可能である、神経回路網部分と、
（ロ）前記神経回路網部分を摂動してその神経回路網部分及びその知識領域の品質を下げて、前記少なくとも一つの制約条件に従って、前記神経回路網部分の出力部分で前記神経回路網部分によって生成される出力に変化を生じさせる人工神経回路網摂動部分であって、この変化した出力は、神経回路網の知識領域の品質が下げられなかったら生成されたであろう標準出力パターンとは異なるものであり、このようにして生成された各出力は前記所与の知識領域に関連する入力−摂動−出力対応関係を創成する、人工神経回路網摂動部分と、
（ハ）前記神経回路網部分と協働して、前記人工神経回路網の出力部分に生成される出力パターンをある期間にわたって観察し、生成される出力パターンの中から、一セットの予め定義された選択基準を満足する特定の出力パターンを同定するモニター部分であって、前記一セットの予め選択された基準を満足する出力パターンが、認容された新規なコンセプトを含んでいる、モニター部分とを備えることを特徴とするシステム。