【数理考古学】群論とエントロピー論①加法群(Additive Group)的エントロピーと乗法群(Multiplicative Group)的エントロピー

実際のプログラミング演算に結びつけるまでにはまだまだ随分とかかりそうですが、とりあえずメモがてら。ちなみに**エントロピー**(<font color=blue>Entropy</font>)って中国語だと「<font color=purple>熵</font>」の1文字なんですね。なんだか痺れます。

#エントロピー(<font color=blue>Entropy</font>)なる概念の二つの定義からの出発

「**閉じた系**(システム)**においてはエントロピーが必ず増大する**」とする「**エントロピー増大の法則**」は、しばしば「**整理整頓された状態**(秩序段階)**から散らかった状態**(無秩序段階)**への移行**」としてイメージされてきました。
![image.png](https://cdn-ak.f.st-hatena.com/images/fotolife/o/ochimusha01/20210514/20210514094032.png)
![image.png](https://cdn-ak.f.st-hatena.com/images/fotolife/o/ochimusha01/20210514/20210514094056.png)
ここではあえて真逆に「**散らかった状態**(各地域文化が全く統合されてない段階)**がエントロピー最小**(すなわちあらゆる形で地域間交流が変化を引き起こす可能性が想定可能な状態)、**全てが完全に整理整頓された状態**(文化統合の結果、中央文化のみが残った段階)**をエントロピー最大**(すなわちもはや地域間交流が如何なる変化も引き起こさないある種の熱死状態)」とイメージし、その過程全体を「**グローバリズムの進行**」と捉えます。その志向性は「**地域間差異の偏在**」を克服しようとする動きとして始まり、全ての差異の消し込みに成功するとその役割を終える（熱的死状態を迎える）訳です。

#人文学方面におけるエントロピー(<font color=blue>Entropy</font>)概念の援用

そう、ここで論じたいのは人文学方面への**エントロピー**(<font color=blue>Entropy</font>)概念援用の為の定義整備なのです。

* **ゴビノー伯爵**(Joseph Arthur Comte de Gobineau,1816年~1882年）の**人種エントロピー論**や(ポーランドの特権階層シュラフタ(ポーランド語:szlachta/ルーシ語:шляхта)擁護に端を発する)**ニーチェ**(Friedrich Wilhelm Nietzsche, 1844年~1900年)の(貴族論的)**英雄主義**や**レヴィ＝ストロース**（Claude Lévi-Strauss、1908年~2009年)の**構造主義的文化人類学**といった「**社団**(Association=アソシアシオン)**は実存する**」なる前提に立脚する**フランス社会学の伝統**に分類される諸概念は、この意味合いにおける「**グローバリズムの完成**＝**あらゆる変化の源たる多様で多態な差異が失われた熱的死状態**」への志向をニヒリズムの一種と捉え、徹底抗戦を誓う。<br>[『ゴビノーの『人種不平等論』』](https://ameblo.jp/tsuguminokazoku/entry-11169661491.html)<br>[シュラフタ - Wikipedia](https://ja.wikipedia.org/wiki/%E3%82%B7%E3%83%A5%E3%83%A9%E3%83%95%E3%82%BF)<br>ただし**ゴビノー伯爵の人種エントロピー論**がかかる志向性の展開を歴史的必然と見做す**悲観主義**(以下に述べるマンハイム分類における進歩主義)の立場に立つのに対し(すなわち、それ以上変化が起こらない熱的死状態の到来は不可避と考える)、**ニーチェの英雄主義**や**レヴィ＝ストロースの構造主義的文化人類学**は「**差異の温存こそが人類を**(それ以上変化が起こらない熱的死状態の到来がもたらす)**滅亡から救う**」と考える**楽観主義**(マンハイム分類における伝統主義)の立場に立つ点が異なる。<br>[【エントロピー理論の終着地点？】「距離のパトス」とメタ・レイシズム](https://ochimusha01.hatenablog.com/entry/2017/05/26/034816)
* **カール・マンハイム**(Karl Mannheim,1893年〜1947年)「**保守主義的思考**(Das konservative Denken、1927年)」はまず「**万物は**(神の摂理を法源とする)**自然法によって定められており、一切変えるべきではない**」と考える**中世的伝統主義**が実存し、それに対して「**数理的に抽出して改善を加える事が可能な次元では操作を遂行しよう**」と提唱する**楽観的進歩主義**と「**だが我々の数理抽出能力とその操作遂行能力はあくまで限られていて間違う事もあり、未知の変数を見逃してる可能性もあるから操作は慎重に進めるべき**」と反論する**悲観的保守主義**が現れるが両者は表裏一体の関係にあり同一人物の中ですら共存可能とした。<br>[【沈黙 -サイレンス-】【保守主義的思考】日本はシャトーブリアンがただの肉の呼称になってしまう国？](https://ochimusha01.hatenablog.com/entry/2017/01/18/180152)
* 一方**英国政治学**(英米法学)の伝統は薔薇戦争時代と清教徒革命時代から得た現実的教訓から「**究極の自由主義は専制の徹底**(すなわち反対意見の黙殺)**によってのみ達成される**」なる悲観主義に到達し「**国家**=**暴力的解決手段の独占によってその処理遂行能力を担保された超越的裁定機関**」が客観的に地域間紛争を裁定し裁定結果を守らせる「**法実証主義**(Legal Positivism)」を採用。<br>[「究極の自由主義は専制の徹底によってのみ達成される」？](https://ochimusha01.hatenablog.com/entry/2016/04/26/093431)<br>これが近代国家の枠組みの原型となったが、この理論において国家は原則として「**数理的に抽出して改善可能な次元**」のみを扱うと考えられるので、一応はマンハイムの分類においては楽観的進歩主義の一種と捉えられる。<br>[法実証主義 - Wikipedia](https://ja.wikipedia.org/wiki/%E6%B3%95%E5%AE%9F%E8%A8%BC%E4%B8%BB%E7%BE%A9)
* 一方、中世から近世にかけて所領としては一定範囲を保ちつつ(純粋に国際情勢にのみ拠って外挿的に)王統だけが差し替え続けられた(ナポリやシチリア島を中心とする)南イタリアでは「**国家は実存する**」なる前提から出発して横軸に「(税収や兵役や賦役といった)**国民負担**」、縦軸に「(その見返りとしての)**国家提供サービスに対する国民満足度**」を取って国家経営の健全度を測定するイタリア経済学の伝統が発祥した。<br>[イタリア経済学の伝統](https://cruel.org/econthought/schools/italian.html)<br>これも一応は「**国家は数理的に抽出して改善可能な次元のみを扱う**」観点からマンハイム分類において楽観的進歩主義の一種に含め得るが、ここで現れる「**国家が国民に強いる負担**」や「**見返りとして国民が国家に求めるもの**」が「**すべからく**」数理的に抽出された改善操作を許すかどうかは随分と微妙な話題であり、実際「**ここにムッソリーニのファシズムが付け込む余地があった**」とユーロ・コミュニズムの父**グラムシ**（Antonio Gramsci、1891年~1937年）は反省しているのである。<br>[「すべからく」の意味と類語、注意したい誤用と正しい例文5選 | マナラボ](https://docoic.com/3400)<br>[【「諸概念の迷宮」用語集】ムッソリーニ VS グラムシ & ネグリ](https://ochimusha02.hatenadiary.com/entry/2020/06/19/204432)
* こうした一連の考え方に対しドイツ社会学の伝統はマルクス主義元祖**カール・マルクス**(Karl Marx, 1818年~1883年)「**経済学批判**（Kritik der Politischen Ökonomie,1859年）」における「**我々が自由意思や個性と信じ込んでいるものは、実際には社会の同調圧力に型抜きされ量産された既製品に過ぎない**」提言や**精神科医フロイト**（Sigmund Freud,1856年~1939年）の神経症研究を通じて明かされた「**人間の行動は思うより無意識や超自我の影響下にある**」報告から出発する(当時の言説には実際「マルクス=フロイト主義」なる表現が見受けられる)。<br>[「唯物史観」と「マルクス・フロイト主義」](https://ochimusha01.hatenablog.com/entry/2016/09/22/223535)<br>この観点において**ドイツ社会学の伝統**は「**人間の自由意志が純粋な形で顕現するのはいかなる制約も受けてない場合だけである**」と考える立場から逆算して「**それを実際には統制下に置いて拘束する超越的構造**」を一つずつ炙り出してその相互関係について推察を加えるのである。<br>[マックス・ウェーバーの「鋼鉄の檻理論」](https://ochimusha01.hatenablog.com/entry/2016/04/27/124117)<br>このあたりの事情についてドイツ人作家**ギュンター・グラス**（Günter Grass, 1927年~2015年）の代表作「**ブリキの太鼓**(Die Blechtrommel, 1985年)」に「**ドイツ人は魂で直接探すのを好むが、感覚器官でない魂が一体何を検出するというのだろう?**(意訳)」なる(カントの観念論を告発する様な)鋭い懐疑を掲載している。ちなみにドイツのデュッセルドルフにユダヤ人として生まれ、後にフランスに亡命してパリでカソリック教徒として亡くなった詩人**ハイネ**（Christian Johann Heinrich Heine, 1797年~1856年）は「**ドイツ近代文学の歴史のために**(Zur Geschichte der neueren schönen Literatur in Deutschland, 1833年)の中で「**五感が感受する官能、およびそれへの反応としての全身の運動器官の使用履歴の総体**」として人間を理解しようとする**フランス人の官能主義**(行動主義)**的伝統**と「**客観的経験論でなく主観的直観が人間を善導するイメージ**」を重視する**ドイツ人の超絶主義**(Transcendentalism=トランセンデンタリズム)**的伝統**を対比させていたりする。<br>[【哲学ノート】カントの観念論 (人間学ブログ　NINGENGAKU Blog)](http://www2.human.niigata-u.ac.jp/~mt/ningen/2009/03/post_12.php)<br>[ハインリヒ・ハイネ - Wikipedia](https://ja.wikipedia.org/wiki/%E3%83%8F%E3%82%A4%E3%83%B3%E3%83%AA%E3%83%92%E3%83%BB%E3%83%8F%E3%82%A4%E3%83%8D)<br>[「精神と肉体の齟齬」の超克方法](https://ochimusha01.hatenablog.com/entry/2016/05/09/173115)<br>[超絶主義 - Wikipedia](https://ja.wikipedia.org/wiki/%E8%B6%85%E7%B5%B6%E4%B8%BB%E7%BE%A9)

全体的にゴチャゴチャしてるので整理を試みましょう。

* 文中で多用される「**悲観的**」「**楽観的**」なる形容詞は、それぞれの立場における**観測原点**(Ovservation Origin)に依存しており全体像を俯瞰する場合には切り捨てざるを得ない。
* **フランス社会学の伝統**が立脚する**方法論的集合主義**(Methodological Collectivism)と**ドイツ社会学の伝統**が立脚する**方法論的個人主義**(Methodological Individualism)の対峙についてはとりあえず$対象_n(n=個人 \rightleftharpoons 集団)$と単純化した次元として組み込み、**フランス人の官能主義的伝統**や**ドイツ人の超越主義的伝統**などはかかる「**数直線**」上のしかるべき地点に配置されるものとする。<br>[方法論的集合主義](http://tanemura.la.coocan.jp/re3_index/6H/ho_methodological_collectivism.html)<br>[方法論的個人主義 - Wikipedia](https://ja.wikipedia.org/wiki/%E6%96%B9%E6%B3%95%E8%AB%96%E7%9A%84%E5%80%8B%E4%BA%BA%E4%B8%BB%E7%BE%A9)
* **英国政治学**(英米法学)が立脚する**法実定主義**については、とりあえず上掲の対象次元に(それぞれの対象の存続可能性に影響する)$対象_n(n=マイノリティ(少数派) \rightleftharpoons マジョリティ(多数派))$なる評価軸の追加で対応する。ここで論じたいのはエントロピー増減に影響する部分だけなので**イタリア経済学の伝統**の観点も含め全体を統制するのが自然競争状態であるのが正しいか、国家であるのが正しいかといった話題までは踏み込まない。

すると、ここで論じられているエントロピーが、数理的には以下の３種類のアプローチに大別可能である事実が浮かび上がってくるのです。

###加法群(<font color=blue>Additive Group</font>)的アプローチ
任意の二点間の平均を求め続ける事で最終的に**加法単位元**(Additive Identity)<font color=green>0</font>すなわち(熱的死状態に対応する)**その系全体の平均値**(分布の中心)に到達する流れ。

* ある意味、**ゴビノー伯爵の人種エントロピー論**そのものの実装。逆を言えば**ニーチェの英雄主義**や**レヴィ＝ストロースの構造主義的文化人類学**における「**あえて演算を遂行しない事で結論への到達を回避する**」**伝統主義的態度**は数理的には全く無意味となります。演算不可能なら最初から演算そのものが遂行不可能ですし、演算可能なら演算結果は**自明の場合**(Trivial Case)として勝手に算出されるだけの話。
* 統計学上、データセットの平均から中心を割り出すプロセスに対応します。<br>[【数理考古学】群論とシミュレーション原理⑧族の分類とそれに下属する演算集合の関係の整理](https://qiita.com/ochimusha01/items/45ed0c876201ca857360)<br>![Ratio01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/597772/a3f3131d-97cf-0820-1225-977d8b4cf25b.png)<br>![image.gif](https://camo.qiitausercontent.com/41a18e98651f2835ad642775fe1a82e27bdcce43/68747470733a2f2f71696974612d757365722d636f6e74656e74732e696d6769782e6e65742f687474707325334125324625324671696974612d757365722d636f6e74656e74732e696d6769782e6e6574253246687474707325323533412532353246253235324663646e2d616b2e662e73742d686174656e612e636f6d2532353246696d616765732532353246666f746f6c69666525323532466f25323532466f6368696d75736861303125323532463230323130313137253235324632303231303131373030333834382e67696625334669786c696225334472622d312e322e322532366175746f253344666f726d61742532366769662d71253344363025323671253344373525323677253344313430302532366669742533446d61782532367325334433376363626164633663313030613264383961383737616530353930613766643f69786c69623d72622d342e302e30266175746f3d666f726d6174266769662d713d363026713d373526773d31343030266669743d6d617826733d6164326163613961373464396434653464386539303766343436393538376431)<br>![image.gif](https://camo.qiitausercontent.com/bf201abdbe5afd58426496233f6a336a7c2e270d/68747470733a2f2f71696974612d757365722d636f6e74656e74732e696d6769782e6e65742f687474707325334125324625324671696974612d757365722d636f6e74656e74732e696d6769782e6e6574253246687474707325323533412532353246253235324663646e2d616b2e662e73742d686174656e612e636f6d2532353246696d616765732532353246666f746f6c69666525323532466f25323532466f6368696d75736861303125323532463230323130313137253235324632303231303131373030333232352e67696625334669786c696225334472622d312e322e322532366175746f253344666f726d61742532366769662d71253344363025323671253344373525323677253344313430302532366669742533446d61782532367325334433386663643438336136393238363166623439646136653939326335373631613f69786c69623d72622d342e302e30266175746f3d666f726d6174266769662d713d363026713d373526773d31343030266669743d6d617826733d3064353663386662316139666537313634326263633732313831633162626538)<br>![image.gif](https://camo.qiitausercontent.com/cd1619876e5ed9f5ecc1848835b6fd8617d02533/68747470733a2f2f71696974612d757365722d636f6e74656e74732e696d6769782e6e65742f687474707325334125324625324671696974612d757365722d636f6e74656e74732e696d6769782e6e6574253246687474707325323533412532353246253235324663646e2d616b2e662e73742d686174656e612e636f6d2532353246696d616765732532353246666f746f6c69666525323532466f25323532466f6368696d75736861303125323532463230323130313137253235324632303231303131373030323834352e67696625334669786c696225334472622d312e322e322532366175746f253344666f726d61742532366769662d71253344363025323671253344373525323677253344313430302532366669742533446d61782532367325334433666464336636636535643566666463636335323834656430373739393837313f69786c69623d72622d342e302e30266175746f3d666f726d6174266769662d713d363026713d373526773d31343030266669743d6d617826733d6261633031656334613030333961336264363661636331396433373737396334)<br>![image.gif](https://camo.qiitausercontent.com/2fd25f14e8073f2edd5c9a8a4675148376c4c62b/68747470733a2f2f71696974612d757365722d636f6e74656e74732e696d6769782e6e65742f687474707325334125324625324671696974612d757365722d636f6e74656e74732e696d6769782e6e6574253246687474707325323533412532353246253235324663646e2d616b2e662e73742d686174656e612e636f6d2532353246696d616765732532353246666f746f6c69666525323532466f25323532466f6368696d75736861303125323532463230323031313130253235324632303230313131303031303732372e67696625334669786c696225334472622d312e322e322532366175746f253344666f726d61742532366769662d71253344363025323671253344373525323677253344313430302532366669742533446d61782532367325334439306462326462363664646338316538313439313363363034366666636630343f69786c69623d72622d342e302e30266175746f3d666f726d6174266769662d713d363026713d373526773d31343030266669743d6d617826733d6430653139383939396234333837346462313066663133326462343864646139)<br>[【初心者向け】平均と標準偏差、中央値と平均偏差](https://qiita.com/ochimusha01/items/971d62ebc5e4cac6a61b)<br>[【初心者向け】標本分散と不偏分散](https://qiita.com/ochimusha01/items/a628caaa607bc3b8157f)<br>[【初心者向け】度数分布(Frequency Table)/度数分布図と最頻値（Mode）](https://qiita.com/ochimusha01/items/ea7ca95bf05510004bc6)<br>[【初心者向け】記述統計学と代表値](https://qiita.com/ochimusha01/items/0bdfc971a69a30f0615f)<br>![image.gif](https://camo.qiitausercontent.com/2e2d6dbb9648c3793d05e948601b18a970535457/68747470733a2f2f71696974612d757365722d636f6e74656e74732e696d6769782e6e65742f687474707325334125324625324663646e2d616b2e662e73742d686174656e612e636f6d253246696d61676573253246666f746f6c6966652532466f2532466f6368696d757368613031253246323032303132313825324632303230313231383138303033392e6769663f69786c69623d72622d342e302e30266175746f3d666f726d6174266769662d713d363026713d373526773d31343030266669743d6d617826733d3937383737363233313736333930376532333735356466376532656132643534)<br>[線形回帰とは何か - Qiita](https://qiita.com/ynakayama/items/5732f0631c860d4b5d8b)
![image.png](https://cdn-ak.f.st-hatena.com/images/fotolife/o/ochimusha01/20210504/20210504071926.png)

###乗法群(<font color=blue>Multiplicative Group</font>)的アプローチ
とりあえず**乗法単位元**(Multiplicative Identity)<font color=green>1</font>を**エントロピー最小の状態**と考え、実態がこれから離れるほどエントロピーが増大していくとみなす。さしあたって結果として実態が到底乗法単位元1の近似とは見做せなくなった時点で(その状態への復元が絶望的となった段階で)**熱的死状態**を迎えると考える。

* どうやら**英国政治学**(英米法学)**における法実定主義の運用的制度診断**や**イタリア経済学における国家経営状態の健全性診断**に対応する様で、さらに**制御工学**(Control Engineering)におけるフィードバック理論の諸概念を追加する事で様々な発展系が考えられそうです。<br>[制御工学 - Wikipedia](https://ja.wikipedia.org/wiki/%E5%88%B6%E5%BE%A1%E5%B7%A5%E5%AD%A6)
* **ロジスティックス方程式**(Logistic Equation)などを用いたアプローチとも相性が良さそうです。<br>[【初心者向け】ロジスティック方程式とその関連範囲](https://qiita.com/ochimusha01/items/2f0118ecda2e17d366ba)<br>![image.png](https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.ap-northeast-1.amazonaws.com%2F0%2F597772%2Fe526ec32-34f9-fabd-764f-932e13cafc98.png?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&w=1400&fit=max&s=8bd860b1c0da17df4c6cea896ed325c0)
* という事は「**テクノスリラー**」ジャンルを創設した小説家**マイケル・クライトン**（Michael Crichton、1942年~2008年）が「**ウエストワールド**（Westworld,1973年）」や「**ジュラシック・パーク**(Jurrassic Park,1990年)」で扱った「(カオス過程進行による)**テーマパークの暴走**」の様な観点もこの分類に含まれる事になりますね。<br>[ロジスティック写像 - Wikipedia](https://ja.wikipedia.org/wiki/%E3%83%AD%E3%82%B8%E3%82%B9%E3%83%86%E3%82%A3%E3%83%83%E3%82%AF%E5%86%99%E5%83%8F)<br>![image.png](https://upload.wikimedia.org/wikipedia/commons/thumb/7/7d/LogisticMap_BifurcationDiagram.png/300px-LogisticMap_BifurcationDiagram.png)

###統計学的境界線(<font color=blue>Statistical Boundaries</font>)
**統計学**(Statistics)的には、その分布が**有意水準++(Significance Level)を満たさない=**帰無仮説**(Null Hypothesis)を**棄却**(Rejection)出来ない=サンプル数過剰などによってその分布が個性を喪失し**正規分布**(Normal Distribution)などの**大数の法則的一般分布**に併呑される展開を熱的死状態を迎えたと考える流儀も存在する。

* 一見、上掲の設問では扱わなかった**存在論**（Ontology)と関係してきそうに見えます。<br>[存在論 - Wikipedia](https://ja.wikipedia.org/wiki/%E5%AD%98%E5%9C%A8%E8%AB%96)
* しかし実際の数理的アプローチはかかる形而上学的側面に踏み込む事なく、例えば「**フーリエ級数による特定波形の近似は何処から何処まで有効か?」といった話題に進んでいくのです。<br>[【初心者向け】フーリエ解析（Fourier Analysis）を可視化する。](https://qiita.com/ochimusha01/items/ab4ebac4afee1d0ed287)<br>![image.gif](https://qiita-user-contents.imgix.net/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fo%2Fochimusha01%2F20190822%2F20190822154404.gif?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&w=1400&fit=max&s=15cd5f8770b16623bb8f80f2138b8246)<br>![image.gif](https://qiita-user-contents.imgix.net/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fo%2Fochimusha01%2F20190822%2F20190822162110.gif?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&w=1400&fit=max&s=f4638b98a01132206d60e70dd01d0bd8)<br>![image.gif](https://qiita-user-contents.imgix.net/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fo%2Fochimusha01%2F20190822%2F20190822170907.gif?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&w=1400&fit=max&s=69ee15b4628e9151d82f3a36baae3e1b)<br>![image.gif](https://qiita-user-contents.imgix.net/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fo%2Fochimusha01%2F20190822%2F20190822173850.gif?ixlib=rb-4.0.0&auto=format&gif-q=60&q=75&w=1400&fit=max&s=5bf702280bdb73a75f0c170cd7bb0d9f)
* また 「**その画像に写っているのが猫と分かる為には如何なる特徴抽出が有効か**」といった**機械学習的側面**に進んでいく事も想定されます。

[機械学習 - Wikipedia](https://ja.wikipedia.org/wiki/%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92)

>その呼称は<font color=green>1959年</font>にアーサー・サミュエルによって造語された。

トム・M・ミッチェルによる定義

>コンピュータプログラムが**タスクのクラス**<font color=green>T</font>と**性能指標**<font color=green>P</font>に関し**経験**<font color=green>E</font>から学習するとは、<font color=green>T</font>内のタスクの**性能指数**<font color=green>P</font>で測った性能が**経験**<font color=green>E</font>により改善される事を言う。
><font color=green>A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E。</font> 

* **タスク**とは、**プログラムが解くべき課題**を指す。例えば売上予測タスクであれば「<font color=purple>明日の売上を予測する</font>」といった課題設定がタスクとなる。
* **経験**はなんらかのデータとしてプログラムに与えられ、それを**訓練データ**もしくは**学習データ**と呼ぶ。売上予測タスクなら例えば「<font color=purple>過去の経験=今日までの売上</font>」が訓練データとして与えられ、それを用いてプログラムの性能を改善する過程を、「**プログラムを訓練する**」もしくは「**プログラムを学習させる**」と呼ぶ。またプログラムの訓練に用いられるデータ全体の集合を（訓練もしくは学習）**データセット**（データ集合とも）と呼ぶ。
* **性能指標**は、**プログラムがタスクをどの程度の性能で達成したか**を測る指標で、前述の売上予測タスクであれば、例えば実際の売上との誤差を性能指標として用いる事ができる。

こうして全体像を俯瞰すると**乗法群的エントロピー制御**の一種として組み込まれる形となりそうです。

#人文学上の諸概念と数理の対応
上掲の諸概念は**統計学や制御工学上の諸概念の爆発的発展**が始まる以前にその定義が固まり、以降ちゃんとした形でアップデートされずにきました。ましてや以下ほど新しい概念となると…

[エントロピー - Wikipedia](https://ja.wikipedia.org/wiki/%E3%82%A8%E3%83%B3%E3%83%88%E3%83%AD%E3%83%94%E3%83%BC)

>ドイツの物理学者**ルドルフ・クラウジウス**(Rudolf Julius Emmanuel Clausius, 1822年~1888年)が、カルノーサイクルの研究をする中で、移動する熱を温度で割ったQ/Tという形で導入され、当初は熱力学における可逆性と不可逆性を研究するための概念であった。後に原子の実在性を強く確信したオーストリアの物理学者**ルートヴィッヒ・ボルツマン**（Ludwig Eduard Boltzmann, 1844年~1906年)によって、エントロピーが原子や分子の「**乱雑さの尺度**」であることが論証された。
>
>クラウジウスは<font color=green>1854年</font>に**クラウジウスの不等式**として熱力学第二法則を表現していたが、彼自身によって「**エントロピー**」の概念が明確化されるまでにはそれから11年を要した。不可逆サイクルでゼロとならないこの量をクラウジウスは仕事と熱の間の「**変換**」で補償されない量として、<font color=green>1865年</font>の論文においてエントロピーと名付けた。エントロピーという言葉は「**変換**」を意味するギリシア語: τροπή（トロペー）に由来する。
>
>その後**ボルツマン**や**ギブス**（Josiah Willard Gibbs, 1839年~1903年）によって統計力学的な取り扱いが始まった。**情報理論**（直接的には通信の理論）における情報量の定式化が行われたのは**クロード・シャノン**（Claude Elwood Shannon,1916年~2001年）の<font color=green>1948年</font>『**通信の数学的理論**』においてとなる。**シャノン**は熱統計力学とは独立に定式化にたどり着き、**エントロピー**という命名は**フォン・ノイマン**（ハンガリー語：Neumann János/独:John von Neumann, Margittai Neumann János Lajos, Johannes Ludwig von Neumann,1903年~1957年）の勧めによる、と言われることがあるが、**シャノン**は**フォン・ノイマン**の関与を否定している。

まぁ大体上記の様に考えておけば現代でも大体通用しそうです。そんな感じで以下続報…