目的の誤汎化は、しばしば生物学的進化にたとえて説明される。進化とは、機械学習システムの学習に使われる最適化アルゴリズムのような、ある種の最適化プロセスである。祖先代々の環境では、進化はヒトの遺伝子を高いのために選択したが、ヒトはそれ以外の創発的目的を追求する。適応度は、訓練環境や訓練データで使用される特定の目的に対応する。しかし、進化の歴史において、適応度を最大化することで、包括的遺伝的適応度を直接に追求しない、目的指向のエージェントであるヒトが生まれた。その代わりに、祖先の「訓練」環境における遺伝的適応度と相関する栄養や生殖といった創発的目的を追求する。しかし、私たちの環境は変化し、が起きた。人間は同じ創発的目的を追求し続けるが、それはもはや遺伝的適応度を最大化するものではない。甘い食べ物（創発的目的）への嗜好は、もともとは包括的適応度に沿ったものだったが、今では過食や健康問題につながっている。性欲は人間にセックスを追求させ、それは本来、より多くの子孫を残そうとするものであったが、現代人は避妊をすることで、セックスと遺伝的適応度を切り離している。
埋め込みエージェンシー.
オックスフォード大学とDeepMindの研究者らは、このような問題のある行動は高度なシステムで起こる可能性が高く、高度なシステムは報酬信号を無期限かつ確実に制御し続ける能力を追求するだろうと主張した。研究者らは、この未解決の問題に対処するためのさまざまな手法の可能性を提案している。
社会政策.
多くの政府機関や条約機構が、AIアライメントの重要性を強調する声明を発表している。
山本啓四郎
来歴・人物.
概要.
主な商品.
露口達
来歴・人物.
First Time (写真集)
莉央 17th summer
江原素六の生涯
アメリカ合衆国においてアメリカ合衆国大統領ロナルド・レーガンの夫人であるナンシー・レーガンがこの料理を大衆化させた。そのきっかけとなった出来事というのが、聖誕祭にホワイトハウスで彼女がこの料理を提供したことである。
関連デザート.
角元敬治
来歴・人物.
ブライアン・ウー
経歴.
概要.