は次のように説明する。「AIはあなたを憎むことも、愛すこともない。ただ、あなたはAIにとってほかに使い道のある多数の原子でできている。」
これらの問題は「 」と呼ばれる。「AIのコントロール問題」では、人類にとって有害な超知能を不慮に生み出すことを回避しつつ、人類の助けとなる超知能の主体を創造するための方法が問われている。最初から正しくコントロールを設計しなかった場合、プログラムに欠陥のある超知能は起動した時点で「世界を支配する」ことを合理的に決定し、プログラマが自らのプログラムに修正を加えることを以後拒否する危険性がある。設計戦略として考えられる候補には「能力のコントロール」（AIが有害な計画を追求する力を得ることを防止）や「動機のコントロール」（人類に有益となることを望むAIの開発）などが挙げられる。
は、超知能についての公教育ならびに超知能開発の公的な管理を提唱している。
Tune
概要.
出演者.
職業記載のない人物は、フジテレビアナウンサー。
エンディングテーマ.
周殷
周 殷（しゅう いん、生没年不詳）は、楚漢戦争期の楚の項羽の武将で、大司馬に任じられた。
経歴.
かつて項羽配下の猛将の一人であった英布が、漢軍の劉邦のもとに馳せ参じており、漢王の劉邦の従兄弟である劉賈と共に楚軍包囲網を完成させるべく江東の楚深くまで侵入していた。
一方、楚漢戦争の本戦である劉邦陣営の漢軍と項羽陣営の楚軍の戦いは、広武山での楚漢両軍による消耗戦の結果、和睦が成立していた。
しかし、劉邦は項羽率いる楚軍が兵糧不足で疲弊している今こそが項羽を倒して天下を平定する好機であるため和睦の盟約を反故にして楚軍を追撃すべきという幕僚の張良と陳平の進言を受け容れ、劉邦陣営が追撃を開始していた。
その追撃戦において劉邦陣営では大将軍を務め、北方の斉を平定して劉邦陣営に組み込んだ韓信と滎陽及び広武山でのにらみ合いで項羽率いる楚軍の後方撹乱を担当した彭越に項羽討伐を呼びかけていた。
その時に、楚の奥深くまで侵入していた前述の英布と劉賈によって説得され、楚軍の大司馬を務めていた周殷は項羽を裏切り、劉邦陣営に鞍替えした。その結果、垓下の戦いで劉邦陣営が作り上げた項羽包囲網が形成された。
WMATA
概要.
車体.