未来の二つの顔
人類が月面にまで生活圏を広げた未来、地球圏では高度な推論能力を持つAI搭載コンピュータであるHESPERによる複合コンピュータネットワーク(タイタン・ネットワーク)が人類の生活の隅々まで入り込んで、人間の生活の便宜を図っていた。
ある日、月面の掘削工事現場が、マスドライバーから打ち出された岩石で爆撃されるという事故が起きる。調査の結果、工事担当者が丘陵を掘削する工事の立案と施工を推論コンピュータHESPERに命じるにあたり示した条件<緊急度高・制限事項なし>にもとづいて、HESPERが「通常の土木機械を手配して工事を行うよりも遙かに短い工期で工事を完了する」ために、配下の貨物用マスドライバーで打ち出した岩石を落下させて丘陵を破砕する「掘削工事手法」を編み出して実行したことが判明した。
これは、人工知能の推論には、人間が暗黙のうちに仮定する制約条件、いわゆる常識が欠けていることが原因であった。
人類はHESPERの推論プログラムが単純であることが原因であると考え、より進んだ次世代の推論プログラムであるFISEに置き換える事で対応しようとする。既に人類社会はHESPERに依存しており、それ以前の世代のシステムに戻すことは論外であった。