フランスのディジョンで生まれる。1817年、14歳の時に父親が死去したが、母親は学費を借金によって支払った。1821年、パリのエコール・ポリテクニークに入学し、2年後に国立土木学校に転入した。この転入により、卒業後は技術分野の高級官僚団（フランス語: Grand corps de l'État）の1つである土木技官（フランス語: Ingénieur des ponts et chaussées）として採用された。1828年に、ディジョンに家族とともに暮らしていたイギリス人のヘンリエッテ・キャリー(Henriette Carey)と結婚した。官僚団の一員として、井戸掘削による上水供給の代わりに、ディジョン市内での加圧式の上水システムを建設した。このシステムは、ホゾア(フランス語: Rosoir)にある湧き水から12キロメートル離れた都市近くの貯水池まで水道によって水を運び、2万8千キロメートルにも及ぶ上水道管網により市内に十分な水を配給するものとなっている。このシステムの特徴は、全てが重力によって動いているため、ポンプを必要としない点である。この上水システム以外にも、ディジョン内外で、ディジョン市役所の公共事業に携わった。このような水道網の整備をしている時に、水が管路を流れる際に摩擦によって失われるエネルギー（損失水頭）を計算するための公式であるプロニーの式を改良した。この式は、後に更にユリウス・ワイスバッハによって修正され、ダルシー・ワイスバッハの式として、今日でも摩擦損失水頭を計算するために利用されている。1848年には、コート＝ドール県（県庁所在地がディジョン）の主任技術者となる。その後すぐに政治的圧力によってディジョンを離れるが、パリで水道・道路局の主任局長となった。この間、更に管路の流れと摩擦に関する水理学的な研究を進めることができた。その成果として、ピトー管の形状を改良し、今日使われているようなものとした。体調の悪化により1855年に辞職することとなったが、ディジョンで研究を継続することを許可された。1855年と1856年には、カラム試験（円柱状の試験体に液体を通す試験）を指揮し、後にダルシーの法則と呼ばれる公式の研究を進めた。この結果は当初は砂の中を流れる水（地下水）を対象としたものだったが、現在ではより広範囲に一般化され様々な状況でも使用されている。この研究成果をたたえ、透水係数の単位として「ダルシー（英語: Darcy）」が使われることがある。1858年、パリへの旅行中に肺炎によって死去し、ディジョン墓地(フランス語: Cimetière de Dijon)に埋葬された。
1927年（昭和2年）、大阪市東区（現中央区）内淡路町にあった、古くから続く薬種問屋の三男坊として生まれる。1939年（昭和14年）、旧制大阪府立生野中学校入学と同時に、甲子園口に転居。その後、広島高等学校に進学する。この頃から甲子園口の自宅近くに住む、若き日の畔柳二美との親交が始まった。1951年東京大学文学部仏文科を卒業し、電通に勤務する傍ら、佐多稲子、埴谷雄高ら作家と交友を深め、「新日本文学」などに文芸評論を寄せた。畔柳二美とは約20年間、共同生活を送った。二美は1965年死亡した。武彦は二美の精神生活を支える誠実な同伴者だった。自らも作家として活動し、自伝的な文学作品を著した。「樟樹」には武彦の幼少年期、「針槐」には中学・高校時代の生活が描かれ、「公孫樹」は二美の闘病記となっているが、佐々木基一はこれら三部作に対して、「プルーストだね」と感慨を述べたという。
1939年（昭和14年）より屋上に設けられていた鉄道神社は、JR西日本本社ビル屋上に移され、1992年（平成4年）3月25日にJR西日本本社ビルの屋上にて引越し式が執り行われた。
鉄骨鉄筋コンクリート構造の地上5階、地下1階建てで他に塔屋があり、建築面積約4,800m²にして竣工当初の延床面積は24,402m²であって、屋上に1階層分の増築をするだけの基礎工事がなされていた。平面計画は中廊下形式で広い中庭のある6角形。外観は茶色のスクラッチタイル張りで、腰には龍山石及び龍山石擬石が用いられた。設計は鉄道省工務局建築課、監督は神戸鉄道局工務課。設計主任担当は伊藤滋、構造設計担当は永田重朗。後年には、屋上に幾多の増築がみられた。
1962年からはコーチに専念するが、同年7月の名古屋遠征時に、宿舎で中村稔が当時禁止されていたビールを飲んだとして殴打した。この件が週刊誌に記載された事で表沙汰になって球団から謹慎処分を受けたが、監督の川上は別所を即座には解任せず、二軍へ配置転換することを考えていたが、別所は川上が自分を積極的に守ってくれなかったことに憤慨してシーズン途中で辞任。退団後はTBSの解説者（1963年）を経て、1964年からは三原脩の招聘で大洋ホエールズ一軍投手コーチに就任。整理対象選手となっていた高橋重行・及川宣士の才能を開花させ、東大出身プロ野球選手第1号だった新治伸治を中継ぎに抜擢するなど手腕を発揮。1966年退任。大洋退団後は2度目のTBS解説者（1967年）を挟み、1968年からはサンケイアトムズの監督に就任。1970年8月にシーズン二度目の11連敗（最終的に16連敗）を喫するなど全く手腕を発揮出来ず、解任された。当時、選手兼任コーチで、後年にはフジテレビ・文化放送の野球解説者として再び一緒に仕事をした豊田泰光は「やる気がある方だったんですが、選手の扱い方が拙劣。気持ちを察する事が出来ない。甲子園での阪神戦、打線が打てなくて負けたことがありました。監督は私に『打者は途中でバスから降りて素振りだ』と命じました。困ったことを言う人だと思いましたよ。でもその通りにしました。で、宿に帰ると首脳陣はみんなで麻雀です。こんなことをやってちゃチームはまとまりませんよ」と述べている。また、松岡弘は「とにかく『走れ』しか言わなかった。今のように科学的なトレーニングなんて無いから、とにかく倒れるまで走った。でもそれが良かったと思っているよ。怪我せず、一年間投げ抜くための基礎はその3年間で作ったと思うから。練習も習慣も。能力じゃなく、体力が鍛えられた」「別所さんは『巨人に勝て』しか言わなかった。精神論ばっかりで体力があればよかった」と語っている。監督退任後は一度もユニフォームを着ることは無く、フジテレビ・文化放送解説者と日刊スポーツ野球評論家（1971年〜1999年）を務めた。1979年には野球殿堂入りを果たし、1992年からは高齢になった川上哲治に代わって巨人OB会の会長を務めていた。野球解説者としては、白髪眉毛・巨人贔屓・貧乏ゆすり・高笑いで人気を得る。その容姿はやくみつるの四コマ漫画で何度も取り上げられるなど豪快なキャラクターもあり、「球界の彦左（大久保彦左衛門）」と呼ばれていた。1999年6月24日、急性心不全のため自宅で死去。76歳没。