播磨国の高砂出身で、実家は富裕な蔵元（米問屋）であった。新選組には、大阪で商家に嫁いでいた妹が推薦（このため、永倉新八が河合の事を大坂の出身と後に記す原因となった）し入隊した。勘定方として主に隊費の経理面で活躍し、池田屋事件にも参戦し褒賞金をもらっている。
河合は切腹を免れるために親元に足りなくなった資金を借り入れるために使いを出したが、たまたま実家で騒動が起きていて資金を送るのが遅れてしまい、結果資金は河合切腹直後に届けられたという説がある。切腹を聞いた親は大変怒り、新選組が立てた墓とは別に息子を供養するための立派な墓を壬生寺に建てた。
北関東抗争
桓公 (斉)
即位まで.
殺されてはかなわぬと小白はへ、兄の公子糾は魯へ亡命した。襄公はその後、従兄弟の公孫無知に暗殺され、襄公暗殺後、公孫無知（諡号はない）が斉公に即位したと称して国政を取り仕切るが、公孫無知もまたすぐに暗殺された。公孫無知亡き後、小白と同じように亡命し、魯の後ろ盾を得ていた兄の公子糾との間に後継者争いが生じた。
この時、公子糾の腹心であった管仲が小白を待ち伏せして暗殺しようとしていた。管仲は弓を射た。矢は小白の腹に当たり、小白はもんどりうって倒れた。小白はそのまま死んだふりをして管仲から逃げる為に馬車を走らせ、次の宿場で部下に棺桶を用意させ、また莒の兵を国へ返させて自らの死を偽装した為、管仲は小白が死んだものと思い込んで喜び、公子糾に小白を殺したと報告した。競争相手が消えた公子糾は魯の兵を後ろにゆっくりと斉に入ろうとした。しかし、小白が密かに急行してすでに斉に入り斉公になっていた。公子糾は待ち構えていた小白に打ちのめされ、魯へ逃げ込んだ。管仲の矢は腹に当たったように見えたが、実は腰帯の留金に当たっていた。
管仲の活躍.
斉公の位に就いた小白こと桓公は、魯に公子糾は殺すように、管仲は引き渡すように命じた。初め桓公は管仲に命を狙われたことを怒り、管仲も殺そうとしていた。しかし腹心で、管仲の親友でもある鮑叔に「公が斉の君主であるだけでよいならば、この私でも宰相が務まりましょう。しかし、公が天下の覇者になりたいと思われるならば宰相は管仲でなければなりません」と言われ、管仲を魯から引き取り宰相とした。