浦和の退団が決まった河合はこの年より実施されたトライアウトに参加するも、12月12日に実施された1度目のトライアウトでは移籍先は見つからず、翌2003年1月9日に実施された2度目のトライアウトを経て、この年から横浜F・マリノスの監督に就任する事が決定していた岡田武史より誘いを受け入団する。1月21日に河合の獲得を正式に発表。背番号は35を与えられ再びディフェンダーとして登録された。岡田は河合をセンターバックとボランチでの起用を構想した為、日本代表の松田直樹、中澤佑二、波戸康広、韓国代表の柳想鐵をはじめ、遠藤彰弘、上野良治、成長著しい若手の那須大亮、栗原勇蔵ら多くの実力者とポジションを争う事となった。4月23日ヤマザキナビスコカップ予選リーグ第4節仙台戦の後半30分に永山邦夫と途中交代で移籍後初出場を果たし、7月16日の同第6節の柏戦で移籍後初フル出場を果たした。一方、リーグ戦では出場機会に恵まれないままチームは1stステージ優勝を果たすが、2ndステージに入りセンターバックの主力を務めていた松田が負傷と体調不良の影響によりコンディションを落とすと、代役としてほとんどの試合に起用される。松田不在の穴を埋める活躍を見せチームの2ndステージ優勝に貢献した1人となった。また、同年開催の天皇杯にも3回戦以降の全試合にスタメン起用され、同3回戦の市立船橋高校戦の前半6分に先制点を決め、プロ7年目にして公式戦初ゴールを挙げた。2004年、リーグ戦開幕前の2月に負傷し離脱を経験するが、この頃チームはACLの予選とA3チャンピオンズカップを並行して戦っており、また、試合日程と代表招集が重なり多くの主力選手が不在のまま戦いを余儀なくされた事などから 河合はACLを戦う主力メンバーとして起用された。この予選リーグでチームは最終的に首位と勝ち点で並ぶものの得失点差によって敗退が決定するが、4月21日の城南一和戦ではこの大会で準優勝を遂げる相手に決勝ゴールを挙げ勝利に貢献するなど 攻守に渡りチームを支えた。その一方でリーグ戦では、この年にベテランの中西永輔が移籍加入した事もあり出場試合数こそ前年を下回ったものの、1stステージで先発起用された全3試合では相手攻撃陣を無失点に抑え勝利に貢献する など起用に応える働きを見せ、チームは前年に続きこのステージでも優勝を果たした。続く2ndステージでは序盤こそ試合出場はなかったが、勝ち切れない試合が続き順位を落とすと先発に起用されるようになり最終節までチームを支えた。最終的に2ndステージを6位で終えた為、このステージで優勝した古巣浦和とチャンピオンシップを戦う事が決定すると、河合はこの重要な2試合でフル出場し中澤佑二、松田直樹と共に3バックの一角を担い攻守に渡り欠かせない働きを見せる。12月5日の第1戦では後半21分に奥大介の右からのコーナーキックをヘディングシュートで決め、このゴールがチームを勝利に導く値千金の決勝点となり、同時に古巣浦和に初めて挙げた恩返しゴールとなった。守備でも浦和の攻撃陣を無失点に抑え、続く12月11日の第2戦でも、浦和に同点に追いつかれるも以降は延長戦に入っても追加点を許さずPK戦の末に勝利を収める。起用に応える活躍でチームを2年連続年間優勝に導く原動力となった。2005年に入ると前年終盤の活躍と、多くの選手が代表招集や負傷で離脱していた事もあり2月のA3チャンピオンズカップに主力メンバーとして栗原勇蔵、中西永輔と共に3バックに起用され2試合で1失点に抑える活躍を見せていたが、発熱により最終戦を欠場すると チームは敗戦しこの大会を3位で終えた。リーグ戦ではチームが開幕戦からの2試合で3失点を喫すると、続く4月2日のJ1第3節新潟戦でスタメン起用され、1失点を喫するものの1ゴール1アシストの活躍で勝利に貢献する。河合にとってはこの得点がJリーグ初ゴールとなった。この活躍もあって以降も3バックの一角を担い多くの試合で先発起用された。リーグ戦と並行してACLの予選にも主力として3試合に起用されチームの守備を支え奮闘するも、5月11日の山東魯能では退席処分に見舞われるなどの不運もあり チームは2年連続で予選敗退が決定した。一方で、チームは過密日程の影響もあってリーグ戦の序盤から勝てない試合が続き苦戦を強いられると、7月からはボランチで起用される試合も見られ、終盤には4連勝を果たすも最終的に9位でシーズンを終える事となった。2006年はリーグ戦の序盤こそサブメンバーに留まったが、3月18日J1第3節C大阪戦の後半30分にマグロンと替わり途中出場を果たし、限られた出場時間の中で得点の起点となる活躍を見せ勝利に貢献すると、4月以降は主力として出場した試合では全てスタメンで起用され、ボランチでプレーする機会も多くなりマグロン、那須大亮、上野良治らとダブルボランチを組んだ。その一方でチームは前年同様に勝ち切れない試合が続きリーグ戦では下位に低迷し、8月23日のJ1第19節大宮戦で敗戦したのを受け監督の岡田が辞任。後任には水沼貴史が指揮を執る事になるが、同監督からは累積警告による出場停止で欠場を余儀なくされた試合を除く全試合に主にボランチとしてスタメンで起用されると、9月9日のJ1第22節川崎戦でシーズン初ゴールを挙げるなど 守備だけに留まらず攻撃の起点としても奮闘するが、チームの成績は一時的に持ち直すも低迷からの脱却までには至らず最終的に前年と同じ9位でシーズンを終えた。また、同年開催のヤマザキナビスコカップにも予選リーグから主力として起用されベスト4入りに貢献、天皇杯でも横浜FMが登場した4回戦以降の全試合に主力として起用されベスト8入りに貢献した。2007年、前年をもって水沼が監督を退任し新しく早野宏史が就任すると、早野は攻撃的なフォーメーションに河合をボランチの軸に据える布陣を採用。ワンボランチで起用される試合も多く見られ、攻守の要としてリーグ戦の全34試合のうち累積警告による出場停止で欠場した1試合を除く33試合でスタメン起用された。3月3日のJ1開幕戦となった甲府戦でボランチとして先発に起用されると90分間戦い抜き勝利に貢献。河合にとってはこれがプロ11年目にして初の開幕スタメンフル出場となった。このシーズンは攻撃の起点としても欠かせない活躍を見せており 河合自身も多くの得点を決めた。4月22日J1第7節大分戦でシーズン初ゴールを挙げると、リーグ戦の後半の6月30日J1第18節大分戦でもゴールを挙げ、終盤の11月24日J1第33節新潟戦では決勝点となるゴールを挙げ勝利に貢献。河合にとってはこの試合でJ1リーグ戦通算100試合出場を達成しており、自らのゴールでメモリアルに花を添える形となった。これらの活躍もあり最終的にチームは前年を上回る7位でシーズンを終え、同年のヤマザキナビスコカップの予選では河合を温存した試合も見られたが、出場した試合ではボランチとして欠かせない働きを見せ、予選グループを1位通過。決勝トーナメントにも主力として起用され前年に続くベスト4入りに貢献した。また、天皇杯でも主力として起用され5回戦進出を果たした。2008年からは前年をもって退団した上野良治が長きに渡り背負っていた背番号6を継承し、また、横浜FMのキャプテンを中澤佑二より引き継いだ。この年から新監督に就任した桑原隆からも主力ボランチとして活躍が期待されたが、開幕前のキャンプで左ひざの怪我を負い離脱するとリーグ戦前半の多くの試合を欠場する事となった。5月17日J1第13節京都戦の後半23分に松田直樹に替わり途中出場で公式戦復帰を果たし、以降は最終節まで出場停止で欠場した試合を除く全試合にスタメンで起用された。一方、リーグ戦でチームは5月から7月まで1勝も出来ず降格圏に低迷する事態に陥ってしまい、この間に監督が木村浩吉に交替すると河合はセンターバックとして起用される試合も見られたが、8月からボランチとして起用されるようになるとチームの調子も上向き、リーグ戦の終盤には河合自身も得点を重ねた。11月8日J1第31節京都戦でシーズン初ゴールを挙げると、12月6日のJ1最終節浦和戦では後半1分にミドルシュートを決めたのを皮切りに続く同35分にも得点を挙げ勝利に貢献。河合にとってこれがプロ入り後初の1試合2ゴールとなった。また、同年開催のヤマザキナビスコカップではシーズン中盤の不振もあってベスト8に留まったが、天皇杯にも主力として起用されベスト4入りに貢献した。2009年、前年に続きこの年もキャプテンを務め、主力ボランチとして活躍を期待されたが、リーグ戦の開幕直前に右内側側副靭帯損傷の大けがを負い長期離脱を余儀なくされた。この負傷の影響は大きく、監督の木村がコンディション重視の起用方針を取っていた事と 選手に複数ポジションの収得を求めた事から、河合が不在の間に同ポジションでは松田直樹をはじめ、山瀬功治、小椋祥平、兵藤慎剛、天野貴史、プロ3年目の長谷川アーリアジャスールら多くの選手が起用され、コンディションを取り戻し公式戦の復帰を果たすまでには実に半年を要する事になった。8月16日のJ1第21節F東京戦でベンチ入りすると、続く8月19日のJ1第22節大宮戦でスタメンに起用されシーズン初出場を果たし、以降はスタメンに定着し最終節までリーグ戦を戦い抜いた。決勝戦進出がかかる重要な試合となったヤマザキナビスコカップ川崎戦では9月2日の第1戦と9月6日の第2戦の共に先発で起用され攻守を支えたものの敗退。天皇杯にも横浜FMが登場した2回戦以降全試合に先発起用されたが、4回戦でまたもや川崎と対戦し敗退を喫する事となった。2010年、木村和司が新監督に就任するとこれまでと一転して出場機会が激減し河合にとっては苦しいシーズンとなる。2年務めたキャプテンを栗原勇蔵と兵藤慎剛に引き継ぎ、リーグ戦が始まると木村は前年に河合の穴を埋める活躍を見せていた小椋祥平をボランチの軸に起用。また、小椋とのダブルボランチには松田直樹、波戸康広、金井貢史に加え、攻撃的な狩野健太、兵藤慎剛、中村俊輔、清水範久らが起用され、リーグ戦の後半まで河合にはほとんど出場機会を与えられず控えメンバーに留まった。一方で、ヤマザキナビスコカップでは出場機会が与えられたが結果には結び付かず、勝てない試合が続き予選リーグの敗退が決定。横浜FMにとっては8年連続決勝トーナメント進出を逃す事となった。8月に入るとリーグ戦でも徐々に出場機会が増え、8月21日のJ1第20節京都戦では後半28分に松田に替わり途中出場し右サイドで起用されると試合終了間際に決勝点となるゴールを挙げチームを勝利に導き、限られた出場時間の中で決定的な働きを見せると9月からは最終節までコンスタントにスタメンで起用され続けていたが、11月30日には河合と共に、松田、山瀬、清水ら長年に渡り横浜FMを支えてきた功労者との契約非更新の旨がクラブから発表され、シーズン終了後には幾つかのJクラブから誘いを受ける中で、河合はJ2のコンサドーレ札幌のオファーを受諾。12月28日にコンサドーレ札幌へ移籍する事が横浜FM、札幌の双方のクラブから発表された。