現在の鹿児島県霧島市国分に、参議院議員を務めた中馬猪之吉の二男として生まれる。鹿児島県立加治木中学校 (旧制)、第七高等学校 (旧制)を経て、1941年京都帝国大学法学部を卒業。陸軍主計大尉としてインパール作戦に従事し、負傷するものの危機一髪で生還した経験を持つ。帰国後は水産会社役員、鹿児島県煙草耕作連嘱託等を経て、1949年第24回衆議院議員総選挙に吉田茂率いる民主自由党公認で旧鹿児島2区から立候補し当選（当選同期に池田勇人・岡崎勝男・前尾繁三郎・橋本龍伍・麻生太賀吉・小渕光平・西村英一・橋本登美三郎・福永健司・塚原俊郎・藤枝泉介・木村俊夫・稲葉修・河本敏夫・森山欽司・床次徳二・有田喜一など）。以後10回当選。保守合同後は佐藤栄作派－福田赳夫派に所属する。運輸政務次官、農林政務次官、衆院地方行政委員長等を歴任し、1976年三木内閣改造内閣で建設大臣として入閣する。1979年の総選挙で落選後、政界を引退。「利口な世渡りは嫌いだ」といい、政界では常に縁の下の力持ち的な役割に徹してきた。1986年勲一等瑞宝章受章。2010年4月18日、死去。享年94。
宿場町においてその宿場が所在していた町に「本町」の名が付けられることが多く、川口市本町も川口宿が所在した地であり、その一例となっている。歴史的にみると、現在の川口市立南中学校や川口市立舟戸小学校付近の本町一丁目が川口発祥の地として江戸時代から宿場の中心となっていた。現在の新荒川大橋が建設される前は、川口と赤羽の間に渡船が往来していた。しかし、鉄道が開通し川口駅が開設された後は、次第に川口駅に近い本町四丁目や栄町三丁目が川口の中心部となり、現在の本町一丁目には過去の繁栄を感じさせる商店が残存しているものの、住宅地のようになっている。ただし川口の行政において、旧川口町役場は本町ではなく栄町三丁目における現在の栄町公民館に所在していた。現在の川口市役所は、旧青木村域に設置されている。
慶応4年（1868年）5月29日、東征大総督府から駿府町差配役に任命された伏谷如水より東海道筋・清水港の警固役を任命され、この役を7月まで務めた。同年5月から6月には赤報隊に加わった黒駒勝蔵と駿府で対決している。同年9月18日、旧幕府海軍副総裁の榎本武揚に率いられて品川沖から脱走した艦隊のうち、咸臨丸は暴風雨により房州沖で破船し、修理のため清水湊に停泊したところを新政府海軍に発見・攻撃され、船に残っていた幕府軍の全員が交戦によって死亡した（咸臨丸事件）。戦いの後、戦死した乗組員の遺体は明治新政府の咎めを恐れて誰も処理しようとする者がなく、清水湾内に漂い、腐敗するまま放置された。これを見かねた次郎長は舟を出して遺体を収容し、向島の砂浜に埋葬した。新政府軍はこの収容作業を咎めたが、次郎長は「死ねばみな仏にござる。仏に官軍も賊軍もない」と突っぱね、翌年には「壮士墓」を建立した。同年3月9日に旧幕臣の山岡鉄舟（後に静岡藩大参事となる）は駿府において西郷隆盛と面談し徳川慶喜の助命・徳川家名の存続を訴えているが、鉄舟は咸臨丸事件における次郎長の義侠心に深く感じ入り、これが機縁となって次郎長は明治後に山岡・榎本と交際したとされる。明治2年（1869年）5月22日には二代目おちょうが新番組隊士により殺害される。明治4年（1871年）2月には旧久能山東照宮の神領である山林開墾を企図するが、大谷村の抵抗に遭い断念している。同年10月14日には甲斐で黒駒勝蔵が赤報隊脱退と幕府時代の罪状で処刑されている。明治7年（1874年）には本格的に富士山南麓の開墾事業に着手する。明治11年（1878年）には山岡鉄舟に依頼され天田愚庵を預かる。愚庵は明治15年（1882年）に次郎長の養子となる。明治13年（1880年）6月15日には三河平井一家の原田常吉や雲風竜吉らと手打ちを行う。雲風竜吉は黒駒勝蔵と同盟して次郎長とも敵対していた博徒で、同年6月24日付『函右日報』の記事ではこの手打ちを勝蔵と次郎長の和解として報じている。博打を止めた次郎長は、清水港の発展のためには茶の販路を拡大するのが重要であると着目。蒸気船が入港できるように清水の外港を整備すべしと訴え、また自分でも横浜との定期航路線を営業する「静隆社」を設立した。この他にも県令・大迫貞清の奨めによって静岡の刑務所にいた囚徒を督励して現在の富士市大渕の開墾に携わったり、私塾の英語教育を熱心に後援したという口碑がある。また有栖川宮に従っていた元官軍の駿州赤心隊や遠州報国隊の旧隊士たちが故郷へ戻ってきた際には駿河へ移住させられた旧幕臣が恨みを込めてテロ行為を繰り返す事件が起き、次郎長は地元で血を流させないために弱い者をかばっている。明治17年（1884年）2月25日には「賭博犯処分規則」により静岡県警察本所に逮捕される。同年4月7日には懲罰7年・過料金400円に処せられ、井宮監獄（静岡市葵区井宮町）に服役する。同年4月には天田愚庵が『東海遊侠伝』を出版している。静岡県令・関口隆吉などの尽力などにより、明治18年（1885年）に刑期の満了を待たずに仮釈放になった。明治19年（1886年）東京大学医学部別課を卒業した植木重敏と横浜から土佐に向かう船上で知り合い、植木と同じ土佐須崎鍛冶町出身の渡辺良三と共に清水へ招聘し、済衆医院を静岡県有渡郡清水町に開設した。明治21年（1888年）7月19日には山岡鉄舟が死去し、谷中全生庵で行われた葬儀には清水一家で参列している。同年8月4日には富士山南麓開墾官有地払い下げを受け、開墾地の一部を高島嘉右衛門に売却している。明治26年（1893年）、風邪をこじらせ死去。享年74（満73歳没）。戒名は碩量軒雄山義海居士。