遠江国山名郡久努村（現在の静岡県袋井市）大字村松の農家、横山源七郎とゆみの間に生まれる。9歳で父を亡くし、12歳で同郡中泉村の鉄物商山田孫次郎商店に入る。ここでおよそ9年間働いたのち東京へ向かい、同郷の鉄屋・田中長兵衛の店で働き始めた。久太郎の勤勉さは長兵衛に認められ、明治11年（1887年）には神奈川県横須賀支店の支配人に取立てられる。久太郎はここ横須賀で造船材料の輸入などをやっていた際、日本国内での製鉄の重要性を大いに感じている。岩手県釜石にて日本初の官営製鉄所が失敗に終わったのち、学者も技術者も揃って無理だと主張していた再建に、民間の一商人の身ながら田中長兵衛が乗り出したのは、横山久太郎の熱意と繰り返しの嘆願があったからこそだという。久太郎は総責任者に任命され、釜石に向かった。2年弱にわたる度重なる失敗と苦闘を乗り越え、高橋亦助を始めとした現場の尽力もあり、明治19年（1886年）10月16日、49回目の挑戦でついに銑鉄の生産に成功すると、釜石鉱山田中製鉄所（現新日鐵住金釜石製鐵所）設立後はその初代所長の任を受け、日本の近代製鉄の基礎を固めた。製鉄に力を注ぐ傍ら、明治41年（1908年）には当時物流上孤立していた三陸沿岸地方での三陸汽船の立ち上げに伴い、その社長職も務める。明治29年（1896年）6月15日、いわゆる明治三陸地震による巨大津波が三陸海岸を襲った。各所で軒並み10m以上、場所によっては海抜45m地点まで到達したとも言われる大津波の前に多くの家屋が倒壊。釜石製鉄所でも甚大な被害が出たが、所長である久太郎の指示により工場を開放し炊き出しが行われたと伝わる。明治34年（1901年）に田中長兵衛が亡くなり、その息子安太郎が長兵衛の名と社長職を継いだ後も、釜石を守り2代目を盛り立てた。生活は質素で現場を重んじ、体調を崩した後も「釜石の土になる」が口癖だったが、大正11年（1922年）3月、療養していた東京浅間台の別邸にて死去。享年67。現新日鉄の釜石製鉄所敷地内には横山久太郎と田中長兵衛の像が今も並び立っている。
1985年に建設省の認定を受けた「中心市街地活性化計画」により公園化が決まった。1991年に殺風景な駐車場であった川沿いを活気付けようと東新町一丁目商店街振興組合がボードウォーク設立の計画を立てた。当時、徳島駅前の新興商業圏に客の流れが変わっていたため、ボードウォーク設立で客の流れを変える狙いがあった。しかし、商業目的のためにボードウォークを設立することに反対の意見もあった。その後、徳島市の河岸公園として設立することでまとまった。
毎週土曜日と日曜日には新町ボードウォークパラソルショップ（非常設のパラソルの下に設置される店）が並び、多いときには50店ほどの店が並ぶ。北西端（新町橋のたもと）は比較的広くなって、傾斜のついた野外ステージがあり、ダンスショーやジャズ演奏などのイベントも頻繁に行われている。動員が多いときは、橋の上にも見物人が並ぶ。
文禄4年（1595年）、摂津国東成郡生魂にて、結城秀康の長男として誕生。母は側室の中川氏。慶長8年（1603年）、江戸参勤のおりに叔父で江戸幕府2代将軍・徳川秀忠に初御目見する。秀忠は大いに気に入り、三河守と呼んで自らの脇に置いたという。慶長12年（1607年）、父・秀康の死に伴って越前75万石を相続し、慶長16年（1611年）には秀忠の娘・勝姫を正室に迎える。元服の際には秀忠より偏諱を受け、忠直と名乗る。慶長17年（1612年）冬、重臣たちの確執が高じて武力鎮圧の大騒動となり、越前家中の者よりこれを直訴に及ぶに至る。祖父徳川家康・秀忠の両御所による直裁によって重臣の今村盛次（掃部）・清水方正（丹後）は配流となる一方、同じ重臣の本多富正（伊豆守）は逆に越前家の国政を補佐することを命じられた。翌慶長18年（1613年）6月、家中騒動で再び直訴のことがあり、遂に富正が越前の国政を執ることとされ、加えて富正の一族・本多成重（丹下）を越前家に付属させた。これは騒動が重なるのは忠直が、まだ若く力量が至らぬと両御所が判断したためである（越前騒動）。慶長19年（1614年）の大坂冬の陣では、用兵の失敗を祖父・家康から責められたものの、夏の陣では真田信繁（幸村）らを討ち取り、大坂城へ真っ先に攻め入るなどの戦功を挙げた。しかし、戦後の論功行賞に不満を抱き、次第に幕府への不満を募らせていった。元和7年（1621年）、病を理由に江戸への参勤を怠り、また翌元和8年（1622年）には勝姫の殺害を企て、また、軍勢を差し向けて家臣を討つなどの乱行が目立つようになった。元和9年（1623年）、将軍・秀忠は忠直に隠居を命じた。忠直は生母の説得もあって隠居に応じ、隠居後は出家して一伯と名乗った。5月12日に竹中重義が藩主を務める豊後国府内藩（現在の大分県大分市）へ配流の上、謹慎となった。府内藩では領内の5,000石を与えられ、初め海沿いの萩原に住まい、3年後に内陸の津守に移った。津守に移ったのは、海に近い萩原からの海路での逃走を恐れたためとも言う。重義が別件で誅罰されると代わって府内藩主となった日根野吉明の預かり人となったという。慶安3年（1650年）に死去、享年56。