19世紀後半になると、鉄道の技術はさらなる進歩を見せた。開業当初の曲がりくねった貧弱な線路は、19世紀後半になると次第に改良が進められた。それまで外国からの輸入に多くを頼っていた鋼製レールは国産化が進み、多くの鉄道会社で1860年代から1870年代にかけて鋼製レールへの転換が進んだ。鉄道が、製鉄業の必要とする鉄鉱石と石炭を大量に安く輸送し、またレールや車両の形で鋼鉄の大量消費者となることで製鉄業は急速に成長し、鉄道産業に続いてアメリカで2番目の年間10億ドル規模の産業となった。1890年代にはほぼすべての鉄道網が鋼製レールを使用するようになった。また木造の橋梁の落橋事故が相次いで非難を浴びていたこともあり、鋼製の鉄道橋への架け替え工事も進められた。蒸気機関車は、1860年代から1870年代にかけて石炭燃料化が進んだ。これはさすがの豊富な森林資源も切り尽くし始めたところが出てきたからで、石炭燃焼に適した火室構造が工夫されたこともあり、単位体積あたりの熱量が木材の3倍近い石炭の採用が進んだ。構造的には長らく車軸配置4-4-0のアメリカン型がアメリカ中で使用されている時代が続いていたが、やがて大型化が求められるようになった。牽引力を増すために動輪の数が増やされ、大型化した火室を支えるために従輪が付けられるようになった。また19世紀末にドイツで発明された過熱蒸気を使う技術は蒸気機関車の効率を大幅に向上させた。機関車は用途に応じて様々な形態のものが開発された。たとえばリーハイ・バレー鉄道では無煙炭を燃やすためにウーテン火室を装備し運転台をボイラーの脇に配置したキャメルバック式蒸気機関車を開発した。また蒸気の膨張力を有効に生かすためにサミュエル・ボークレインは、複数のシリンダーの間で2段階に分けて蒸気を膨張させる複式機関の原理に基づく機関車を開発した。車軸配置4-4-2の「アトランティック」、車軸配置4-6-2の「パシフィック」など新しい車軸配置の機関車も次々に開発された。スイスのアナトール・マレーが1888年に開発した関節式蒸気機関車の一種、マレー式機関車は、走り装置を2組備えてその間の支点で車体の向きを変えられるようになっており、曲線の走行性能を確保しながら高い出力を出せるようになっていた。また、2組の走り装置の間で複式機関となるようになっていた。この方式はアメリカでも採用されて広まったが、ボイラーが大型化して十分な蒸気を供給できるようになるにつれて、アメリカでは複式機関の仕組みを廃止して、高圧蒸気をすべてのシリンダーへ送る「単式マレー」を使うようになっていった。大型化したボイラーに合わせて火室も大型化し石炭の消費量が増大したことから、1905年にペンシルバニア鉄道で自動給炭機が導入され、機関助士の作業を軽減した。グレート・ノーザン鉄道、アッチソン・トピカ・アンド・サンタフェ鉄道、サザン・パシフィック鉄道などでは、単位重量あたりの熱量が石炭より大きい石油を燃料とすることを試行しはじめ、サザン・パシフィック鉄道ではこれを利用して運転室がボイラーより前にあるキャブ・フォワード型蒸気機関車を実現した。この時代は鉄道の電化も始まった。ミルウォーキー鉄道では、峠を越える勾配区間や長いトンネル区間において電化を実施し、電気機関車を運転した。またニューヨーク・セントラル鉄道やペンシルバニア鉄道はマンハッタンの市街地に地下線を建設して乗り入れるようになり、この地下線も電化されて、地方から蒸気機関車に牽引されてニューヨークにやってきた列車は、手前の駅で電気機関車に付け替えられてニューヨークのターミナル駅へ到着するようになった。イギリスで発明された頃の鉄道の車両にはろくなブレーキがついておらず、人力で制輪子を車輪に押し当てて止めるきわめて非力なものしかなかった。やがて蒸気ブレーキ、そして本格的な真空ブレーキが発明されたが、アメリカの鉄道では長く制動手が人力でブレーキを掛ける時代が続いた。機関士が停止合図の汽笛を鳴らすと、各車両に乗務している制動手が手ブレーキのハンドルを回してブレーキを掛けていた。制動力はきわめて弱かった上に、車両の屋根の上を制動手が走り回って各車両のブレーキを操作していたため、制動手の転落事故が相次いでいた。ジョージ・ウェスティングハウスは、空気圧縮機を使って圧縮空気を作り、各車両に張り巡らした配管でブレーキシリンダーに圧縮空気を供給して、機関士のブレーキ操作だけで列車のすべての車両に強力なブレーキをかけることのできる空気ブレーキを1869年に発明した。この時点ではまだ、ブレーキ管が破損して空気が抜けるとブレーキがかからなくなってしまうという欠点のある直通ブレーキであったが、1872年には空気が抜けると自動的にブレーキがかかるフェイルセーフな自動空気ブレーキが発明された。一方、この時代の連結器はピン・アンド・リンク式のもので、連結作業に際しては連結手が車両の間に立ち、一方の車両が相手の車両に接触する瞬間にピンを差し込まなければならず、腕や指を失う事故は当たり前といった大変危険な作業であった。この状況を見かねたイーライ・ジャニーは、1868年に連結器同士が接触するだけで人手を介することなく自動的に連結が行われる自動連結器を発明した。これ以前にも、一部の客車にはミラー式連結器などが採用されていたが、ジャニー式の連結器はこれに比べても信頼性が高く、重い貨物列車での使用にも耐える優れたものであった。しかしせっかく発明された自動空気ブレーキと自動連結器はなかなか採用が進まなかった。どちらもペンシルバニア鉄道やシカゴ・バーリントン・アンド・クインシー鉄道での実験により改良が進められ、優れた発明であることは分かっていた。自動空気ブレーキは高価な空気圧縮機を機関車に搭載しなければならず、「人命より高価」であるとされた。また自動連結器については、部分的な交換はできず連絡するすべての鉄道会社で打ち合わせて同時に交換しなければならないことが大きな障害となっていた。しかし人命軽視への批判が高まり、アイオワ州の牧師ロレンツォ・コフィン (Lorenzo Coffin) による粘り強い運動が功を奏し、1893年3月に鉄道安全装置法が制定されてアメリカ合衆国内で運行されるすべての列車に自動空気ブレーキと自動連結器の使用が義務付けられた。これにより安全性は大きく向上し、事故による鉄道員の死傷は60パーセントも減少した。さらに、当初は費用がかかりすぎると思われていたこれらの装備も実際に使用してみると、連結作業の手間が減り重く高速な列車を運行できることから、かえって費用を節約できることが判明した。安全運行のための信号保安技術もこの時代に発展した。線路を区間ごとに区切って、信号機によりその区間に同時に進入できる列車を1本に限定することで列車同士の衝突を防ぐ、鉄道における保安の基本原則である「閉塞」を実現するための装置は、イギリスではエドワード・タイヤー (Edward Tyer) が1852年に既に発明していた。アメリカで最初に手動式閉塞装置を考案して導入したのは、ユナイテッド・ニュージャージー鉄道運河の技術者アシュベル・ウェルチ (Ashbel Welch) で、1865年のことであった。ウェルチは、イギリスのタイヤーの発明とは独立にこの発明を行ったと考えられている。またイギリスのジョン・サクスビーは1856年に、分岐器と信号機を連動させて、正しい方向に分岐器が開通していなければ列車に対して進行を許可できないようにする連動装置を開発した。1870年代頃にはこの装置がアメリカの鉄道でも普及し、信号扱い手の取扱ミスによる事故を防止した。レールに電流を流して、車輪と車軸が両方のレールを短絡することを利用して列車の存在を検知する装置である軌道回路も、ウィリアム・ロビンソン (William Robinson) が1872年に発明して、フィラデルフィア・アンド・エリー鉄道のペンシルベニア州キンズア (Kinzua) において最初に設置されて実用化された。これにより、それまで人間の注意力と手動操作に頼って信号機を操作していたのが、列車の運行に応じて自動的に切り替えられるようになり、現代の自動信号機の仕組みができあがった。1891年には、狭軌のボストン・リビア・ビーチ・アンド・リン鉄道で初めて、運転士が信号無視をしたときに自動的に列車を止める自動列車保安装置が実験的に導入された。運転時隔が短く乗客が多いため事故の被害が大きくなりがちな都市鉄道で導入が進んだが、1910年には従来型の幹線鉄道であるペンシルバニア鉄道においてもこうした保安装置が導入された。