Planleggingen av Havnebanen begynte etter at Oslo kommune overtok området rundt Akershus Festning fra den norske stat i 1897. Sprengings- og oppfølgningsarbeidene langs stranden ble påbegynt i 1898, og arbeide med asfaltering og skinnelegging startet i 1899. Strekningen ble tatt i bruk til Vippetangen 11. januar 1907, resten av banen ble åpnet for trafikk 13. november samme år, og var den eneste forbindelsen mellom det vestlige og det østlige jernbanenettet. Mens Drammenbanen var smalsporet gikk det treskinnespor mellom Vestbanen og Vippetangen frem til rundt 1920. I august 1935 ble Havnebanen forlenget til Filipstad, samlet lengde ble dermed 3,7 km.