Năm 1902, ga Hàng Cỏ được khánh thành và đưa vào khai thác cùng với cầu Long Biên là nhà ga xuất phát của con đường sắt Hà Nội - Lạng Sơn thuở ban đầu, rồi đường sắt Hà Nội - Hải Phòng (1903), đường sắt Hà Nội - Lào Cai (1905) và đến năm 1936 là đường sắt xuyên Việt (1936). Sau khi Cách mạng Tháng 8 thành công, ngày đêm các đoàn tàu đưa các đoàn quân Nam tiến từ các địa phương vào Nam chống quân Pháp. Năm 1954, lực lượng Việt Minh tiếp quản nhà ga. Năm 1972, nhà ga đã bị một quả bom lớn của Mỹ ném trúng. Ngôi nhà đại sảnh, nơi treo chiếc đồng hồ lớn của nhà ga bị đánh sập hoàn toàn và từ đây, tàu hỏa và các xe tải đều phải chạy vào ban đêm. Sau ngày thống nhất năm 1975, ga Hàng Cỏ được đổi tên thành ga Hà Nội và xây dựng lại nhà đại sảnh theo kiến trúc mới. Cùng với việc xây dựng ga Giáp Bát để vận chuyển hàng hóa, ga Hà Nội trở thành ga vận chuyển hành khách lớn nhất cả nước. Năm 1989, nhà ga được đầu tư, cải tạo, nâng cấp để phục vụ hàng khách.