La estación comenzó a construirse en 1879, siguiendo el proyecto del ingeniero francés Émile Cachelièvre, aunque durante muchos años se la relacionó erróneamente con Gustave Eiffel. En el proyecto también participaron los arquitectos españoles Calleja, Espinal y Uliarte. Cachelièvre aplicó un nuevo sistema, consistente en una serie de cuchillos armados unidos a los pilares y hundidos en los cimientos, presentado por Henri de Dion en la Exposición Universal de París de 1878. La construcción original de Dion se perdió, por lo que la estación tiene el valor añadido de ser la más antigua conservada que utiliza el sistema "de Dion". La estructura metálica de la nave central fue construida en Bélgica por la firma Fives-Lille, como la estación de Orsay de París, y posteriormente transportada a Madrid para el montaje final. La obra fue inaugurada a las cuatro y media de la tarde del 30 de marzo de 1880, solo once meses después del comienzo de las obras, por el rey Alfonso XII acompañado del Gobierno de Cánovas del Castillo.