El río Madison nace por la confluencia de los ríos Firehole y Gibbon, en un lugar conocido como Madison Junction, en el condado de Park, en el extremo noroeste del estado de Wyoming, dentro del Parque nacional de Yellowstone, a los pies de las montañas Púrpura ("Purple Mountains"), en la cordillera Gallatin, una de las estribaciones de las Montañas Rocosas.