有特等站和一等站各二个，以上海站、上海西站、上海南站、上海虹桥站最为重要。上海最早的铁路是1876年建成的吴淞铁路，同时也是中国最早运营的铁路。至1909年沪宁铁路、沪杭铁路均已通车，形成了现有进出上海的铁路干线。上海现有京沪（北京-上海）和沪昆（上海-昆明）两条既有铁路干线，以及金山铁路、浦东铁路等市内运营的线路。高速铁路方面，沪宁（上海-南京）/沪汉蓉高铁（上海-武汉-成都，其中上海至南京段与沪宁高铁并线）、京沪高铁（北京-上海）和沪昆高铁（上海-昆明）线路已相继通车。
海运