站曾经是沪宁铁路、沪杭铁路内环线（沪新线）及淞沪铁路的交汇处。当年这里近邻租界，门前的界路（天目东路）是上海公共租界和华界的分界线。1932年一二八事变，上海北站的4层办公楼房毁于战火，次年修复部分楼层。1937年抗日战争时期的八一三事变，北站再遭侵华日军的持续轰炸而受严重破坏，在1937年至1945年间被日军占领的沦陷时期，车站改称“上海驿”。抗日战争后，车站进行修复和扩建，1947年4月，升级为上海铁路总站。中华人民共和国成立后，车站在1950年3月，复名上海北站，8月1日正式改名为上海站，