由于该站为沪宁铁路全线最东站，故而名为东站。但东站此时距离租界核心地区仍相对较远，适逢淞沪铁路与沪宁铁路并轨，随决意向东延伸，最终确定在毗邻公共租界北区的宝山路天目路附近兴建新的站房，即沪宁铁路上海站，因位于上海市区北侧，故又称为上海北站。1913年，宋教仁预备由此乘车北上组建国会，但最后遭到刺杀，最终在沪宁铁路医院逝世。1909年，沪宁线总管理处填没该处芦苇荡后建成高四层的西式洋房。站房设计采用英籍工程师西排立的设计图纸，造价总计329,440元银元。大楼一层外墙采用花岗岩修建，二层起及以上采用大理石