战火继续营业，上海银行总行先南迁香港，日军攻陷香港后再迁重庆，抗战胜利后迁回上海。1949年，国共内战后，中华民国政府播迁台湾。同年12月美国政府冻结上海银行资产，十二月底上海银行将香港分行以上海商业银行之名在英属香港註册，脱离本行；惟仍以特殊的控制股东身份，持有香港上银约60%的流通股票（香港上银则持有中国大陆上海银行3%的股票）。1954年，上海商银于台北市仁爱路二段设立总管理处。1964年6月29日，经中华民国财政部核准复业。1965年6月16日，在台北市正式复业，成为唯一自中国大陆迁