励同胞共赴国难，人称“爱国老人”。1937年3月列为南京国民政府委员。1937年淞沪会战后，上海沦陷，马相伯应李宗仁之请移居桂林。1938年又应于右任之请移居昆明，道经越南谅山一病不起。1939年11月4日，马相伯在谅山病逝，虚岁一百岁。一日，胡愈之来访，交谈中马相伯沉痛地说：“我是一只狗，只会叫，叫了一百年，还没有把中国叫醒。”胡愈之听后，感慨唏嘘，无以为言。中华人民共和国建立后，1952年，上海市市长陈毅将其灵柩从越南运回上海，安葬于虹桥天主教息焉公墓。1966年文革期间，息焉公墓被红卫兵砸