，道经越南谅山一病不起。1939年11月4日，马相伯在谅山病逝，虚岁一百岁。一日，胡愈之来访，交谈中马相伯沉痛地说：“我是一只狗，只会叫，叫了一百年，还没有把中国叫醒。”胡愈之听后，感慨唏嘘，无以为言。中华人民共和国建立后，1952年，上海市市长陈毅将其灵柩从越南运回上海，安葬于虹桥天主教息焉公墓。1966年文革期间，息焉公墓被红卫兵砸毁。1984年迁葬于宋庆龄陵园。
着作.马相伯生前译着甚多，后人编有《马相伯先生文集》、《马相伯国难言论集》。