但后来马的军队被盛世才和苏联击败，士兵仓皇逃窜。马虎山流亡英属印度。他随身携带约数千盎司的黄金被当地英国人没收，作为对马家军在喀什掠夺英国财产的补偿，但最终英国人将部分黄金转交盛世才。马虎山被英国短暂拘留后于1938年从加尔各答乘坐轮船返回中华民国青海省。
西北剿匪.1950年至1954年，马虎山运用游击战术领导残留于中国大陆的国军士兵对抗中国人民解放军。最终于1954年被捕，并在兰州被处决。