与马步芳之子马继援任军长的国民革命军第八十二军驻在一处。马步芳同马步青商量后，让马呈祥接替马步青任骑五军军长，马呈祥上任后追随马步芳，使骑五军成为马步芳的嫡系部队。
进军新疆.马步芳吞并骑五军后，势力伸展到河西走廊，实际控制了青海省、甘肃省。1945年春，为镇压三区革命，蒋介石派骑五军“西征新疆，捍卫边防”。马步芳正想将自己的势力扩展到新疆，乃派马呈祥率骑五军奉命西进新疆。骑五军以回族和撒拉族为骨干，还有少量汉族。将、校、尉之中除副军长郭全梁及所谓“八大处”的僚佐外，全部由回族