马彪年轻时加入甘军 ，在马海晏的带领下，马彪在北京之战中与义和团一起与外国人作战，并在慈禧太后和光绪帝撤离至西安时协助守卫。 
青藏战争.他在青藏战争中表现优异。马步芳派他前往玉树一家寺庙发起一次针对藏军的军事行动。这引发了青藏战争。 1931年，马彪担任玉树防守司令。 他也是第二旅旅长。第一旅旅长是马勋。 1932年3月24日至26日，马彪抗击入侵小苏莽的藏人。入侵的藏军数量远远超过马彪的军队。 青海当地藏传佛教部落首领也选择与青海政府一起抵抗藏人。 后来青海的藏传佛教部落