边的吴俊陞于1911年将他提拔为连长。
中年经历.1925年升任旅长，在九一八事件前夕时为东北边防军第3旅旅长兼黑河警备司令。1931年9月九一八事变爆发后，张学良任命马占山代理黑龙江省政府主席。10月中旬，在江桥抗战中，关东军以及同关东军合作的张海鹏试图进攻齐齐哈尔。关东军同马占山军于11月4日至6日在嫩江铁桥北侧大兴驿附近发生冲突，关东军的部队是为了掩护铁路修护部队的步炮混编部队，约800人，马占山则率领约1,000名骑兵，最后这场作战因6日日军增援抵达，马占山军先行撤离，