1926年（民国15年）1月冯玉祥被迫下野（3月访问苏联）。此后张之江、鹿钟麟领导国民军，在北方各派环伺下艰难求生。当时宋哲元任西路总司令，辅佐张、鹿在前线作战。4月，国民军从北京撤到南口，同北方各派激战。8月，国民军放弃南口，撤往绥远。同年9月，冯玉祥复归，其后举行五原誓师，国民军改组为国民联军，全军加入中国国民党。翌年，冯的部队改爲国民革命军第二集团军。6月宋哲元任该集团军第4方面军总指挥。11月，任陕西省政府主席。此后他欲继续以武力统一陕境，在攻克东府大荔后，于1928年春亲率所部又围攻西府重镇凤