北伐后，冯玉祥同蒋介石矛盾激化。宋哲元参加冯的反蒋战争。1930年（民国19年），反蒋军最终败北。战败后，冯玉祥余部退居晋南地区，由宋哲元负责。蒋介石令张学良主持军事委员会北平分会。张学良将冯玉祥余部整编，缩编为陆军第3军，下辖3个师，归东北军序列，驻山西省阳泉。1931年1月，宋哲元被正式任命为该军军长。1931年6月，宋哲元部整编为第29军，宋任军长。九一八事变爆发后的第三天，宋哲元即率国民革命军第二十九军全体官兵向全国发出“抗日通电”，表示：“哲元等分属军人，责在保国。谨率所部枕戈待命，宁为战死鬼