民国4年），高树勋成为北京政府方面的军人，后来在冯玉祥领导的部队中逐步升迁。1926年（民国15年），升任国民革命军第二集团军的师长。1928年（民国17年），率军入青海，降伏了支配青海的马麒。后来，一度代理青海省政府主席。1930年（民国19年）中原大战中，高树勋同蒋介石军作战。败北后，高树勋投降蒋介石，被任命为第26路军第27师师长。1931年（民国20年），在江西省参加对中国工农红军的第三次围剿中，突然脱离部队，逃往天津。以后，高树勋同中国共产党秘密联系。1933年（民国22年），高树勋参加了冯玉