随之参加国民党北伐，击败了直军、奉军。1928年9月，国民政府设置青海省，孙连仲被任命为第一任青海省政府主席。孙连仲虽然任职时间很短，但充分发挥了其内政手腕，调整了有关当地的回族马氏等复杂的民族问题，经济建设初见端绪。1929年8月，孙连仲转任甘肃省政府主席。其后，冯玉祥不满蒋介石的裁兵政策，与阎钖山、李宗仁等人讨伐蒋军，是为中原大战。冯玉祥败北后，孙连仲接受蒋介石的军事重编，被任命为第二十六路军总指挥。1931年至1934年，孙连仲参与讨伐中国共产党及中国工农红军的作战。曾任赣粤闽边区剿匪