于认为中国国民党在政治上占有优势，陈调元于1927年（民国16年）3月5日发表宣言，归顺国民党方面。此后，他被任命为国民革命军第37军军长兼北路总指挥。同年4月12日上海四一二事件爆发，陈调元协助蒋介石，肃清了安庆的中国共产党势力。11月，陈被任命为安徽省政府主席。1928年（民国17年）4月，任第1集团军第2军团总指挥，参加了北伐的最终阶段，立下军功。此后，国民革命军全体缩编，陈调任第46师师长。1929年（民国18年）5月，被任命为山东省政府主席。同反蒋介石派作战，任总预备队军团总指挥、右翼军总指挥