宁汉分裂，程于次年3月被武汉国民政府选为军事委员会委员、第二方面军指挥。武汉方面曾一度要程潜逮捕蒋中正，但程未有行事，而蒋亦已有防范。之后程曾一度试图调解宁汉之争但无效。而第六军亦在南京附近被蒋中正包围缴械收编。宁汉合流后，程潜与桂系军阀合作击败反蒋之唐生智。但程之后又与桂系冲突，于1928年被李宗仁扣留，免去各职。而第六军亦被完全分化收编。之后数年程潜寓居上海。1931年九一八事变后，国民党内各系谋求和解，程潜方再被选为政府委员，中央执委。1935年升任二级陆军上将，任总参谋长。