下历任重要军职。1921年（民国10年）5月，他任总统府顾问。1922年（民国11年）4月，他任长江上游招讨使。1924年（民国13年）1月他任北伐讨贼军第2军军长。同月，他当选中国国民党中央执行委员。孙文死后的1926年（民国15年）8月，他任国民革命军第33军军长，转战安徽省各地。1927年（民国16年）4月12日蒋介石发动清党，柏文蔚发表声名反对。9月宁汉合流后，他被罢免第33军军长，改任国民政府委员。1927年冬，他在寿县成立北路宣慰使署学兵团，参与筹办的有许多中国共产党派出的人员如孙一中、廖运