2日蒋介石发动清党，柏文蔚发表声名反对。9月宁汉合流后，他被罢免第33军军长，改任国民政府委员。1927年冬，他在寿县成立北路宣慰使署学兵团，参与筹办的有许多中国共产党派出的人员如孙一中、廖运泽、孙天放、张慕韩、陶之光、叶守成、王孜堂、陶秉哲、廖运周、许光达等，1928年2月6日该团开学。1928年（民国17年）8月，柏文蔚加入反蒋介石的中国国民党改组同志会。11月他被中国国民党除名。1930年（民国19年）反蒋各派召开北平扩大会议，他任常务委员，后反蒋派败北。1931年（民国20年），他获得中国国民党