在陆大特别班学习结业后调至南京，任胡宗南部第一师参谋长兼开封警备司令。旋任第十八军军部参谋兼干部训练处副主任。后应安徽省政府主席吴忠信之请，任安徽警备第二旅旅长。9月，升任安徽省保安处少将参谋长。次年3月，又升任安徽省保安处中将处长。在任期间，因围剿中国工农红军有功，受到蒋介石嘉奖。1935年初，曾率保安团、队，配合刘镇华部第十五军在皖南谭家桥大败由粟裕担任参谋长的中国工农红军北上抗日先遣队，红7军团军团长寻淮洲亦在战斗中身亡。民国1935年3月，蔡炳炎因与安徽省主席刘镇华不睦，辞去安徽省保安处长职务。