九年（1920年）直皖战争皖系失败，9月倪被解职。张文生任安徽督军，许世英任省长。民国十一年（1922年）10月，马联甲任安徽督理军务。以后历任安徽地方最高长官的还有王普（倪嗣冲女婿）、王揖唐、吕调元、姜登选、陈调元。民国十四年（1926年），陈调元归顺北伐国民革命军。民国十六年（1927年）国共分裂之后，安徽西部的大别山区成为红军武装割据的地区之一。民国二十六年（1937年），全面抗战爆发，安徽成了日军、汪精卫政权、国军和中国共产党的新四军势力交错的地方。1940年，在安徽南部的泾县，发生国共冲突的皖