1937年（民国26年），抗日战争爆发后，廖磊任第11集团军副总司令兼第7军军长，在第五战区迎击日军。同年10月，廖磊升任第21集团军总司令兼第48军军长，在上海方面同日军交战。廖磊的军队在交战中损失很大，后到湖南省重编。1938年（民国27年）春，入安徽省。同年4月，在徐州方面迎击日军。1938年9月，廖磊接替在前线指挥的李宗仁，出任安徽省政府主席。翌月，兼任豫鄂皖边区游击兵团司令。廖磊将安徽省变成了抗日基地，推进军事训练的精细化及行政机构的改革，取得一定成果。另外，廖磊与新四军合作，采取容共姿态。但