（民国27年）春，入安徽省。同年4月，在徐州方面迎击日军。1938年9月，廖磊接替在前线指挥的李宗仁，出任安徽省政府主席。翌月，兼任豫鄂皖边区游击兵团司令。廖磊将安徽省变成了抗日基地，推进军事训练的精细化及行政机构的改革，取得一定成果。另外，廖磊与新四军合作，采取容共姿态。但其容共态度遭到安徽省内的CC系以及新桂系的反共势力的批判和反对，廖磊为此十分苦恼。1939年（民国28年）10月23日，廖磊因突发脑溢血而逝世。享年50岁（满49歳）。其后，李品仙继任安徽省政府主席，原来的容共路线由此改为反共路