省临时省会立煌县成立，行署内设民政、财政、教育、建设、保安等科和秘书、视察、译电、缮写等室，及一个武装特务大队。民国27年12月底，行署移驻寿县；次年2月移驻定远。行署成立后，行署区域大部为中共抗日根据地、游击区或汪兆铭政权管辖下的沦陷区，行署主要控制大别山以及日军未到达的部分县区，形同虚设。民国29年（1940年）2月2日，安徽省政府决议撤消皖北行署；3月，正式撤销皖北行署，其政务由安徽省政府直接管理。