383年），桓沖自荆州举兵攻伐前秦，桓石虔进据樊城，在武当与郭铨击败前来救援的前秦兖州刺史张崇，掠二千户南归。太元九年（384年），桓沖去世，豫州刺史桓伊代其出任江州刺史，而桓石虔就冠军将军被授以监豫州扬州五郡军事、豫州刺史。但同年就因母丧而离职，由朱序代任。太元十二年（387年），桓石虔复原职，而朱序已经将治所从姑孰移至马头，桓石虔则请改镇历阳，获得准许。太元十三年（388年），桓石虔去世，朝廷追赠右将军，又追论其平定阎振的功勋，追封作唐侯。