江西五郡军事，升建威将军、历阳及淮南二郡太守。太和六年（371年），前秦派王鉴及张蚝领兵救援据守寿春的叛将袁真子袁瑾，桓伊与谢玄领兵击败他们，助桓温攻克寿春，平定叛变。战后因功封宣城县子，进都督豫州诸军事、西中郎将、豫州刺史。太元元年（376年）又在桓沖指命下率兵进军寿春，以缓解前秦对前凉的军事压力。太元八年（383年），淝水之战发生，桓伊与谢琰及谢玄等共同抗击前秦大军，最终大败前秦。战后桓伊因功封永脩县侯，并进号右军将军。桓伊在豫州十年，安抚当地，甚得人心。至太元九年（384年）桓沖去世，桓伊代其