遇上因升平三年（359年）西中郎将谢万率军抵抗前燕却因其指挥失当而溃败，而导致许昌、颖川、谯、沛等各城都相继落入前燕之手以及豫州当地人混乱不安的局面。当时掌权的桓温于是于升平五年（361年）指派尚未拜官的桓豁都督沔中七郡诸军事、建威将军、兼新野和义成二郡太守。同年，桓豁北攻许昌，击败前燕将领慕容尘并攻下许昌，因功进号右将军。
代兄掌州.兴宁二年（364年），桓温加领扬州牧，并向东移镇至赭圻。次年再东移至姑孰，于是让桓豁假节监荆州、扬州之义城及雍州之京兆诸军事，并接替自己领南蛮校尉及