桓石虔任竟陵太守。宁康元年（373年），前秦攻佔了蜀地，梁、益二州皆失。但次年（374年）就有蜀人张育叛秦并围攻成都，派使者到东晋称藩。当时朝廷就派了桓石虔及益州刺史竺瑶领三万兵进攻垫江。虽然张育不久就被前秦所灭，但桓石虔却在垫江击败了驻屯当地的前秦宁州刺史姚苌，令其退守五城，而桓石虔就与竺瑶回屯巴东郡。太元三年（378年），前秦出兵侵略淮南地区，朝廷下诏授桓石虔为奋威将军、南平太守。不久进号冠军将军。太元六年（381年），前秦荆州刺史都贵率阎振和吴仲攻竟陵，桓沖派桓石虔和桓石民去抵抗，并击败敌军，