桓温为安西将军接替庾翼，而桓温则请了范汪为其长史。永和二年（346年），桓温率军进攻成汉，范汪则留在江陵处理荆州留府事务。至次年桓温成功灭亡成汉，范汪亦获进爵武兴县侯。及后桓温多次请范汪继续为其长史，并兼领江州刺史，但范汪都不就职，反自请还京，请求任东阳太守。此举则令桓温十分憎恨范汪。范汪在东阳郡大兴学校，甚有惠政。后来就被征召入朝为中领军、本州大中正。当时会稽王司马昱在朝辅政，十分亲近范汪，故在升平五年（361年）北中郎将，徐、兖二州刺史郗昙去世后，就让范汪都督徐兖青冀幽五州及扬州之晋陵诸军事、安北将