会试第一（会元），授庶吉士，进翰林院编修。正德年间，参与修撰孝宗实录，因不依附刘瑾、焦芳等人，被调任南京工部员外郎。刘瑾事败后，召还恢复原职，升任翰林院侍读学士，升礼部右侍郎。嘉靖元年（1522年）转吏部左侍郎。当时朝廷讨论兴献王尊号，其与尚书乔宇、毛澄等人力争反对。毛澄借病辞去，代替者罗钦顺不赴任，于是命汪俊任礼部尚书。当时献王已加帝号，礼部主事桂萼再次请求称皇考。嘉靖三年，汪俊率领廷臣七十三人上疏反对，奏折被扣内廷不发，却特召请桂萼、张璁、席书等支持献王皇考的官员从南京回京师。汪俊再三劝阻，终不得世