辞官归乡。后复归任幽州刺史，迁司隷校尉。弹劾罢免丞相匡衡，河平元年（前28年）任少府。阳朔四年（前21年）汉成帝想要重用他，任命他为京兆尹。他的管理能力强，长安称：“前有赵、张，后有三王。”（赵广汉、张敞、王尊、王章、王骏）。次年（鸿嘉元年）御史大夫于永死后，御史大夫空位，谷永进言，王骏的下一任少府薛宣为御史大夫。数月后，丞相张禹引退，丞相空位，薛宣为丞相，王骏继任御史大夫。永始二年（前15年），他在御史大夫任中去世。他的后任御史大夫翟方进最后也官至丞相，当时人们对王骏没有官至丞相封爵列侯而可惜。