。嘉靖三十五年，调任山东佥事，再调任岢岚兵备副使。他享有威名，为巡抚忌恨，受弹劾而离去。官民争相为他诉讼冤屈，皇帝下诏准许他再度起用。嘉靖四十五年(1566)，王遴升为右佥都御史、延绥巡抚。蒙古大举入侵定边、固原，总兵官郭江战死。总督陈其学、陕西巡抚戴才遭罢免，王遴降俸一级。隆庆元年，蒙古六次入塞，都战败而逃。而御史温如玉不断抨击王遴，将他解除官职听候审查。后来御史杨轸核查汇报了他的战绩，于是又恢复原职，管辖宣府，总兵官马芳骁勇，敌寇不敢深入。王遴便大兴屯田，边防储备都有赖于此。十年期满，他升任右副都御