（31年），来歙奉光武帝之命，写信招降王遵。王遵对于自己再三谏言隗嚣不得採用，表示失望。王遵应召，举家族到洛阳。王遵被光武帝任命为太中大夫，封向义侯。建武八年（32年）春，光武帝征伐隗嚣。光武帝命王遵持符节监督大司马吴汉留守长安。同年，王遵写信给旧友牛邯，劝他投降汉朝。牛邯派部下至洛阳拜谢光武帝。在牛邯影响下，隗嚣所属十三位大将、十六县、十几万士兵相继降汉，隗嚣军大幅势力削弱。之后、王遵之名不见于史书。