到魏军追击，玄谟军大败，手臂更中箭受伤，但还是能撤回历城。元嘉三十年（453年），太子刘劭发动兵变弒父继位，以王玄谟为冀州刺史。不久，刘骏起兵讨伐刘劭，玄谟也派了垣护之领兵支持。刘骏登位后调玄谟为徐州刺史，加都督。孝建元年（454年），丞相、南郡王刘义宣联同江州刺史臧质及鲁爽等起兵反叛，王玄谟获假授辅国将军，拜豫州刺史，与柳元景联手讨伐臧质。玄谟率众屯梁山，并在河两岸修筑偃月垒，以水陆之势等待敌军。臧质大军到后攻破了玄谟西垒，玄谟遂向留屯采石的柳元景请求增兵助守东垒，元景留弱兵自守，将精兵全数派往支援玄