53年），太子刘劭发动兵变弒父继位，以王玄谟为冀州刺史。不久，刘骏起兵讨伐刘劭，玄谟也派了垣护之领兵支持。刘骏登位后调玄谟为徐州刺史，加都督。孝建元年（454年），丞相、南郡王刘义宣联同江州刺史臧质及鲁爽等起兵反叛，王玄谟获假授辅国将军，拜豫州刺史，与柳元景联手讨伐臧质。玄谟率众屯梁山，并在河两岸修筑偃月垒，以水陆之势等待敌军。臧质大军到后攻破了玄谟西垒，玄谟遂向留屯采石的柳元景请求增兵助守东垒，元景留弱兵自守，将精兵全数派往支援玄谟，玄谟军见元景援军旗帜甚盛，以为是来自京师的援军，军心都安定了。接着臧质率