到碻磝后萧斌想处死他，但被沈庆之谏止。后萧斌率众南退历城，玄谟自请留守碻磝。次年，魏军兵至瓜步山后退军，江夏王刘义恭以碻磝并不可守，召王玄谟率众弃守南还，但玄谟就遭到魏军追击，玄谟军大败，手臂更中箭受伤，但还是能撤回历城。元嘉三十年（453年），太子刘劭发动兵变弒父继位，以王玄谟为冀州刺史。不久，刘骏起兵讨伐刘劭，玄谟也派了垣护之领兵支持。刘骏登位后调玄谟为徐州刺史，加都督。孝建元年（454年），丞相、南郡王刘义宣联同江州刺史臧质及鲁爽等起兵反叛，王玄谟获假授辅国将军，拜豫州刺史，与柳元景联手讨伐臧质。