北伐，但因失利退还；次年滑台亦为魏军所陷。王玄谟此时就上疏文帝，认为北伐不成主因是士兵不欲远征，建议在鲁阳县及南乡县出兵攻关中及洛阳，而非以江东军队远道进攻。接着的日子多次向文帝进献北伐策略，一直有心北伐的宋文帝也听得很心动。后王玄谟任徐州刺史、兴安侯刘义宾的辅国司马、彭城太守。元嘉二十五年（448年），刘义宾去世，王玄谟表称彭城是水陆要塞，求以皇子外镇徐州，文帝遂命武陵王刘骏任徐州刺史。元嘉二十七年（450年），宋文帝再度北伐，以王玄谟为宁朔将军，受辅国将军萧斌节度，率主力进碻磝，碻磝守军退走后玄谟转