西晋建立，王浑加任扬烈将军，迁徐州刺史。在徐州刺史任内曾开仓赈济饥荒，而深得人民信赖。后来，王浑又转任东中郎将，监淮北诸军事，并镇守许昌。王浑后又转征虏将军、改监豫州诸军事、假节领豫州刺史。因豫州与东吴接壤，王浑就在当地宣扬西晋政府的威信，令很多不满孙皓统治的东吴人士前来投靠西晋。后东吴将领武昌左部督薛莹和夏口督鲁淑号称领兵十万，分别进攻新息和弋阳；当时正值各州兵马休息的日子，各地都少了一旅的兵力，东吴都不提防晋军会到临。但王浑则率军悄悄渡过淮河，出其不意地攻击东吴军，并将其击破。王浑后来又迁安东将军，