孝武帝，垣护之妻弟兖州刺史徐遗宝亦参与，并写信劝护之加入。护之派使者向孝武帝报告，接着就留儿子垣恭祖守历城，自己亲率步骑兵进攻徐遗宝所在的湖陆（今江苏沛县北）。护之经过邹山（今山东邹山）时击破遗宝的兵戍，还未到湖陆六十里，遗宝就焚烧城池西走，转投豫州刺史鲁爽。垣护之接着获征召为游击将军，派到沈庆之那里参与讨伐鲁爽，并加辅国将军。四月，鲁爽被杀，垣护之转在柳元景率领下进攻臧质及刘义宣的联军，出镇新亭（今江苏南京南）。当时王玄谟正率军于梁山（今安徽和县南）与义宣等相持不下，玄谟以对方兵强而急欲增援，孝武帝于是命