加入湘军，为曾国藩帮办亲兵营。1854年起改隶于罗泽南部，于江西、湖北镇压太平军，立战功升任知府。1857年应广西巡抚骆秉章之召，于广西镇压农民起事，授广西布政使；随后改调浙江隶左宗棠部(左缺人，骆荐蒋给左)，屡建战功并劝降收服太平军数位王将，蒋并引荐胡雪巖为左宗棠筹措军饷。1864年左升任闽浙总督，提拔保荐蒋为浙江巡抚，任内减税、轻漕运、修水利、兴学校、重铸杭州岳王庙秦桧像，浙江为之一新。咸丰九年四月二十六（1859年5月28日），由广西按察使升任广西布政使。咸丰九年九月十三（1859年10月8日），