常胜军士兵劫掠，在军中採以严刑峻法，军纪严明。戈登重整军队并支援常熟成功，很快得到士兵们的尊敬。李鸿章的淮军与戈登率领的洋枪队密切配合，在江苏的战场上频频得手。戈登得知守将纳王郜永宽等与主帅谭绍光不和，有投降之意，便与李鸿章商量诱降郜永宽，李鸿章命部将程学启与郜永宽定下降约，由戈登居中做保人。11月，苏州被常胜军和李鸿章的淮军合力攻下。1864年5月，太平军在天京（今南京）外围最后一个堡垒常州府失陷，常胜军的声望也达到最高峰。同治二年十月二十六日（1863年12月5日），郜永宽、伍贵文、汪安均等八名太平