上海，日久无功，改授吉尔杭阿为江苏巡抚，“着即督率各路兵勇，迅速筹攻，务将沪城克期收复。”江苏巡抚吉尔杭阿令总兵虎嵩林、参将（准将）富安、守备向奎等领兵发动水陆进攻上海县城；林阿福率众分裂出走，嘉应帮富商李少卿投敌。同年冬十二月廿九日，踞守在上海县城的小刀会遭到围攻：除夕当天江宁知府刘存厚令清军于县城墙底埋炸药，轰塌上海县城墙二十余丈；咸丰五年正月初一日清军自此缺口涌入城内，与小刀会展开巷战，逮捕小刀会头目谢安邦、陈芝，惟存刘丽川率死党奋力逃出上海县，虎嵩林领军追之，至虹桥追至刘予以格毙，刘坐逝中流弹于井边