抚张芾檄文前往救援，并会同各省清军与太平军交战获胜。太平军残部转而向东，衍庆恐怕鄱阳有危，向巡抚申请返回。当时鄱阳县事务暂时交与乐平令李仁元统摄，衍庆与其商议防守事宜。最终太平军攻至鄱阳，衍庆与仁元共同力战，城破而死。朝廷追赠道衔，并在鄱阳立祠纪念。《清史稿》将其列入《忠义传》。
着作.着有《槐卿遗稿》六卷。