白银五万两雇英国人查理·戈登“常胜军”3000多人，联攻常州。1864年4月25日，常州外城金坛失守，兄长志王陈志书中炮阵亡；陈坤书率领军奋战抗敌，歼敌3000余众，终于将淮军再次击退。5月11日，淮军英军水陆并进，对常州城进行勐烈炮轰，城墙全轰塌，淮军拥入城门内巷战。《武阳志余》载：“悍太平军以身塞缺，犹旋死旋集不少……。太平军倾火药以长矛格刺，军士十坠六七不顾，卒拥而登城头，久之始败太平军下城。”今常州局前街187号为护王府，陈在此被淮军副将龚生阳掳，数日后刑前言：「……我欲保常州，为金陵犄