佥都御史赴江南、浙江，督练兵、输饷诸务。离开北京后，李自成攻破北京。弘光元年（清顺治二年，1645年），安宗召为戎政尚书。因山东讨贼有功，加太子太保。后与马士英不和，乞省亲归。同年五月，清军陷南京。国维在家闻变，召集义勇，至台州，与陈函煇、宋之普、柯夏卿及陈遵谦、熊汝霖、孙嘉绩等拥戴鲁王朱以海监国，移绍兴，国维任武英殿大学士，督师钱塘江。次年六月初，方国安叛降，国维还守东阳。二十五日，清兵破义乌，追至七里寺，国维召二子张世凤、张世鹏问其生死，长子表示不愿苟且偷生，次子犹豫不决，国维即怒以石砚掷击，不中。