即位于福州，改元隆武，张家玉授翰林院侍讲，兼编起居注。七月初一，隆武帝亲征江西，命张家玉为兵科给事中，监督御右营永胜军。十一月，清军围困抚州，张家玉率军驰援，埋伏诱敌，先后在许湾（今江西临川县）、在千金坡大败清军，解抚州之围。江西沦陷后，张家玉拥立永历帝。晋兵部尚书。兵败投水塘死。永历帝加赠奉天翼运中兴宣猷守正文臣，特进光禄大夫、左国柱、少保兼太子太师武英殿大学士、吏部尚书、增城侯，谥文烈。
着作.有《张文烈公军中遗稿》1卷、《附录》1卷、《大易纂义》、《名山集》、《军中草》、