Durant la seconde guerre sino-japonaise, la plupart des seigneurs de guerre de Chine commencent à s'unir pour lutter contre les Japonais et Tang devient un important membre du comité de défense nationale de Tchang Kaï-chek. Après de nombreuses demandes de ce dernier, Tang accepte finalement le commandement de la garnison de Nankin assiégée par les Japonais en , et il promet de combattre jusqu'à la mort (Note : Il existe d'autres récits de cette anecdote. Certains auteurs indiquent que Tang était volontaire pour commander la garnison de Nankin et promit de lutter jusqu'à la mort sans pression de Tchang Kaï-chek. Avant 1937, Tang était un général de Tchang sans grand pouvoir. Il est possible que Tchang ait nommé Tang seulement parce qu'il n'avait pas d'autres choix.)