1939年（民国28年）、武漢防衛戦中の万家嶺戦役で第74軍が日本軍に攻撃した際には、張霊甫は自ら突撃隊を組織し張古山を占領、日本軍第106師団に大打撃を与えた。同年3月には、南昌会戦に参戦し、右腿に被弾し重傷を負ってしまう。しかし、そのまま湘贛会戦に参戦し、旅長、副師長、師長、第74軍副軍長を歴任した。