后任第一战区司令长官部副参谋长。1938年因功升中将军衔。同年，为阻止日军南下，拟制黄河决口计划，报经蒋介石批准实施。1939年春，奉令筹建军事委员会委员长天水行营，负责行营作战，奉命赴西安。3月7日，日机轰炸西安并投毒气弹，张谞行中毒殉国。3月29日国民政府为其举行葬礼。