因为兵乱而放弃商业，到日本士官学校学习军事。
抗日战争期间.九一八事变发生时，苟吉堂参与组织中国留日学生总退学，为请愿代表之一，抗议日本侵华。被捕并投入日本东京若松町宪兵监狱，拒写悔过书。而后返国。1931年-1936年，在潘文华部任职，驻防嘉定（现乐山）等地。1937年后，在汤恩伯部长期供职，历任第13军参谋（军长为汤恩伯）、第89师参谋长、第110师参谋长、第85军参谋长、第20军团参谋处长、第31集团军参谋处长、第29军副军长、第3方面军副参谋长、第3方面军前方指挥所主