度支那战争爆发，他历任步兵营教导员，团政委，步兵325师副政委等职。1955年段奎任炮兵第351师政委，1958年任步兵师政委，同年授予上校军衔。1960年升第4军区副政治委员、第5军区司令，1960年和1961年曾两次到中国军事学院学习军事理论。越南战争时期在南部地区指挥作战。1974年晋升为少将。1976年10月任第5军区政委，同年12月在第4届越南劳动党大会（同大会改名共产党）上当选为中央委员。1980年晋升中将。1977年任第5军区司令兼政委，1978年底指挥第5军区部队参加了侵柬作战。