杨坚在北周担任丞相，任命张奫为大都督，统领乡兵。隋朝建立，贺若弼驻守寿春，张奫在他属下常常去侦察敌情，平定南朝陈立功。进位开府仪同三司，封文安县子。一年后，率水军到京口讨伐笮子游，在和州打败薛子建。召还入朝，受位大将军。在杨素属下再征江南，在会稽讨高智慧，在临海破吴世华。进位上大将军，歴任抚州刺史、显州刺史、齐州刺史，有能干的好名声。598年，担任行军总管，在汉王杨谅属下参加远征高句丽。隋军多有溃败，只有张奫的军队保全归还。仁寿年间，转任潭州総管，在任三年去世。其子张孝廉。