出任建康太守。后凉龙飞二年（397年），沮渠蒙逊叛后凉，其堂兄沮渠男成亦叛，并进攻段业所守的建康。男成派使者劝段业支持自己，段业最初不肯，但在男成围困二十日后还是答应了，遂被推为大都督、龙骧大将军、凉州牧、建康公，改年号神玺。神玺元年（397年）以沮渠男成为辅国将军、沮渠男成的堂弟沮渠蒙逊为张掖太守，委以军国重任。
猜忌蒙逊.神玺二年（398年），段业在沮渠蒙逊的支持下，力排众议命蒙逊进攻西郡，终擒太守吕纯，随后晋昌太守王德及敦煌太守孟敏都向段业投降。不久段业又攻吕弘镇守的张掖