399年2月,段业改称凉王,迁都骆驼城(今甘肃张掖西北十五公里处),改元天玺。因张掖在河西四郡之北,故史称北凉。
段业称王后,任沮渠蒙逊为张掖太守、临池公、尚书左丞;任沮渠南成为辅国将军,负责军国大事。段业同沮渠蒙逊虽然是君臣关系,但沮渠蒙逊并不买段业的帐,因为北凉的军政大权都掌握在沮渠蒙逊兄弟手中。这样,段业当然很不满意,于是他们君臣之间貌合神离,同床异梦。因为沮渠蒙逊感到夺取北凉政权的时机还不成熟,又怕遭到段业的暗算。401年,沮渠蒙逊主动要求去安西当(今甘肃敦煌东北)太守,以等待时机。段业觉得沮渠蒙逊离开张掖再好不过,于是十分痛快的答应了他的要求。离开张掖前,沮渠蒙逊绞尽脑汁地想出一个极其阴险的夺权方案。五月的一天,沮渠蒙逊向沮渠男成告别,并约好时间一同去兰门山祭祖,然后,派自己的亲信许咸密报段业,说沮渠南成准备借祭山之机发动叛乱。过了几天,沮渠男成果然向段业禀报说,要与兄弟到兰门山祭祖,途中被段业预先埋伏好的士兵捕杀。沮渠男成一死,沮渠蒙逊泣不成声的对部下说:"男成对北凉无限忠诚,如果没有男成,段业能有今天的基业吗?可段业却无辜把他杀害,难道诸位就不能为他报仇吗?况且凉州现在兵荒马乱,段业能收拾这个烂摊子吗"?沮渠男成平时很得人心,诸部将都愿意为他报仇。所以,沮渠蒙逊很快就拉起了一支一万多人的队伍,起兵攻打段业,附近的羌、胡也纷纷响应,段业身边的兵将也大都投降了沮渠蒙逊。沮渠蒙逊很快就攻下了张掖城,抓住了段业。段业对沮渠蒙逊哀求说:"我现在孤身一人,希望你给我留条活路,让我回家同妻子团聚"。沮渠蒙逊不容分说,马上下令让士兵杀死了段业。段业自开国到被杀共在位四年。