段业从小“博涉史传,有尺牍之才,为杜进(前秦将军,随吕光征西域)之记室,从征塞表,儒素长者”。杜进随吕光征西域时,段业也随同前往。后被吕光发现,调到元帅大营升授他为“著作郎”,以后,吕光的文件、告示,皆出自段业之手。吕光于建兴元年(386年)建立后凉后,段业历任尚书、建康(今甘肃高台)太守。397年2月,吕光因西秦乞伏乾归出尔反尔,数度叛离,决定出兵消灭他。吕光派他的庶长子、太原公吕篡攻克金城(今甘肃兰州),弟弟天水公吕延带着大将、沮渠部落酋长沮渠罗仇、沮渠麹粥兄弟攻克临洮、武始、河关,后因吕延麻痹轻敌,兵败被杀,凉军被迫撤退。吕光埋怨沮渠罗仇、沮渠麹粥护卫不力,以败军之罪杀了沮渠罗仇、沮渠麹粥二兄弟。沮渠部是匈奴的一支,其先祖世为匈奴左沮渠王,他们以部落为姓。东汉时,因初居卢水(今青海西宁)一带,又称卢水胡。三国时向南扩展到今四川北部,一部分则居于今甘肃武威附近,原以游牧为业,后部分改为农耕。