荣和高欢谋议杀害杜洛周，失败后投靠尔朱荣。后段荣和高欢一起起兵，任行台右丞、西北道慰喻大使，出使晓谕官民。高欢攻打邺城，段荣留守信都郡，任镇北将军、定州刺史。在邺城未攻下时，军需物资都由段荣补给。高欢入洛阳，以段荣之功封他为姑臧县侯，食邑八百户。转任瀛州刺史。段荣之妻娄信相是高欢之妻娄昭君（武明娄皇后）的姐姐，段荣因为自己是高欢的亲族，拒绝诸将推荐不去瀛州赴任。后任行相州事，又改任济州刺史。536年，行泰州事。段荣性格温和，为政宽容，得到官民的爱戴。高欢攻打关中，段荣以为时尚早反对。高欢在渭曲战败，说：