封下洛县男。536年（天平三年），参加攻打西魏夏州，俘获斛律弥娥突（斛抜俄弥突），加龙骧将军、谏议大夫，累进武卫将军。后受父爵姑臧县侯，让下洛县男的爵位给异母弟段宁安。542年（兴和四年），在高欢属下会战西魏宇文泰，邙山之战，高欢退却中受到西魏贺拔胜的袭击，段韶驱马引弓，一矢射毙西魏军先兵，西魏军不敢前进。西魏军退却，段韶进爵位为公。546年（武定四年），参加玉壁之战。高欢战场得病，玉壁城没有攻下，退回晋阳。派遣段韶和高洋回到邺城，代高澄留守邺城，高澄被召至晋阳。高欢临死，遗命高澄，军国重事要先