至德元年（756年）七月，唐肃宗于灵武即位，征召安西节度使梁宰前往协助平定安史之乱，但是梁宰却企图观望局势，而不出兵协助。李嗣业赞成梁宰的做法，但是段秀实却跟李嗣业说：「天子方急，臣下乃欲晏然，信浮妄之说，岂明公之意耶？公常自称大丈夫，今诚儿女耳。」。李嗣业于是去劝说梁宰出兵。于是梁宰就出兵五千人，由李嗣业统率前往协助唐肃宗，段秀实则担任副手，累积了许多战功。后来，李嗣业担任节度使，段秀实的父亲段行琛过世，段秀实停职回家服丧，李嗣业觉得少了段秀实彷彿少了左右手，便上表希望段秀实担任义王友一职，并充当节度判官