年间，从周武帝平定北齐，转任上开府，进爵成安郡公，一子别封县公。578年，任左前军勇勐中大夫。后和乌丸轨在吕梁包围南陈将军吴明彻，南陈刘景率七千人来援，长儒迎撃。击败刘景，俘虏数千人。吴明彻被俘，因功进大将军。580年，杨坚任丞相，王谦在蜀起兵，沙州氐杨永安煽动利州、兴州、武州、文州、沙州、龙州，响应王谦。长儒受命讨杨永安，获胜。王谦二子逃出长安投靠王谦，长儒捕斩二人。581年，隋朝建国，进位上大将军，封蕲春郡公。582年，突厥沙钵略可汗与弟叶护、潘那可汗率兵十数万南进，长儒为行军总管，率兵二千迎击