为父亲守丧，悲痛骨瘦憔悴，事奉母亲以孝知名。长大后，骁勇有膂力，好读《孙子》、《吴子》兵法。西魏大统末年，嗣爵位武乡侯。宇文泰召他为亲信。后侍奉宇文护之子中山公宇文训，受到亲信厚待，担任都督。北周明帝时，担任内侍上士，累进仪同三司，拜任武州刺史。他跟随周武帝平定北齐，加位上仪同，进爵位平原县公，召为勋曹中大夫。580年，杨坚担任丞相，杜整进位开府仪同三司。581年，隋朝建立，加位上开府，进爵长广郡公，担任左武卫将军。在职数年，因为丧母去职。586年，突厥入侵隋朝北边，卫王杨爽统帅隋军北伐，杜整在属下担任