隋文帝开皇初年为亲卫。从军参加灭南陈，作战勇勐，拜仪同，赐物千段。为汉王杨谅府亲信。隋炀帝杨广即位，杨谅造反，裴仁基苦苦劝谏，被囚入狱中。杨谅兵败，隋炀帝拜裴仁基为护军。数年后，官至武贲郎将，跟随李景征讨黔安的蛮夷向思多，以功进银青光禄大夫。在张掖攻打吐谷浑，有功，进金紫光禄大夫。攻打靺鞨，拜左光禄大夫。从隋炀帝征讨高丽，拜光禄大夫。大业末年，奉隋炀帝之命，镇压占领洛口的瓦岗军。被监察御史萧怀静牵制，被迫投降李密。李密封其为河东郡公，其子裴行俨为绛郡公。后来裴仁基建议李密不要和王世充决战，李密不听，致使