晋，从河东郡迁居襄阳郡，官至荥阳郡太守。裴叔业父亲裴顺宗和哥哥裴叔宝在刘宋、南齐为官，都有名誉与地位。因为父亲和祖父是较晚南渡的北方人，因此裴叔业从小就擅长骑马射箭，有军事才干。南朝宋元徽末年，累进为羽林监，成为萧道成属下的骠骑行参军。479年（建元元年），南朝齐建国，裴叔业出任屯骑校尉。北魏军进攻司州与豫州，裴叔业带头迎撃。480年（建元2年），派遣皇子到成都，出任益梁南秦三州刺史，上书统治巴蜀之地。被封为宁朔将军。486年（永明4年），接受右军将军的旗号，被任命为东中郎谘议参军。齐东