父李屯（独孤屯），是北魏孝文帝汉化鲜卑后裔。李屯跟随东魏权臣高欢与西魏军在沙苑作战，战败被西魏独孤信（匈奴屠各种独孤部出身）俘虏。独孤信信任他，赐给他独孤姓。独孤楷立战功，为宇文护的随从，官至车骑将军，封广阿县公，受位右侍下大夫。北周末年，跟随韦孝宽平定淮南。580年，杨坚担任丞相，独孤楷受位开府仪同三司，监督杨坚的亲卫兵。581年，隋朝建立，独孤楷担任右监门将军，封汝阳郡公。数年后，转任右卫将军。仁寿初年，出任原州总管。蜀王杨秀驻守益州，文帝杨坚召还杨秀，杨秀犹豫没有起行。朝廷害怕杨秀会作乱，