随滕王宇文逌在青海攻破吐谷浑，以军功加上仪同。周宣帝宇文赟即位，李子雄跟随行军总管韦孝宽攻克平定淮南地区，李子雄率领轻装骑兵数百人到达硖石，说降十余坐城池，出任豪州刺史。杨坚总领百官时，李子雄被征召担任司会中大夫，因为平定淮南的功劳，加上开府。等到隋文帝杨坚接受禅让，李子雄出任鸿胪卿，进爵高都郡公，食邑二千户。开皇二年正月辛酉（582年2月24日），隋朝在并州设置河北道行台，晋王杨广出任行台尚书令。隋文帝认为北周势单力孤而灭亡，所以派遣儿子分别担任地方要职，大规模的挑选忠正诚信有才能声望的人担任行台属官