奠基人宇文泰侄孙。因宇文泰与高欢争雄，北魏分裂为西魏和东魏。天平元年（534年），高欢杀宇文什肥。宇文胄当时家贫，很有干略。高欢念其年幼，没有杀害，将其阉割。后来北齐、北周分别取代东魏、西魏。宇文什肥被追封为邵景公，由其弟宇文护子宇文会袭爵。直到北周天和年间（566年—572年），周齐通好，五年（570年）二月，宇文胄才得以回到关中，被授大将军、开府仪同三司，袭封邵国公。不久除授宗师中大夫，进位大将军，出为原州刺史，转荥州刺史。大象末年，左丞相杨坚辅政，二年（580年）六月，相州总管尉迟迥起兵反抗杨