武泰元年（528年），担任军主，随尔朱荣入洛阳。担任伏波将军。后来归附高欢，担任都督。中兴二年（532年）闰三月，以卫将军改车骑大将军。永熙元年（532年）四月，于韩陵（今河南安阳）破尔朱兆，封广平县公，再进爵广平郡公。任恒州刺史。娶高欢之妹乐陵长公主。东魏天平三年（536年），从高欢袭破西魏夏州（治今陕西靖边）。元象元年（538年），率领诸将为前驱，与西魏军作战在河阴（今河南孟津东北），诸将大捷，只有他兵退。高欢以其旧功，没有怪罪。兴和二年（540年）转太保，兴和四年（542年）任太傅。武定元年（543年