“奔荆州”，投靠贺拔胜，后又归宇文泰。永熙三年（534年），征讨灵州（宁夏灵武县北）刺史曹泥之乱，又“从文帝破高欢于沙苑，斩级居多”。537年，跟随宇文泰参与和东魏高欢之间进行的沙苑之战，538年回到长安，东魏的俘虏赵青雀作乱据长安，李虎和太尉王盟、仆射周惠达辅佐皇太子元钦屯守渭北。李虎镇压各地叛乱、防卫异族有功，任开府仪同三司、封陇西郡公。548年，李虎任右军大都督、少师。《册府元龟》、《西魏书》记载他当时任太尉、柱国大将军。当时，西魏柱国大将军有八名，称「八柱国」。《周书》记载李虎仅次于宇文泰为第二