开始随宇文泰为亲随，很得信任。河桥之战，宇文泰的从马上跌落被敌军追及，李穆把自己的马给了宇文泰，赐姓拓跋氏。周武帝时，官至上柱国、并州总管。封申国公。尉迟迥起兵反杨坚，子李荣劝他响应尉迟迥，他没有听从。执拿尉迟迥的儿子尉迟谊送到长安，俘虏尉迟迥任命的潞州刺史。秘密向杨坚劝进，杨坚非常信任他。隋朝建立，以他为三师之首—太师，家中襁褓的小儿尽得仪同官。开皇六年八月戊申，李穆薨，谥号明。
考证.姚薇元考证其家族出身高车。