末中原大乱，李孟尝入山为盗。大业末年，与王君廓一起归附唐朝，时年十四。武德元年李渊登基后，王君廓封彭国公，李孟尝授开府仪同，被秦王李世民招入府中为将。同年8月跟随李世民征讨薛举、薛仁杲，武德三年征讨刘武周，前后以功勋加上柱国，累功赏赐财物一千五百段。武德四年（621年）5月，又从李世民在虎牢之战中破王世充、窦建德，武德六年（621年）5月，跟随行军总管李世勣击破徐圆朗。武德九年（626年）六月初四，李世民率尉迟敬德、侯君集、张公谨、刘师立、公孙武达、独孤彦云、杜君绰、郑仁泰、李孟尝等九将伏兵于玄武门