朝末年停留在京师，当时李渊与李世民等人从太原起兵，李神通与亲人为了躲避官吏追捕，逃入鄠县山区南部，与史万宝、裴勣、柳崇礼等人举兵响应，事后李渊授以光禄大夫，跟随李渊一同平定京师后改授宗正卿。李氏宗亲于外地响应者唯有李神通一支。武德元年，李神通被封为郑国公，不久改封永康郡王，再改封淮安郡王，以右翊卫大将军一职担任山东道安抚大使，山东地区唐军皆受到李神通的管制。此时李氏宗亲除李渊诸子以外，唯李神通势力最大、任务最重，从李渊将山东一带军事委由李神通处置，可见他对李神通之信赖。李神通攻伐窦建德，虽兵败遭掳，