七月四日，李渊以第四子李元吉为太原太守，留守晋阳宫。五日，李渊树立白旗，以王威、高君雅祭旗，誓军于野，发布檄文，统帅甲士三万人，号称义军，正式起兵。十七日，大将张纶等下离石郡（今吕梁市离石区），隋太守杨子崇为乱兵所杀。八月三日，唐军攻克霍邑（今霍州市），斩杀隋将宋老生。八日，下临汾郡（晋州）及绛郡（今新绛）。十五日，突厥始毕可汗遣康稍利率兵五百人、马二千匹，随刘文静至龙门县（今山西河津），帮助唐军。九月七日，张纶下龙泉、文城等郡，捉获文城太守莘国公郑元璹。八日，冯翊太守萧造投降。十日，唐军包围河东郡