Jabarkan Kehidupan awal dari Gaozu dari Tang

Li Yuan dilahirkan di Chang'an (sekarang Xi'an, Shaanxi), ia adalah generasi ketujuh dari salah seorang raja pada Zaman Enam Belas Negara, yaitu Li Gao, pendiri Kerajaan Liang Barat. Ketelah runtuhnya kerajaan itu, cucu Li Gao, Li Chong’er menjadi pejabat di Kekaisaran Wei Utara, tetapi beberapa generasi setelahnya keturunannya hanya menjadi pejabat militer rendahan. Kakek Li, Li Hu adalah jenderal Kekaisaran Wei Barat yang bekerja di bawah komando Yuwen Tai, seorang jenderal yang sangat berpengaruh pada masanya. Li Hu mendapat gelar Adipati Longxi dan marga suku Xianbei (salah satu suku minoritas di Tiongkok utara) yaitu Daye. Li Hu wafat sebelum putra Yuwen Tai mendirikan Kekaisaran Zhou Utara dan menjadi Kaisar Xiaomin dari Zhou Utara, tetapi sang kaisar secara anumerta menganugerahinya gelar Adipati Tang. Putranya, ayah Li Yuan, bernama Li Bing, ia mewarisi gelar itu dan melayani Zhou Utara sampai Yang Jian meruntuhkan kekaisaran itu dan mempersatukan negara di bawah Dinasti Sui tahun 581. Li Yuan sendiri masih memiliki hubungan kekerabatan dengan Yang Jian yang telah naik tahta sebagai Kaisar Wen karena Permasuri Dugu Qieluo, istri Kaisar Wen adalah bibinya. Li menikah dengan Nyonya Dou, putri dari Dou Yi, seorang bangsawan dari Zhou Utara.

Selama masa pemerintahan Kaisar Wen, Li Yuan menjabat sebagai gubernur sebanyak tiga kali masa jabatan. Pada awal pemerintahan Kaisar Yang (putra Kaisar Wen) ia menjadi gubernur pos militer karena Kaisar Yang mengubah provinsi menjadi pos-pos militer. Belakangan ia diberi jabatan sebagai menteri junior dalam kabinet Kaisar Yang. Tahun 613. ketika kaisar sedang melakukan kampanye militer kedua melawan Kerajaan Goguryeo, Korea, Li diberi tanggung jawab untuk mengurus urusan logistik. Memanfaatkan absennya kaisar yang sedang memimpin serangan ke Liaodong, Jenderal Yang Xuan'gan melakukan pemberontakan di dekat ibu kota timur Luoyang. Kaisar Yang menugasi Li Yuan untuk menjaga bagian barat Terusan Tong, tetapi pada akhirnya pemberontakan Yang tidak pernah mencapai wilayah itu. Kesempatan itu dimanfaatkan olehnya untuk merekrut orang-orang berbakat. Pada akhir tahun itu, ketika kaisar memanggilnya, Li tidak memenuhi panggilan itu dengan alasan sakit. Kaisar Yang tidak mempercayai alasan itu dan mulai menaruh curiga padanya, maka ia bertanya pada Selir Wang, yang adalah sepupu Li, “Apakah ia akan mati ?” Untuk mengurangi kecurigaan kaisar, Li melewati hari-harinya dengan minum-minum hingga mabuk dan menerima sogokan yang diberikan padanya, dengan demikian Kaisar Yang berpikir bahwa ia bukanlah seorang yang ambisius dan patut diawasi. Tahun 615, kaisar menugasinya untuk menumpas pemberontakan petani di Hedong (sekarang Yuncheng, Shanxi), tetapi ia dipanggil pulang tahun 616 dan akhir tahun itu kaisar memberinya tanggung jawab menjaga kota Taiyuan, Shanxi, yang mempunyai nilai strategis.