Kaisar Tang Gaozu
Li Yuan menulis surat pada seorang pemimpin pemberontak lainnya bernama Li Mi, Adipati Wei yang berkuasa di sekitar Luoyang, dalam suratnya ia ingin melihat apakah Li Mi berniat untuk bekerjasama dengannya. Namun Li Mi, yang terlalu percaya pada kekuatannya sendiri, menyuruh sekretarisnya, Zu Junyan membalas surat Li Yuan, ia menulis, "Walaupun saya dan anda,
kakak, bukan satu keluarga, namun kita sama-sama bermarga Li. Saya sadar bahwa saya tidak punya cukup kekuatan, namun karena rasa cinta dari rakyat, saya telah diangkat sebagai pemimpin dan saya harap anda juga akan mendukung dan membantu saya. Mari kita menangkap Ziying di Xianyang dan membunuh Raja Zhou Xin dari Shang di Muye, bukankah hal seperti itu adalah prestasi besar?"
(Ziying adalah kaisar terakhir Dinasti Qin yang menyerah di Xianyang, Raja Zhou Xin adalah raja terakhir Dinasti Shang yang terkenal sebagai seorang tiran).
Li Yuan walau tersinggung dengan surat balasan itu, membalasnya dengan rendah hati karena tidak ingin menciptakan musuh baru, apalagi Li Mi adalah pemimpin pemberontak yang cukup berpengaruh pada saat itu. Ia menulis, "Walaupun saya hanya orang biasa dan bodoh, namun berkat kemurahan hati para leluhurku, saya masih beroleh kesempatan untuk menjadi pembawa pesan
kekaisaran ketika meninggalkan ibukota dan kepala pengawal di ibukota. Bila negara ini jatuh dan saya tidak bisa berbuat apapun untuk menolongnya, bahkan orang bijak yang paling pengertian pun akan mengutukku. Karenanya lah saya menghimpun pasukan atas nama kebenaran dan melakukan berdamai dengan suku-suku barbar di utara (misalnya Tujue) demi ketenangan negara dan melindungi Sui.
Bagaimanapun, manusia di dunia ini membutuhkan seorang pemimpin dan siapa lagi yang pantas untuk itu selain anda? Saya sudah terlalu tua, sudah lima puluh tahun lebih, namun saya sudah senang dengan mendukungmu, adikku.Saya berharap suatu hari nanti dapat memanjat sisik naga dan berpegang pada sayap phoenix, dan saya harap andalah, adikku,
yang akan menggenapi ramalan itu, yang akan menaklukkan dunia ini. Anda adalah pemimpin marga Li dan saya berharap anda akan senang dan menerima saya serta memberikan kembali wilayah Tang pada saya, hal itu sudah cukup bagi saya. Saya tidak memiliki niat lebih jauh seperti membunuh Zhou Xin di Muye ataupun menangkap Ziying di Xianyang. Selain itu juga wilayah Fen dan Jin
memerlukan kedamaian sekarang ini sehingga saya belum punya waktu untuk mengatur pertemuan di Mengjin (sekarang Zhengzhou, Henan, dimana Raja Wu dari Zhou pada masa lampau berkumpul dengan para pendukungnya sebelum menyerang sang tiran, Raja Zhou Xin).
Li Mi sangat terkesan dengan surat Li Yuan ini, ia berpikir bahwa Li Yuan tulus mendukungnya sehingga sejak itu keduanya sering bertukar pesan. Li Mi pun tidak menentang kampanye militer Li Yuan menyerang Chang'an. Ketika Li Yuan dan pasukannya tiba di dekat Hedong, mereka terhalang cuaca buruk dan mulai kehabisan makanan, tersiar sebuah isu yang mengatakan bahwa Tujue Timur dan Liu Wuzhou akan
menyerang Taiyuan. Awalnya, Li Yuan berencana untuk menarik mundur pasukan, namun atas desakan dari Li Jiancheng dan Li Shimin, ia terus maju. Setelah mengalahkan pasukan Sui di Huoyi (sekarang wilayah Yuncheng), ia memutuskan untuk meninggalkan sebuah kontingen kecil untuk menjaga Hedong sementara ia dan yang lainnya terus maju menyeberangi Sungai Kuning menuju ke Guanzhong (wilayah sekitar
Chang'an). Begitu tiba di sana ia memasuki Chang'an sambil memerintahkan Li Jiancheng mencaplok wilayah sekitar Terusan Tong untuk mencegah pasukan Sui di Luoyang mengirim bala bantuan ke Chang'an dan Li Shimin diperintahkan mencaplok wilayah utara Sungai Wei. Di tempat lain putrinya yang telah keluar dari persembunyian juga turut mendukung pemberontakan ayahnya, ia berhasil
menghimpun sejumlah pasukan dan mencaplok beberapa kota. Ia lalu bergabung dengan kakaknya, Li Shimin dan suaminya, Chai Shao. Tak lama kemudian Li Yuan telah mengkonsolidasi pasukannya dan mengepung kota Chang'an. Musim dingin 617, ia berhasil menduduki kota itu dan disanalah ia mengukuhkan Yang You sebagai kaisar dengan gelar Kaisar Gong, ia juga mengankat dirinya sebagai wali
atas Yang You dengan gelar perdana menteri agung serta mendapat gelar kebangsawanan Pangeran Tang. Namun sebagian besar wilayah Sui tidak mengakui Yang You sebagai kaisar dan mereka masih menganggap Kaisar Yang adalah penguasa yang sah. Li Yuan lalu mengirim keponakannya, Li Xiaogong, ke selatan untuk membujuk beberapa kota untuk menyerah. Li Xiaogong melakukan
tugasnya dengan baik, beberapa kota yang sekarang dikenal sebagai wilayah selatan Shaanxi, Sichuan, dan Chongqing menyatakan menyerah pada Tang.
Musim semi 618, Kaisar Yang terbunuh di Jiangdu (sekarang Yangzhou, Jiangsu) dalam sebuah kudeta militer yang dipimpin jenderalnya sendiri, Yuwen Huaji. Ketika kabar ini tersiar ke Chang'an, Li Yuan mengambil alih tahta dari Kaisar Gong dan mendeklarasikan berdirinya Dinasti Tang dengan dirinya sebagai kaisar pertama bergelar Kaisar Tang Gaozu, rezimnya dinamakan Wude (). Ia memulihkan
kebijakan-kebijakan pada masa Kaisar Wen dan membatalkan kebijakan Kaisar Yang yang menindas rakyat. Ia menggelari mantan Kaisar Gong sebagai Adipati Xi dan mengangkat putra sulungnya, Li Jiancheng sebagai putra mahkota, Li Shimin mendapat gelar Pangeran Qin dan Li Yuanji sebagai Pangeran Qi. Di lain pihak, para pejabat Sui mengangkat seorang cucu lain dari Kaisar Yang, yaitu Yang Tong, Pangeran Yue, sebagai kaisar berikutnya serta tidak mengakui pemerintahan yang baru didirikan Li Yuan di Chang'an.
Setelah naik tahta, tantangan pertama bagi Li datang dari Xue Ju, seorang pemimpin pemberontak yang mengangkat dirinya sebagai Pangeran Qin. Pada musim gugur 618, Xue mencuri kesempatan ketika Li Shimin terbaring sakit dengan mengalahkan pasukannya dan pasukan Liu Wenjing di Dataran Qianshui (sekarang Xianyang, Shanxi) kemudian mereka mengarah ke Chang'an. Tindakan Li adalah berusaha
menjalin persekutuan dengan Li Gui, Pangeran Liang, yang wilayahnya bertetangga antara wilayahnya dan wilayah Xue. Ia menulis surat pada Li Gui dan menyebutnya sebagai saudara sepupu. Li Gui pun untuk sementara menyatakan tunduk pada Tang. Namun sebelum menyerbu Chang'an, Xue Ju meninggal karena sakit, ia digantikan oleh putranya, Xue Rengao, seorang jenderal yang mampu namun
tidak disukai oleh para bawahanya karena kejam. Tak lama kemudian, Xue dikalahkan oleh Li Shimin di Gaozhi (sekarang di wilayah Xianyang) dan dihukum mati.
Sementara itu, Li Mi yang telah dikalahkan oleh jenderal Sui bernama Wang Shichong melarikan diri ke wilayah Tang dan menyerah pada Kaisar Gaozu. Turut pula bersamanya seorang jenderal bernama Xu Shiji. Kaisar Gaozu sangat terkesan pada Xu akan kesetiaan pada tuannya sehingga menganugerahkan gelar Li padanya. Li Mi mendapat gelar sebagai Adipati Xing dan jabatan menteri urusan
perjamuan yang dianggapnya tidak pantas bagi dirinya. Sekitar awal tahun 619, Li Mi meminta izin pada Kaisar Gaozu untuk pergi ke timur dengan alasan untuk membujuk beberapa mantan bawahannya untuk menyerah pada Tang. Namun begitu meninggalkan Chang'an, ia malah menyusun rencana untuk membangun pemerintahannya sendiri. Akhirnya ia diserang dan dibunuh oleh seorang
jenderal Tang, Sheng Yanshi. Pada musim semi tahun itu juga, Wang Shichong mengambil alih tahta dari Yang Tang dan mengangkat dirinya sebagai Kaisar Zheng.
Sementara, Li Gui, walau telah menyatakan tunduk pada Tang ia menolak gelar Pangeran Liang yang dianugerahkan padanya dan mengangkat dirinya sebagai Kaisar Tang. Kaisar Gaozu pun memutuskan hubungan dengannya. Musim panas 619, seorang bawahannya bernama An Xinggui, yang juga mantan pejabat Tang, berontak terhadapnya dan menangkapnya. An menyerahkan Li Gui pada Gaozu dan menyatakan tunduk pada Tang. Gaozu