Jabarkan Sebagai purna-kaisar dari Gaozu dari Tang

Tidak banyak catatan sejarah yang mencatat aktivitas Kaisar Gaozu setelah turun tahta, tampaknya ia pun tidak terlalu mencampuri urusan pemerintahan yang kini telah dipimpin putranya yang telah naik tahta sebagai Kaisar Tang Taizong. Kaisar Taizong membatalkan beberapa kebijakannya, misalnya pada akhir tahun 626, ia menurunkan gelar beberapa pangeran menjadi adipati dan pada tahun 628, ia memulangkan 3000 wanita istana, walau pada tahun-tahun akhir pemerintahannya, Taizong pun mengumpulkan banyak wanita di istana belakangnya.

Tahun 629, Gaozu pindah dari istana utama, Istana Taiji, ke Istana Hongyi (yang kemudian diganti namanya menjadi Istana Da’an)

Tahun 630, ia mendengar berita gembira bahwa Jenderal Li Jing telah berhasil mengalahkan Tujue Timur dan menangkap kepala sukunya, Jiali Khan (Ashina Duobi). Hal ini merupakan titik balik yang luar biasa karena selama masa pemerintahannya ia selalu mengirim upeti pada Tujue. Ia berkata, “Pada masa lampau, Kaisar Han Gaozu pernah terjebak di Baideng (sekarang Datong, Shanxi) oleh pasukan Xiongnu dan ia tidak pernah bisa membalaskan dendamnya. Namun kini, putraku telah berhasil mengalahkan Tujue. Saya telah mempercayakan kekaisaran ini pada orang yang benar, apa lagi yang harus kukhawatirkan ?” Ia lalu memanggil sejumlah pangeran, putri, dan pejabat tinggi kekaisaran untuk merayakan kemenangan ini. Dalam pesta ia memainkan pipa (alat musik tradisional Tiongkok) dan mengajak tamu-tamunya menari.

Karena cuaca di kota Chang’an sangat panas ketika musim panas, ia sering diundang oleh putranya ke Istana Jiucheng (bekas Istana Renshou pada masa Dinasti Sui) di Baoji, Shanxi untuk menghindari cuaca yang menyengat itu. Namun karena Kaisar Wen dari Sui wafat di sana, ia pun tidak mau mengunjungi istana itu. Maka pada tahun 634, Kaisar Taizong pun memulai pembangunan Istana Daming yang diperuntukan sebagai istana musim panas bagi ayahnya. Namun sayangnya, Gaozu tidak pernah berkesempatan menempati istana itu. Ia mangkat pada musim semi 635 sebelum pembangunan istana itu usai.