Yuwen Shu
Di bawah pemerintahan Kaisar Wen

Tahun 681, Yang Jian memaksa Kaisar Jing menyerahkan tahta padanya dan mengangkat dirinya sebagai kaisar dengan gelar Kaisar Wen. Ia mendirikan dinasti baru dengan nama Sui, dengan demikian Dinasti Zhou Utara telah tamat riwayatnya. Pada musim dingin 688, Kaisar Wen mengirim pasukan besar untuk menaklukkan Dinasti Chen di selatan. Dalam kampanye militer ini Yuwen memimpin pasukannya menduduki benteng musuh di Shitou untuk memberi bantuan pada dua jenderal Sui lainnya, Han Qinhu dan Heruo Bi, yang sudah terlebih dulu menyeberangi Sungai Yangtze untuk menyerbu ibu kota Chen, Jiankang. Setelah Heruo dan Han mencaplok Jiankang dan menangkap hidup-hidup Kaisar Chen Shubao, dua orang jenderal Chen, Xiao Huan dan Xiao Yan masih melanjutkan perlawanan terhadap Sui dan menjadikan Zhejiang sebagai basis mereka. Kaisar Wen mengirim Yuwen dan Yan Rong menyerbu Zhejiang. Yuwen akhirnya berhasil mengalahkan Xiao Huan dan memaksa Xiao Yan untuk menyerah. Setelah kampanye militer yang sukses ini, Kaisar Wen mengangkat Yuwen sebagai komandan militer Anzhou (sekarang Xiaogan, Hebei), putranya Yuwen Huaji juga diangkat sebagai pejabat tingkat menengah dalam pemerintahan.
Kaisar Wen juga mengangkat putra keduanya, Yang Guang, Pangeran Jin, yang menjadi komandan tertinggi dalam ekspedisi penaklukkan Chen, menjadi komandan Yangzhou, Jiangsu. Pada tahun 600, Yang Guang yang berteman baik dengan Yuwen Shu meminta ayahnya untuk memindahkan Yuwen ke Shouzhou (sekarang Lu'an, Anhui) yang berdekatan dengan pos militernya. Setelah itu, Yang Guang berkonsultasi dengan Yuwen mengenai rencana merebut status putra mahkota dari kakaknya, Yang Yong. Yuwen menyarankan untuk menjalin persekutuan dengan Yang Su, seorang menteri yang mempunyai pengaruh besar dan orang kepercayaan Kaisar Wen. Untuk itu mula-mula harus terlebih dulu mendekati adik dan orang kepercayaannya, Yang Yue. Maka Yang Guang memberi Yuwen sejumlah harta dan menyuruhnya ke ibu kota Chang’an (sekarang Xi'an, Shaanxi) untuk bertemu Yang Yue. Yuwen memberi sebagian harta rampasan perang dari Chen pada Yang Yue dan sengaja mengalah ketika berjudi dengannnya. Setelah mulai cocok dengan Yang, mulailah ia mengutarakan tujuan Yang Guang untuk menjalin hubungan dengan Yang Su, ia juga menekankan pada Yang Yue bahwa hubungan kakaknya dengan putra mahkota Yang Yong tidak akur sehingga masa depan keluarganya dapat terancam jika kelak Yang Yong naik tahta menggantikan ayahnya. Yang Yue merasa alasan ini masuk akal dan ia segera membujuk kakaknya untuk bergabung dengan Yang Guang.
Saat itu kebetulan hubungan Yang Yong dengan kedua orang tuanya pun sedang tidak baik karena Kaisar Wen tidak menyukai sifatnya yang pemboros dan suka mengoleksi barang-barang antik, sedangkan ibunya, Permaisuri Dugu Qieluo, juga tidak menyukai sifatnya yang suka mengumpulkan selir. Kaisar Wen dan permaisurinya mempertimbangkan apakah Yang Yong masih pantas menjadi kaisar berikutnya. Atas bujukan Yang Su, akhirnya pada tahun 600, Kaisar Wen mengalihkan status putra mahkota Yang Yong ke Yang Guang. Sebagai balas budi, Yang Guang mengangkat Yuwen Shu sebagai komandan pengawal istananya dan menikahkan putrinya, Putri Nanyang dengan salah satu putra Yuwen, Yuwen Shiji.
Tahun 604, ketika Kaisar Wen sakit keras, Yuwen Shu adalah salah satu komandan pengawal istana yang diperintahkan Yang Guang untuk menjaga istana peristirahatan Renshou di Baoji, Shaanxi dimana sang kaisar terbaring sakit. Kaisar Wen meninggal tak lama kemudian, penyebab kematiannya masih menjadi misteri hingga kini, diduga ia dibunuh atas perintah Yang Guang, tetapi belum ada bukti-bukti kuat yang mengarah pada dugaan tersebut. Tahun itu juga Yang Guang naik tahta dengan gelar Kaisar Yang dan ia segera menghukum mati Yang Yong.