Jabarkan Melayani Kaisar Wen dari Yang Yichen

Yang Yichen memiliki reputasi sebagai pejabat yang jujur dan teliti, juga seorang pemimpin militer yang berkualitas. Kaisar Wen pun menaruh hormat padanya. Tahun 599, suku Tujue dibawah pimpinan Bujia Khan, Ashina Dianjue menyerang Tiongkok. Yang ditugasi untuk menghadapi mereka dan ia berhasil menghalau suku barbar itu. Tahun berikutnya, ia bekerjasama dengan jenderal Sui lainnya, Shi Wansui, Adipati Taiping, mereka berhasil memperoleh kemenangan mutlak atas Ashina Duanjue. Namun pada akhir tahun itu Shi dihukum mati karena tuduhan palsu dari Yang Su yang iri padanya, Yang sendiri juga tidak memperoleh penghargaan apapun atas jasanya itu. Pada akhir pemerintahan Kaisar Wen sekitar tahun 604-605, Yang dipromosikan sebagai komandan Shuozhou (sekarang Shuozhou, Shanxi).