Jabarkan Sebagai seorang panglima perang dari Zhang Yang

Dengan kematian He Jin dan kebangkitan Dong Zhuo, Zhang Yang berusaha merebut Shangdang Jun untuk dirinya sendiri, tetapi tidak dapat melakukannya. Ketika Yuan Shao menyerukan kampanye melawan Dong Zhuo, Zhang Yang pergi untuk bergabung dengannya tetapi tidak diberi tugas yang jelas. Pada tahun 191, pemimpin Hun, Yufuluo memberontak dan mencari dukungan Zhang Yang; Penolakan Zhang Yang mengakibatkan penculikannya. Pasukan Yuan Shao akhirnya mengalahkan Yufuluo dan Zhang Yang dibebaskan.

Setelah dibebaskan, Zhang Yang ditunjuk oleh Dong Zhuo sebagai Administrator Henei Jun.

Pada tahun 192, Zhang Yang membawa temannya dan pembunuh Dong Zhuo, Lü Bu, yang dicari oleh pengganti Dong Zhuo Li Jue. Lu Bu berangkat ke Yuan Shao tidak lama setelah itu, hanya untuk kembali pada tahun 193. Pada tahun 194, Lü Bu bertanya pada Zhang Yang apakah dia berencana untuk mengkhianati Lü Bu ke Li Jue. Karena jenderal-jenderal Zhang Yang semua disuap oleh Li Jue, Zhang Yang secara terbuka mengakui niatnya mengkhianati Lü Bu, sementara diam-diam melindunginya dari Li Jue. Namun demikian, Lü Bu kembali meninggalkan Zhang Yang untuk Zhang Miao tidak lama setelah itu.

Pada tahun 195, Jenderal Dong Cheng membawa Kaisar Xian ke Henei Jun dalam upaya untuk menghindari kekuatan Li Jue dan Guo Si. Keramah tamahan Zhang Yang membuatnya mendapatkan pengangkatan Jenderal yang Menenangkan Negara (安國將軍) dan gelar bangsawan "Markis Jinyang". Sepanjang tahun itu, Zhang Yang merekomendasikan Kaisar Xian untuk kembali ke ibu kota Luoyang, tetapi ini ditolak oleh rombongan kaisar. Akhirnya, pada tahun 196, Zhang Yang membawa Kaisar Xian kembali ke Luoyang, dan juga mengawasi rekonstruksi istana kekaisaran (yang dibakar oleh Dong Zhuo pada tahun 191). Tidak seperti kebanyakan panglima perang lainnya, yang menjaga kaisar untuk kepentingan politik, Zhang Yang kembali ke Henei Jun setelah selesainya misinya. Atas perbuatannya dia dipromosikan menjadi Marsekal Agung.

Pada tahun 198, ketika Cao Cao bersiap untuk berkampanye melawan Lü Bu, Zhang Yang membuat persiapan untuk membantu yang terakhir. Namun persiapan ini dipotong pendek, setelah ia dibunuh oleh bawahannya Yang Chou (楊醜), yang kemudian mencoba menyerah kepada Cao Cao hanya untuk dibunuh oleh Sui Gu (眭固), yang kemudian menyerah kepada Yuan Shao.

Yingxiong Ji (英雄記) menyatakan bahwa Zhang Yang "bertemperamen ringan dan murah hati, dan menjadi bawahannya tidak ada hukuman yang keras."