Jabarkan Pensiun di Taiwan dari Yan Xishan

Tahun-tahun terakhir Yan diisi dengan kekecewaan dan kesedihan. Setelah mengikuti Chiang ke Taiwan ia digelari "penasihat senior" Chiang, tetapi dalam kenyataannya ia sama sekali tidak memiliki kekuasaan. Chiang mungkin sudah lama menaruh dendam pada Yan karena aktivitas-aktivitasnya untuk Li di Guangdong. Lebih dari sekali Yan meminta izin untuk pergi ke Jepang, tapi ia tidak diperbolehkan meninggalkan Taiwan.

Yan dikucilkan oleh semua pihak, kecuali segelintir pengikut, dan menghabiskan sebagian besar sisa hidupnya menulis buku-buku tentang filsafat, sejarah, dan peristiwa kontemporer, yang sering ia terjemahkan ke dalam bahasa Inggris. Perspektif filosofisnya digambarkan sebagai "utopianisme Konghucu antikomunis dan antikapitalis". Beberapa bulan sebelum Perang Korea, Yan menerbitkan sebuah buku, Damai atau Perang Dunia, yang dalam buku itu, ia memperkirakan bahwa Korea Utara akan menyerang Korea Selatan, Korea Selatan akan dengan cepat unggul, A.S. akan campur tangan dengan mendukung Korea Selatan, Korea Utara akan terdorong mundur ke Sungai Yalu, Komunis Tiongkok akan campur tangan mendukung Korea Utara, akan terjadi kebuntuan dan Amerika akan mempertahankan kehadiran jangka panjang di Korea Selatan setelahnya. Semua peristiwa ini kemudian terjadi setelah Perang Korea.

Yan meninggal di Taiwan pada 24 Mei 1960. Ia dimakamkan di wilayah Qixingjun, Yangmingshan. Selama beberapa dekade kediaman dan makam Yan diurus oleh sejumlah kecil mantan pembantunya, yang menemaninya dari Shanxi. Pada tahun 2011, ketika pembantu terakhirnya berusia 81 tahun dan tidak mampu lagi bekerja, tanggung jawab perawatan situs diambil alih oleh Pemerintah Kota Taipei.