相崔胤与他是同年进士，关系好，不久召入翰林，为承旨学士。当时唐昭宗刚回长安，皇室衰微，张文蔚起草的诏令不失中正，受到称赞。昭宗称赞翰林学士柳璨可任，想用他为宰相，问应该任以何官职。张文蔚认为选贤不需要拘泥资格、级别，但也不宜太快，并同意唐昭宗提拔柳璨为谏议大夫，于是柳璨被任为谏议大夫、同平章事。张文蔚转户部侍郎，转兵部侍郎，但仍兼翰林学士承旨。
拜相.天祐元年（904年），权势军阀宣武军节度使朱全忠迫使昭宗从长安迁都洛阳，同年弑昭宗，昭宗子唐哀帝继立。冬季，张文蔚出翰林院改任礼部侍