北魏的太武帝平定凉州之后，五十多岁的张湛进入平城，接受了南浦男的爵位，上军衔为宁远将军。与时任司徒的崔浩见面后，跟着像是宗钦、段承根等黄河右边的俊才们一起受到礼遇。张湛家贫、为官清廉又不贪污，上层长官崔浩还经常供应一些衣食给张湛。崔浩又推举张湛担任中书侍郎，但张湛仍坚固固辞退。毎年，崔浩所作的诗与颂都有赠给张湛，崔浩都会收到返回的句子。当崔浩被处刑时，张湛唯恐受到连座处分，将全部的诗文都舍弃烧掉了。