退居山林，后唐天成年间，以张茂昭的后代补协律郎，官至平利（今陕西省平利县）县令。宋太宗太平兴国二年（977年）进士，担任将作监丞，通判宣州。改任太子中允、直史馆，转任着作郎，赐绯服鱼袋，参预编修《太平御览》，历任左拾遗。太平兴国六年（981年），出任峡路转运副使，加左补阙。废除副使时，知遂州，以勤勉干练着称，入朝为度支员外郎。雍熙年间，吕蒙正、李至、张齐贤、王沔推荐他的文章德行，改任主客郎中、史馆修撰。数日后，以本官充任枢密直学士，赐金鱼袋、紫袍。宋太宗在便殿召见他，对他说：“成都重地，卿为朕镇守。