缉曾任温县县令，因其管治能力而有名气。当时正值蜀汉丞相诸葛亮领兵北伐，张缉上书献计，魏明帝曹叡于是询问中书令孙资的意见，孙资则认为张缉有谋略。明帝于是命张缉为骑都尉，参与对蜀作战。战后改任尚书郎，因称职而获明帝所认识。后张缉以中书郎迁任东莞郡（今山东省沂水县东北）太守，期间多次向朝廷分析与东吴和蜀汉的形势。嘉平四年（252年），曹芳立张缉之女张氏为皇后，张缉任光禄大夫，位特进。不久曹魏进攻东吴，被东吴太傅诸葛恪于东兴击败；但此时张缉却向大将军司马师认为诸葛恪功高震主，不久必会被诛杀。次年诸葛恪围攻合肥，遇疫