曾隐居弘农山中，学者慕名而随，因之成为集市，被人称为公超市。张楷好道术，自称能作五里雾。朝廷有辟举，他都不接受。汉桓帝时，遭诬陷，收捕狱中。在狱中讽诵经籍，作《尚书注》。后得释放，建和三年（148年）朝廷安车备礼聘任，因病辞官，时年七十岁，在家去世。其子张陵、张玄。