丧事而辞官回家。麟德二年（公元665年），武则天前往泰山进行封禅大典，贺兰敏之献上了一篇《封东岳碑》。据说为张昌龄所作。后来贺兰敏之上奏，推荐张昌龄任北门学士。干封元年（公元666年），张昌龄去世。有文集二十卷。
传闻.宰相苏味道与张昌龄在当时都有名声，闲暇日相遇，两人互相夸耀。张昌龄说：「我写的诗比不上你，因为没有『银花合』。」（苏味道有《观灯》诗：「火树银花合，星桥铁锁开。暗尘随马去，明月逐人来。」）苏味道说：「你的诗虽然没有银花合，但是有『金铜钉』。」（张昌龄赠张昌宗