为张纮之孙、吴国南郡太守张玄之子，在孙皓时担任侍郎，《江表传》称他有俊才。因为词辩敏捷而闻名，被拔擢升为侍中、中书令。有一次孙皓请张尚弹琴，张尚回答：「我不懂得弹琴。」于是孙皓下诏命令他学琴。后来张尚讲到琴学的精妙，因此提到一个故事：「在春秋时代，晋平公要琴师师旷替他为弹一曲《清角》，师旷回答说我王德行浅簿，还不够以听我弹《清角》。」孙皓认为张尚是在比喻自己德行不够，不太高兴。之后孙皓问张尚：「《诗经》说『汎彼柏舟』(飘浮在河面上的柏木船)，那么只有『柏木』才能拿来造舟吗？」张尚回答说：「《诗经》有句『