清河郡东武城县（今河北省衡水市故城县）人。张幸曾孙，张准之之孙。张彝年轻时豪放，通经史。袭祖爵平陆侯。魏孝文帝时担任散令，奉使出巡，清廉干练，执法不阿，转任主客令。开建五等爵，例降为平陆伯。因为参定迁都之功，再进侯爵。受魏孝文帝赏识，官至太常少卿、散骑常侍、尚书。魏宣武帝时，为侍中，出为安西将军、秦州刺史，条立规则革除旧俗，颇得民心，羌夏畏服。曾与仆射高肇争着娶陈留公主，得罪高肇，被召还洛阳，后来偏瘫，还像当官。病稍愈，为光禄大夫。魏孝明帝时，加征西将军、冀州大中正。神龟二年（519年）他的次子张仲瑀针