臂力过人，能拉着牛令其倒着走，又能翻越高城墙，故获后赵将领张平所爱，以其为养子。随着后赵灭亡，为后赵并州刺史的张平先后向前秦及前燕归降，据并州维持半独立状态。永兴元年（357年），张平以并州降晋，接着同时叛秦、燕二国。苻坚于是在次年二月亲自率兵讨伐，并以邓羌为前锋，进驻汾上。张平因而派张蚝率兵抵御，并与邓羌相持十多日。三月，苻坚率军至铜壁（今山西忻县西），张平尽出兵众抵抗，张蚝单骑大唿，多次出入于秦军阵中，令得苻坚要招募人去生擒他。最终张蚝遭吕光刺伤并被邓羌俘获，张平部众因而溃散，张平亦只得投降。张蚝因而入