蜀后杨亮就因桓沖等退兵而撤还。同年八月，苻坚正式派大军进攻东晋，意图统一全国，因而以苻融督张蚝及慕容垂等率二十五万大军作前锋，自率大军在后。秦军在初战都取得胜利，并攻取了寿春，但后来晋将刘牢之击败了驻洛涧的梁成部队，并水陆并进攻向秦军，张蚝虽在淝水南击败谢石军，但面对谢玄等人列阵待战，张蚝无法击溃晋军，只有退至淝水北岸，并与于淝水南岸的晋军对峙。后苻坚应晋军要求，命前秦军队后退以让两军决战，却令到秦军自行溃败，终于淝水之战大败。
并州辅主.苻坚率败军至洛阳时，命张蚝率五千羽林军北戍