徽二年（474年），父亲张永和桂阳王刘休范乱军在白下作战失败，阮佃夫问罪张永。萧道成为张永辩解，张瓌感恩萧道成，于是与他结交。受位通直散骑常侍、骁骑将军。元徽三年（475年），张永去世，张瓌回归乡里吴县居丧。升明元年（477年），沈攸之之乱爆发，吴郡太守刘遐纠集三千人唿应。刘遐召见张瓌，张瓌假装受命，和叔父张恕入吴郡。张瓌和防郡队主郭罗云共同袭击刘遐。刘遐出逃，张瓌部下顾宪子斩刘遐。张瓌向萧道成报告胜利，于是转任辅国将军、吴郡太守，封义成县侯。任冠军将军、东海东莞二郡太守，不拜。建元元年（479年）