参与驱逐舰导弹化改装，将“四大金刚”改装为导弹驱逐舰。1969年任舟山基地副参谋长，后任参谋长。1974年参与了西沙海战的基地支援。1975年张序三进入海军总部，任海军军训部部长，后任海军副参谋长。1980年，中国海军组建海上特混编队，参加远程运载火箭飞行试验，张序三任编队参谋长，指挥中国海军编队第一次横穿赤道。1983年5月，张序三率X950油水补给船和Y832运输船组成编队，进入南沙群岛曾母暗沙海域。1983年5月22日，张序三率编队在曾母暗沙抛锚，是为中国人民解放军海军首次在南沙群岛、曾母暗沙