华东军区海军警卫团，后分配到美盛号中型坦克登陆舰（后该舰更名为黄河号）任政治军官，后任该舰副舰长。1952年赴苏联留学，进入列宁格勒海军专科学校外训系中国队舰长班学习海军专业知识，1954年回国。回国后张序三在西安号护卫舰上担任实习舰长，曾驾舰护送国防部长彭德怀元帅视察海岛。1954年，苏联卖给中国四艘07型驱逐舰，是为中国海军早期“四大金刚”。张序三调至长春号驱逐舰，后于1956年任长春号驱逐舰舰长，时年27岁，为中国海军历史上最年轻的驱逐舰舰长。1962年4月12日，美国海军狄海文号驱逐舰入