，中华民国政府迁徙来台后，他再于中华民国海军中任少将参谋长，副总司令。并在1955年，1958年参与各战役。其中以八二四海战与九二海战最为着名。他并在于金门海战达成运送八英吋巨砲任务(轰雷行动)，为该海战关键人物之一。因此战功，他于1959年2月升任中华民国海军总司令，同年7月晋升海军二级上将。1965年6月，蒋中正明令发表黎玉玺为参谋总长。7月，升任国防部参谋本部参谋总长。该参谋总长任期于1967年6月结束。1967年7月，任总统府参军长，晋升一级上将。1970年6月18日，特任黎玉玺为驻土耳其大