晋任为陆军一级上将。1962年12月，黄杰奉命调任台湾省政府主席，至1969年7月离职，在任时间，达6年7个月。黄杰在省府服务，时间较长，重要施政颇多，比较显着有：办理治山与防洪、实施九年国民教育、筹建曾文水库、推行社区发展、开辟高雄第二港口、策定台中新港、修筑东部产业道路、兴建澎湖跨海大桥、兴建南部横贯公路等。黄杰停役出任台湾省政府主席，任内发展远洋渔业，配合中央政府，从事各项经济建设。1969年7月，黄杰奉调行政院政务委员兼中华民国国防部长，仍是军职外调的文职政务官。期间制定国防组织法，发展国防