生，台湾新竹北埔客家人，曾就读台北师范及淡水中学，在学时和日本警察发生冲突，于1920年潜赴中国大陆，16岁以侨生身分在上海暨南大学攻读政治经济。后决定习武报仇，以「炎黄子孙」的「黄」为姓，改名国书。后透过中国国民党人保荐考日本陆军士官学校第19期，由蒋中正支付其学费，后在该校以第一名毕业后进入日本砲兵专科学校。
中年经历.对日抗战时期，曾任中华民国陆军中将，与邹洪上将为二战期间国民革命军中的两大台湾籍将领。抗战胜利后，曾出任1946年召开制宪国民大会台湾省代表，1948年当选