黄玉忠皆为进士，父黄玉梁是前清举人。黄七岁入私塾，机灵多变，1909年入广西陆军第三中学。1912年入武昌陆军军官预备学校继续学习，1914年结业后，入保定陆军军官学校学习。1916年毕业后，回广西陆军任准尉见习官。新桂系统一广西之后，黄成为仅次于李宗仁的新桂系二号首领，1926年6月1日任广西省政府主席，长期经营广西。
中年经历.在新桂系的历次反蒋战争中因屡次指挥作战失利，在新桂系中威望大受打击，心灰意冷。随后在取得李宗仁、白崇禧的谅解，保证不危害团体利益的协议后，离开新桂系