乡试，考中举人。次年（1904年），庭试考中第三甲同进士出身。初授翰林院编修。成泰十八年（1906年），黄兼的父亲去世，他辞官回乡守制。维新二年（1908年），黄兼出任德寿知府。次年（1909年），改任河清知府。维新九年（1915年），改任刑部郎中。启定三年（1918年），黄兼升任清化按察使。启定五年（1920年），升任清化布政使。启定七年（1922年），黄兼改任广平布政使。次年（1923年）正月，升署河静巡抚。保大元年（1926年），升署南义总督。他因政策分歧，与殖民政府多有不合。而他经常到顺化拜访被