学校就读小学。1927年受洗于台南东门教会，该年4月公学校未毕业即进入「长老教会中学」（长中）就读，由于在殖民地政策下，黄彰辉无法报考高等学校。于是在1930年（昭和五年）到日本青山学院中等学部就读。在日本见证了基督徒不畏日本军国主义的压迫，谴责日本入侵满洲，培养了身为基督徒的自由主义。1931年（昭和六年）黄彰辉考入台北高等学校，报考文哲科。1934年毕业，进入日本东京帝国大学哲学系就读，并确立了往神学发展。1937年毕业，然而在返台的船上却因与弟弟黄明辉用台湾话交谈而使弟弟受到日籍教官处罚，虽然在黄