辉出生于鹿儿岛县鹿儿岛市，为萨摩藩士黑田清兼与八重子之子、伯父则是子爵黑田清纲。黑田清兼与黑田清纲接触到日本明治时代初期许多现代化思想，年轻的黑田清辉也受到他们影响。1872年（明治5年），黑田清辉前往东京。黑田清辉从小学毕业后、进入汉学塾二松学舍（二松学舍大学）就读。1878年，因为黑田清辉受到高桥由一门人细田季治影响，开始学习铅笔画、水彩画。黑田清辉原本只学习英语，但是在完成东京外国语学校学业后，于1884年3月至1893年留学法国。黑田清辉抵达巴黎后，结识画家山本芳翠、藤雅三、美术商林忠正等人。1