Johannes Wilhjelm ble student i 1887 og tok forberedende prøve i 1888, ble stud.polyt. og gikk samtidig på Harald Foss' tegneskole 1888–1890. Han gikk på Kunstakademiet i København fra januar 1890 til januar 1892, Kunstnernes Studieskole under P.S. Krøyer i 1892-1894 og Zahrtmanns malerskole 1903–04.