Elling studerte musikk først i Oslo, og deretter piano og komposisjon i Leipzig 1877–78. Han fullførte en cand. mag. eksamen i filologi ved universitetet i Kristiania i 1883.