Hij volgde in 1891 zijn studie aan de Academie voor Schone Kunsten in Brussel in het atelier van Jan Portaels. Anno 1895 verbleef Baltus in Parijs waar hij de kringen van de kunstenaars van de symbolistische groep Rose-Croix opzocht, waar hij bevriend geraakte met Joséphin Péladan, een Martinist en Rozenkruiser. Hij vertrok in 1896 naar Italië, waar hij een ontmoeting had met de Duitse beeldhouwer Adolf von Hildebrand. Baltus kocht een huis in Florence en, evenals von Hildebrand, bestudeerde hij de schilders uit de Italiaanse renaissance. Hij huwde in 1904 diens dochter Sylvia von Hildebrand (188'-1926).