Geboren als Sohn des Kaufmanns Joseph Wilhelm Weiler (1819–1875) studierte Julius Weiler am Polytechnikum Stuttgart Chemie. 1869 wurde er dort Mitglied des Corps Stauffia. Nach der Reichsgründung wechselte er an die Universität Straßburg, wo er 1874 mit einer Dissertation zum Thema "Über die Einwirkung von Methylal auf Toluol, Benzylchlorid und Diphenyl", die er bei Adolf von Baeyer angefertigt hatte, zum Dr. phil. promoviert wurde. In der Zeit in Straßburg machte er Bekanntschaft von Edmund ter Meer.