Landgraf war der Sohn eines Landrichters. Er ging in Bayreuth aufs Gymnasium und studierte ab 1874 an der Universität Erlangen (bei Eduard Wölfflin) und der Universität Würzburg Klassische Philologie, Deutsch und Geschichte. Während seines Studiums in Erlangen wurde er 1878 Mitglied der "Burschenschaft der Bubenreuther". Sein Erstes Staatsexamen für das Lehramt legte er in München 1877 ab und 1878 wurde er in Würzburg promoviert. Seine Dissertation trug den Titel "De Ciceronis elocutione in orationibus pro P. Quinctio et pro Sex. Roscio Amerino conspicua". Ebenfalls 1878 leistete er seinen Militärdienst. Danach war er Assistent am Gymnasium in Speyer, legte 1880 das zweite Staatsexamen in Erlangen ab und war ab 1881 Studienlehrer in Schweinfurt und ab 1886 in München am Wilhelmsgymnasium, wo er 1894 Gymnasialprofessor wurde. 1905 wurde er Rektor des Humanistischen Gymnasiums in Schweinfurt und 1906 des Gymnasiums in Bayreuth. 1913 wurde er als Nachfolger von Nikolaus Wecklein Rektor des Maximiliansgymnasiums in München. 1911 wurde er Oberstudienrat und 1923 Geheimer Oberstudienrat. Er führte das Gymnasium durch schwierige Zeiten (Erster Weltkrieg, in denen es zeitweise Spital war, Revolutionswirren 1918, Inflationszeit).