Zu Beginn des Ersten Weltkrieges zeichnete er sich bei der Verteidigung von Ostpreußen als Kommandierender General bei der 8. Armee unter General von Hindenburg in der Schlacht bei Tannenberg (1914) hervorragend aus. Bis zum 18. September 1915 blieb er weiterhin Führer des XX. Armee-Korps, seit 26. Mai war er zudem stellvertretender Führer der 8. Armee. Am 8. Oktober 1915 übernahm er die nach ihm benannte neu etablierte Armeeabteilung „Scholtz“ im Raum Dünaburg. Zwischen 2. Januar bis 21. April 1917 wurde Scholtz Oberbefehlshaber der 8. Armee, die vorher auch als Njemen-Armee bezeichnet wurde.