Am 22. April 1912 wurde er zum Generalleutnant befördert und erhielt am 4. Juni 1912 die Ernennung zum Kommandeur der 10. Division in Posen. Mit diesem Großverband kämpfte er nach Ausbruch des Ersten Weltkriegs erfolgreich an der Westfront. Am 9. Oktober 1914 wurde er zum Kommandeur des in Litauen kämpfenden I. Armee-Korps ernannt, das sich den zahlenmäßig überlegenen russischen Truppen entgegenstellte und nach anfänglichem Rückzug in der Winterschlacht in Masuren erfolgreich war. Dafür wurde Kosch mit dem Orden Pour le Mérite ausgezeichnet. Am 11. Juni 1915 zum Kommandierenden General des X. Reserve-Korps ernannt, führte er dieses in den Schlachten am Dnjestr, Gnisa Lipa, Krasnostaw bis an den Bug. Danach wurde er auf den Balkan versetzt, wo er mit der ihm unterstellten 101. und 103. Infanterie-Division am Feldzug gegen Serbien teilnahm. Am 27. November 1915 erhielt Kosch das Eichenlaub zum Pour le Mérite.