Ab 1. November 1910 diente Harff als Stabskapitän im Leibgarde-Jägerregiment, um im November 1912 als Oberadjutant in den Stab des 3. Armeekorps in Wilna versetzt zu werden. Nach Beginn des Ersten Weltkriegs rückte Harff mit der neu gebildeten 1. Armee unter dem Kommando Paul von Rennenkampffs am nach Ostpreußen ein und zeichnete sich in der Schlacht bei Gumbinnen aus. Im Dezember 1914 wurde er zum Oberstleutnant befördert und im Februar 1915 zum Oberadjutanten des Kommandeurs der 26. Infanteriedivision ernannt, die nach Polen geschickt wurde. Harff zeichnete sich bei den Kämpfen bei Sejny, Krasnopol und Suwałki im Februar und März 1915 aus. Im September 1915 wurde er Stabschef der 69. Infanteriedivision der 3. Armee, als die Division an die Westfront bei Krewo-Smargon verlegt worden war. Die Division verteidigte dort ihre Stellungen in blutigen Abwehrkämpfen bis zum März 1918, als die Kaiserlich Russische Armee nach dem Friedensvertrag von Brest-Litowsk aufgelöst wurde. Im Juli 1917 hatten Teile der Division an der Kerenski-Offensive teilgenommen. Im August 1917 war Harff zum Oberst befördert worden.