Aus dem Kadettenkorps kommend wurde Sperling am 7. April 1868 als Sekondeleutnant dem 3. Garde-Grenadier-Regiment Königin Elisabeth der Preußischen Armee überweisen. Während des Krieges gegen Frankreich wurde er in der Schlacht bei Gravelotte durch einen Schuss in das rechte Bein leicht verwundet. Im weiteren Kriegsverlauf nahm Sperling an der Belagerung von Paris teil und erlitt bei Aulnay durch einen Schuss in die linke Brust eine schwere Verwundung. Ausgezeichnet mit dem Eisernen Kreuz II. Klasse war er von September 1873 bis Ende April 1874 Adjutant des Füsilier-Bataillons. Als Premierleutnant absolvierte Sperling 1877/80 die Kriegsakademie und wurde im Mai 1881 auf ein Jahr zum Großen Generalstab kommandiert. Mitte April 1882 avancierte er zum Hauptmann und wurde Mitte August 1882 unter Stellung à la suite seines Regiments als Lehrer zur Kriegsschule Metz versetzt.