Nach seiner schulischen Ausbildung trat Grumbkow im April 1866 mit Aussicht auf Beförderung in die 1. Artilleriebrigade der Preußischen Armee ein. Mitte September 1867 wurde er in das Feldartillerie-Regiment Nr. 10 versetzt und avancierte zwei Monate später zum Sekondeleutnant. Drei Jahre später kämpfte er während des Krieges gegen Frankreich mit der 3. Leichten Batterie seines Regiments am 16. August 1870 in der Schlacht bei Vionville. Dabei wurde Grumbkow durch einen Granatsplitter an der Nase und Stirn schwer verwundet. Für seinen Einsatz erhielt er das Eiserne Kreuz II. Klasse. Nach dem Krieg besuchte er die Artillerie- und Ingenieurschule, auf der er sich umfassendes Wissen in artilleristischer Organisation, Technik und Taktik aneignete. 1872 zum Abteilungsadjutant in seinem Regiment ernannt. 1873 folgte seine Kommandierung zur Kriegsakademie. Nach erfolgreichem Abschluss war Grumbkow mehrere Jahre als Lehrer an der Kriegsschule in Kassel tätig. Nach einer Verwendung als Hauptmann und Batteriechef wurde er im Dezember 1886 zum Lehrer an Artillerie- und Ingenieurschule ernannt und 1889 zum Major befördert.