Groß besuchte das Gymnasium in Magdeburg und trat nach seinem Abschluss am 1. April 1870 in das 2. Garde-Regiment zu Fuß der Preußischen Armee ein. Er nahm während des Krieges gegen Frankreich an den Kämpfen bei St. Privat, Beaumont und Sedan sowie der Belagerung von Paris teil. Ausgezeichnet mit dem Eisernen Kreuz II. Klasse absolvierte er ab 1874 für drei Jahre die Kriegsakademie in Berlin und zeigte dort ein Talent für fremde Sprachen. Am 2. Januar 1878 in das Garde-Schützen-Bataillon versetzt, wurde er 1879 zum Premierleutnant befördert und 1879 zur Teilnahme an den Manövern in die Schweiz abkommandiert. Im Mai 1880 zum Großen Generalstab kommandiert, wurde er 1882 zum Hauptmann befördert.