Groeben kam am 1. März 1764 als Fahnenjunker in das Dragonerregiment „Alt-Württemberg“ der Preußischen Armee. Dort stieg er am 1. Juni 1766 zum Fähnrich und am 12. Juni 1769 zum Sekondeleutnant auf. Am 9. April 1778 wurde Groeben Generaladjutant des Regimentschefs Karl Erdmann von Reitzenstein. Er nahm dann am Bayrischen Erbfolgekrieg teil und avancierte am 7. Juli 1779 zum Premierleutnant. Ab dem 27. April 1785 war er Stabshauptmann, am 28. Mai 1789 Major und am 16. Dezember Eskadronchef. 1794 kämpfte er während des Feldzuges in Polen in der Schlacht bei Rawka und dem Gefecht bei Warschau. Dafür erhielt Groeben am 8. Juni 1794 den Orden Pour le Mérite.