Rochow erhielt seine Erziehung zusammen mit seinem Bruder im Haus des Großvaters. Im Jahr 1809 kam er an die Academie Militaire und wurde am 24. April 1810 nach seinem abgelegten Examen als Sekondeleutnant im Regiment der Gardes du Corps der Preußischen Armee angestellt. Während der Befreiungskriege nahm er an der Schlacht bei Großgörschen bei, wurde mit dem Eisernen Kreuz II. Klasse ausgezeichnet sowie am 19. Mai 1813 zum Premierleutnant befördert. Für sein Verhalten bei Leipzig erhielt Rochow den Orden der Heiligen Anna III. Klasse. Während des Sommerfeldzuges erfolgte am 1. Juni 1815 seine Versetzung als Adjutant in die 1. Garde-Kavalleriebrigade und dort avancierte er im selben Monat zum Rittmeister. Als solcher wurde Rochow am 3. Oktober 1815 in die Adjutantur versetzt und fungierte als zweiter Adjutant der Inspektion der Garde-Kavallerie. In dieser Stellung wurde er Anfang April 1820 Major und kam am 9. November 1820 als zweiter Adjutant zum Prinzen Wilhelm von Preußen, dem Bruder des Königs Friedrich Wilhelm III. Am 29. März 1821 wurde er der Adjutantur aggregiert. Er wurde am 22. Oktober 1829 mit dem St. Johanniter-Orden und am 23. November 1834 mit dem Orden der Eisernen Krone II. Klasse ausgezeichnet.