Nach dem Besuch der Realschule in Meseritz trat Gersdorff am 16. März 1855 als Musketier in das 5. Infanterie-Regiment der Preußischen Armee ein und avancierte bis Mitte Januar 1859 zum Sekondeleutnant. Zu Ausbildungszwecken war er von April bis September 1862 zur Militärschießschule kommandiert. Anschließend war er als Adjutant des Füsilier-Bataillons sowie vom 1. Juli 1864 bis zum 31. Mai 1866 als Regimentsadjutant tätig. Während des Deutschen Krieges nahm Gersdorff 1866 an den Schlachten bei Trautenau und Königgrätz und stieg nach Kriegsende Ende Oktober 1866 zum Premierleutnant auf.