Sau khi học tập trong đội thiếu sinh quân, Gottberg khởi đầu sự nghiệp của mình vào năm 1840 với quân hàm thiếu úy trong Trung đoàn Phóng lựu Cận vệ "Thái tử" (Đông Phổ 1) số 1 tại Königsberg, thủ phủ tỉnh Đông Phổ. Tiếp theo đó, vào năm 1853, ông trở thành một trung úy trong Bộ Tổng tham mưu ("Großen Generalstab"). Vào năm 1856, ông lên quân hàm Đại úy, rồi năm sau (1860) ông được thăng cấp Thiếu tá và với cấp bậc này ông gia nhập Bộ Chiến tranh Phổ. Cuối cùng, vào năm 1865, ông được bổ nhiệm làm Tư lệnh của Trung đoàn Phóng lựu số 6 và chỉ huy trung đoàn này tham gia cuộc Chiến tranh Áo-Phổ (1866), đặc biệt là trong các trận chiến tại Nachod, Skalitz và Schweinschädel.