Ông sinh ngày 27 tháng 12 năm 1796 tại Eisenach. Ngay từ năm 10 tuổi, ông đã được gửi đến một trường quân sự. Khả năng quân sự của mình đã khiến cho ông được lệnh tới kinh đô Berlin vào năm 16 tuổi, và nhập ngũ quân đoàn của tướng Yorck – đội quân chư hầu Phổ của Napoléon I trong cuộc tấn công nước Nga của Pháp năm 1812. Sau thất bại của Pháp tại Nga, tướng Yorck đã xé bỏ liên minh với người Pháp, và cuộc Chiến tranh Giải phóng Đức bùng nổ. Steinmetz đã tham gia tích cực trong cuộc chiến, với tư cách là một thiếu tá. Mặc dù bị thương nặng ở Königswarth, ông vẫn tham chiến trên lưng ngựa ở trận Bautzen. Ông cũng tiếp tục tham gia trong các trận đánh khác tại Đức và Pháp, góp phần đánh chiếm Paris năm 1814. Trong thời gian hòa bình sau những cuộc chiến tranh của Napoléon, Steinmetz chú tâm vào việc nghiên cứu quân sự và được thăng quân hàm.. Trong cuộc Chiến tranh Schleswig lần thứ nhất chống Đan Mạch năm 1848, ông tham gia chỉ huy trong quân đội Phổ, và được tặng thưởng Huân chương Quân công ("Pour le Mérite"). Ông cũng tham chiến tại Baden năm 1850, và được bổ nhiệm làm sĩ quan chỉ huy tại Cassel. Sau khi trở thành một tướng lĩnh của Phổ, ông mong muốn tham chiến trong Chiến tranh Schleswig lần thứ hai (1864), nhưng không được vì phải làm nhiệm vụ ở nơi khác.