Sedgwick wurde 1833 an die Militärakademie in West Point, New York berufen. Er schloss sie 1837 als 24. in einer Klasse von 50 Absolventen ab. Anschließend wurde er zum Leutnant befördert und der Artillerie zugeteilt. Er kämpfte zunächst in Florida gegen die Seminolen und verdiente sich später im Krieg gegen Mexiko zwei Brevet-Beförderungen zum Hauptmann und zum Major. 1855 wechselte er die Truppengattung und ließ sich zur Kavallerie versetzen, um auf einem Dienstposten als Major verwendet zu werden. Als Angehöriger des 1. US-Kavallerie-Regiments wurde er bei der Niederschlagung der bürgerkriegsähnlichen Unruhen in Kansas, dem sogenannten "Bleeding Kansas", während des Mormonen-Aufstandes im Utah-Territorium und der Indianer-Kriege eingesetzt.