Sedgwick nació en las Colinas Litchfields, situadas en el pueblo de Connecticut. Su nombre fue puesto en honor a su abuelo, John Sedgwick (general que participó en la Independencia Estadounidense bajo el mando de George Washington), hermano de Theodoro Sedgwick. Después de trabajar como profesor, durante dos años, asistió a la Academia Militar de Estados Unidos. Se graduó en 1837 y fue nombrado teniente de artillería. Luchó en las guerras semínolas y en la invasión a México, ascendiendo al rango de capitán por la batalla de Padierna y la Churubusco, y después a comandante por la batalla de Chapultepec.