Reynolds syntyi Lancasterissa Pennsylvaniassa yhtenä yhdeksästä lapsesta John Reynoldsille (1787–1853) ja Lydia Moore Reynoldsille (1794–1843). Kaksi hänen veljeään olivat James LeFevre Reynolds, Pennsylvanian majoitusmestari-kenraali, ja vara-amiraali Will Reynolds. Hän valmistui USA:n sotilasakatemiasta vuonna 1841. Hän palveli sittemmin toisena luutnanttina USA:n kolmannessa tykistörykmentissä. Hän oli komennettuna Floridaan ja Etelä-Carolinaan, ja otti osaa Meksikon-Yhdysvaltain sotaan. Hän taisteli Meksikossa Buena Vistan ja Monterreyn taisteluihin. Meksikon sodassa hän ystävystyi upseeritovereihinsa Winfield Scott Hancockiin ja Lewis Addison Armisteadiin. Hän osallistui Meksikon jälkeen Rogues Riverin ja Utahin sotiin, ja palveli kadettien komendanttina West Pointissa ennen sisällissotaa. Hän nai Katherine "Kate" Hewittin.