Pegram est nommé à l'académie militaire de est Point en 1850. Il est diplômé quatre ans plus tard, se classant dixième de sa promotion, qui comprend également les futurs généraux J. E. B. Stuart, Stephen D. Lee et Oliver O. Howard. Pegram est nommé second lieutenant et affecté dans les dragons. Il servit dans plusieurs garnisons et avant-postes dans l'ouest. En , il est nommé assistant-instructeur de cavalerie de West Point. Pegram obtient un congé en 1858-59 pour voyager en Europe afin d'observer la guerre austro-sarde. De retour chez lui, il est affecté en 1860 en service sur la frontière du territoire du Nouveau-Mexique.