Avec le déclenchement de la guerre de Sécession, Brayman se joint avec d'autres cadres du chemin de fer et obtient une commission militaire. Servant d'abord comme commandant dans le 29th Illinois Volunteer Infantry Regiment sous les ordres du général McClernand, il est promu colonel le et commande son régiment. À la suite de la bataille de Fort Donelson, Brayman cesse de se raser et sa barbe finira par atteindre sa ceinture. Son cheval est également abattu deux fois sous lui. À Shiloh, il devient un héros mineur, ralliant ses troupes en chargeant entre les lignes de l'Union et Confédérées. Pendant le siège de Vicksburg, il souffre d'un épisode de coup de chaleur qui le force à prendre un service de garnison. À la fin de la guerre, il atteint le grade de brigadier général, et sert à la tête d'une commission des revendications de la Nouvelle-Orléans.