Gilbert rejoint l'armée des volontaires, plus tardivement que beaucoup de ses contemporains, s'enrôlant en . Néanmoins, il est nommé colonel du 27th Iowa Infantry le . Le régiment de Gilbert participe à l'expédition de Little Rock de Frederick Steele mais n'est pas impliqué dans les combats. Il est affecté à un service de garnison, en Arkansas, puis est transféré dans le Mississippi, où son régiment est affecté à la division d'Andrew J. Smith dans le corps pendant l'expédition de Meridian.