Na de voltooiing van de brug, keerde hij terug naar Trenton waar hij draden maakte voor de bruggen van zijn vader. Op 16 april 1861 trad Roebling in dienst van het leger. Tijdens de Amerikaanse Burgeroorlog zag Roebling herhaaldelijk actie, in het bijzonder bij de Slag bij Gettysburg. Later hielp Roebling artillerie de heuvel op te hijsen met verscheidene anderen, om zijn belangrijke tactische positie te beschermen en te beveiligen. Roebling werd, voor dapper dienstbetoon, bevorderd tot luitenant-kolonel in december 1864 en was op het einde van zijn dienst kolonel. Na de oorlog werkte hij met zijn vader aan de Brug Cincinnati-Covington (nu de John A. Roebling Suspension Brug) van 1865 tot 1867.