Na het afronden van zijn studies aan in West Point, gaf hij les aan de academie en werkte hij mee verschillende ingenieursprojecten. Hij nam ontslag uit het leger om een loopbaan uit te bouwen als burgerlijk ingenieur. Bij het begin van de burgeroorlog voerde hij eenheden uit Ohio aan. Daarmee behaalde hij het eerste succes in westelijk Virginia. Toen hij in 1862 commando’s kreeg aan het westelijk front behaalde hij overwinningen bij Iuka en Corinth. Zijn bevelhebber was Ulysses S. Grant. Zijn bruuske, openhartige wijze en de vele publieke ruzies met zijn superieuren lag aan de basis van een professionele rivaliteit tussen hemzelf enerzijds en Grant en de minister van oorlog Edwin M. Stanton anderzijds. Dit zou zware gevolgen hebben voor zijn militaire loopbaan.