Nach dem Ausbruch des Sezessionskrieges rekrutierte McCook eine Kompanie und trat der 31. Illinois Infanterie bei, welche unter dem Kommando seines Freundes Colonel John A. Logan stand. McCook nahm an den Schlachten um Fort Henry und Fort Donelson teil, wo er schwer verwundet wurde. Später wurde ihm das Kommando über John A. Logans Brigade übertragen, als dieser das Kommando über die Division übernahm. Beim Zweiten Vicksburg-Feldzug erhielt McCook auch das Kommando über Logans Division. McCook kommandierte diese bei der Schlacht um Vicksburg unter Ulysses S. Grant. Im Jahr 1864 machte er sich in den Feldzügen von Chattanooga und Atlanta sowie während des "Marsches zum Meer" unter William T. Sherman verdient. Insgesamt wurde McCook während des Krieges dreimal schwer verwundet. Für seine Leistung während des Bürgerkrieges wurde er 1966 zunächst zum Brevet-Brigadegeneral und ein Jahr später zum Brevet-Generalmajor, jeweils mit Wirkung zum 13. März 1865, ernannt.