Ved starten af borgerkrigen blev McCook oberst for 1st Ohio Infantry i april 1861. Han deltog i det Første slag ved Bull Run. Han havde kommandoen over en brigade i Kentucky i vinteren 1861-1862, en division i Tennessee og Mississippi i begyndelsen af 1862, og I Korps i Kentucky i oktober samme år, hvor han kom i kamp i Slaget ved Perryville, hvor hans division nær var blevet slået på flugt på slagmarken. Han havde kommandoen over Nashville i november og december det år og førte et korps i Slaget ved Stones River, hvor hans tropper igen blev slået på flugt. I sommeren 1863 førte han igen et korps i den kampagne, som førte til Slaget ved Chickamauga, hvor hans tropper for tredje og sidste gang blev slået på flugt. Han blev stillet for en krigsret, men ikke dømt. Han kom ikke i antiv tjeneste ved fronten i resten af krigen.