Avec l'éclatement de la guerre de Sécession en 1861, Donelson s'engage en tant que volontaire dans la milice du Tennessee, laissant de côté ses deux carrières de planteur et de président du bureau de la chambre des représentants du Tennessee. Il reprend son grade précédent de brigadier général de la milice et en mai approuve les sites du fort Henry et du fort Donelson, ce dernier étant nommé en son honneur. Le fort Henry se révélera être un choix désastreux, étant pratiquement inondé et facilement capturé par Grant. Après que le Tennessee rejoint la Confédération, il devient brigadier général dans l'armée de la Confédération le . Lors des deux années suivantes, Donelson participe à plusieurs campagnes ; menant l'assaut initial lors de la bataille de Perryville, perdant 26 % des effectifs de sa brigade de (, et ). Il combat lors de la bataille de Stones River. Après que les troupes du brigadier général James R. Chalmers sont repoussées de Round Forrest, Donelson mène l'assaut à partir d'un direction différente. Ses hommes capturent onze canon et un millier de soldats fédéraux avant d'être contraints de se retirer. Finalement, il accède au commandement du département du Tennessee oriental le .