У тренутку сецесије јужњачких држава, Џонсон је био сенатор из Гринвила у источном Тенесију. Био је униониста и био је једини јужњачки сенатор који није напустио свој положај након сецесије. Постао је најистакнутији "ратни демократа" са југа. 1862. године, Линколн га је поставио за војног гувернера окупираног Тенесија, где се показао као енергичан и ефикасан у борби против побуне и почетку преласка ка фази Реконструкције.