Johnson, qui était lui-même du Tennessee, favorisa la reconstruction rapide des États sudistes sécessionnistes. Il mit en œuvre sa propre forme de reconstruction par une série de proclamations ordonnant à ces États d'organiser des congrès et des élections pour refonder leurs gouvernements civils. Ses plans ne protégeaient pas suffisamment les anciens esclaves et il entra en conflit avec le Congrès dominé par les républicains radicaux. Les États du Sud élurent plusieurs de leurs anciens dirigeants et adoptèrent des codes noirs privant les affranchis de nombreuses libertés civiles. Le Congrès refusa d'accueillir les législateurs de ces États et créa des districts militaires pour les administrer. Johnson mit son veto mais le Congrès passa outre par un vote à la majorité qualifiée, établissant un climat conflictuel pour le reste de sa présidence. Le Congrès proposa le quatorzième amendement à la Constitution qui fut ratifié en 1868. Alors que le conflit avec l'exécutif s'amplifiait, le Congrès vota la "Tenure of Office Act" pour empêcher le président de démettre un membre de son cabinet sans l'accord du Sénat. Quand il persista à vouloir renvoyer le secrétaire à la Guerre Edwin Stanton, il fut mis en accusation par la Chambre des représentants, mais évita à une voix près la destitution par le Sénat.