Nasceu no Condado de Lincoln, Carolina do Norte, no dia 23 de Março de 1843, Johnston frequentou as escolas públicas rurais da Carolina do Norte durante sua juventude. Johnston mudou-se para Talladega, Alabama, aos dezessete anos, e frequentou uma academia militar. No início da Guerra Civil, Johnston se alistou como soldado do Exército dos Estados Confederados. Johnston serviu durante a guerra, recebendo ferimentos nas batalhas de Chickamauga, Spotsylvania, New Market e Petersburg. No final da guerra, alcançou o posto de capitão.