John Buchanan besuchte die öffentlichen Schulen seiner Heimat. Während des Bürgerkrieges diente er im Heer der Konföderation. Während der Schlacht von Gettysburg geriet er Anfang Juli 1863 in Gefangenschaft, in der er bis zum Februar 1865 verblieb. Nach dem Krieg setzte Buchanan seine Ausbildung am Emory and Henry College fort. Nach einem Jurastudium an der University of Virginia in Charlottesville und seiner 1872 erfolgten Zulassung als Rechtsanwalt begann er in Abingdon in diesem Beruf zu arbeiten. Gleichzeitig schlug er als Mitglied der Demokratischen Partei eine politische Laufbahn ein. Zwischen 1885 und 1887 saß er im Abgeordnetenhaus von Virginia.