James Garland besuchte die öffentlichen Schulen seiner Heimat. Nach einem anschließenden Jurastudium und seiner Zulassung als Rechtsanwalt begann er in Lovingston in diesem Beruf zu arbeiten. Außerdem nahm er als Soldat am Britisch-Amerikanischen Krieg von 1812 teil. In den 1820er Jahren schloss sich Garland der Bewegung um den späteren US-Präsidenten Andrew Jackson an und wurde Mitglied der von diesem 1828 gegründeten Demokratischen Partei. Von 1829 bis 1831 saß er im Abgeordnetenhaus von Virginia.