John Schwartz erhielt nur eine eingeschränkte Schulausbildung. Danach absolvierte er in Reading bei einem Händler eine Lehre. Nach dem erfolgreichen Abschluss dieser Ausbildung wurde er dessen Teilhaber. Schwartz nahm als Major der amerikanischen Streitkräfte am Britisch-Amerikanischen Krieg von 1812 teil. Danach stellte er Eisenwaren her. Politisch trat er erst Ende der 1850er Jahre als Mitglied der Demokratischen Partei in Erscheinung. Innerhalb seiner Partei gehörte er dem sogenannten "Anti-Lecompton"-Flügel an.