Chamberlains oldefædre var soldater i den Amerikanske uafhængighedskrig. En af dem, Franklin Chamberlain, var sergent i belejringen af Yorktown. Hans bedstefar, som også hed Joshua Chamberlain, var oberst i den lokale milits under den Britisk-amerikanske krig (1812) og blev sendt for en krigsret (og frifundet) for sin andel i det ydmygende slaget ved Hampden, som førte til at britiske styrker plyndrede Bangor og Brewer. Hans far havde også deltaget i Aroostook krigen i 1839, som dog ikke rigtig blev til noget. Chamberlain selv var ikke uddannet i militærkunsten, men følte et stort behov for at tjene sit land.