Samuel Longfellow ble født i Portland, Maine, som den yngste av de åtte barna til Stephen og Zilpah (Wadsworth) Longfellow. Poeten Henry Wadsworth Longfellow var hans eldre bror. Han gikk på Harvard College og gikk ut i 1839 som nummer åtte i en klasse på 61. Han fortsatte studiene på Harvard Divinity School, der han studerte sammen med blant andre Thomas Wentworth Higginson og Samuel Johnson, som han senere skulle samarbeide om salmediktning med.