John Baptist Purcells foreldre var Edward og Johanna Purcell. Sønnen reiste til USA for sine høyere studier. Han fikk lærersertifikat fra Asbury College i Maryland. Han brukte et år på å undervise som privatlærer for noen av Baltimores fremtredende familier. Den 20. juni 1820 gikk han inn på Mount St. Mary's Seminary i Emmitsburg, og ble medlem av sulpicianerne. Hans kunnskap om klassikerne hjalp ham til å ta på seg viktige klasser ved universitetet og samtidig forberede seg til prestedømmet ved å studere filosofi, teologi og andre kirkelige emner.