Né Joseph-Mathurin Bourg à Rivière-aux-Canards (Nouvelle-Écosse), sa famille fut déportée en 1755. Après 3 ans de théologie, il quitta pour la ville de Québec après avoir étudié la philosophie à Paris. Il fut envoyé en baie des Chaleurs par ses supérieurs en 1772.