En 410, après le sac de Rome par les Wisigoths, Pélage part pour l'Afrique avec son disciple Célestius. Il se rend à Hippone, où il espère rencontrer Augustin, mais celui-ci est absent. Il le rencontrera finalement à Carthage. Il part ensuite dès 411 pour Jérusalem, laissant Célestius en Afrique.