Under romersk styre fikk Petra en rask nedgang, i stor grad ved at Palmyra hadde tatt over den arabiske handelen, men også ved at den øvrige handelen hadde begynt å gå sjøveien. I 363 ødela et jordskjelv mange bygninger og ødela samtidig det vitale vannsystemet. Byen ble ytterligere svekket av et nytt jordskjelv i 551, og i 663 underla araberne området for en tid. Gamlebyen Petra ble hovedstad i den bysantinske provinsen Palaestina Salutaris og det ble bygget flere kristne kirker i bysantinsk tid i og rundt Petra. I en av dem ble det senere avdekket skriftruller. Kristendommen kom til Petra allerede på 300-tallet e.Kr., bortimot 500 år etter at Petra ble etablert som handelssted. Athanasius av Alexandria omtaler en biskop av Petra ved navn Asterius. Minst en av gravene ble benyttet som en kirke. I en inskripsjon i rød maling i 447 ble dens innvielse nedtegnet: «i tiden til den helligste biskop Jason». Etter den islamske erobringen i 629–632 ble det umulig for kristne å oppholde seg i Petra, som i det meste av Arabia. Under første korstog ble Petra okkupert av Balduin I av Jerusalem og utgjorde andre len til baroniet Al Karak (i herredømmet Oultrejordain) med tittelen Château de la Valée de Moyse or Sela. Det ble underlagt frankerne fram til 1189. Det er fortsatt et titulært bispesete tilhørende den katolske kirke.