Selv om det nabatiske kongerike ble et klientkongedømme under Romerriket i det første århundret f.Kr., var det først i 106 e.Kr. at det mistet sin uavhengighet. Petra ble erobret av romerne og kongeriket ble en romersk provins under navnet Arabia Petraea. Byens betydning fikk en nedgang da handelsrutene begynte å gå sjøveien, og et jordskjelv i 363 ødela mange av Petras bygninger. Under Østromerriket ble det bygget en rekke kristne kirker, men byen hadde gått inn i en nedgang etter angrep fra det persiske Sasanideriket, og ved tidlig islamsk tid bodde kun noen få nomader i byen som stort sett hadde blitt forlatt. Petra forble ukjent for verden inntil det ble gjenoppdaget i 1812 av den sveitsiske reisende og oppdageren Johann Ludwig Burckhardt.