Fremdeles levde minnet om Roma som det gamle Romerrikets sentrum videre, og keiser Justinian 2 i Østromerriket så på gjenerobring av Roma som et viktig mål. I 536 gjenerobret general Belisarius Roma fra østgoterne. I perioden 537-552 var byen stadig beleiret og herjet av kamper, og bysantinerne og østgoterne byttet jevnlig på hvem som hadde kontrollen over byen. Da kampene om byen opphørte i 552 lå mye av byen i ruiner, og store deler av befolkningen hadde forlatt byen. Fra å være en navngjeten storby, var byen nå sunket hen til å være en liten provinsiell by dominert av ruiner fra sin forgangne storhetstid. Folketallet er beregnet å ha sunket til 20 000. Fram til 756 forble Roma under bysantinsk kontroll gjennom eksarkatet av Ravenna, vasall av Østromerriket. Da Ravenna ble sterkt truet av langobardene på midten av 700-tallet, kom frankerne til unnsetning.