В течение V века Западная империя была захлёстнута вторжением германских племён. Однако префектура Италия была сохранена новым королевством Остготов, которое всё ещё являлось "de jure" частью империи, и остготский король Теодорих Великий даже восстановил префектуру Галлия на той небольшой части Галлии, которую он завоевал в 510-х годах. После отвоевания северной Африки в ходе Вандальской войны 533—534 годов, новые провинции были объединены императором Юстинианом I в преторианскую префектуру Африки, которая позже была преобразована в Африканский экзархат. Префектура Италии была также восстановлена после Готской войны а затем тоже преобразована в экзархат. На востоке префектуры продолжали функционировать до середины VII века, когда большинство восточных провинций было утрачено в ходе арабских завоеваний, а Балканы были заняты славянами, что привело к созданию фемной системы. В то же время, однако, реформы Ираклия отобрали у префекта подчинённые ему ранее финансовые учреждения, которые были преобразованы в независимые департаменты, руководимые логофетами. Последнее упоминание о префекте Востока встречается в законе 629 года. Однако, согласно некоторым исследователям, следы этой системы сохранились до начала IX века: Эрнст Штайн показал, что некоторые аспекты префектуры Иллирии сохранились в системе управления Фессалоники, тогда как Джон Халдон, основываясь на сигиллографических источниках и упоминаниях в византийской "Тактиконах", зафиксировал существование более ранних систем управления в фемной системе, с, вероятно, надзорными функция префекта в Константинополе до 840-х годов.