Utover 500- og 600-tallet var langobardene og frankerne en stadig trussel mot eksarkatet. Såvel i de deler av det sørlige Italia etterhvert som gjensto, som i Venezia og Roma, var det bysantinske veldet mer skinn enn virkelighet. Napoli ble styrt av nærmest selvstendige hertuger, de venetianske distrikter valgte seg et overhode på egen hånd, dogen, og Roma gjorde seg nesten selvstendig under pavenes ledelse. Eksarkatet kom på slutten til å omfatte bare Romagna og Pentapolis ved Rimini.