Etter at Provence falt for østgoterne, ble Caesarius igjen anklaget for forræderi, og ble ført til Ravenna i 513. Nå sto den østgotiske kong Theodorik den store opp for ham, og han ble løslatt igjen. Caesarius dro deretter til Roma for å møte pave Symmachus, som tildelte ham pallium for erkebispedømmet Arelat.