Nel 527, morto Giustino I, divenne imperatore Giustiniano, il quale riorganizzò l'esercito nel tentativo di porre rimedio a queste sconfitte. Il nuovo imperatore nominò Belisario "magister militum per orientem", affidandogli il comando della guerra contro i Sasanidi. La scelta si rivelò felice, e Belisario diede prova del suo valore sconfiggendo, grazie alla sua superiore abilità tattica, l'esercito sasanide nella battaglia di Dara (530). Vennero poi respinte varie incursioni sasanidi in territorio romano, i Persiani occuparono due fortezze in Lazica, i Romani occuparono alcune fortezze in Persarmenia e sottomisero la nazione degli Tzani. Nel 531 i Persiani sferrarono una grande offensiva nella Commagene, sperando di impadronirsi di Antiochia: ma, pur infliggendo una sconfitta a Belisario presso Callinicum, si ritirarono con pesanti perdite senza aver espugnato una città. Dopo la battaglia di Callinicum, Belisario venne rimosso dal suo incarico mentre Ermogene tentò invano di negoziare una pace con Kavad I. Nel 532, in seguito alla morte di Kavad I, il suo successore Cosroe firmò con l'Impero d'Oriente una "pace eterna", che prevedeva il pagamento per i Romani di 110 centenaria ai Sasanidi e il mantenimento dello "status quo" antecedente alla guerra.