Kaukasuksella, Bysantin ja sassanidien valtakuntien välissä, sijaitsi useita pienempiä kristittyjä kuningaskuntia. Justinuksen viimeisten vuosien aikana bysanttilaiset ja sassanidit tekivät pienempiä sotaretkiä alueella. Sota syttyi toden teolla Justinianuksen ensimmäisenä vuonna yksinvaltiaana. Idässä olleita joukkoja johti entisen keisari Anastasiuksen veljenpoika Hypatius. Justinianus nimitti kuitenkin aikaisemmin omaan henkivartioonsa kuuluneen Belisariuksen Hypatiuksen tilalle "magister militum per Orientemiksi" Belisariuksen "assessorina", eräänlaisena kirjurina ja neuvonantajana, toimi tuleva historioitsija Prokopios. Samaa aikaan samarialaiset nousivat kapinaan Kavadhin yllyttämänä. Belisarius kukisti persialaiset Daran taistelussa kesäkuussa vuonna 530. Samalla Sittas esti sassanideja etenemästä Armeniaan. Seuraavana vuonna käyty Callinicumin taistelu päätyi bysanttilaisten tappioon. Sota loppui vuonna 531 kuningas Kavadh I:n kuoltua. Rauhanneuvottelussa vuonna 532 Bysantti lupautui vuosittaan maksamaan 11 000 paunaa kultaa sassanideille. Rauhansopimusta kutsuttiin "ikuiseksi rauhaksi", mutta se tuli kestämään vain seitsemän vuotta.