De siste årene av hans styre ble merket av strid mellom imperiet og østgoterne og perserne. I 526 begynte Justinus' helse å bli merkbart dårlig og han utpekte formelt Justinian til medkeiser den 1. april 527. Den 1. august samme år døde han og ble etterfulgt av Justinian.