Da Valentinian I døde i 375 var det imidlertid Gratians yngre halvbror Valentinian II som i første omgang ble utnevnt til vestromersk keiser av troppene i Pannonia. Gratian aksepterte avgjørelsen og overlot den formelle keiserverdighet til Valentinian II, han beholdt selv overhøyheten over de galliske provinser, mens Valentinian fikk de øvrige provinser. Reelt forble makten over det vestromerske rike imidlertid i Gratians hender, og de østlige deler forble under onkelen Valens' kontroll.