Valentinian ble født i 321 ved Cibalæ i sørlige Pannonia i det som i dag er Kroatia. Han kom fra en illyrisk familie. Valentinian, og hans yngre bror Valens var sønner av Gratianus Major, en framtredende general under styret til Konstans, den yngste sønnen til keiser Konstantin den store. Han vokste sammen med broren på familiens eiendom og hvor de begge fikk en gjennomgående utdannelse. Han gikk inn i militæret i ungdommen og i 340 fulgte han sin far, da nylig utpekt , til Afrika. Deretter reiste han til Britannia da hans far ble utnevnt til . Etter å ha holdt denne posisjonen pensjonerte Gratianus seg og dro tilbake til familieeiendommen i Cibalæ mens Valentinian antagelig ble overført til et sted langs grensen ved Rhinen eller Donau.