Gordian klatret i hierarkiet inntil han kom inn det romerske senatet. Hans politiske karriere begynte relativt sent i hans liv og antagelig tilbrakte hans sine tidligste år med retorikk og litterære studier. I militæret kommanderte han Legio IIII Scythica da legionen var stasjonert i Syria. Han tjenestegjorde i romerske Britannia i 216 og var en gang under styret til Elagabalus. Inskripsjoner i Britannia som bærer hans navn var delvis slettet, noe som antyder en form for keiserlig misnøye.