Lite er kjent om det tidlige livet og familiebakgrunnen til Gordian (egentlig Gordianus). Det er ikke pålitelige bevis på hans familieopprinnelse. Hans familie synes å være rike og av , samfunnsgruppen som sto hakket under senatorene i innflytelse. Det ble sagt at Gordian var i slekt med framtredende senatorer. Hans praenomen og nomen kan antyde at hans forfedre på farssiden mottok romersk statsborgerskap under Marcus Antonius, eller en av hans døtre, under den sene romerske republikken. Hans cognomen antyder at hans families opphav var fra Anatolia, særskilt Galatia og Kappadokia.