Katherine Johnson ble født den 26. august 1918 i White Sulphur Springs. Moren het Joylette Roberta (født Lowe) og faren Joshua McKinley Coleman. Moren var utdannet lærer, mens faren jobbet som tømrer, bonde og altmuligmann. Han jobbet også ved luksushotellet . På farssiden hadde hun røtter til amerikanske urfolk. Ifølge Johnson innprentet faren henne mange ganger gjennom oppveksten at hun var like god som alle rundt seg, men ikke bedre.