Khama ble født inn i en av de mektigste batswanakongefamiliene i det som da var det britiske Protektoratet Bechuanaland. Hans far var Sekgoma Khama II, høvding over bamangwatostammen, og hans farfar var Khama III, Bechuanalands (konge). Han fikk sin utdannelse i Sør-Afrika og Storbritannia og vendt tilbake til hjemlandet for der å lede uavhengighetsbevegelsen. Med seg hadde han da sin populære, men kontroversielle britiske kone Ruth Williams Khama.