Frederick Nkomo is in Makapanstad naby Pretoria gebore in 1915. Hy was die seun van 'n Metodistepredikant, Abraham Nkomo, en was op laerskool in Mafikeng en Klerksdorp. Sy sekondêre onderwys het plaasgevind by die St Peter's-skool in Rosettenville, Johannesburg en hy het aan die Healdtown Instituut naby Fort Beaufort in die Oos-Kaap gematrikuleer. In 1937 studeer Nkomo vir 'n BSc-graad aan die South African Native College (Fort Hare). Hy het ook sy BA-graad bekom aan die Universiteit van Suid-Afrika (Unisa), terwyl hy sy mediese studies voltooi het. Gedurende die volgende jaar het hy by die Kilnerton Instituut, naby Pretoria, vir ses maande gestudeer, waarna hy begin skookgee het by die eerste hoërskool in die Dougallsaal in Marabastad. Die skool het later na Atteridgeville geskuif en Hofmeyr Hoërskool geword. Met sy terugkeer van 'n wêreld jeugkonferensie in Washington DC het Nkomo hom by die African National Congress (ANC) aangesluit, met die oortuiging dat dit 'n uitlaat sal wees vir sy radikale oortuigings. Hy is egter geskors vir sy militante oortuigings omdat die ANC op daardie stadium 'n geen-geweld-beleid gehad het.