De første tiårene hadde organisasjonen en moderat profil og krevde gjennom ikke-voldelige protester reformer som gradvis ville gi de svarte økte politiske rettigheter. På 1940- og -50-tallet ble partiet i økende grad radikalisert og gikk inn for frie valg med lik deltakelse av alle raser og umiddelbar opphevelse av alle raseskillelover. I tillegg begynte sosialistiske ideer å gjøre seg gjeldende i ANC, særlig som en følge av alliansen med det sørafrikanske kommunistpartiet, SACP. Delvis som et resultat av økt undertrykkelse fra apartheid-regimet bestemte organisasjonen seg i 1961 for å ta i bruk voldelige metoder for å styrte den hvite mindretallsregjeringen og dets raseskillepolitikk. I 1960, etter en stor massakre på ubevæpnede demonstranter i Sharpeville hadde organisasjonen blitt forbudt av myndighetene og de neste årene ble en stor andel av ANCs ledende medlemmer fengslet, blant annet Nelson Mandela. Resten av lederskapet ble tvunget i eksil og i flere tiår måtte organisasjonen jobbe i skjul. I denne tiden hadde ANC også en militær del, Umkhonto we Sizwe (Nasjonens Pil) som blant annet utførte sabotasjeaksjoner i Sør-Afrika. De store folkelige protestaksjonene på slutten av 1970-tallet og på 1980-tallet var ofte organisert av ANC skjulte strukturer og forankret ANC som symbol i frigjøringskampen.