På 1970-tallet sluttet han seg til de militære styrker i Sudan og steg i gradene til oberstløytnant. I 1983 ble han sendt til Bor for å slå ned et mytteri; 500 soldater fra det sørlige Sudan. I stedet startet han en opprørshær, SPLA (, «Det sudanske folks frigjøringsbevegelse»), som kjempet mot militærstyre og islamittisk dominans. Noe tidligere hadde regjeringen bestemt at den islamske sharia-loven skulle gjøres gjeldende i hele landet, også i det overveiende ikkemuslimske sør. Han oppfordret flere garnisoner til opprør. Mytteriene markerte begynnelsen på den andre borgerkrigen i Sudan, som førte til en og en halv million døde i løpet av tyve års konflikt.