Urodził się w prowincji Katanga. Jest najstarszym spośród dziesięciorga dzieci Laurenta Kabili. W młodym wieku nauczył się biegle mówić w suahili i po angielsku (zna ponadto język francuski), co umożliwiło mu uczęszczanie do szkoły w Tanzanii. Przyjął edukację utrzymaną w brytyjskim stylu. Po ukończeniu szkoły średniej odbył trzyletnią służbę wojskową w Rwandzie. W 1995 roku kontynuował naukę na Uniwersytecie Makerere. Wziął udział w antyrządowej rebelii, która wyniosła do władzy jego rodzinę. Po tym, gdy w 1997 roku rządy objął Laurent-Désiré Kabila, Joseph na polecenie ojca udał się na szkolenie wojskowe do Chin. Po powrocie przyznano mu stopień generała majora i szefa sił zbrojnych. W 1998 roku brał udział w walkach z siłami Ugandy i Rwandy, które zbrojnie interweniowały w trwającą w kraju wojnę domową.