Niyongabo nasce in Burundi dove trascorre l'infanzia. Dopo essersi trasferito in Ruanda nel 1995, dopo i massacri della guerra civile del 1994, studia arte e letteratura e inizia anche studi di giurisprudenza, che poi abbandona.