1960 ve 1961-1962 yılları arası başbakan yardımcılığı 1960-1961 yıllarında ise milletvekili olarak görev yaptı. 1960 yılında başlayan Kongo Krizi döneminde başbakan Patrice Lumumba'nın darbe sonrası Albay Joseph-Désiré Mobutu tarafından görevden uzaklaştırılması ile birlikte Kongo'nun doğu kesiminde yeni bir yönetim kurma faaliyetleri yürüten Gizenga, Mart 1961 ile Ağustos 1961 arasında Stanleyville merkezli kurulan yeni yönetimin başkanı olarak bölgeyi yönetmiştir. Ağustos 1961'de yeniden Léopoldville'e geri dönen Gizenga, burada Cyrille Adoula'nın yardımcısı olarak başbakan yardımcılığı görevini üstlenmiştir. Ocak 1962'de görevinden el çektirilen Gizenga, Temmuz 1964'e kadar bir bölümü Kongo Nehri'nin bitiminde yer alan küçük bir adacık olan Bula Bemba'da olmak üzere gözaltında tutuldu. Adoula'nın ardılı Moise Tshombe hükumetinde ev hapsine alınan Gizenga, Ekim 1964'ten 1965 sonuna kadar ev hapsinde kalmıştır. 1965'ten 1992 yılına kadar sürgüne giden Gizenga, bu süreçte Sovyetler Birliği, Fransa, Angola ve Kongo-Brazzaville'de bulunmuştur.