Pave Johannes Paul II utnevnte ham til biskop av Bujumbura den 14. november 1988. Han var den første biskopen i Burundi som ikke tilhørte den etniske gruppen tutsi, men var hutu. Kardinalprefekten for Kongregasjonen for biskoper og president for den pavelige kommisjon for Latin-Amerika, kardinal Bernardin Gantin, bispeviet ham den 5. februar året etter; medkonsekratorer var Michel Ntuyahaga, tidligere biskop av Bujumbura, og Roger Mpungu, biskop av Muyinga.